רוסיה כמורדור: מלחמת הבוטים בגוגל כמשל למאבקים על שליטה בעולם

רוסיה כמורדור: מלחמת הבוטים בגוגל כמשל למאבקים על שליטה בעולם

פוסט זה התפרסם במקור בטור במגזין גלובס


לפני שנה וקצת אירע דבר מוזר באינטרנט: גוגל טרנסלייטור, המתרגם האוטומטי של גוגל, החל לתרגם את המונח "פדרציה רוסית" ל"מורדור". למי שלא מכיר, "ממלכת מורדור, שבה הצל לא נרדם", היא מקום מושבו של שר האופל בעולם הפנטזיה של "שר הטבעות".

מה גרם למתרגם האוטומטי לקשר בין "הפדרציה הרוסית" לבין ממלכת האופל הדמיונית? ולפני שתחשבו שמדובר בדבר של מה בכך, נזכיר ש-500 מיליון אנשים עושים שימוש בשירותי התרגום של גוגל. שירותי התרגום של גוגל מאפשרים לאנשים ממדינות שונות לשתף פעולה ולעשות עסקים ביחד.

אבל אם בשיתופי-פעולה בינלאומיים עסקינן, רוב הרוסים לא יעריכו את העובדה שהם מזוהים כאורקים (יצורים מפלצתיים) וטרולים (מעצבנים) בעיני גוגל. אז מה קרה כאן?

שירות התרגום של גוגל מהווה דוגמה לבינה המלאכותית החדשה: כזו שאינה מתוכנתת על ידי בלשנים בכירים, שמקנים לה כללים ברורים להבנת השפה, אלא מתוכננת כישות לומדת, העוברת על מידע רב ומזהה בעצמה את דפוסי השפה בדומה לילד אנושי. המערכת עוברת על פורומים, עמודי רשת ומסמכים בכל השפות, ומגיעה למסקנות בנוגע לדרך התרגום המתאימה ביותר עבור כל מילה ומילה. כמו כל ילד, היא לומדת מהעולם שמסביבה.

אבל מה קורה אם העולם מנסה לרמות אותה?

במקרה של הפדרציה הרוסית, נראה שבני-האדם אכן הצליחו לרמות את המתרגם האוטומטי. גולשים אוקראינים רבים החלו לכנות את הפדרציה הרוסית בשם הגנאי "מורדור", בעקבות מלחמת רוסיה-אוקראינה ב-2014. המתרגם האוטומטי של גוגל ראה, למד והבין בהתאם: הפדרציה הרוסית הפכה לממלכת השחור, ושם המשפחה של שר החוץ של רוסיה תורגם ל"סוס קטן עצוב".

הפרשייה מעלה שאלות פילוסופיות וחברתיות מרתקות. ניתן לטעון ובצדק, שהמתרגם האוטומטי של גוגל מנסה ללמוד את החברה האנושית מתוך דפוסי הדיבור והכתיבה שלה. אם לא ניתן לו לעשות כן, אנו למעשה מקבעים את השפה הקיימת כיום – ואת הערכים המוטמעים בה – וכופים אותם על דור העתיד. ידוע לכול כי השפה האנושית היא דינמית ומשתנה כל העת, כדי לאמץ רעיונות ומושגים חדשים. למשל, המונח "לגגל" הוא תוצר של השתנות טבעית של השפה. כך גם "ג'מבו", שהיה במקור פיל עצום שריתק את תושבי העולם המערבי; והמילה Nimrod, שרכשה באמריקה משמעות חדשה כ"דביל". כנראה, משום שבאגס באני (הארנב) השתמש בה תכופות כתיאור גנאי לאלמר פאד (צייד הארנבים).

השאלה היא – האם השפה באמת משתנה מעצמה, כתוצאה מכך שמיליוני אנשים מתחילים מרצונם להתייחס לרוסיה כ"מורדור"? לאו דווקא. המתרגם האוטומטי של גוגל מסתמך גם על תוצרי עבודתם של בוטים – אלגוריתמים פשוטים יחסית, המסוגלים לכתוב או לערוך תוכן באינטרנט. בוטים כאלו קיימים בכל מקום. לפי חלק מההערכות, ב-2009 בוטים הפיקו רבע מכל הציוצים בטוויטר, 'צפו ביותר ממחצית מכל המודעות באינטרנט ב-2013, וביצעו עד למחצית מכל העריכות בוויקיפדיה.

המתרגם האוטומטי של גוגל לומד מתוצרי כל הבוטים האלו, ומי שמתכנת בוט להפיץ מידע מסוים, יכול להשפיע בדרך זו על השיח ברשת ועל דרך הדיון והשפה. הבוטים האלו אפילו נלחמים זה בזה כדי למשוך את תשומת לבנו או לתקן 'טעויות' של בוטים אחרים, כפי שהודגם במחקר על ויקיפדיה מהשנה האחרונה.

תסריטאי המדע הבדיוני אוהבים לספר לנו על מלחמות רובוטים בבני-אדם, ומלחמות רובוטים ברובוטים. הקרבות האלו החלו בעשור האחרון, אלא ששדה הקרב אינו בעולם הפיזי, אלא בזירת הידע האנושית. לרובוטים המודרניים הללו אין גוף משלהם. הם אלגוריתמים פשוטים שמתחרים זה בזה כדי לעצב את הידע שלנו על העולם.

לא אתפלא אם גם מאחורי פרשיית "מורדור" נגלה חבורה של מתכנתים שפיתחו בוטים המנסים להפיץ את המם החדש ולהשפיע בדרך זו על גוגל. הניסיון אולי משעשע, אבל הוא חושף תופעה עגומה. אם במקור נועדה רשת האינטרנט להיות שוק פתוח של רעיונות המתחרים זה בזה, הרי שהמציאות מראה לנו תוצאה אחרת: מי שמפעיל את הבוטים ביעילות הגבוהה ביותר, מצליח יותר להפיץ את עמדותיו. כפי שלמדנו לאחרונה מהצהרת טוויטר לקונגרס האמריקני, בוטים בחסות רוסיה סייעו להפיץ כמעט חצי-מיליון מציוציו של דונלד טראמפ במהלך מסע הבחירות, אך כמעט לא הפיצו את הציוצים של מתחרתו הילארי קלינטון.

התוצאה ברורה.

מי הפעיל את אותם בוטים? אותו אדם שעשה שימוש נרחב בבוטים בשנים האחרונות כדי להשפיע על הדיונים הציבוריים במדינות המערב, והוסיף ואמר בשנה האחרונה, כי "המדינה שתוביל בבינה המלאכותית, תשלוט בעולם".

יודעים מי זה? ולדימיר פוטין, כמובן, מנהיג הפדרציה הרוסית. אז בעצם, אולי מורדור אינה טעות אחרי הכול.


אתם מוזמנים לקרוא עוד על רעיונותיי לגבי השלטון, הדמוקרטיה והממשל בספרי "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

ויקיפדיה אינה אנציקלופדיה – וטוב שכך

ויקיפדיה אינה אנציקלופדיה – וטוב שכך

אמש כתבתי את הפוסט הבא בפייסבוק, שזכה למאות לייקים ועשרות שיתופים (ועוד היד נטויה) –

שנת 2012: הליכודניקים החדשים מונים אלף חברים. מנסים ליצור ערך ויקיפדי.

עורכי ויקיפדיה – "לא, לא הוכחתם שיש חשיבות לקבוצה הזו."

יולי 2017: הליכודניקים החדשים מונים 12,000 חברים. כותבים עליהם בכל מקום בעיתונים. דיונים סוערים מתחוללים בחברה הישראלית לגבי הלגיטימיות שלהם. מבקשים יפה שיופיע עליהם ערך בוויקיפדיה.

עורכי ויקיפדיה – "כן, נו, אבל אנחנו לא באמת בטוחים שהצלחתם להכניס מישהו לכנסת. אולי בכלל אין לכם כוח אמיתי? בואו נראה מה יקרה בבחירות הבאות. עד אז, לא מאשרים לכם ערך."

אוגוסט 2017: הליכודניקים החדשים הם הסיעה השנייה בגודלה בליכוד. הם מגנים את כנס התמיכה בראש הממשלה, ובתגובה מפלגת הליכוד משתקת עצמה לדעת וחוסמת את יכולת ההתפקדות דרך אתר האינטרנט שלה כדי לעצור את גדילתם. מעריב מקדיש להם את העמוד הראשון במהדורת סוף שבוע – "בליכוד פועלים לסילוק 12 אלף חברי הליכודניקים החדשים". יו"ר הקואליציה דוד ביטן טוען שמדובר ב- "ניסיון ברור של השתלטות עוינת".

עורכי ויקיפדיה עדיין מתנגדים, בטיעון המדהים הבא (ואני מצטט מדף השיחה על טיוטת הערך) – "אם בעוד מספר חודשים הליכוד… יבטל את קיומם הרי שהיו אפיזודה חולפת. שלא ממש באה לעולם."

קלטתם? אם הליכוד יבטל את קיומם של הליכודניקים החדשים, הרי שבבת-אחת תיעלם כל משמעותם וכל המודעות שעוררו לפוליטיקה המפלגתית בשש השנים האחרונות. העובדה שללא קיומם ונוכחותם לא ניתן להבין הצהרות של הליכוד – המפלגה הגדולה ביותר בכנסת – בשנים האחרונות, אינה מעניינת כנראה חלק מהעורכים בוויקיפדיה.

הליכודניקים החדשים, נרצה או לא נרצה, מהווים אבן-דרך בתרבות הפוליטית הישראלית. לטוב או לרע – אני לא מתיימר להגיד. אבל הם עושים שינוי בתבניות החשיבה שהיו שגורות בחברה הישראלית, ומדהים בעיניי שהמהלך הזה אינו מתועד בוויקיפדיה.

אז מה קורה כאן? ויקיפדיה היא מיזם מדהים ומעורר-השראה, אבל היא נסמכת על בני-אדם שיכולים לטעות ולדבוק בעמדות שגויות לאורך זמן. ידועות גם פרשיות בהן עורכי ויקיפדיה הושפעו באופן מובהק מהאידיאולוגיות שלהם. יש תחושה מאד ברורה שזה מה שקורה במקרה שלפנינו, בו בכירי הליכוד מרוויחים מכל יום נוסף בו אין ערך על "הליכודניקים החדשים", שהציבור יוכל ללמוד ממנו על המתרחש. בינתיים, טיוטת הערך תקועה בדיונים ביורוקרטיים אינסופיים ולא מסוגלת להתקדם למימוש.

אז אם להמשיך באותו הקו, הנה תחזית לעתיד –

שנת 2050: לליכודניקים החדשים עדיין אין ערך בוויקיפדיה. גם לישראל אין, אחרי שנחרבה והייתה אפיזודה חולפת.

ואני מקווה לטעות.

התעוררו שפע של תגובות לפוסט, אבל אחת המעניינות ביותר הייתה זו של אבנר קנטור, עורך מנוסה בוויקיפדיה ופעיל בעמותת ויקימדיה, שהסביר את הסיבה להתנגדות בכך ש-

"באנציקלופדיה אמורים להיות דברים אנציקלופדיים."

אלא שיש רק בעיה אחת: ויקיפדיה כבר מזמן אינה אנציקלופדיה.

 

ההיסטוריה של ויקיפדיה

כדי להסביר קביעה זו נחזור הרחק אחורנית לעבר, לתקופה בה ג'ימי ויילס – מייסד ויקיפדיה – ניסה לפתוח אנציקלופדיה מקוונת מסוג חדש לגמרי. הוא קרא למיזם ניופדיה (Nupedia) – אנציקלופדיה בה מתנדבים כותבים ערכים בנושאים מסוימים, ואז הטקסט מועבר למומחים בעלי-שם לביקורת עמיתים. הרעיון לא עבד, גם מכיוון שלמומחים נדרש זמן רב להעביר ביקורת על הערכים, וגם מכיוון שכל העניין יצר תחושה לא-נוחה בקרב המתנדבים, שהרגישו כמו תלמידי תיכון שמגישים חיבור למורה – והוא חוזר אליהם מלא בסימונים אדומים.

ויילס הבין שהעניין לא עובד, אבל אז בא אליו לארי סנגר והציע מיזם צדדי אחר, שנודע כיום בשם ויקיפדיה. לפי הרעיון המקורי של ויקיפדיה, יכול כל אדם לערוך, להוסיף ולשנות כל ערך כרצונו – אבל אחרים יכולים 'להילחם' בשינויים שלו.

כמובן, ארגון מסוג זה מושך אוטומטית ונדליסטים שינסו להשחית ערכים, אבל מכיוון שהטיוטות של כל ערך נשמרות לנצח, הלכה למעשה, קל לשחזר כל ערך שהושחת בלחיצת כפתור אחת. כל עוד יש מספיק אנשים שדואגים לקיומה ולשימורה של ויקיפדיה, היא מצליחה לשרוד ולשגשג.

בעשור הראשון לקיומה של ויקיפדיה, היא התחרתה עם האנציקלופדיות המסורתיות – לא בהכרח אלו הכתובות על עיסת עץ מולבנת (ע"ע נייר) אלא גם באלו שעברו לעולם המקוון, כאנציקלופדיה בריטניקה. המאפיין העיקרי של האנציקלופדיות הללו היה התיימרותן לאיכות גבוהה: הן העסיקו את מיטב המומחים בכל תחום כדי שיכתבו ערכים מלוטשים היטב. בזמן זה, ויקיפדיה עבדה בשיטת נחיל הנמלים: אלפי אנשים היו עמלים לעתים על ערך יחיד, מתווכחים לגביו, אוספים קישורים וסימוכין לטענותיהם, ומתעמקים בעדיפותה של מילה בודדה על פני אחרת.

די ברור מי ניצח. מחקרים מראים שוויקיפדיה מדויקת בערך כמו אנציקלופדיה בריטניקה, אבל ויקיפדיה מנצחת בגדול במספר הקוראים. מדי חודש זוכה ויקיפדיה ב- 18 מיליארד כניסות. באותו זמן, מכירות אנציקלופדיה בריטניקה צנחו מ- 120,000 עותקים בשנת 1990, ל- 8,000 בלבד בשנת 2009. ב- 2012 החליטה אנציקלופדיה בריטניקה פשוט להפסיק להדפיס עותקים על נייר, ועברה לגמרי לעולם האונליין שם היא גובה עדיין כסף ממנויים. מספר הערכים באנציקלופדיה בריטניקה אונליין עמד ב- 2008 על 120,000, וגם אם גדל מאז, הוא בוודאי אינו מתחרה בארבעים מיליון הערכים של ויקיפדיה.

במילים אחרות, ויקיפדיה השאירה את האנציקלופדיות הרחק מאחור. היא עשתה זאת בזכות הסתמכותה על הקישוריות של האינטרנט, שמאפשרת לכל אדם לקחת חלק בתהליך העריכה. היא עשתה זאת בזכות הבנתה שמודל חינמי ימשוך הרבה יותר קוראים – ובהתאם לכך, גם הרבה יותר תרומות. היא עשתה זאת באמצעות כינון פלטפורמה שמאפשרת לאנשים לתרום לדיונים בקלות. היא עשתה זאת מכיוון שהסתמכה על עלויות אחסון המידע הנמוכות (שרק צנחו מאז בכמה סדרי גודל) כדי לשמור כמויות עצומות של מידע וערכים.

 

הבסיסים האמיתיים של ויקיפדיה

יוצא מכל זאת שוויקיפדיה הצליחה בדיוק משום כך שנטשה את המודלים האנציקלופדיים שהיו נהוגים עד אותה תקופה. אבל היא עדיין נזקקה לאצטלה של כבוד – לגושפנקה שהיא "באמת באמת אנציקלופדיה" – ומשם מגיעה הטענה ש- "צריכים להיות בה דברים אנציקלופדיים."

אלא שאנציקלופדיות (ועקרונותיהן) הן תוצר של עולם העבר ושל הטכנולוגיות שעיצבו אותו.

אנציקלופדיות מסורתיות מוגבלות במקום (מכיוון שכל ערך מחייב עוד דף או יותר, ודפים עולים הרבה כסף), ולכן יש בהן מספר ערכים מצומצם. לוויקיפדיה אין את המגבלה הזו, מכיוון שכל המידע נשמר בזול בשרתים.

אנציקלופדיות מסורתיות מוגבלות במספר הערכים, מכיוון שצריך לשלם לעורכים ולמומחים שיכתבו ויתחזקו אותן. לוויקיפדיה אין את המגבלה הזו, מכיוון שכמעט כל העורכים עובדים בחינם.

כך שאין משמעות ל- "דברים אנציקלופדיים" במאה ה- 21, ואין טעם לתמוך בעקרונות אנציקלופדיים מאובנים שמתאימים לתקופה אחרת. במקום זאת, ויקיפדיה צריכה להתגבר על תסביך הנחיתות שליווה אותה וגרם לה להשוות את עצמה כל הזמן לאנציקלופדיות מסורתיות, ולהבין שהיא צריכה לכונן תפישה חדשה: לא מה "אנציקלופדי" ומה לא, אלא מה "ויקיפדי" ומה לא.

ובכן, מה ויקיפדי?

 

שלושת הבסיסים של ויקיפדיה

לטעמי, ויקיפדיה מושתתת על שלושה בסיסים –

  1. דיון ציבורי המוביל לשיפור מתמיד: ויקיפדיה נסמכת על יכולתם של ההמונים להתווכח זה עם זה באופן מסודר, כאשר העובדות במציאות הן אלו שקובעות בסופו של דבר מי צודק ומי לא – ובהתאם, מה יופיע בערך.
  2. אגירת והנגשת מידע: לאגור כמויות עצומות של מידע ולהנגיש אותו לציבור.
  3. שקיפות מלאה: הדיונים חייבים להיות שקופים כדי לוודא שאין הטיה מגבוה לאחד הצדדים.

תמיכה בשלושת הבסיסים הוויקיפדיים הללו תאפשר לוויקיפדיה להמשיך להתפתח ולפרוח. מי שדוגל בשלושת הבסיסים הללו מבין שאין שום סיבה לפחד מ- 'אינפלציה' של ערכים. בעולם בו עלות אגירת המידע אפסית, אפשר בהחלט לתת לכל אדם לפתוח ערך גם על החתול שלו – ובתנאי שאפשר לאמת את הטענות שבערך והוא באיכות גבוהה. ואין גם שום בעיה (ויש שיגידו שאף רצוי) שלכל אדם יהיה ערך על עצמו ("ויקיאנשים"). למה לא, בעצם? הרי המקום הנחוץ לשם כך בשרתי המידע קיים בשפע, ובעלויות אפסיות ביחס לתרומות שאפשר לגרוף בתמורה לשירותים הללו.

לחלופין, נסיגה מהבסיסים הללו – כפי שמתרחש בוויקיפדיה הישראלית – תזיק למיזם כולו. נראה שוויקיפדיה הישראלית מתנהלת כיום בכוונה ברורה לצמצם את מספר הערכים עד למינימום האפשרי ש- "יביא תועלת לציבור" או ש- "יש בהם חשיבות". אבל מי קובע באיזה ערכים יש חשיבות או תועלת? הוויקיפדים עצמם – וכל מי שניסה בעבר יודע כמה קשה להתערב בקליקה הזו או להשפיע עליה. וכך, שניים מבסיסי ויקיפדיה מתערערים: הציבור מודר הלכה למעשה מהדיונים מסביב לערכים, וקיים ניסיון לצמצם את כמות המידע הזמינה לציבור במקום להגדיל אותו.

אני מקווה שוויקיפדיה הישראלית תצליח לחזור לעקרונות הבסיסיים שבזכותם ניצחה ויקיפדיה העולמית את כל מתחרותיה מהעבר. הנחמה היחידה היא שאם ויקיפדיה הישראלית לא תעשה זאת, הרי שבמוקדם או במאוחר תקום לה חלופה יעילה יותר, שתספק את השירות שכולנו ראויים לו במאה ה- 21: ידע, בכל נושא, בכל מקום, בכל זמן.

 


אתם מוזמנים לקרוא עוד על הדרך בה ויקיפדיה פועלת, מדוע היא מוצלחת יותר מאנציקלופדיות מסורתיות, וכיצד ארגונים מתחילים להטמיע שיטות ניהול דומות לאלו שבוויקיפדיה בספרי החדש "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).