מכונות הסיוטים: כשבינות מלאכותיות מתוכנתות לפסיכופתיה

מכונות הסיוטים: כשבינות מלאכותיות מתוכנתות לפסיכופתיה

למעבדות המדיה של MIT יש מטרה נעלה: לפתח חזונות חדשים בנוגע לדרך בה בינה מלאכותית ובני-אדם ישתפו פעולה בעתיד.

לרוע המזל, הם בחרו להגשים את המטרה באמצעות פיתוח בינה מלאכותית פסיכופתית.

זוהי, כמובן, אינה המילה הנכונה לתיאור אותן בינות מלאכותיות, למרות שניתן לראות את התיאור הזה למחקר החדש בכל רחבי המדיה ברשת. המילה "פסיכופת" מתארת מצב שאינו נורמטיבי בקרב בני-אדם: דרך יוצאת-דופן לעיבוד מידע במוח האנושי. לבני-אדם מן השורה יש ראיית עולם בסיסית שמשותפת לכולנו. אנו מבינים מהי "אהבה" (או לפחות "התאהבות"), מהו "רצח", מהי "אמא" ומהם הרגשות שאנו חשים כלפיה. לעתים אנו מרחיבים את המושגים הללו מעבר למשמעותם המקורית – כך, למשל, חלק מהצמחוניים עשויים להגדיר הרג בעלי-חיים כ- "רצח". אבל גם אז, המושג הבסיסי משמר את משמעותו המקורית. בסופו של דבר, בבסיסנו אנחנו כולנו צאצאים של אותו שבט קופי-אדם שהתפתח לשמר לכידות חברתית.

אלא שלבינה מלאכותית אין את ההטיה האוטומטית הזו, כפי שמתעקשות מעבדות המדיה של MIT להראות שוב ושוב.

אני לא מגזים – במהלך שלוש השנים האחרונות, שחררו המעבדות מספר דוגמאות של מנועי בינה מלאכותית שלא-בדיוק עושות טוב לבני-האדם. הראשונה, בשנת 2016, הייתה "מכונת הסיוטים", שערכה מחדש תמונות כדי לעורר תחושות של אימה ופחד בבני-אדם. פרצופים אנושיים שנערכו על-ידי התוכנה נראים – כצפוי – מסויטים ומזעזעים. התוכנה עורכת תמונות נוף פסטורליות-לשעבר עד שהן מזכירות בתי-מטבחיים ומעוררות צמרמורת וחלחלה בקרב הצופים.

image-alt

מקור: מעבדות המדיה של MIT[1].

אבל החוקרים לא עצרו כאן. בשנת 2017 הפיקו המעבדות את "שלי" – מנוע בינה מלאכותית הכותב סיפורי אימה קצרים. שלי היא רשת עצבים מלאכותית שעברה על מספר עצום של סיפורי אימה קצרים מהרשת החברתית רדיט (Reddit), ולמדה איך להפיק שברי-סיפורים כאלו משלה. היא כתבה יותר ממאתיים סיפורי אימה קצרים, בסיוע בני-אדם מהרשת שרצו – מסיבה שלא לגמרי ברורה לי – לעזור לה להתפתח. הנה חלק קצר מאחד מהסיפורים שהיא כתבה, ביחד עם משפטים שתרמו בני-האדם בטוויטר. (החלקים ששלי כתבה בעצמה מופיעים בהדגשה)

"התחלתי לנשום שוב. השרשראות בקרסולי זעו והצל המשיך לבהות. קריאה שקטה ומספר סימני חיים החלו להיווצר. לא היה לי מושג. גידלתי אותו. הייתי חייבת לעשות משהו. הייתי חייבת לראות אותו. הייתי חייבת. עמדתי לגלות. עמדתי להתרחק מהדבר הזה. לא יכולתי לתת לו להשיג אותי. האדרנלין שלי החל לזרום ולא יכולתי לעצור את עצמי. אבל השרשראות! השרשראות! איך הייתי אמורה לשחרר את עצמי? התחלתי להשתגע. לא יכולתי לזוז. היצור היה שם איתי. מה הוא עשה?"[2]

וכן הלאה וכן הלאה. שלי צריכה להשתפר עוד הרבה לפני שתצליח למכור ספרים כמו סטפן קינג, אבל הרעיון הבסיסי, לפחות, ברור: אפשר לגרום לבינה מלאכותית לכתוב באופן שייגע ברגשות ובפחדים העמוקים והקמאיים ביותר שלנו.

מאוחר יותר באותה שנה, ניסו לראשונה החוקרים ליישם את הרעיונות האלו לשימוש מעשי בפרויקט "אמפתיה עמוקה". הם אימנו רשתות עצבים מלאכותיות על תמונות של איזורי אסון, ואז דרשו מהבינה המלאכותית לערוך מחדש תמונות של ערים בריאות ושוקקות-חיים. התוצאה נראית – כצפוי – מזעזעת: אתם יכולים לראות את עיר מגוריכם חרבה ומרוסקת. וזו בדיוק הייתה כוונתם של החוקרים, שרצו לסייע לתושבי העולם המערבי להתחבר ברגשותיהם לערים ולמדינות שחוו אסונות טבע ומלחמות.

כיצד הייתה נראית בוסטון לאחר אסון? הנה דוגמה, באדיבות "אמפתיה עמוקה"[3].

ועכשיו שעברנו על כמה מפרויקטי העבר של המעבדות, אתם יכולים להבין מאין צמחה הבינה המלאכותית החדשה שלהן: נורמן, על שם הפסיכופת מסרט האימה "פסיכו" של אלפרד היצ'קוק.

בדומה לבינות המלאכותיות האחרות שהצגתי עד כה, גם נורמן מבוסס על רשת עצבים מלאכותית, וגם הוא למד מאוסף דוגמאות שלא ממש היינו רוצים לחוות בחיים האמיתיים. נורמן הורץ על שרשור ידוע-לשמצה ברשת החברתית רדיט, בו כותבים המשתמשים רשמים ופרשנויות אודות טיבו של המוות. לאחר מכן, הוצגו בפני נורמן סדרה של כתמי רורשאך, והוא סיפק תיאור עבור כל תמונה. התיאור של נורמן הושווה לזה של רשת עצבים מלאכותית שאומנה על מאגר מידע גדול ומגוון הרבה יותר[4]. שלא במפתיע, נורמן פירש כל כתם רורשאך באופן מטריד ביותר. כתמים תמימים-למראה הזכירו לו גברים הנורים למוות למול נשיהם הצורחות, נשים הרות הנופלות למותן מבניינים גבוהים, ואנשים הנתפסים על-ידי מכונה לעיבוד בצק ונמשכים לתוכה. הבינה המלאכותית שלמדה ממגוון דגימות מגוון יותר, לעומת זאת, ראתה בתמונות הללו רק "אגרטל פרחים, ציפור קטנה, וזוג אנשים העומדים זה לצד זה."

norman.jpg

מקור: מעבדות המדיה של MIT[5].

מטרתו של נורמן אינה לגרום לנו לחשוב מחדש על פרשנויות אנושיות לכתמי רורשאך, אלא להדגיש נקודה קריטית בהבנתנו את הבינה המלאכותית: אנחנו יכולים ללמד אותה, לטוב ולרע, כיצד לפרש את הקלט שהיא מקבלת. הבינות המלאכותיות החדשות – אלו המבוססות על רשתות עצבים מלאכותיות – חייבות להתבסס על ניסיון העבר. אם המתכנתים מצמצמים את חומר הלימוד אליו היא נחשפת, התוצאה בהכרח היא בינה מלאכותית בעלת פרשנות מעוותת ולוקה-בחסר.

אפשר להשוות את הבינות המלאכותיות החדשות לילד אנושי. ילדים הגדלים בתרבויות ליברליות ופתוחות, בהן הם לומדים וחווים רעיונות שונים, יפתחו ראיית עולם רחבה יותר. הם יוכלו לפרש מצבים חדשים בדרכים שונות, ולשקול פתרונות שונים לכל בעיה (העובדה שהם יכולים לעשות זאת, אינה אומרת כמובן שכך אכן יעשו). לעומתם, ילדים הגדלים בתרבויות מסוגרות וקיצוניות, המאמינות ברעיון אחד גדול מעל לכל היתר, יפרשו כל מצב חדש דרך עדשותיו של אותו רעיון. וכפי שאמר אברהם מסלו –

"אם יש לך רק פטיש, אתה רואה כל דבר כאילו היה מסמר."[6]

זוהי תובנה חשובה לעתיד. ככל שיגדלו יכולותיהן של הבינות המלאכותיות, אנו צפויים לראות אותן מתפשטות למקומות ולשימושים רבים ושונים. הן יקחו חלק ביצירת סרטים, במערכות הבריאות ואפילו במערכות המשפט, הצדק והשלטון. הן יפתחו אביזרים טכנולוגיים חדשים, ימליצו על העונשים הראויים ביותר לכל פושע ויגבשו הצעות חוק לפתרון בעיות קיימות או עתידיות. הן יעשו כל זאת בהתאם לחומר הלימוד שקיבלו, ובכל מדינה ותרבות שתפתחנה בינות מלאכותיות שכאלו, יחונכו הבינות לפי מספר רעיונות שייבחרו בקפידה כדי לשרת את הנורמות הקיימות. בתרבויות דתיות ומסוגרות, יפותחו בינות מלאכותיות שיוכלו לפרש את העולם רק דרך עדשות הרעיונות המרכזיים של אותן דתות.

עתיד שכזה צריך להפחיד את כולנו. הדתות הראשיות כיום התפתחו כטכנולוגיה חברתית – ככלי לשימור לכידות חברתית, לדרבון אנשים להפגנת אלטרואיזם בתוך הקבוצה, ולקיבוץ אנשים רבים ביחד תחת שלטון ריכוזי אחד. הן הצליחו היטב במטלות הללו, אך הן נושאות עמן 'מטען עודף' רב שצברו לאורך מאות רבות של שנים: איסורים שונים ומשונים בתחום המזון, למשל, או קסנופוביה – שנאת זרים. מפחיד לחשוב על בינות מלאכותיות מתקדמות שירכשו הרגלי חשיבה ואמונה שהיו רלוונטיים ומועילים לפני אלפיים שנים – אך היום עומדים בניגוד לדרכי חשיבה מודרניות יותר שמדגישות את זכויות האדם, את המוסר האוניברסלי ואת שיתוף הפעולה בין עמים שונים.

כמובן, בינות מלאכותיות שמפותחות בעולם המערבי הליברלי יקבלו שפע של חומר לימודי מכל הסוגים. אלא שגם זה לא לגמרי מספיק. בכל דעה בכל נושא קיימים 'מיתוסים' – סיפורים שמסבירים את העולם, ושברור לכולם שצריך לפעול לפיהם, גם אם הם אינם מוגדרים היטב או בקול רם. קחו למשל את סיפורי ג'ורג' הסקרן, על קוף סקרן שנכנס לצרות פעם אחר פעם בשל סקרנותו – אך מצליח תמיד להפיק את המיטב מהמתרחש עד סוף הסיפור. ה- 'מיתוס' כאן הוא שסקרנות היא תכונה מועילה ושימושית, שמסייעת בסופו של דבר לבעליה. באופן דומה, כל ילדה שצפתה בסרטי וולט דיסני באמצע השני של המאה העשרים, למדה את המיתוס שנשים צריכות להיות חינניות, חטובות, עם ריסים ארוכים ושמלות ארוכות. וכמובן, שהן צריכות גיבור שיציל אותן.

במילים אחרות, בכל חומר קריאה אנושי קיימים רעיונות מתחת לפני השטח, שלעתים איננו שמים אליהם אפילו לב – אך הם משקפים את תפישת העולם הלא-מודעת שלנו. בינות מלאכותיות שיעברו על כל החומרים הללו יזהו גם הן את המיתוסים התת-הכרתיים המקובלים בתרבות, ויאמצו אותם בהכרח.

מכיוון שכך, הבעיה כפולה: איננו צריכים רק לבחור בקפידה את החומרים שאנו נותנים לבינה המלאכותית לקרוא, אלא גם לנסות להבין בעצמנו מה המסרים החבויים בסיפורים המקובלים בחברה – והאם אנו רוצים להנציח את אותם מסרים.

זוהי משימה קשה, אבל כדאי שנתחיל להתייחס אליה ברצינות. מכיוון שאם לא נעשה זאת, הרי שהבינות המלאכותיות יעשו אותה עבורנו.


אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והמוח האנושי בספריי המדריך לעתיד ו- "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

קישורים:

[1] http://nightmare.mit.edu/#portfolioModal31

[2] http://stories.shelley.ai/chains/

[3] https://deepempathy.mit.edu/

[4] http://cocodataset.org/#home

[5] http://norman-ai.mit.edu

[6] https://en.wikipedia.org/wiki/Law_of_the_instrument

רוסיה כמורדור: מלחמת הבוטים בגוגל כמשל למאבקים על שליטה בעולם

רוסיה כמורדור: מלחמת הבוטים בגוגל כמשל למאבקים על שליטה בעולם

פוסט זה התפרסם במקור בטור במגזין גלובס


לפני שנה וקצת אירע דבר מוזר באינטרנט: גוגל טרנסלייטור, המתרגם האוטומטי של גוגל, החל לתרגם את המונח "פדרציה רוסית" ל"מורדור". למי שלא מכיר, "ממלכת מורדור, שבה הצל לא נרדם", היא מקום מושבו של שר האופל בעולם הפנטזיה של "שר הטבעות".

מה גרם למתרגם האוטומטי לקשר בין "הפדרציה הרוסית" לבין ממלכת האופל הדמיונית? ולפני שתחשבו שמדובר בדבר של מה בכך, נזכיר ש-500 מיליון אנשים עושים שימוש בשירותי התרגום של גוגל. שירותי התרגום של גוגל מאפשרים לאנשים ממדינות שונות לשתף פעולה ולעשות עסקים ביחד.

אבל אם בשיתופי-פעולה בינלאומיים עסקינן, רוב הרוסים לא יעריכו את העובדה שהם מזוהים כאורקים (יצורים מפלצתיים) וטרולים (מעצבנים) בעיני גוגל. אז מה קרה כאן?

שירות התרגום של גוגל מהווה דוגמה לבינה המלאכותית החדשה: כזו שאינה מתוכנתת על ידי בלשנים בכירים, שמקנים לה כללים ברורים להבנת השפה, אלא מתוכננת כישות לומדת, העוברת על מידע רב ומזהה בעצמה את דפוסי השפה בדומה לילד אנושי. המערכת עוברת על פורומים, עמודי רשת ומסמכים בכל השפות, ומגיעה למסקנות בנוגע לדרך התרגום המתאימה ביותר עבור כל מילה ומילה. כמו כל ילד, היא לומדת מהעולם שמסביבה.

אבל מה קורה אם העולם מנסה לרמות אותה?

במקרה של הפדרציה הרוסית, נראה שבני-האדם אכן הצליחו לרמות את המתרגם האוטומטי. גולשים אוקראינים רבים החלו לכנות את הפדרציה הרוסית בשם הגנאי "מורדור", בעקבות מלחמת רוסיה-אוקראינה ב-2014. המתרגם האוטומטי של גוגל ראה, למד והבין בהתאם: הפדרציה הרוסית הפכה לממלכת השחור, ושם המשפחה של שר החוץ של רוסיה תורגם ל"סוס קטן עצוב".

הפרשייה מעלה שאלות פילוסופיות וחברתיות מרתקות. ניתן לטעון ובצדק, שהמתרגם האוטומטי של גוגל מנסה ללמוד את החברה האנושית מתוך דפוסי הדיבור והכתיבה שלה. אם לא ניתן לו לעשות כן, אנו למעשה מקבעים את השפה הקיימת כיום – ואת הערכים המוטמעים בה – וכופים אותם על דור העתיד. ידוע לכול כי השפה האנושית היא דינמית ומשתנה כל העת, כדי לאמץ רעיונות ומושגים חדשים. למשל, המונח "לגגל" הוא תוצר של השתנות טבעית של השפה. כך גם "ג'מבו", שהיה במקור פיל עצום שריתק את תושבי העולם המערבי; והמילה Nimrod, שרכשה באמריקה משמעות חדשה כ"דביל". כנראה, משום שבאגס באני (הארנב) השתמש בה תכופות כתיאור גנאי לאלמר פאד (צייד הארנבים).

השאלה היא – האם השפה באמת משתנה מעצמה, כתוצאה מכך שמיליוני אנשים מתחילים מרצונם להתייחס לרוסיה כ"מורדור"? לאו דווקא. המתרגם האוטומטי של גוגל מסתמך גם על תוצרי עבודתם של בוטים – אלגוריתמים פשוטים יחסית, המסוגלים לכתוב או לערוך תוכן באינטרנט. בוטים כאלו קיימים בכל מקום. לפי חלק מההערכות, ב-2009 בוטים הפיקו רבע מכל הציוצים בטוויטר, 'צפו ביותר ממחצית מכל המודעות באינטרנט ב-2013, וביצעו עד למחצית מכל העריכות בוויקיפדיה.

המתרגם האוטומטי של גוגל לומד מתוצרי כל הבוטים האלו, ומי שמתכנת בוט להפיץ מידע מסוים, יכול להשפיע בדרך זו על השיח ברשת ועל דרך הדיון והשפה. הבוטים האלו אפילו נלחמים זה בזה כדי למשוך את תשומת לבנו או לתקן 'טעויות' של בוטים אחרים, כפי שהודגם במחקר על ויקיפדיה מהשנה האחרונה.

תסריטאי המדע הבדיוני אוהבים לספר לנו על מלחמות רובוטים בבני-אדם, ומלחמות רובוטים ברובוטים. הקרבות האלו החלו בעשור האחרון, אלא ששדה הקרב אינו בעולם הפיזי, אלא בזירת הידע האנושית. לרובוטים המודרניים הללו אין גוף משלהם. הם אלגוריתמים פשוטים שמתחרים זה בזה כדי לעצב את הידע שלנו על העולם.

לא אתפלא אם גם מאחורי פרשיית "מורדור" נגלה חבורה של מתכנתים שפיתחו בוטים המנסים להפיץ את המם החדש ולהשפיע בדרך זו על גוגל. הניסיון אולי משעשע, אבל הוא חושף תופעה עגומה. אם במקור נועדה רשת האינטרנט להיות שוק פתוח של רעיונות המתחרים זה בזה, הרי שהמציאות מראה לנו תוצאה אחרת: מי שמפעיל את הבוטים ביעילות הגבוהה ביותר, מצליח יותר להפיץ את עמדותיו. כפי שלמדנו לאחרונה מהצהרת טוויטר לקונגרס האמריקני, בוטים בחסות רוסיה סייעו להפיץ כמעט חצי-מיליון מציוציו של דונלד טראמפ במהלך מסע הבחירות, אך כמעט לא הפיצו את הציוצים של מתחרתו הילארי קלינטון.

התוצאה ברורה.

מי הפעיל את אותם בוטים? אותו אדם שעשה שימוש נרחב בבוטים בשנים האחרונות כדי להשפיע על הדיונים הציבוריים במדינות המערב, והוסיף ואמר בשנה האחרונה, כי "המדינה שתוביל בבינה המלאכותית, תשלוט בעולם".

יודעים מי זה? ולדימיר פוטין, כמובן, מנהיג הפדרציה הרוסית. אז בעצם, אולי מורדור אינה טעות אחרי הכול.


אתם מוזמנים לקרוא עוד על רעיונותיי לגבי השלטון, הדמוקרטיה והממשל בספרי "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

ויקיפדיה אינה אנציקלופדיה – וטוב שכך

ויקיפדיה אינה אנציקלופדיה – וטוב שכך

אמש כתבתי את הפוסט הבא בפייסבוק, שזכה למאות לייקים ועשרות שיתופים (ועוד היד נטויה) –

שנת 2012: הליכודניקים החדשים מונים אלף חברים. מנסים ליצור ערך ויקיפדי.

עורכי ויקיפדיה – "לא, לא הוכחתם שיש חשיבות לקבוצה הזו."

יולי 2017: הליכודניקים החדשים מונים 12,000 חברים. כותבים עליהם בכל מקום בעיתונים. דיונים סוערים מתחוללים בחברה הישראלית לגבי הלגיטימיות שלהם. מבקשים יפה שיופיע עליהם ערך בוויקיפדיה.

עורכי ויקיפדיה – "כן, נו, אבל אנחנו לא באמת בטוחים שהצלחתם להכניס מישהו לכנסת. אולי בכלל אין לכם כוח אמיתי? בואו נראה מה יקרה בבחירות הבאות. עד אז, לא מאשרים לכם ערך."

אוגוסט 2017: הליכודניקים החדשים הם הסיעה השנייה בגודלה בליכוד. הם מגנים את כנס התמיכה בראש הממשלה, ובתגובה מפלגת הליכוד משתקת עצמה לדעת וחוסמת את יכולת ההתפקדות דרך אתר האינטרנט שלה כדי לעצור את גדילתם. מעריב מקדיש להם את העמוד הראשון במהדורת סוף שבוע – "בליכוד פועלים לסילוק 12 אלף חברי הליכודניקים החדשים". יו"ר הקואליציה דוד ביטן טוען שמדובר ב- "ניסיון ברור של השתלטות עוינת".

עורכי ויקיפדיה עדיין מתנגדים, בטיעון המדהים הבא (ואני מצטט מדף השיחה על טיוטת הערך) – "אם בעוד מספר חודשים הליכוד… יבטל את קיומם הרי שהיו אפיזודה חולפת. שלא ממש באה לעולם."

קלטתם? אם הליכוד יבטל את קיומם של הליכודניקים החדשים, הרי שבבת-אחת תיעלם כל משמעותם וכל המודעות שעוררו לפוליטיקה המפלגתית בשש השנים האחרונות. העובדה שללא קיומם ונוכחותם לא ניתן להבין הצהרות של הליכוד – המפלגה הגדולה ביותר בכנסת – בשנים האחרונות, אינה מעניינת כנראה חלק מהעורכים בוויקיפדיה.

הליכודניקים החדשים, נרצה או לא נרצה, מהווים אבן-דרך בתרבות הפוליטית הישראלית. לטוב או לרע – אני לא מתיימר להגיד. אבל הם עושים שינוי בתבניות החשיבה שהיו שגורות בחברה הישראלית, ומדהים בעיניי שהמהלך הזה אינו מתועד בוויקיפדיה.

אז מה קורה כאן? ויקיפדיה היא מיזם מדהים ומעורר-השראה, אבל היא נסמכת על בני-אדם שיכולים לטעות ולדבוק בעמדות שגויות לאורך זמן. ידועות גם פרשיות בהן עורכי ויקיפדיה הושפעו באופן מובהק מהאידיאולוגיות שלהם. יש תחושה מאד ברורה שזה מה שקורה במקרה שלפנינו, בו בכירי הליכוד מרוויחים מכל יום נוסף בו אין ערך על "הליכודניקים החדשים", שהציבור יוכל ללמוד ממנו על המתרחש. בינתיים, טיוטת הערך תקועה בדיונים ביורוקרטיים אינסופיים ולא מסוגלת להתקדם למימוש.

אז אם להמשיך באותו הקו, הנה תחזית לעתיד –

שנת 2050: לליכודניקים החדשים עדיין אין ערך בוויקיפדיה. גם לישראל אין, אחרי שנחרבה והייתה אפיזודה חולפת.

ואני מקווה לטעות.

התעוררו שפע של תגובות לפוסט, אבל אחת המעניינות ביותר הייתה זו של אבנר קנטור, עורך מנוסה בוויקיפדיה ופעיל בעמותת ויקימדיה, שהסביר את הסיבה להתנגדות בכך ש-

"באנציקלופדיה אמורים להיות דברים אנציקלופדיים."

אלא שיש רק בעיה אחת: ויקיפדיה כבר מזמן אינה אנציקלופדיה.

 

ההיסטוריה של ויקיפדיה

כדי להסביר קביעה זו נחזור הרחק אחורנית לעבר, לתקופה בה ג'ימי ויילס – מייסד ויקיפדיה – ניסה לפתוח אנציקלופדיה מקוונת מסוג חדש לגמרי. הוא קרא למיזם ניופדיה (Nupedia) – אנציקלופדיה בה מתנדבים כותבים ערכים בנושאים מסוימים, ואז הטקסט מועבר למומחים בעלי-שם לביקורת עמיתים. הרעיון לא עבד, גם מכיוון שלמומחים נדרש זמן רב להעביר ביקורת על הערכים, וגם מכיוון שכל העניין יצר תחושה לא-נוחה בקרב המתנדבים, שהרגישו כמו תלמידי תיכון שמגישים חיבור למורה – והוא חוזר אליהם מלא בסימונים אדומים.

ויילס הבין שהעניין לא עובד, אבל אז בא אליו לארי סנגר והציע מיזם צדדי אחר, שנודע כיום בשם ויקיפדיה. לפי הרעיון המקורי של ויקיפדיה, יכול כל אדם לערוך, להוסיף ולשנות כל ערך כרצונו – אבל אחרים יכולים 'להילחם' בשינויים שלו.

כמובן, ארגון מסוג זה מושך אוטומטית ונדליסטים שינסו להשחית ערכים, אבל מכיוון שהטיוטות של כל ערך נשמרות לנצח, הלכה למעשה, קל לשחזר כל ערך שהושחת בלחיצת כפתור אחת. כל עוד יש מספיק אנשים שדואגים לקיומה ולשימורה של ויקיפדיה, היא מצליחה לשרוד ולשגשג.

בעשור הראשון לקיומה של ויקיפדיה, היא התחרתה עם האנציקלופדיות המסורתיות – לא בהכרח אלו הכתובות על עיסת עץ מולבנת (ע"ע נייר) אלא גם באלו שעברו לעולם המקוון, כאנציקלופדיה בריטניקה. המאפיין העיקרי של האנציקלופדיות הללו היה התיימרותן לאיכות גבוהה: הן העסיקו את מיטב המומחים בכל תחום כדי שיכתבו ערכים מלוטשים היטב. בזמן זה, ויקיפדיה עבדה בשיטת נחיל הנמלים: אלפי אנשים היו עמלים לעתים על ערך יחיד, מתווכחים לגביו, אוספים קישורים וסימוכין לטענותיהם, ומתעמקים בעדיפותה של מילה בודדה על פני אחרת.

די ברור מי ניצח. מחקרים מראים שוויקיפדיה מדויקת בערך כמו אנציקלופדיה בריטניקה, אבל ויקיפדיה מנצחת בגדול במספר הקוראים. מדי חודש זוכה ויקיפדיה ב- 18 מיליארד כניסות. באותו זמן, מכירות אנציקלופדיה בריטניקה צנחו מ- 120,000 עותקים בשנת 1990, ל- 8,000 בלבד בשנת 2009. ב- 2012 החליטה אנציקלופדיה בריטניקה פשוט להפסיק להדפיס עותקים על נייר, ועברה לגמרי לעולם האונליין שם היא גובה עדיין כסף ממנויים. מספר הערכים באנציקלופדיה בריטניקה אונליין עמד ב- 2008 על 120,000, וגם אם גדל מאז, הוא בוודאי אינו מתחרה בארבעים מיליון הערכים של ויקיפדיה.

במילים אחרות, ויקיפדיה השאירה את האנציקלופדיות הרחק מאחור. היא עשתה זאת בזכות הסתמכותה על הקישוריות של האינטרנט, שמאפשרת לכל אדם לקחת חלק בתהליך העריכה. היא עשתה זאת בזכות הבנתה שמודל חינמי ימשוך הרבה יותר קוראים – ובהתאם לכך, גם הרבה יותר תרומות. היא עשתה זאת באמצעות כינון פלטפורמה שמאפשרת לאנשים לתרום לדיונים בקלות. היא עשתה זאת מכיוון שהסתמכה על עלויות אחסון המידע הנמוכות (שרק צנחו מאז בכמה סדרי גודל) כדי לשמור כמויות עצומות של מידע וערכים.

 

הבסיסים האמיתיים של ויקיפדיה

יוצא מכל זאת שוויקיפדיה הצליחה בדיוק משום כך שנטשה את המודלים האנציקלופדיים שהיו נהוגים עד אותה תקופה. אבל היא עדיין נזקקה לאצטלה של כבוד – לגושפנקה שהיא "באמת באמת אנציקלופדיה" – ומשם מגיעה הטענה ש- "צריכים להיות בה דברים אנציקלופדיים."

אלא שאנציקלופדיות (ועקרונותיהן) הן תוצר של עולם העבר ושל הטכנולוגיות שעיצבו אותו.

אנציקלופדיות מסורתיות מוגבלות במקום (מכיוון שכל ערך מחייב עוד דף או יותר, ודפים עולים הרבה כסף), ולכן יש בהן מספר ערכים מצומצם. לוויקיפדיה אין את המגבלה הזו, מכיוון שכל המידע נשמר בזול בשרתים.

אנציקלופדיות מסורתיות מוגבלות במספר הערכים, מכיוון שצריך לשלם לעורכים ולמומחים שיכתבו ויתחזקו אותן. לוויקיפדיה אין את המגבלה הזו, מכיוון שכמעט כל העורכים עובדים בחינם.

כך שאין משמעות ל- "דברים אנציקלופדיים" במאה ה- 21, ואין טעם לתמוך בעקרונות אנציקלופדיים מאובנים שמתאימים לתקופה אחרת. במקום זאת, ויקיפדיה צריכה להתגבר על תסביך הנחיתות שליווה אותה וגרם לה להשוות את עצמה כל הזמן לאנציקלופדיות מסורתיות, ולהבין שהיא צריכה לכונן תפישה חדשה: לא מה "אנציקלופדי" ומה לא, אלא מה "ויקיפדי" ומה לא.

ובכן, מה ויקיפדי?

 

שלושת הבסיסים של ויקיפדיה

לטעמי, ויקיפדיה מושתתת על שלושה בסיסים –

  1. דיון ציבורי המוביל לשיפור מתמיד: ויקיפדיה נסמכת על יכולתם של ההמונים להתווכח זה עם זה באופן מסודר, כאשר העובדות במציאות הן אלו שקובעות בסופו של דבר מי צודק ומי לא – ובהתאם, מה יופיע בערך.
  2. אגירת והנגשת מידע: לאגור כמויות עצומות של מידע ולהנגיש אותו לציבור.
  3. שקיפות מלאה: הדיונים חייבים להיות שקופים כדי לוודא שאין הטיה מגבוה לאחד הצדדים.

תמיכה בשלושת הבסיסים הוויקיפדיים הללו תאפשר לוויקיפדיה להמשיך להתפתח ולפרוח. מי שדוגל בשלושת הבסיסים הללו מבין שאין שום סיבה לפחד מ- 'אינפלציה' של ערכים. בעולם בו עלות אגירת המידע אפסית, אפשר בהחלט לתת לכל אדם לפתוח ערך גם על החתול שלו – ובתנאי שאפשר לאמת את הטענות שבערך והוא באיכות גבוהה. ואין גם שום בעיה (ויש שיגידו שאף רצוי) שלכל אדם יהיה ערך על עצמו ("ויקיאנשים"). למה לא, בעצם? הרי המקום הנחוץ לשם כך בשרתי המידע קיים בשפע, ובעלויות אפסיות ביחס לתרומות שאפשר לגרוף בתמורה לשירותים הללו.

לחלופין, נסיגה מהבסיסים הללו – כפי שמתרחש בוויקיפדיה הישראלית – תזיק למיזם כולו. נראה שוויקיפדיה הישראלית מתנהלת כיום בכוונה ברורה לצמצם את מספר הערכים עד למינימום האפשרי ש- "יביא תועלת לציבור" או ש- "יש בהם חשיבות". אבל מי קובע באיזה ערכים יש חשיבות או תועלת? הוויקיפדים עצמם – וכל מי שניסה בעבר יודע כמה קשה להתערב בקליקה הזו או להשפיע עליה. וכך, שניים מבסיסי ויקיפדיה מתערערים: הציבור מודר הלכה למעשה מהדיונים מסביב לערכים, וקיים ניסיון לצמצם את כמות המידע הזמינה לציבור במקום להגדיל אותו.

אני מקווה שוויקיפדיה הישראלית תצליח לחזור לעקרונות הבסיסיים שבזכותם ניצחה ויקיפדיה העולמית את כל מתחרותיה מהעבר. הנחמה היחידה היא שאם ויקיפדיה הישראלית לא תעשה זאת, הרי שבמוקדם או במאוחר תקום לה חלופה יעילה יותר, שתספק את השירות שכולנו ראויים לו במאה ה- 21: ידע, בכל נושא, בכל מקום, בכל זמן.

 


אתם מוזמנים לקרוא עוד על הדרך בה ויקיפדיה פועלת, מדוע היא מוצלחת יותר מאנציקלופדיות מסורתיות, וכיצד ארגונים מתחילים להטמיע שיטות ניהול דומות לאלו שבוויקיפדיה בספרי החדש "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

"עושות חשבון" מלמדות את כל היתר איך לסקר מחלוקות מדעיות

"עושות חשבון" מלמדות את כל היתר איך לסקר מחלוקות מדעיות

מה משותף לטלוויזיה ולקרבות הגלדיאטורים ברומא העתיקה? בשניהם היה ברור שהקהל מעוניין בריגושים ובשעשועים מעל הכל. אבל אין הרבה טעם לשים אריה בזירה מול ילד קטן, נכון? ולכן מנהלי הקולוסאום תמיד התאמצו להגיע לשוויון בין הכוחות הלוחמים כדי למשוך את הקהל.

קרבות הגלדיאטורים של פעם.

 

העיתונאים של היום למדו היטב את הלקח, ולכן אנשי מדיה שמסקרים סוגיות כמו חיסונים, מנסים להקנות לנושא ציביון שוויוני: הם מנסים להעמיד פנים שלא מדובר כאן בעמדה שמגובה באלפי מחקרים, כנגד דעות קדומות ופסאודו-מדע; לא – הם נותנים במה שווה לשתי הדעות, למדענים ולמתנגדי החיסונים כאחד, כדי לתת את הרושם שמדובר בכוחות שווים. על הדרך מוסיפים גם צילומי תקריב של ילדים שנפגעו לכאורה מחיסונים, והלב בוכה – באמת, הוא בוכה – בזמן שאנשי המדיה מחככים ידיהם בהנאה.

דמעות, אתם מבינים, גוררות רייטינג והרבה.

כך היו הדברים מאז ומתמיד בטלוויזיה, אלא שאתמול, סוף סוף, קמו שתי עיתונאיות אמיצות והחליטו שלא צריך לפברק קונפליקט שוויוני במקום שאין באמת כזה. סיון קלינגבייל ולינוי בר גפן מ- "עושות חשבון" הרימו תכנית שסקרה את טענותיהם של מתנגדי החיסונים והציגה אותן בערוותן. העיתונאיות החוקרות הציגו את הקונצנזוס המדעי בנושא החיסונים ובטיחותם ונתנו במה לטובי הרופאים והמומחים בישראל בנושא. וכן, הם גם נתנו למתנגדי החיסונים הזדמנות לשטוח את טענותיהם – ואז חשפו את הסילופים, העיוותים והשקרים הקטנים והגדולים שמאחוריהן. הן חשפו את בצע הכסף של ה- 'רופא' שממליץ למטופליו להתרחק מחיסונים, ואז מוכר להם 'חיסונים הומאופתיים' – כלומר, מים – ומחייב אותם לחזור למנה נוספת מדי חודש. הן הראו שכל רעיונותיהם של המתנגדים לחיסונים נשענים על תיאוריות קונספירציה נטולות בסיס ונטולות היגיון.

הן הראו לכולנו מהי עיתונות חוקרת אמיתית: כזו שאינה מנסה להציג שוויון כפוי בין שני צדדים, אלא בוחנת את המציאות בעיניים קרות ושקולות, ומספקת תשובות פשוטות וחדות.

עבודתן של שתי העיתונאיות הללו היא אחד הדברים החשובים ביותר לעתיד המין האנושי. בעולם מוצף במידע שגוי ומסולף, איננו יכולים להמשיך קדימה כאנושות מבלי שנרכוש כלי חשיבה רציונלית שתאפשר לנו להבדיל בין אמת ושקר, בין בורות וידע אמיתי. המדענים יכולים להמציא עבורנו את התרופות האיתנות ביותר – אך הן לא יעזרו לאיש אם לא נשתמש בהן. המדע והטכנולוגיה יכולים להגיש לנו את המתנות היקרות ביותר, אך עלינו להסכים לקבל אותן – ולעתים, כן, גם לשים את הדעת על הפגמים הנסתרים שבהן. אך לשם כך עלינו להבין כיצד לחשוב, כיצד לנתח מידע, ועל מי אנו יכולים לסמוך ומי לא.

בשנים האחרונות הופיעו תכניות טלוויזיה רבות שמתעקשות להפחיד את הציבור לשווא, לסלף את הידע המדעי הקיים, ולהציב שרלטנים באותה במה לצד רופאים ואנשי מדע על מנת לספק את רצון הציבור לשעשועים. כשבני הדורות הבאים יסתכלו יום אחד אחורנית על אבותיהם הקדומים – כלומר, אנחנו – הם ישתאו לנוכח העובדה שהמצאנו חיסונים למחלות הנוראיות ביותר, ואז הפסקנו להשתמש בהם. הם לא יבינו מדוע רבות כל-כך מתכניות הטלוויזיה ניסו להעמיד פנים שישנן מחלוקות במקום בו הידע המדעי ברור כל-כך, וכיצד אנשי המדיה שמאחורי אותן תכניות יכולים לישון בשקט בלילה בזמן שילדים סובלים ומתים כתוצאה מהמידע המסולף שהן מעבירות לציבור.

אני מקווה שהתכנית של קלינגבייל ובר גפן תתקבל בחום לו היא ראויה – כ- "דוברת האמת" הנדירה, ותסמן תקופה חדשה ביחסים המורכבים שבין המדיה למדע. אנו זקוקים לעוד עיתונאיות חוקרות ועיתונאים חוקרים מסוגן, שיציגו את האמת המדעית בדיונים מורכבים, ויעשו זאת באופן מהימן, נטול-פשרות וללא התנצלויות. למען הבריאות ולמען עתיד כולנו.


אתם מוזמנים לקרוא עוד על הדרך בה תעשיות וממשלות משווקות מידע כוזב לציבור ב– "השולטים לעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

כשהבוטים של פייסבוק יוצאים משליטה

כשהבוטים של פייסבוק יוצאים משליטה

אני אוהב את אנטוניו. הוא נהג המונית המועדף עלי כשאני רוצה להגיע במהירות לפגישות חשובות. יש לו בנדנה אדומה שמשתלבת היטב עם השפם השחור המרשים. והנסיעות איתו תמיד מעניינות.

"שמעת שהבוטים עומדים להשמיד את כולנו?" התנפל עלי כשנכנסתי למונית.

"יש שמועות כאלו שמתרוצצות כבר מאה שנים בערך." חייכתי בזמן שהניע את הרכב והתחלנו לנוע קדימה. "שהסוף יגיע מהשתלטות הרובוטים, הבוטים, או בינה מלאכותית באופן כללי. אבל בינתיים, עשה לי טובה וסע במהירות – אני תכף מאחר לפגישה הבאה."

man-2192280.jpg

אנטוניו, צילום אילוסטרציה

"אלו כבר לא שמועות." הדגיש אנטוניו כשהשתלבנו בתנועה בכביש המהיר. "ממש השבוע פייסבוק הודיעו שהם נאלצו לסגור שני בוטים שהחלו להתמרד נגדנו, המציאו שפה חדשה משלהם ודיברו ביניהם בלי שנבין מה הם אומרים. מי יודע מה הם אמרו זה לזה, או כמה הם חכמים? לדעתי, הם מתכננים נגדנו. מזל שפייסבוק עצרה אותם ברגע האחרון."

"כן…" התלבטתי איך לענות. "אבל לא. לא בדיוק. נכון שהייתה הרבה דרמה בתקשורת מסביב לסיפור הזה – היו אתרים שדיווחו שהמהנדסים של פייסבוק נכנסו לפניקה וכיבו את הבוטים, או שתהו האם המצאנו את מפלצת פרנקנשטיין המודרנית. המציאות הרבה פחות דרמטית."

"פחות דרמטית?" הבחנתי בעיניו המצומצמות של אנטוניו ננעצות בי בראי. הרכב החל להאיץ קדימה. "אז אתה אומר שיש עוד מאחורי הקלעים של הסיפור הזה?"

"כן, אבל הקונטקסט הוא זה שחשוב כאן. בסך הכל היה מדובר בשני בוטים – אלגוריתמים שמחקים יכולות שיחה אנושיות. אגב, חזיתי את יכולותיהם המתקדמות של בוטים מהסוג הזה בספרי הקודם, "המדריך לעתיד". בכל מקרה, פייסבוק עורכת ניסויים עם בוטים בתקווה שהם יוכלו לדבר עם בני-אדם ולהציע להם שירותים. כך שבמקום להתקשר לחנות הפרחים, למשל, תוכל ליצור קשר עם הבוט של חנות הפרחים דרך פייסבוק, להגיד לו שאתה רוצה לשלוח זר לאשתך לרגל יום הנישואין, והוא יבין מיד שאתה רוצה זר חגיגי עם ורדים אדומים.

זה העתיד שפייסבוק מנסה לקדם, והיא רוצה לחמש את הבוטים שלה גם ביכולות מיקוח ומציאת פשרות. היחידה לחקר בינה מלאכותית בפייסבוק הצליחה כבר ביוני להקנות לבוטים יכולות שכאלו ברמה גבוהה, שמתחרה בזו של בני-אדם, לפחות עבור מציאת פשרות במקרי בוחן פשוטים, כגון חלוקת כדורים, כובעים וספרים בין המתמקחים באופן שיספק את כולם. עד כאן הכל טוב ויפה, אבל הייתה בעיה אחת במחקר הזה: כשהחוקרים הורו לבוטים להתמקח זה עם זה, הם גילו שהבוטים יוצאים משליטה."

"ורוצים להרוג את כולנו!" דפק אנטוניו בשתי ידיו על ההגה.

"לא. זה לא מה שאמרתי." התנגדתי. "העניין הוא שמדובר במערכות בינה מלאכותית שמבוססות על רשתות עצבים מלאכותיות. מערכות כאלו לומדות באופן פעיל מכל מה שהן חוות. זה היתרון הגדול שלהן על פני מערכות פשוטות יותר. ככל שהבוטים התווכחו יותר זה עם זה, כך הם למדו טוב יותר איך להעביר את המסר שלהם באופן ברור ופשוט יותר לצד השני. ומכיוון שהחוקרים לא הורו להם לשמור על כללי השפה האנגלית בזמן הדיונים, תוך זמן קצר השיחה בין שני הבוטים הפכה להיות בלתי-מובנת כמעט לחלוטין לבני-האדם שצפו בה. הם התחילו להשתמש בשפת קוד כדי להעביר מסרים זה לזה – שפה שהייתה מובנת רק להם במלואה."

"קוד?!" אנטוניו עקף רכב אחד משמאל, רכב אחד מימין, הכריח שלושה אופנוענים להתפזר לצדדים, וזינק מעל משאית. "עכשיו הרובוטים מתחילים גם לתכנת?!"

"לא, לא!" אמרתי בבהילות. עצמתי את עיניי, אבל זה היה מפחיד עוד יותר. פקחתי אותן שוב. "הם לא תכנתו את עצמם. זה בסדר. אפשר להירגע. הם פשוט מצאו דרך יעילה יותר להעביר מסרים ביניהם. תראה, לנו, בני-האדם, יש דרכים מאד מוגבלות להעביר מסרים. לכל מילה שלנו יש כמה משמעויות – כמו "קוד". אנחנו צריכים את כל המשמעויות האלו בשיחה האנושית, שנועדה להקיף מגוון של נושאים כמו אהבה, חברות, יריבות, פיננסים ועוד. אבל לבוטים היה רק צורך אחד – להגיע להסכמה במשא ומתן זה עם זה. ולכן הם פישטו עוד ועוד את השפה האנושית, עד שהגיעו לבסיס שהיו צריכים, שהעביר את מירב האינפורמציה עם מינימום הסחות דעת. אחד היה אומר "אני יכול אני אני כל דבר אחר" והשני היה מבין מיד את כוונתו ומשיב – "כדורים יש אפס לי לי לי לי לי לי". ככה זה נראה באנגלית –

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

אלו פישוטים של שיחה אנושית, אבל פישוטים דומים מתבצעים כל הזמן, למשל ביחידות צבאיות שצריכות לתקשר זו עם זו ביעילות ובקיצור בשדה הקרב."

"שדה הקרב?!" הוא שאג, והמונית רעמה קדימה. ייתכן שייבבתי.

"זה טוב! זה טוב! תחשוב כמה קשה לנו לתקשר אחד עם השני ולהעביר מידע ביעילות זה לזה! למכונות קשה עוד יותר – אם אנחנו רוצים שתכנה א' תעבוד עם תכנה ב', למשל, אנחנו חייבים להתאים כל אחת מהן לעבודה המשותפת, וזה דורש המון כוח תכנות אנושי! אבל אם היינו יכולים לעזור למכונות להמציא שפות משותפות באמצעותן הן יכולות להעביר מסרים זו לזו בקלות – אפילו בלי מעורבות אנושית – זה היה יכול לעזור לחבר את כל המערכות בעולם ולאפשר להן לעבוד בשיתוף פעולה! המזגן החכם, המקרר החכם, הרמזור, המכונית האוטונומית – "

הבנתי את הטעות מאוחר מדי, כשידיו של אנטוניו התהדקו על ההגה עד שאצבעותיו הלבינו. הוא לא אוהב לשמוע על מכוניות אוטונומיות. צפיתי בו שואף אוויר בין שפתיים מכווצות.

"על מכוניות אוטונומיות נדבר בפעם אחרת." סינן לבסוף, וירד למחלף בשלוש-מאות קמ"ש. "בינתיים, כשכל המכונות האלו שלך מדברות בעתיד זו עם זו בשפה שאנחנו לא מבינים, אתה יכול להגיד לי איך אתה מצפה שנשלוט עליהן? שנוודא שהן עושות את מה שאנחנו רוצים?"

"מחשבים באופן כללי עושים את מה שאנחנו אומרים להם לעשות." אמרתי בהכנעה. "אבל אתה צודק בכך שמערכות לומדות עלולות ללמוד גם לפרש את דברינו באופן לא-מדויק, ולהעביר אותם עוד פחות במדויק בשרשרת המכונות. זו בדיוק הסיבה שאנחנו חוקרים את הנושאים האלו עכשיו – כדי למצוא דרכים לעזור למכונות להעביר מסרים אחת לשנייה באופן מדויק יותר, ומצד שני שיישאר עדיין במסגרת הבנתנו האנושית. אבל באמת שלא צריך… לדאוג!"

את המילה האחרונה פלטתי בצעקה כשאנטוניו סטה ימינה בחדות והדמים את הרכב, תוך שהוא מחמיץ במילימטר את ברז הכיבוי הסמוך.

"הגענו ליעד!" הכריז. "במהירות כמו שרצית."

"זה היה קצת מהיר מדי." התנגדתי. "אפשר לקבל איזו הנחה? כמעט חטפתי… התקף… לב…"

המילים גוועו בגרוני לנוכח מבטו היוקד.

"תודה, אנטוניו." נאנחתי. "באמת הגענו מהר ליעד, אבל אולי כדאי שבפעם הבאה נתקשר טוב יותר לגבי מה הכוונות המדויקות שלי. למשל, להגיע ליעד בחיים."

עיניו נצנצו. "דולרים יש אפס לי לי לי." הלעיט. "ואם זה לא טוב לך, אתה יכול לעבור למכוניות האוטונומיות."


כמו תמיד, אם אתם אוהבים לקרוא על בינות מלאכותיות ועל הדרכים השונות בהן ישתלבו בעולמנו, אתם מוזמנים להתעמק ב- "המדריך לעתיד" ו- "השולטים לעתיד" – שניהם בחנויות הספרים.

סין מפעילה מערכת בינה מלאכותית לחיזוי פשיעה ולמעקב מתמיד אחר האזרחים

סין מפעילה מערכת בינה מלאכותית לחיזוי פשיעה ולמעקב מתמיד אחר האזרחים

בספרי החדש "השולטים בעתיד" כתבתי על עתיד הפשיעה בעולם המנוטר. זה יהיה עולם גדוש במצלמות, רחפנים המנטרים אחר כולם, חיישנים על הבגדים ובתוך הגוף, ועוד. יהיה די קשה לפשוע בעולם שכזה, וכדי להבהיר את הקושי הבאתי בספר תיאור של פושע עתידי. הנה מה שכתבתי, ומיד לאחר מכן תוכלו לקרוא כיצד בסין מתחילים עכשיו לעשות את זה בדיוק, ממש כאילו קראו את הספר שלי כהנחיות לעתיד.

"הבה נבדוק את האפשרות הזאת [לביצוע פשיעה בעולם המנוטר] באמצעות ניסוי מחשבתי שבו תנסו אתם לבצע פשע קטן ושולי ממש: מתן סטירה מצלצלת לאדם אקראי ברחוב.

אתם יודעים שברגע שתבצעו את הפשע, המצלמות ברחוב ואלו המותקנות על הרחפנים הסובבים את האזור יקלטו את המתחולל וינסו לזהות אתכם. מכיוון שכך, אתם עוטים על עצמכם מראש כובעי גרב המכסים גם את הפנים. אתם עושים זאת בחדר החשוך ביותר בביתכם, מכיוון שברור לכם שמהרגע שתצאו מהבית ינטר אתכם כל חיישן אפשרי. מכיוון שאתם מבינים שגם החיישנים שעל גופכם יוכלו להבחין בפעילות הלא-שגרתית ולהסגיר אתכם, אתם מסירים מעליכם את הקעקועים האלקטרוניים ואת הטבעות החכמות והצמידים החכמים, משילים את החולצה והמכנסיים המכילים חיישנים ומחליפים אותם בביגוד "טיפש" מהמאה העשרים. לבסוף אתם בולעים סם משלשל ונכנסים לשירותים לכמה שעות כדי להפריש החוצה את החיישנים שבמעיכם.

עתה שעשיתם כל זאת, אתם יכולים לצאת סוף-סוף אל מחוץ לבית ולבצע את הפשע המושלם. כאשר אתם מתקדמים במורד הרחוב אתם שמים לב שעוברי אורח מעיפים בכם מבטים תמהים. אין פלא: יש לכם כובע גרב שמסתיר את פניכם. לפתע חולפת מחשבה מזעזעת בראשכם: אתם מבינים שניתן לזהות אתכם גם באמצעות זיהוי דפוס הליכתכם. אתם מתחילים מיד ללכת בשפיפה ולגרור רגליים כדי להפר את דפוס הצעדים הרגיל שלכם. אנשים מתחילים לעבור בחשש לצד השני של הרחוב כשהם רואים אתכם מתקרבים. לבסוף, כשאתם מאתרים אדם שלא נראה כאילו הוא עלול להחזיר לכם סטירה, אתם מדדים לכיוונו במגושם, אך נעצרים באמצע הדרך כאשר רחפן שהותרע למקום עם החשד הראשון (כובע הגרב המכסה את הפנים בוודאי תרם לכך) נוחת מולכם ומבקש מכם להזדהות באמצעות טביעת אצבעות, דגימת רוק, או כל אמצעי זיהוי ביומטרי אחר. אם לא תזדהו, ימשיך הרחפן לעקוב אחריכם כדי לוודא שאתם מתנהגים כשורה. יש לו זמן – הוא רובוט עם סבלנות אינסופית – ויש לו שפע של אנרגיה שמקורה מהשמש. במקרה הצורך הוא יוחלף ברחפן אחר מצי הרחפנים שבשמיים.

אתם מושכים בכתפיכם בהכנעה, מזדהים, ומוותרים על התכנית שלכם. אתם מבינים שבעולם של מערכות חיישנים המקושרות זו לזו ומשוות מידע זו עם זו בלי הרף, כל חריגה מהנורמה תזוהה מיידית ותטופל בהתאם.

בעולם כזה, הפשע יעבור תמורה מן היסוד: רוב הפושעים בעולם הפיזי ייעלמו, ואת מקומם יתפסו הסייבר-פושעים – מתכנתים והאקרים שיוכלו לפרוץ למערכות הצדק עצמן."

רחפן ניסיון המשמש את המשטרה למעקב אחר האזרחים. מקור.

כך כתבתי לפני שנה בערך על העתיד הרחוק – זה שיידרשו לנו עוד עשרים שנים בערך להגיע אליו. אלא שבסין מנסים לממש את העתיד הזה כבר עכשיו. לא באמצעות רחפנים, אמנם, אלא באמצעות מצלמות. וכאלו אינן חסרות. יותר מ- 176 מיליון מצלמות מפוזרות בכל רחבי סין, ורבות מהן מחוברות ישירות לאינטרנט או למאגרי מידע המנותחים על-ידי בינה מלאכותית בשירות הממשלה.

והתוצאות מרתקות ומפחידות באותו הזמן. מכיוון שחוקי הפרטיות בסין אינם חמורים כבמערב, ממשלת סין מרשה לעצמה להשתמש בכל המידע הזה לצרכיה. לפחות בעיר אחת, ג'ינאן, מצלמות עוקבות אחר אזרחים החוצים את הכביש באור אדום – ותוך דקות ספורות אותם אזרחים מגלים את פניהם, בתוספת שמותיהם המלאים וכתובות בתיהם, מוצגים בשלטי-חוצות אלקטרוניים שבצד הדרך ומפורסמים ברשתות החברתיות.

אם זה עדיין לא מפחיד אתכם, כדאי שתדעו שממשלת סין מנסה לשמור על הסדר גם בשירותים הציבוריים, בהם מצלמות משמשות כדי לוודא שהמשתמשים אינם מבזבזים נייר טואלט לשווא.

אבל זו רק ההתחלה.

חברת קלאוד ווק (נו, לא ווק לבישול – Cloud Walk) הסינית מתחילה בימים אלו להפעיל בינה מלאכותית שעוברת על הקלט המתקבל ממיליוני מצלמות ביותר מחמישים ערים ופרובינציות, ומצליבה אותו כדי להגיע למסקנות ולהתריע מראש על פוטנציאל פשיעה גבוה. לפי דיווחי החברה, הבינה המלאכותית שברשותה מסוגלת לעקוב אחר אנשים הרוכשים רכישות חשודות בחנויות שונות – למשל, אקדח או סכין. אבל יותר מכך, היא מסוגלת גם לזהות את אותם אנשים בחנויות שונות, ולזהות דפוסי רכישה חשודים. כך, אם אדם נכנס להום דיפו הסיני ורוכש פטיש, ושעתיים לאחר מכן עובר בחנות לציוד טיפוס וקונה חבל ושק גדול – המערכת תתריע על חשד לפשיעה בקרוב, ותעביר את המידע לשוטרים לבדיקה.

משטרת סין יכולה לעקוב גם אחורנית בזמן אחרי אנשים (יכולת שכיניתי טמפינט במאמר שכתבתי יחד עם שי הרשקוביץ במגזין וויירד). השוטרים יכולים לבנות סרטים הממפים את תנועתו של כל אדם ברחוב או בין חנויות גם לאחר מעשה. וכדבריו של אחד המומחים בתחום – "אנו יכולים… למצוא אנשים שנראים חשודים מכיוון שהם הולכים אחורה וקדימה באותו אזור, או חובשים מסכות… אפשרי גם להרכיב מחדש את המסלול של מישהו בשטח רחב."

אתם יכולים לחשוב שהשימוש במצלמות ובבינה המלאכותית מזעזע מכיוון שהוא מאפשר לממשלה לעקוב אחר כל האזרחים, אבל בואו נודה לרגע באמת: תוך זמן קצר, תהפוך סין להיות מדינה עם אחוז פשיעה נמוך ביותר – לפחות בכל האמור לפשיעה ברחובות ובבתים. יש לכך משמעות גדולה עבור עתיד סין, מאחר ופשיעה נושאת עמה עול כלכלי כבד (בארצות הברית בלבד נגרמו ב- 2007 נזקים של 194 מיליארד דולרים למדינה ולקורבנות כתוצאה מפשיעה). אך המשמעות הגדולה יותר היא שהמפלגה הקומוניסטית בסין תצליח כנראה לשמר את שלטונה ואת הסדר החברתי הקיים באמצעות המעקב הבלתי-פוסק אחר האזרחים. זאת, לפחות, עד ההתמוטטות הכלכלית נוסח "נפילת חומת ברלין" – אבל כזו לא צפויה עדיין באופק.

ועד אז, אם אתם רוצים לדעת איך ייראה עתיד של חוסר בפרטיות, של מעקב מתמיד ושל חיים תחת השגחה מצד בינה מלאכותית, אל תטרחו לקרוא ספרי מדע בדיוני. מספיק שתלכו לסין. אבל אם אין לכם כסף לכרטיס טיסה, אתם יכולים להסתפק בקריאת "השולטים בעתיד". מסתבר שהפעם, לפחות, צדקתי בתחזיות.

טרולים רק רוצים ליהנות: על תכונות האופי של טרולים

טרולים רק רוצים ליהנות: על תכונות האופי של טרולים

"תחזירי לי את הסמארטפון!" צעקה הנערה השחרחורת בשולחן בבית הקפה שלידי על אחת משתי חברותיה.

"בבקשה." חייכה אחת מהן והגישה לה את המכשיר. הזועקת המקורית חטפה אותו מידיה, העיפה בו מבט וגנחה ללא-הפתעה, "ביץ'. נעלת לי אותו. עכשיו יקח חמש דקות עד שאוכל להפעיל אותו שוב."

הבלונדינית שבחבורה נאנחה. "היית צריכה לדעת שרייצ'ל תעשה לך את זה." אמרה. "היא כזאת טרולית באוף-ליין."

"אני לא טרולית." מחתה רייצ'ל. "אני לוחמת צדק. אתן רואות תמיד למי אני כותבת: לטפשים שמגיע להם להיענש על השטויות שהם כותבים."

"נשמע כאילו יש לך דווקא פוטנציאל טוב להיות טרולית." הצטרפתי לשיחה, וחייכתי חיוך גדול כשהשלוש הסתובבו לעברי. "וזה מדעי!"

children-1286275_1280.jpg

"סליחה," אמרה רייצ'ל, "מי אתה?"

"זה לא משנה כרגע." אמרתי בהתלהבות. "מה שחשוב זה שתדעו על המחקר החדש על הטרולים שיצא ממש לאחרונה. לא הבובות המטופשות עם השיער הצבעוני, אלא האנשים האלו שמציקים לכולנו באונליין: מדברים לא-יפה, מעליבים בלי סיבה ובאופן כללי מנסים ליצור כמה שיותר רגשות רעים. את מכירה אותם – לא כך, רייצ'ל?"

היא קימטה את מצחה בניסיון ברור להתעלם, אבל אני המשכתי.

"במחקר נסקרו 415 משתמשי אינטרנט, שענו על מגוון של שאלונים פסיכולוגיים. אחד מהם היה שאלון שנועד לבחון עד כמה אתה נוטה להתנהגות טרולית אונליין, באמצעות בדיקה עד כמה המשיבים מסכימים עם הצהרות כגון "למרות שחלק מהאנשים חושבים שההערות או הפוסטים שלי מעליבים, אני חושב שהם מצחיקים". כן כן, יש שאלונים ממשיים כאלו לבחינת פוטנציאל הטרוליות של אנשים! ואז, כשהחוקרים ידעו מי האנשים שנוטים יותר להתנהגות טרולית, הם יכלו לבחון גם איך הם עונים על שאלוני אישיות שמלמדים על תכונות אופי מסוימות – נרקיסיזם, מקיאווליאניזם, אמפתיה, פסיכופתיות ואחרות. ואתן יודעות מה מאפיין את הטרולים?"

"הם דומים לרייצ'ל!" ניחשה הבלונדינית מיד.

"כנראה." הסכמתי. "אבל המחקר גילה שני דברים צפויים והגיוניים, ועוד ממצא אחד שבהתחלה נראה מוזר. קודם כל, הוא הראה שלאנשים עם נטיה גבוהה יותר לפסיכופתיות ולסדיזם, יש סיכוי יותר גבוה להיות גם טרולים. כמובן, זה לא אומר שטרולים הם "פסיכופתים" או "סדיסטים", אלא רק שהם נמצאים גבוה יותר במדרג של התכונות האלו, בהשוואה לבני-אדם אחרים. בממוצע, הם נהנים יותר לראות אחרים סובלים, ופחות אכפת להם מהסבל של אחרים. עד לכאן מה שהיה ברור כבר לכולנו. אבל הנה הממצא המפתיע: מסתבר שלטרולים יש יותר אמפתיה מהממוצע."

"זה לא הגיוני." התנגדה השחרחורת. "אם לרייצ'ל הייתה יותר אמפתיה, היא לא הייתה נועלת לי את הסמארטפון."

"נכון!" הסכימה רייצ'ל. "רגע, לא – "

"ההסבר הוא שיש שני סוגים של אמפתיה." סירבתי להאכיל את הטרולית. "הראשון הוא אמפתיה קוגניטיבית, באמצעותה אנו מסוגלים לזהות ולהבין את רגשותיו של האחר. השני הוא אמפתיה אפקטיבית, שמאפשרת לנו להתנסות ממש ולהפנים את רגשותיהם של אחרים. אם יש לי אמפתיה קוגניטיבית, אני יודע כשכואב למישהו אחר. אם יש לי אמפתיה אפקטיבית, אני סובל ומזיל דמעות ביחד איתו."

"ולטרולים יש אמפתיה קוגניטיבית?" ניחשה הבלונדינית.

"בדיוק." אמרתי. "הטרולים הטבעיים המושלמים ניחנים באמפתיה קוגניטיבית גבוהה מצד אחד, אמפתיה אפקטיבית נמוכה מהצד השני, ונטייה לסדיזם ולפסיכופתיות מהצד השלישי. הם יודעים לזהות, למשל, שנעילת הסמארטפון תוביל למפח נפש גדול מצדך, השחרחורת. אבל הם לא מסוגלים להזדהות עם הרגשות הללו ולשקף אותן כפי שקורה אצל רובנו. הוסיפו לכך את הרצון להכאיב לאחרים, ותקבלו… ובכן, את רייצ'ל. או כפי שאולי נכון יותר לומר – קיוטיגירררל17. אני צודק?"

רייצ'ל נעצה בי מבט המום. שתי האחרות פלטו נשיפות חדות.

"כן." חייכתי עם השפתיים. "אני יודע. את באמת צריכה להקפיד יותר לכסות את העקבות שלך באינטרנט, אחרי שאת מטרילה אנשים בבלוג שלהם. במיוחד אם את גרה באותה עיר ואותה שכונה כמוהם, ואפילו מגיעה לאותו בית קפה כמוהם."

אבל תשומת לבה כבר לא הייתה ממוקדת בי.

"זה לא מה שאתן חושבות." התחננה לחברותיה. "אני לא יודעת מי האיש הזה, אבל – "

"את קיוטיגירררל17?" פלטה השחרחורת. "זאת את שהאכלת אותי את כל הזבל הזה בטוויטר? שאמרה לכל השכבה שאני… איך יכולת? את פשוט פסיכופטית!"

"בעלת נטייה גבוהה יותר לתכונת האופי הידועה בשם פסיכופתיה." תיקנתי את הטעות בהנאה, בזמן שחברותיה קמו ועזבו את השולחן מבלי לזרוק מבט אחורנית לכיוונה. "בכל מקרה רייצ'ל, אני מקווה שלמדת את הלקח."

"איזה לקח?" שאלה במרירות. "לא לרשום את השם המלא שלי באף מקום ברשת? לא להטריל?"

"לא, זה לא הלקח. תטרילי כמה שאת רוצה ואת מי שאת רוצה, חוץ ממני." חייכתי למול עיניה שהחלו להתמלא בדמעות. "אבל תזכרי שתמיד יש טרולים גרועים יותר – ואחד מהם מצא אותך עכשיו."


 

הכותב (זה אני) מצהיר בזאת שסיפור זה לא התרחש באמת, שאינו טרול, שאינו תומך בטרוליות או בטרוליזם מכל סוג שהוא, ובאופן כללי מסתייג מההתנהלות המתוארת בסיפור.