רוסיה כמורדור: מלחמת הבוטים בגוגל כמשל למאבקים על שליטה בעולם

רוסיה כמורדור: מלחמת הבוטים בגוגל כמשל למאבקים על שליטה בעולם

פוסט זה התפרסם במקור בטור במגזין גלובס


לפני שנה וקצת אירע דבר מוזר באינטרנט: גוגל טרנסלייטור, המתרגם האוטומטי של גוגל, החל לתרגם את המונח "פדרציה רוסית" ל"מורדור". למי שלא מכיר, "ממלכת מורדור, שבה הצל לא נרדם", היא מקום מושבו של שר האופל בעולם הפנטזיה של "שר הטבעות".

מה גרם למתרגם האוטומטי לקשר בין "הפדרציה הרוסית" לבין ממלכת האופל הדמיונית? ולפני שתחשבו שמדובר בדבר של מה בכך, נזכיר ש-500 מיליון אנשים עושים שימוש בשירותי התרגום של גוגל. שירותי התרגום של גוגל מאפשרים לאנשים ממדינות שונות לשתף פעולה ולעשות עסקים ביחד.

אבל אם בשיתופי-פעולה בינלאומיים עסקינן, רוב הרוסים לא יעריכו את העובדה שהם מזוהים כאורקים (יצורים מפלצתיים) וטרולים (מעצבנים) בעיני גוגל. אז מה קרה כאן?

שירות התרגום של גוגל מהווה דוגמה לבינה המלאכותית החדשה: כזו שאינה מתוכנתת על ידי בלשנים בכירים, שמקנים לה כללים ברורים להבנת השפה, אלא מתוכננת כישות לומדת, העוברת על מידע רב ומזהה בעצמה את דפוסי השפה בדומה לילד אנושי. המערכת עוברת על פורומים, עמודי רשת ומסמכים בכל השפות, ומגיעה למסקנות בנוגע לדרך התרגום המתאימה ביותר עבור כל מילה ומילה. כמו כל ילד, היא לומדת מהעולם שמסביבה.

אבל מה קורה אם העולם מנסה לרמות אותה?

במקרה של הפדרציה הרוסית, נראה שבני-האדם אכן הצליחו לרמות את המתרגם האוטומטי. גולשים אוקראינים רבים החלו לכנות את הפדרציה הרוסית בשם הגנאי "מורדור", בעקבות מלחמת רוסיה-אוקראינה ב-2014. המתרגם האוטומטי של גוגל ראה, למד והבין בהתאם: הפדרציה הרוסית הפכה לממלכת השחור, ושם המשפחה של שר החוץ של רוסיה תורגם ל"סוס קטן עצוב".

הפרשייה מעלה שאלות פילוסופיות וחברתיות מרתקות. ניתן לטעון ובצדק, שהמתרגם האוטומטי של גוגל מנסה ללמוד את החברה האנושית מתוך דפוסי הדיבור והכתיבה שלה. אם לא ניתן לו לעשות כן, אנו למעשה מקבעים את השפה הקיימת כיום – ואת הערכים המוטמעים בה – וכופים אותם על דור העתיד. ידוע לכול כי השפה האנושית היא דינמית ומשתנה כל העת, כדי לאמץ רעיונות ומושגים חדשים. למשל, המונח "לגגל" הוא תוצר של השתנות טבעית של השפה. כך גם "ג'מבו", שהיה במקור פיל עצום שריתק את תושבי העולם המערבי; והמילה Nimrod, שרכשה באמריקה משמעות חדשה כ"דביל". כנראה, משום שבאגס באני (הארנב) השתמש בה תכופות כתיאור גנאי לאלמר פאד (צייד הארנבים).

השאלה היא – האם השפה באמת משתנה מעצמה, כתוצאה מכך שמיליוני אנשים מתחילים מרצונם להתייחס לרוסיה כ"מורדור"? לאו דווקא. המתרגם האוטומטי של גוגל מסתמך גם על תוצרי עבודתם של בוטים – אלגוריתמים פשוטים יחסית, המסוגלים לכתוב או לערוך תוכן באינטרנט. בוטים כאלו קיימים בכל מקום. לפי חלק מההערכות, ב-2009 בוטים הפיקו רבע מכל הציוצים בטוויטר, 'צפו ביותר ממחצית מכל המודעות באינטרנט ב-2013, וביצעו עד למחצית מכל העריכות בוויקיפדיה.

המתרגם האוטומטי של גוגל לומד מתוצרי כל הבוטים האלו, ומי שמתכנת בוט להפיץ מידע מסוים, יכול להשפיע בדרך זו על השיח ברשת ועל דרך הדיון והשפה. הבוטים האלו אפילו נלחמים זה בזה כדי למשוך את תשומת לבנו או לתקן 'טעויות' של בוטים אחרים, כפי שהודגם במחקר על ויקיפדיה מהשנה האחרונה.

תסריטאי המדע הבדיוני אוהבים לספר לנו על מלחמות רובוטים בבני-אדם, ומלחמות רובוטים ברובוטים. הקרבות האלו החלו בעשור האחרון, אלא ששדה הקרב אינו בעולם הפיזי, אלא בזירת הידע האנושית. לרובוטים המודרניים הללו אין גוף משלהם. הם אלגוריתמים פשוטים שמתחרים זה בזה כדי לעצב את הידע שלנו על העולם.

לא אתפלא אם גם מאחורי פרשיית "מורדור" נגלה חבורה של מתכנתים שפיתחו בוטים המנסים להפיץ את המם החדש ולהשפיע בדרך זו על גוגל. הניסיון אולי משעשע, אבל הוא חושף תופעה עגומה. אם במקור נועדה רשת האינטרנט להיות שוק פתוח של רעיונות המתחרים זה בזה, הרי שהמציאות מראה לנו תוצאה אחרת: מי שמפעיל את הבוטים ביעילות הגבוהה ביותר, מצליח יותר להפיץ את עמדותיו. כפי שלמדנו לאחרונה מהצהרת טוויטר לקונגרס האמריקני, בוטים בחסות רוסיה סייעו להפיץ כמעט חצי-מיליון מציוציו של דונלד טראמפ במהלך מסע הבחירות, אך כמעט לא הפיצו את הציוצים של מתחרתו הילארי קלינטון.

התוצאה ברורה.

מי הפעיל את אותם בוטים? אותו אדם שעשה שימוש נרחב בבוטים בשנים האחרונות כדי להשפיע על הדיונים הציבוריים במדינות המערב, והוסיף ואמר בשנה האחרונה, כי "המדינה שתוביל בבינה המלאכותית, תשלוט בעולם".

יודעים מי זה? ולדימיר פוטין, כמובן, מנהיג הפדרציה הרוסית. אז בעצם, אולי מורדור אינה טעות אחרי הכול.


אתם מוזמנים לקרוא עוד על רעיונותיי לגבי השלטון, הדמוקרטיה והממשל בספרי "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

הרחפנים מגיעים: כוחות רוסיים הותקפו לראשונה ע"י להק רחפנים

הרחפנים מגיעים: כוחות רוסיים הותקפו לראשונה ע"י להק רחפנים

בשבוע האחרון אירעה מתקפה יוצאת-דופן, מהסוג שמסמל שאנו נכנסים לתקופה חדשה בהיסטוריה של המלחמה. לאורך כל הלילה ב- 5 לינואר, הותקפו הכוחות הרוסיים בסוריה על-ידי להק שלם של רחפנים. זוהי המתקפה הראשונה מסוגה אי-פעם, אך היא בוודאי לא תהיה האחרונה.

לפי משרד ההגנה הרוסי, שלושה-עשר רחפנים – כנראה של אחד מהכוחות היריבים בסוריה – עטו על הכוחות הרוסיים והפילו על החיילים והרכבים פצצות קטנות תוצרת-בית. ואם השימוש ברחפנים לא מספיק כדי לעורר את הדימיון, הרי שמסתבר שהפצצות עצמן היו מצוידות בסנפירי פלסטיק שהודפסו במדפסת תלת-ממד ביתית.

3d printed drone bombs.jpg

הפצצות המודפסות שנשאו הרחפנים. מקור: משרד ההגנה הרוסי.

הרחפנים עצמם רחוקים מלהיות כלי מלחמה מרשימים. הם מורכבים משילוב של חלקי עץ ופלסטיק המודבקים ביחד, בתוספת מקלעת לנשיאת הפצצות. ואף על פי כן, אנו יודעים כבר שצבאות כיום אינם ערוכים להתמודד היטב עם נשקים אלו. קשה להפיל רחפנים באמצעות כלי-נשק קונבנציונליים כמו מכונות ירייה, ורוב הטילים אינם מסוגלים להינעל על מיקום הרחפנים בשל חתימת הרדאר הקטנה וחתימת החום המזערית שלהם.

למרות כל זאת, לא נראה שלהק הרחפנים הזיק באופן משמעותי לכוחות הרוסיים. לפי הדיווחים, הרוסים השתמשו בנשקים נגד-מטוסים כדי להשמיד בהצלחה חלק מהרחפנים, והפעילו נשקים אלקטרומגנטיים מסוג לא ברור, באמצעותם חסמו את השליטה מרחוק על הרחפנים. במבט לטווח קצר, ברור שהמתקפה נכשלה.

אבל מה עם הטווח הארוך?

בראייה לעתיד, קל לנחש שרחפנים עומדים לקחת חלק משמעותי בלחימה. בארצות הברית בלבד אפשר למצוא מספר תכניות שונות לשילוב להקי רחפנים שלמים במלחמה: פרויקט Perdix, למשל, הדגים לאחרונה[1] שיגור של 103 רחפנים ממטוס באוויר, שכל אחד מהם שוקל פחות מחצי-קילו, וכולם טסים ומתקשרים ביחד על מנת לבצע משימה מסוימת. פרויקטים אחרים כוללים את LOCUST, בו משגרת ספינה עשרות רחפנים אוטונומיים לאוויר[2], ואפילו שימוש בטילים שישגרו עשרות רחפנים חכמים, שכל אחד מהם יהיה חמוש בטיל חודר-שיריון קטן[3].

למה ההתלהבות הגדולה מהרחפנים? פשוט: הם מספקים אלטרנטיבה לכלי-נשק גדולים, מגושמים ויקרים, שפגיעה אחת יכולה להוציא אותם מכלל פעילותלהק רחפנים יכול להמשיך לתפקד ולבצע את המשימה גם אם חלק מהרחפנים נפגעו. וכאמור, יש להם חתימת רדאר קטנה וחתימת חום נמוכה שמאפשרות להם להתחמק מגילוי ומיירוט מהשמים.

כל זה לא אומר שהרחפנים יהיו 'בלתי מנוצחים' בעתיד. כמו כל כלי לחימה חדש, הצבאות כיום עדיין אינם מוכנים לקראתם, אך במלחמה שאחרי-הבאה כבר נדע להתמודד עמם טוב יותר. ניתן לקטוע את התקשורת עם הרחפנים בדרכים מסוימות, על מנת למנוע את השליטה בהם מרחוק, למשל. ולפחות נכון להיום, רחפנים עדיין רועשים למדי, כך שקשה להשתמש בהם לביצוע פיגועים חרישיים בבסיסים צבאיים.

ולמרות הקשיים שבדרך, קשה שלא להתרשם מהפוטנציאל של הרחפנים בשדה הקרב. סביר להניח שכבר בעשור הקרוב יפותחו להקי רחפנים שיוכלו להתמודד בכבוד עם לוחמים אנושיים, עם כלי-רכב משוריינים ואפילו עם מטוסים בשווי של עשרות מיליוני דולרים. וכדאי שנהיה מוכנים לקראתם.


 

אם מעניין אתכם לקרוא עוד על עתיד הרחפנים, הטרור ובאופן כללי על הדרך בה הטכנולוגיה תשפיע על החברה, אתם מוזמנים לקרוא את ספרי "השולטים בעתיד" (קישור לרכישה).

[1] https://www.stripes.com/news/pentagon-unveils-perdix-micro-drone-swarm-1.448124

[2] http://www.navy.mil/submit/display.asp?story_id=86558

[3] https://www.newscientist.com/article/2118412-us-army-wants-to-fire-swarm-of-weaponised-drones-from-a-missile/