עוד התקדמות בדרך לאל הממוחשב ששומע הכל ורואה הכל

עוד התקדמות בדרך לאל הממוחשב ששומע הכל ורואה הכל

בפינתנו היום אני רוצה לסקור פיתוח חדש של מיקרוסופט, שבמבט ראשון אינו נראה מרשים במיוחד. בראייה רחבה יותר, אני מאמין שהוא מרמז על כוחה של הבינה המלאכותית לשנות את העולם.

הרעיון עצמו פשוט למדי: חוקרים במעבדות מיקרוסופט פיתחו מערכת חדשה לתמלול פגישות בעולם הפיזי. במקום להסתמך על מיקרופון אחד בלבד, המערכת מתחברת לכל הסמארטפונים והמחשבים הניידים בחדר, ומקבלת מידע מהמיקרופונים שלהם בזמן אמת. המידע הזה עובר אינטגרציה, כך שבסופו של דבר, המערכת מסוגלת להבין ולתמלל את הדיבור בחדר, טוב יותר מכפי שהייתה יכולה לעשות זאת בהסתמך על מיקרופון אחד בלבד[1].

למה זה חשוב? מכיוון שאנו רואים כאן את ההתחלה של תפישה חדשה, שמסתמכת על 'מוח' ממוחשב המסוגל לקבל מידע ממספר רב של ערוצים בו-זמנית, ולהפיק ממנו משמעות. אנו איננו יכולים לעשות זאת: אנו מוגבלים למידע שמיעתי המגיע משני ערוצים בלבד – אוזן ימין ואוזן שמאל. אבל 'מוחות' ממוחשבים אינם ניחנים במגבלה דומה, והם מסוגלים לקבל מידע שמיעתי מעשרות, מאות ואפילו אלפי ערוצים. כל עוד הם ניחנים בכוח המחשוב הנחוץ, הם מסוגלים להפיק תובנות בעלות משמעות מכל המידע הזה.

יש השלכות עצומות לתפישה הזו. דמיינו שאתם מגיעים להרצאה בעוד חמש שנים. ברגע שאתם נכנסים לאולם, הטלפון שלכם מצטרף אוטומטית לרשת הרחבה שכוללת את הסמארטפונים של כל המאזינים האחרים. כל הטלפונים מקשיבים ביחד למרצה, ובסוף ההרצאה תקבלו את התמליל המדויק של כל מה שהוא אמר.

אבל למה לעצור במידע שמיעתי בלבד? בפעם הבאה שתלכו לקונצרט רוק עם אלפי אנשים בקהל, תוכלו לשתף גם את המידע החזותי המתקבל מהסמארטפון שלכם. כלומר, את קטעי הווידאו שאתם מצלמים. כל קטע וידאו כזה בפני עצמו אינו מעניין במיוחד, אבל זכרו שעשרות אנשים מצלמים כל הזמן, כל אחד מנקודה אחרת בקהל. אלגוריתמים מתקדמים יוכלו לאחות את כל הצילומים הללו כדי להפיק סרטים של האירוע השלם.

התפישה הזו פותחת גם צוהר לעולם העבודה החדש. באחת מהופעותיי האחרונות על הבמה באוסטרליה, טכנאי הסאונד גיחך קלות כששמע שאני סבור שהבינה המלאכותית יכולה לגזול מקומות עבודה מבני-אדם.

"ומי יחבר לך את המיקרופון לדש?" הוא שאל, תוך שידיו עוברות על גופי במיומנות. "מי ישחיל את הכבלים מתחת לחולצה שלך, ויחבר את הסוללה והמקלט לחגורה? מי יפעיל את המצלמה שמתעדת אותך על הבמה?"

והנה, אחת התשובות היא שפשוט לא יהיה צורך בכל המכשירים הייעודיים האלו. הם יוחלפו בכוח ההמון: בעשרות או מאות סמארטפונים שישתפו את המידע השמיעתי והחזותי ברמה שעולה על זו המתקבלת ממיקרופון בודד או מצלמה בודדת – משוכללים ככל שיהיו.

כמובן, אי אפשר שלא לחשוב גם על הבעיות הטמונות בתפישה זו. גופי ביון, למשל, יגירו ריר לנוכח האפשרות לשמוע הכל ולראות הכל. כבר עכשיו מקבלים גופי ביון רבים מידע מהסמארטפונים שלנו (לממשלת ארצות הברית, למשל, יש גישה לכל מה שאתם מקליטים ומעלים לענן של גוגל או פייסבוק). מה יקרה כשהם יוכלו לאחות את כל פיסות המידע הנפרדות האלו, כדי להרכיב תמונה גדולה וברורה יותר של העולם? והאם אנו רוצים באמת לתת בידיהם את הכוח הזה?

ייתכן שבעיה זו תיפתר בכוחן העתידי של טכנולוגיות הבלוקצ'יין, שאמורות ליצור רשתות תקשורת שיהיו חסינות לפריצה ולרחרוח מצד הממשלות. אולי. אבל יש עוד זמן עד אז. בינתיים, אפשר להסתפק בכך שהתפישה החדשה – זו שמספקת לבינה המלאכותית יכולת הצלבת מידע – אמורה לשרת את הציבור באמצעות שילוב הציבור עצמו. כולנו נצטרך 'לנדב' את כוח השמיעה, הראייה והתקשורת של הסמארטפונים שלנו, כדי לתת לבינה המלאכותית את המידע שהיא צריכה כדי לסייע לכולנו. כולם למען כולם.

זה בהחלט עתיד שאני יכול להתחבר אליו.

[1] https://www.microsoft.com/en-us/research/uploads/prod/2019/05/DenmarkTechReport-5ccb8b095c8f3.pdf

עתיד הלחימה: הרובוטים הנצחיים

עתיד הלחימה: הרובוטים הנצחיים

לפעמים כמה ידיעות על העתיד מתחברות ביחד זו לזו, באופן שיוצר היגיון מושלם. זה מה שקרה בחודש האחרון, בעקבות שלוש התפתחויות שצבא ארצות הברית וצבא סין מקדמים, וביחד יכולות לדחוף אותנו לעתיד שונה מאד של מלחמה מכל מה שהיה מקובל עד היום.

נעבור עליהן אחת-אחת, בקצרה.

הרובוטים הנצחיים

ב- 2 למאי התפרסם פיתוח חדש שמומן על-ידי צי ארצות הברית, ובמסגרתו הצליחו החוקרים לפתח רובוטים תת-ימיים ש- 'אוכלים' צואת דגים ומפיקים ממנה אנרגיה שמאפשרת להם להמשיך לפעול. למה דווקא רובוטים תת-ימיים? מכיוון שכשמם כן הם – הם צריכים לפעול מתחת לפני המים, וחייבים להסתמך על סוללות, שנוטות להתכלות תוך זמן קצר.

כדי להתמודד עם הבעיה, מציע הצי להשתמש בתאי דלק מיקרוביאליים, בתוכם ניתן למצוא חיידקים הניזונים על חומר אורגני – בעיקר צואת דגים. החיידקים ניזונים מהצואה, משילים מעליהם אלקטרונים וכך יוצרים זרם חשמלי שיכול לשמש להנעת הרובוט. תאי הדלק המיקרוביאליים נבחנו כבר בהצלחה, ואיפשרו לחיישנים להמשיך לתפקד במשך שמונה חודשים שלמים[1].

לא הכל מושלם עדיין, כמובן. לתאי הדלק המיקרוביאליים יש צפיפות אנרגיה נמוכה מאד. ייקח להם יום שלם לטעון אפילו מכשיר קטן כאייפון. כלומר, תא דלק אחד לא יספיק בוודאי כדי להמשיך לקיים רובוטים תת-ימיים (או בכלל) לאורך זמן. אבל הצי בוחן בימים אלו אפשרות להציב סוללות-ענק על קרקעית הים, שישמשו כתחנות טעינה מחדש לרובוטים. ומאיפה יקבלו הסוללות הללו את האנרגיה שלהן? מתאי הדלק המיקרוביאליים. ובעתיד הרחוק, מי יתחזק אותן? רובוטים. ומאיפה יקבלו הרובוטים הללו אנרגיה? נו, הבנתם את העניין.

בראייה ארוכת-טווח, משמעות פיתוח זה – לצד רבים אחרים שמקנים לרובוטים יכולות קצירת אנרגיה מהסביבה – היא שאמצעי הלחימה שלנו יוכלו להמשיך להתקיים בכוחות עצמם לאורך זמן, גם ללא תמיכה אנושית. אולי לא זמן רב – אולי רק מספר חודשים – אבל הרובוטים של עוד עשור, כבר יצליחו בוודאי לשמר את עצמם לפרק זמן ארוך בהרבה. אולי שנים. אולי עשרות שנים. אולי יותר.

הרובוטים שמשתפים פעולה

ומכאן לפיתוח אחר, של צבא סין דווקא, שמתחיל להביא לשדה הקרב משאית קטנה – יותר בגודל של טרנזיט, למעשה – שיכולה לשגר כטב"מים – כלי-טיס בלתי-מאוישים זעירים. כשהיא מגיעה לשדה, המשאית משגרת מיד ארבעה כטב"מי ניטור ואיסוף מידע שיכולים לטוס במשך יותר משעה באוויר ולספק דיווח בזמן-אמת משדה הקרב. ומה אם הם מאתרים איום כלשהו? במקרה זה, יכולה המשאית לשגר שמונה כטב"מי קמיקזה: רובוטים מתאבדים החמושים בשני קילוגרמים של חומרי-נפץ, וממהרים להתפוצץ ביעד במהירות של כמעט 180 קמ"ש. בדרך זו, משאית אחת מסוגלת לחלוש ביד רמה על אזור ברדיוס של עשרות קילומטרים מסביבה[2].

חברו את הידיעה הזו לקודמתה, ותתחילו לקבל הצצה לגבי עתיד הלחימה: עולם בו רובוטים – בשמים, בים ועל האדמה – משתפים פעולה ביחד. חלקם רואים מה קורה, אחרים מקבלים את המידע ומקבלים החלטה, ולבסוף – רובוטים אחרים נשלחים לפוצץ מטרות במקרה הצורך. וכמובן, חלק מהרובוטים של העתיד יוכלו גם להתקיים בכוחות עצמם לאורך זמן – אולי אפילו במשך חודשים או שנים – במהלכם ימשיכו להוציא לפועל משימות שנקבעו עבורם.

אחת מהמשאיות הסיניות המשמשות לשיגור כטב"מי ניטור וכטב"מי קמיקזה. מקור: C4ISRNET

זיהוי פנים מתקדם

אבל מה יהיו אותן משימות? כאן אנו עוברים ישירות לידיעה השלישית, שמגיעה שוב מצבא ארצות הברית. הצבא החליט לאחרונה שהוא רוצה לחמש את החיילים ברובים עם מערכות לזיהוי פנים, והוציא קול קורא לטובת העניין. הרובים של עוד חמש שנים, לפי הצבא, יוכלו להתמקד אוטומטית באנשים שהצבא חפץ ביקרם בעולם הבא, ולשפר את סיכויי הפגיעה בהם באופן משמעותי גם בטווח של 600 מטרים או יותר.

למה נועדו רובים כאלו? בראש וראשונה, הם יעזרו לשפר את יכולתם של חיילים לפגוע במטרה, מאחר והם מכילים גם מערכות לתקשורת אלחוטית, למעקב אחר כיוון הרוח ועוצמתה ולתיקון אוטומטי של כיוון הירי. שנית, המערכות לזיהוי פנים אמורות לצמצם את הסיכוי לפגיעה בחפים מפשע[3].

כל זה טוב ויפה – באמת – אבל אני לא יכול שלא לחבר את כל הידיעות האלו ביחד, ולהגיע לתרחיש העתידי שפיתחו ופרסמו מכון Future of Life ופרופ' סטיוארט ראסל, ובו מפותחים רובוטים המכונים SlaughterBots, או "רובוטי טבח". מדובר ברחפנים קטנים הנושאים כמות זעירה של חומר-נפץ, מסוגלים להתמקד על בני-אדם מסוימים, ולהתפוצץ ישירות על ראשיהם. בתרחיש המתואר, רחפנים מסוג זה מבצעים מתקפת טרור עצומת-מימדים בתריסר אוניברסיטאות במקביל, ומתנקשים בחייהם של אלפי סטודנטים. חלקם אפילו מתפוצצים במכוון על קירות וחלונות הבניין, כדי לפתוח חללים דרכם יכולים יתר הרחפנים לחדור לתוך הבניין ולאתר את מטרותיהם. עכשיו חישבו על רובוטים כאלו – ועל רובוטים שמשגרים אותם – שיכולים לשרוד לאורך חודשים ואפילו שנים[4].

וזה יקרה

תרחישי אימים שכאלו לגבי עתיד הלחימה עשויים להישמע מוזרים, אבל הם אינם בלתי-סבירים. התפתחויות רבות בלחימה נשמעו מוזרות לגנרלים מן העבר: הרעיון שצוללות יוכלו להטביע ספינות, למשל, או שטנקים יחליפו פרשים על סוסים. העובדה שהצי הבריטי התעלם לגמרי מהרעיון הראשון, כמעט הביאה לתבוסת בריטניה במלחמת העולם הראשונה. וכמובן, אי אפשר לשכוח את הציטוט המפורסם של אחד מהקצינים הבכירים הבריטיים ב- 1916, שטען כי – "הרעיון שחיל הפרשים יוחלף בכרכרות ברזל אלו אבסורדי. הוא קרוב לבגידה."

כולנו גם מכירים את הסיפור המפורסם (שאינו לגמרי אגדה אורבנית) על הפרשים הפולנים שהסתערו על הטנקים הגרמנים ללא הצלחה מרובה[5].

הנקודה שלי היא שהתפתחויות דרמטיות בעתיד הלחימה תמיד נשמעות מוזרות לאוזנינו בהווה, אבל הן בהחלט יכולות לקרות. וכן – רובוטים יכולים להתחיל לחלוש על שדה הקרב. הם מתחילים לעשות זאת כבר עכשיו. רובוטים יכולים להתחיל לקצור אנרגיה ולשרוד בכוחות עצמם גם בסביבות קשות. ההוכחה לכך קיימת כבר היום, ואנחנו מפתחים את התשתיות שיאפשרו להם לעשות זאת טוב יותר בעתיד. ואחרון חביב – רובוטים מתחילים לזהות בעצמם מטרות ולהתמקד בהן.

חברו את כל אלו ביחד, ותגיעו לתרחיש בו בני-אדם כבר אינם הלוחמים החשובים ביותר בשדה הקרב. את מקומם תופסים רובוטים, ועל אלו אנו חייבים להמשיך לבקר ולשלוט – מכיוון שאם לא נעשה זאת, הרי שחלקם יוכלו לצאת משליטה ולהמשיך להתקיים בכוחות עצמם לזמן מה. ובתרחיש המסוכן ביותר, רובוטים שכאלו יפותחו על-ידי ישויות לא-מדיניות – היינו, קבוצות טרור גדולות, כדוגמת דאע"ש – ויישלחו לבצע משימות ארוכות-טווח, מבלי פיקוח אנושי.

כל זה לא יקרה מחר בבוקר. הטכנולוגיות הללו לא יתחברו ביחד בשנים הקרובות, ועלותן צריכה עוד לרדת משמעותית לפני שטרוריסטים יוכלו לעשות בהן שימוש יעיל. אבל הדברים הללו עוד יקרו, וכדאי שנתחיל כבר עכשיו לחשוב על דרכים להתמודד עמם.

הייתי רוצה לסיים את המאמר באזהרה קשה וכאובה על כמה שצה"ל לא מוכן למהפכה הרובוטית הזו, אבל האמת היא שאף אחד לא מוכן אליה היטב – פשוט מכיוון שהיא משנה את כללי הלחימה מהקצה אל הקצה. אני יכול רק לומר שצה"ל מזמין אותי כל הזמן לדבר על הנושאים האלו בדיוק עם קצינים רבים (אני משוכנע שיש כמה אומללים בצה"ל ששמעו אותי חוזר על אותה הרצאה בדיוק כמה עשרות פעמים) – ושיש הבנה שמשהו צריך להיעשות.

אבל מה בדיוק? את התשובה נצטרך לגלות – בעתיד.

[1] https://www.newscientist.com/article/2201482-us-navy-tests-underwater-robots-that-recharge-by-eating-fish-faeces/

[2] https://futurism.com/the-byte/chinese-military-drones-artillery

[3] https://futurism.com/the-byte/us-army-facial-recognition-rifle

[4] https://www.youtube.com/watch?v=ecClODh4zYk

[5] https://www.historyanswers.co.uk/history-of-war/polish-cavalry-vs-german-tanks-the-lies-the-betrayal-and-the-unlikely-truth/

על שוטרי-העל של לונדון – וכיצד הם מוחלפים באלגוריתמים (גרועים) לזיהוי פנים

על שוטרי-העל של לונדון – וכיצד הם מוחלפים באלגוריתמים (גרועים) לזיהוי פנים

באוטובוסים בלונדון פעל מטריד מיני סדרתי במשך חודשים ארוכים, מבלי שאיש הצליח לתפוס או לזהות אותו. אספר לכם עליו, אבל הוא לא המוקד בסיפור היום.

בלונדון קיימת יחידה אמיתית לגמרי של שוטרי-על: אנשים בעלי יכולת ייחודית לזהות פנים של אחרים, גם לאחר מבט חטוף אחד לפני שנים. אספר לכם עליהם, אבל גם הם לא המוקד בסיפור היום.

החודש בלונדון, נעצר אדם על-ידי המשטרה ונקנס, לאחר שהרים את חולצתו כדי להסתיר את פניו ממצלמות האבטחה הנמצאות בכל מקום בלונדון. אותו אדם היה חף מפשע לחלוטין, ודווקא המקרה שלו מספק לקחים עבור העתיד של כולנו.

סכנה באוטובוסים בלונדון

אילאן קאראטיפה היה תוקף מינית סדרתי. הוא היה עולה על אוטובוסים רבים מדי יום, ומחפש אחר קורבנות. הוא היה יושב לצד נשים צעירות באוטובוסים הומי-אדם, פתח עיתון כדי להסתיר את מעשיו, ואז היה מבצע את זממו. בשנת 2014 הזעיקה נערה בת 15 את המשטרה לאחר שקאראטיפה חפן את מפשעתה, אך התוקף הצליח לרדת מהאוטובוס בזמן ולהיעלם בין שלל עוברי-האורח ברחוב. שני אירועים נוספים דווחו למשטרה – ונראה סביר שהיו רבים אחרים שמעולם לא דווחו.

השוטרים בחנו את התיעוד שהתקבל ממצלמות האבטחה באוטובוסים וברחובות. למזלם, היה שפע של תיעוד. לפי חלק מההערכות, בלונדון קיימות יותר ממיליון מצלמות המותקנות ברחובות ובתשתיות. על כך אמר אחד מראשי העיר הקודמים –

"כשאתה הולך ברחובות לונדון, אתה כוכב קולנוע. אתה מתועד על-ידי יותר מצלמות משאתה יכול לדמיין."

השוטרים מצאו בקלות סרטונים המתעדים את מעשיו של קאראטיפה, אך הם לא הצליחו לעמוד על זהותו. התמונות המתקבלות מהמצלמות הללו אינן ברזולוציה גבוהה, ובניגוד למתרחש בסדרות המשטרה הטלוויזיוניות, הבלשים אינם מסוגלים להגדיל את התמונה ולהתמקד באדם מסוים מבלי לאבד חלק גדול מהרזולוציה הנמוכה ממילא. באמצעות הצלבת כרטיסי התעבורה (הרב-קו הלונדוני) בהם נעשה שימוש בכל שלושת המקרים, משטרת לונדון הצליחה לזהות את הכרטיס הספציפי בו השתמש קאראטיפה, אך הוא רכש אותו במזומן – ולכן לא ניתן היה לגלות את זהות הרוכש.

השוטרים המשיכו לעקוב אחר כרטיס התעבורה האמור, וגיבשו ניחוש כי האיש גר בקמדן – אחד מפרברי לונדון. טוב ויפה, אלא שבקמדן גרים כמעט 25,000 אזרחים. אז מה עושים עכשיו?

וכך הוזעקה יחידת מזהי-העל של לונדון לפעולה[1].

מזהי-העל של לונדון

אליסון יאנג הייתה שוטרת קהילתית צעירה מן השורה, עד שיום אחד זומנה לסקוטלנד יארד, שם התבקשה לעבור מבחן לזיהוי פנים. לצד עשרות שוטרים נוספים, ישבה יאנג מול מחשב נייד עליו הוקרנו תמונות פנים על-גבי פנים, והתבקשה להצביע על זהויות שחזרו על עצמן. כשהמבחן הסתיים, היה ברור שיאנג נמנית על אחד ממזהי-העל: אנשים המסוגלים לזהות אחרים בעקבות מבט חטוף בתמונותיהם, ולשמר את היכולת לאורך שנים.

למרות שזו נשמעת כמו התחלה לסדרה טלוויזיונית, מזהי-העל של משטרת לונדון באמת קיימים, ויכולותיהם נבדקו ואושרו על-ידי מדענים. כפי שיש אנשים שגרועים במיוחד בזיהוי פנים (כותב שורות אלו נמנה עליהם), כך ניתן גם למצוא את אלו שמוצלחים במיוחד במטלה. הם עדיין יכולים לטעות, אך לפי המספרים שמשחררת היחידה לציבור, בשבעים ושלושה אחוזים מהמקרים בהם הסתמכה המשטרה על מזהי-העל, הוגשו אישומים פליליים כנגד המזוהים. בשלושה-עשר אחוזים מהמקרים, הסתבר שהזיהוי שגוי.

נתונים אלו, אם לומר את האמת, אינם מעודדים. קל למצוא במה להאשים אדם, ברגע שפניו 'זוהו' על-ידי המשטרה. והגשת אישום פלילי כנגד אדם כלשהו, אינה מעידה בהכרח על כך על אשמתו. למרות כל ההסתייגויות הללו, לסיפורנו האנקדוטלי יש סוף טוב: יאנג ועמיתה ביקרו בתחנת הרכבת בקמדן, ומיד זיהו את קאראטיפה מבין אלפי האנשים שהסתובבו במקום בשעת העומס. הם צפו בו כאשר רכש עיתון – מאותו סוג בו השתמש כדי להסתיר את מעשיו – ועזב את התחנה. הם שעטו בעקבותיו ועצרו אותו. הוא הודה בהכל.

וזה סוף טוב, אבל בכל זאת: שלושה-עשר אחוזי שגיאה? מזהי-העל הטובים ביותר שהאנושות יכולה להעמיד לרשותנו, עדיין שוגים בכמעט חמישה-עשר אחוזים מהמקרים? המשמעות היא שבין כל מאה אנשים אותם עוצרת המשטרה – לעתים קרובות מדי בשימוש בכוח – ניתן יהיה למצוא שלושה-עשר אנשים חפים-מפשע. ולא נעים לומר, אבל גם חפים-מפשע עלולים להתוודות בפשעים שלא ביצעו, או להפסיד במשפט על לא עוול בכפם.

האם באמת איננו יכולים למצוא שיטה יעילה יותר, בטוחה ואחראית יותר לזהות פנים?

וכאן נכנסת לסיפור הכוכבת האמיתית, שאינה אנושית כלל.

זיהוי פנים בלונדון

טכנולוגיות זיהוי פנים קיימות כבר מזה זמן רב, אך בשנים האחרונות הן מגיעות לאחוזי דיוק גבוהים יותר מאי-פעם. בסין, בה נמצאות מצלמות בכל פינה בערים, הצליחו אלגוריתמים לזהות את פניו של פושע, מתוך שישים אלף מבקרים בקונצרט רוק, והשוטרים נשלחו לעצור אותו לפי מספר השורה בה ישב[2]. עיתונאי מרשת BBC זוהה ונעצר על-ידי משטרת סין, בעיר עם 4.3 מיליון תושבים, תוך שבע דקות בלבד – בזכות העובדה שהמשטרה הוסיפה את תמונת פניו למאגרי המידע שלה. למזלו של העיתונאי, היה מדובר בניסוי בלבד, בו השתתף מרצון[3].

ההצלחות האנקדוטליות אכן מרשימות, אך התבוננות מעמיקה יותר בנתונים חושפת תמונה לא-פשוטה – ואת זה אפילו בני-האדם יכולים לזהות. האלגוריתמים לזיהוי פנים מגיעים לאחוזי דיוק גבוהים, אך כאשר הם מורצים על פניהם של מיליוני אנשים מדי יום, חייבות להתרחש גם טעויות. כמה אנשים חפים מפשע נעצרים לבדיקה ברחובות סין, מכיוון שפניהם סומנו על-ידי המכונה, אך את סיפוריהם איננו שומעים כלל?

אנו יכולים להבין טוב יותר את יכולותיה של המערכת לפי מידע ששחררה משטרת דרום וויילס בעקבות דרישה מצד הציבור ב- 2018. מסתבר שבשבוע האחרון של ליגת האלופות ב- 2017 בבריטניה, זיהתה המערכת בהצלחה 173 אנשים. זה נשמע טוב, אבל שימו לב לנתון הבא: 2,297 אנשים חפים מפשע, זוהו על-ידי המערכת כפושעים[4].

טבלה באדיבות משטרת דרום וויילס, הממחישה את ההצלחות בזיהוי לעומת האשמות שגויות.

לזכות משטרת דרום וויילס נציין שהמערכת הייתה צריכה לנתח את תמונותיהם של חצי-מיליון אנשים, ושרבות מהתמונות היו באיכות נמוכה[5]. אני מנחש גם שאם מזהי-העל המפורסמים של לונדון היו צריכים לעבור על כל אותן חצי-מיליון תמונות, הם היו מגיעים לאחוזי שגיאה גבוהים יותר. ובכל מקרה מדובר היה במערכת ניסויית בלבד, כך שאף אחד מאותם אנשים חפים מפשע לא נעצר באופן פיזי על-ידי המשטרה (כנראה). ועם זאת, קשה שלא לתהות: מה יקרה כשמערכות כאלו, עם אחוז שגיאה פרקטי גבוה כל-כך, ינחו את השוטרים ברחוב?

בלי פניקה

לא צריך להיכנס לפניקה. לפחות, עדיין לא. קרוב לוודאי שגם רוב גופי השיטור יעדיפו שלא להשתמש במערכות עם אחוז שגיאה פרקטי גבוה כל-כך. למשטרה אין משאבים מיותרים להוציא על חקירת אלפיים בני-אדם שחטאם היחידי הוא שמערכת בינה מלאכותית סברה שהם דומים מדי במראיהם ליצחק אברג'יל או ליעקב אלפרון. גופי השיטור במדינות הדמוקרטיות גם מודעים היטב לכך שארגוני זכויות האדם מזנבים בהם, ועיריית סאן פרנסיסקו אפילו לקחה צעד החלטי לאחרונה וקבעה בחוק כי המשטרה אינה מורשית להשתמש בטכנולוגיות זיהוי פנים בשטח העיר[6].

אבל הטכנולוגיות ימשיכו להתפתח. אנו נמצאים רק בעשור הראשון בו טכנולוגיות זיהוי פנים הגיעו לרמה בה ניתן להשתמש בהן ביעילות. כאשר איכות התמונות תשתפר, וכאשר ניתן יהיה להפיק מידע נוסף ממספר רב של מצלמות ולהצליבו באופן אוטומטי ויעיל, נוכל לצפות לכך שמשטרות בכל העולם יעשו שימוש בטכנולוגיות לזיהוי פנים.

זוהי הזדמנות גדולה – ואיום גדול – לחירות האזרח. בכל חברה מתוקנת יש צורך לזהות ולהעניש את הפושעים ואת העבריינים, ולהגן על החפים מפשע. טכנולוגיות זיהוי פנים והצלבת מידע ברמה גבוהה, יכולות לצמצם דרמטית את מספר הנאשמים על לא עוול בכפם, ואת המשאבים שמשקיעה המשטרה בחקירת כל אדם. כל חף מפשע שזומן בעבר לחקירת משטרה בעקבות חשד, יכול לספר עד כמה החוויה מטלטלת ומערערת. טכנולוגיות יעילות לזיהוי פנים יכולות למזער את מספר האנשים שעוברים אותה, ובמקביל – לסייע למשטרה להתמקד בפושעים האמיתיים.

ובמקביל, אי אפשר להתעלם ממשמעויותיה הרחבות יותר של הטכנולוגיה. כולנו מנוטרים גם כך באופן מתמיד על-ידי החברות הגדולות – פייסבוק, אמזון, גוגל – ובמקומות רבים גם על-ידי מצלמות הממוקמות בשטחים ציבוריים. זהו אינו דבר רע בפני עצמו. החברות אוספות עלינו מידע, אך הן עושות זאת בעיקר על מנת למצוא דרכים לשרת אותנו טוב יותר (ועל הדרך להרוויח כמה גרושים לעצמן – שאיפה הגיונית וראויה). המשטרה יכולה לקבל גישה למידע רק במקרה בו מתעורר חשד רציני לגבי אדם כלשהו, ושוב, כך ראוי שיהיה.

אבל מה קורה כשהמשטרה עצמה אינה מבינה כבר את הגבולות הראויים בתוכם היא צריכה לפעול?

זה מה שקרה בלונדון (כן, לונדון שוב) לפני שבוע, כאשר אדם נעצר ברחוב מסיבה פשוטה אחת: הוא בחר לכסות את פניו, במקום להציגם בגלוי למצלמות שברחוב.

 

פחד ואימה ברחובות לונדון

במזרח לונדון מתבצע לאחרונה ניסוי בזיהוי פנים בזמן אמת. מצלמות משוכללות סורקות את פני העוברים והשבים, ומזהות מיד את פניהם של מבוקשים. המשטרה טוענת כי טכנולוגיה זו תוכל למנוע ולגלות מקרי פשע באמצעות זיהוי מקדים של הפושעים. אלא שלא כולם מרוצים מהטכנולוגיה החדשה, ואחד מעוברי האורח בחר לכסות את פניו. הוא נעצר מיד, והשוטר שבמקום הסביר כי אסור היה לו להסתיר את פניו מהמצלמות. האיש התעצבן, התווכח עם השוטרים, וזכה לקנס של תשעים פאונד – ובסופו של דבר גם צולם[7].

אולי מיותר לציין, אבל במדינות מעטות בלבד יש חוק שאומר שאדם אינו יכול לכסות את פניו בעת שהוא הולך ברחוב[8]. אלא שהשוטרים אפילו לא האשימו את האזרח בכך שעבר על החוק, אלא פשוט בכך שהתנהג באופן חשוד, מכיוון שלא הסכין עם כך שטכנולוגיית זיהוי הפנים תופעל עליו במרחב הציבורי, בניגוד לרצונו. הוא לא ניסה להשחית את המצלמות, או לעורר מרי ציבורי, אלא רק פעל לכיסוי פניו – ועל כן נגרר מיד הצידה על-ידי השוטרים.

מקרים מסוג זה חושפים את הסכנה שבשימוש בטכנולוגיה, מבלי קידוד ראוי של הנהלים האתיים – ושהשוטרים שמופקדים על הטכנולוגיה יבינו אותם ויפעלו לפיהם. הבעיה האמיתית אינה הטכנולוגיה, אלא השימוש שאנו עושים בה. הבעיה אינה באיסוף המידע – הוא נאסף בכל מקרה – או אפילו בניתוח המידע. הבעיה האמיתית היא בקביעת החוקים, הכללים והנהלים שימנעו שימוש לרעה בכוח שהמידע מספק. המצלמות יגיעו לכל מקום, במוקדם או במאוחר. למעשה, הן נמצאות כבר עתה ברחובותינו, במחשבים ובטלפונים החכמים שלנו. השאלה האמיתית היא האם נשכיל להגדיר לממשלות ולחברות כיצד מותר וראוי שישתמשו ביכולות שהטכנולוגיות מעמידות לרשותן.

* תודה לאסף רזון שיידע אותי לגבי המקרה בבריטניה. כמו כן, ספרי האחרון – "השולטים בעתיד" – עוסק בעתיד השלטון והדמוקרטיה. אפשר גם למצוא התייחסות לנושא זה בשיחתי האחרונה בפודקאסט "חומר להקשבה" , על עתיד הדמוקרטיה (קישור כאן).

[1] https://www.newyorker.com/magazine/2016/08/22/londons-super-recognizer-police-force

[2] https://www.bbc.com/news/world-asia-china-43751276

[3] https://www.bbc.com/news/av/world-asia-china-42248056/in-your-face-china-s-all-seeing-state

[4] https://www.scribd.com/document/377980664/South-Wales-Police

[5] https://www.zdnet.com/article/facial-recognition-system-had-7-percent-hit-rate-at-2017-champions-league-final/

[6] https://www.nytimes.com/2019/05/14/us/facial-recognition-ban-san-francisco.html

[7] https://blokt.com/news/uk-met-police-run-facial-recognition-trials-man-fined-90-for-covering-his-face

[8] https://en.wikipedia.org/wiki/Anti-mask_laws

איך להתמודד עם נטורי קרתא

איך להתמודד עם נטורי קרתא

"שמעת על נטורי קרתא, שעצרו כבאית שהוזעקה כדי לכבות שריפה בשכונה שלהם?" שאל אותי חברי איש המחשבים נאור באפטר-פארטי שאחרי מסיבות יום העצמאות. "הם נשכבו מתחת לגלגלים שלה, ואז כשעצרה הם טיפסו עליה, תלשו ממנה את דגל ישראל ושרפו אותו בהפגנתיות. ומה שיותר גרוע, הם עיכבו את כל מבצע כיבוי האש והזיקו כך לאחרים."

"כן," הסכמתי איתו. "נורא, מחריד, וכל זה."

"אבל יש לי פתרון!" הוא הכריז.

"נשמע."

"יש היום מנועי בינה מלאכותית שיכולים למדל את הדרך בה פורצות הפגנות." אמר. "הם מזהים את האנשים עם ההשפעה הגדולה ביותר, כדי שיהיה אפשר לבצע בהם… נאמר, סיכול ממוקד… כדי למנוע מהפגנה המונית להתממש."

"אתה לא מציע להרוג בנטורי קרתא, נכון?" שאלתי בחשש.

"כמובן שלא!" הוא נראה מזועזע. "גם הם בני-אדם, וחוץ מזה הריקושטים יוכלו לפגוע בסביבה. הפתרון שלי הרבה יותר פשוט. הכבאית תהיה מחוברת לאינטרנט, והבינה המלאכותית תוכל לזהות את הפנים של נטורי קרתא המשפיעים ביותר, לכוון עליהם תותח מים תוך כדי נסיעה ברחוב, וברגע שינסו לצאת מדלתות בתיהם כדי להסתער על הכבאית, הם יקבלו שפריץ רציני לפנים – מהסוג שזורק אותך אחורנית. והכל יקרה בצורה אוטומטית. אף אדם לא יעז להסתער לבדו על כבאית, חוץ מהקיצוניים ביותר – ואותם הבינה המלאכותית תזהה ותסכל. אני מבטיח לך שהרחוב יישאר פנוי לחלוטין ככה."

"אבל מה אם הם ישתמשו בטלפונים החכמים שלהם כדי לתאם הסתערות משותפת?" שאלתי. "אתה לא יכול להתמקד בכולם באותו הזמן."

"הכבאית תישא גם מכשיר שישבש את אורכי הגל באמצעותם מתקשרים טלפונים חכמים." הוא ענה מיד.

"ומה אם יצעקו אחד לשני מבית לבית?"

הוא פטר את שאלתי כלאחר יד. "נפעיל את הסירנות של הכבאית, ואף אחד לא יוכל לשמוע כלום בגלל הרעש."

"הבנתי." אמרתי. "אז אתה רוצה כבאית אוטונומית, עם סירנות שיחרישו את כל הרחוב, שתשתק את כל השידורים מסביבה, ותשפריץ מים על כל נטור קרתא עוין ובעל השפעה. אבל איך היא תזהה למי יש השפעה ולמי אין?"

"פשוט מאד!" הוא הריע. "נדרוש מנטורי קרתא להתחבר לפייסבוק, וכך יהיה לנו את כל המידע הנדרש עליהם."

"בעצם," הוא שקע לרגע בהרהורים, "אם הם יתחברו לפייסבוק וייחשפו לדיעות של אחרים, אולי אפילו לא נזדקק לכל זה. הם יתחילו להתדיין עם אנשים, להבין שגם אחרים הם בני-אדם ושצריך להתחשב בכולם, וימתנו את הגישות הקיצוניות שלהם!"

בהינו זה בזה לרגע בזמן שהדברים חלחלו, ואז התחלנו לצחוק.

יש דברים שכל-כך אבסורדיים, שאין טעם בכלל לדבר עלהם.

 

רוסיה כמורדור: מלחמת הבוטים בגוגל כמשל למאבקים על שליטה בעולם

רוסיה כמורדור: מלחמת הבוטים בגוגל כמשל למאבקים על שליטה בעולם

פוסט זה התפרסם במקור בטור במגזין גלובס


לפני שנה וקצת אירע דבר מוזר באינטרנט: גוגל טרנסלייטור, המתרגם האוטומטי של גוגל, החל לתרגם את המונח "פדרציה רוסית" ל"מורדור". למי שלא מכיר, "ממלכת מורדור, שבה הצל לא נרדם", היא מקום מושבו של שר האופל בעולם הפנטזיה של "שר הטבעות".

מה גרם למתרגם האוטומטי לקשר בין "הפדרציה הרוסית" לבין ממלכת האופל הדמיונית? ולפני שתחשבו שמדובר בדבר של מה בכך, נזכיר ש-500 מיליון אנשים עושים שימוש בשירותי התרגום של גוגל. שירותי התרגום של גוגל מאפשרים לאנשים ממדינות שונות לשתף פעולה ולעשות עסקים ביחד.

אבל אם בשיתופי-פעולה בינלאומיים עסקינן, רוב הרוסים לא יעריכו את העובדה שהם מזוהים כאורקים (יצורים מפלצתיים) וטרולים (מעצבנים) בעיני גוגל. אז מה קרה כאן?

שירות התרגום של גוגל מהווה דוגמה לבינה המלאכותית החדשה: כזו שאינה מתוכנתת על ידי בלשנים בכירים, שמקנים לה כללים ברורים להבנת השפה, אלא מתוכננת כישות לומדת, העוברת על מידע רב ומזהה בעצמה את דפוסי השפה בדומה לילד אנושי. המערכת עוברת על פורומים, עמודי רשת ומסמכים בכל השפות, ומגיעה למסקנות בנוגע לדרך התרגום המתאימה ביותר עבור כל מילה ומילה. כמו כל ילד, היא לומדת מהעולם שמסביבה.

אבל מה קורה אם העולם מנסה לרמות אותה?

במקרה של הפדרציה הרוסית, נראה שבני-האדם אכן הצליחו לרמות את המתרגם האוטומטי. גולשים אוקראינים רבים החלו לכנות את הפדרציה הרוסית בשם הגנאי "מורדור", בעקבות מלחמת רוסיה-אוקראינה ב-2014. המתרגם האוטומטי של גוגל ראה, למד והבין בהתאם: הפדרציה הרוסית הפכה לממלכת השחור, ושם המשפחה של שר החוץ של רוסיה תורגם ל"סוס קטן עצוב".

הפרשייה מעלה שאלות פילוסופיות וחברתיות מרתקות. ניתן לטעון ובצדק, שהמתרגם האוטומטי של גוגל מנסה ללמוד את החברה האנושית מתוך דפוסי הדיבור והכתיבה שלה. אם לא ניתן לו לעשות כן, אנו למעשה מקבעים את השפה הקיימת כיום – ואת הערכים המוטמעים בה – וכופים אותם על דור העתיד. ידוע לכול כי השפה האנושית היא דינמית ומשתנה כל העת, כדי לאמץ רעיונות ומושגים חדשים. למשל, המונח "לגגל" הוא תוצר של השתנות טבעית של השפה. כך גם "ג'מבו", שהיה במקור פיל עצום שריתק את תושבי העולם המערבי; והמילה Nimrod, שרכשה באמריקה משמעות חדשה כ"דביל". כנראה, משום שבאגס באני (הארנב) השתמש בה תכופות כתיאור גנאי לאלמר פאד (צייד הארנבים).

השאלה היא – האם השפה באמת משתנה מעצמה, כתוצאה מכך שמיליוני אנשים מתחילים מרצונם להתייחס לרוסיה כ"מורדור"? לאו דווקא. המתרגם האוטומטי של גוגל מסתמך גם על תוצרי עבודתם של בוטים – אלגוריתמים פשוטים יחסית, המסוגלים לכתוב או לערוך תוכן באינטרנט. בוטים כאלו קיימים בכל מקום. לפי חלק מההערכות, ב-2009 בוטים הפיקו רבע מכל הציוצים בטוויטר, 'צפו ביותר ממחצית מכל המודעות באינטרנט ב-2013, וביצעו עד למחצית מכל העריכות בוויקיפדיה.

המתרגם האוטומטי של גוגל לומד מתוצרי כל הבוטים האלו, ומי שמתכנת בוט להפיץ מידע מסוים, יכול להשפיע בדרך זו על השיח ברשת ועל דרך הדיון והשפה. הבוטים האלו אפילו נלחמים זה בזה כדי למשוך את תשומת לבנו או לתקן 'טעויות' של בוטים אחרים, כפי שהודגם במחקר על ויקיפדיה מהשנה האחרונה.

תסריטאי המדע הבדיוני אוהבים לספר לנו על מלחמות רובוטים בבני-אדם, ומלחמות רובוטים ברובוטים. הקרבות האלו החלו בעשור האחרון, אלא ששדה הקרב אינו בעולם הפיזי, אלא בזירת הידע האנושית. לרובוטים המודרניים הללו אין גוף משלהם. הם אלגוריתמים פשוטים שמתחרים זה בזה כדי לעצב את הידע שלנו על העולם.

לא אתפלא אם גם מאחורי פרשיית "מורדור" נגלה חבורה של מתכנתים שפיתחו בוטים המנסים להפיץ את המם החדש ולהשפיע בדרך זו על גוגל. הניסיון אולי משעשע, אבל הוא חושף תופעה עגומה. אם במקור נועדה רשת האינטרנט להיות שוק פתוח של רעיונות המתחרים זה בזה, הרי שהמציאות מראה לנו תוצאה אחרת: מי שמפעיל את הבוטים ביעילות הגבוהה ביותר, מצליח יותר להפיץ את עמדותיו. כפי שלמדנו לאחרונה מהצהרת טוויטר לקונגרס האמריקני, בוטים בחסות רוסיה סייעו להפיץ כמעט חצי-מיליון מציוציו של דונלד טראמפ במהלך מסע הבחירות, אך כמעט לא הפיצו את הציוצים של מתחרתו הילארי קלינטון.

התוצאה ברורה.

מי הפעיל את אותם בוטים? אותו אדם שעשה שימוש נרחב בבוטים בשנים האחרונות כדי להשפיע על הדיונים הציבוריים במדינות המערב, והוסיף ואמר בשנה האחרונה, כי "המדינה שתוביל בבינה המלאכותית, תשלוט בעולם".

יודעים מי זה? ולדימיר פוטין, כמובן, מנהיג הפדרציה הרוסית. אז בעצם, אולי מורדור אינה טעות אחרי הכול.


אתם מוזמנים לקרוא עוד על רעיונותיי לגבי השלטון, הדמוקרטיה והממשל בספרי "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

הרחפנים מגיעים: כוחות רוסיים הותקפו לראשונה ע"י להק רחפנים

הרחפנים מגיעים: כוחות רוסיים הותקפו לראשונה ע"י להק רחפנים

בשבוע האחרון אירעה מתקפה יוצאת-דופן, מהסוג שמסמל שאנו נכנסים לתקופה חדשה בהיסטוריה של המלחמה. לאורך כל הלילה ב- 5 לינואר, הותקפו הכוחות הרוסיים בסוריה על-ידי להק שלם של רחפנים. זוהי המתקפה הראשונה מסוגה אי-פעם, אך היא בוודאי לא תהיה האחרונה.

לפי משרד ההגנה הרוסי, שלושה-עשר רחפנים – כנראה של אחד מהכוחות היריבים בסוריה – עטו על הכוחות הרוסיים והפילו על החיילים והרכבים פצצות קטנות תוצרת-בית. ואם השימוש ברחפנים לא מספיק כדי לעורר את הדימיון, הרי שמסתבר שהפצצות עצמן היו מצוידות בסנפירי פלסטיק שהודפסו במדפסת תלת-ממד ביתית.

3d printed drone bombs.jpg

הפצצות המודפסות שנשאו הרחפנים. מקור: משרד ההגנה הרוסי.

הרחפנים עצמם רחוקים מלהיות כלי מלחמה מרשימים. הם מורכבים משילוב של חלקי עץ ופלסטיק המודבקים ביחד, בתוספת מקלעת לנשיאת הפצצות. ואף על פי כן, אנו יודעים כבר שצבאות כיום אינם ערוכים להתמודד היטב עם נשקים אלו. קשה להפיל רחפנים באמצעות כלי-נשק קונבנציונליים כמו מכונות ירייה, ורוב הטילים אינם מסוגלים להינעל על מיקום הרחפנים בשל חתימת הרדאר הקטנה וחתימת החום המזערית שלהם.

למרות כל זאת, לא נראה שלהק הרחפנים הזיק באופן משמעותי לכוחות הרוסיים. לפי הדיווחים, הרוסים השתמשו בנשקים נגד-מטוסים כדי להשמיד בהצלחה חלק מהרחפנים, והפעילו נשקים אלקטרומגנטיים מסוג לא ברור, באמצעותם חסמו את השליטה מרחוק על הרחפנים. במבט לטווח קצר, ברור שהמתקפה נכשלה.

אבל מה עם הטווח הארוך?

בראייה לעתיד, קל לנחש שרחפנים עומדים לקחת חלק משמעותי בלחימה. בארצות הברית בלבד אפשר למצוא מספר תכניות שונות לשילוב להקי רחפנים שלמים במלחמה: פרויקט Perdix, למשל, הדגים לאחרונה[1] שיגור של 103 רחפנים ממטוס באוויר, שכל אחד מהם שוקל פחות מחצי-קילו, וכולם טסים ומתקשרים ביחד על מנת לבצע משימה מסוימת. פרויקטים אחרים כוללים את LOCUST, בו משגרת ספינה עשרות רחפנים אוטונומיים לאוויר[2], ואפילו שימוש בטילים שישגרו עשרות רחפנים חכמים, שכל אחד מהם יהיה חמוש בטיל חודר-שיריון קטן[3].

למה ההתלהבות הגדולה מהרחפנים? פשוט: הם מספקים אלטרנטיבה לכלי-נשק גדולים, מגושמים ויקרים, שפגיעה אחת יכולה להוציא אותם מכלל פעילותלהק רחפנים יכול להמשיך לתפקד ולבצע את המשימה גם אם חלק מהרחפנים נפגעו. וכאמור, יש להם חתימת רדאר קטנה וחתימת חום נמוכה שמאפשרות להם להתחמק מגילוי ומיירוט מהשמים.

כל זה לא אומר שהרחפנים יהיו 'בלתי מנוצחים' בעתיד. כמו כל כלי לחימה חדש, הצבאות כיום עדיין אינם מוכנים לקראתם, אך במלחמה שאחרי-הבאה כבר נדע להתמודד עמם טוב יותר. ניתן לקטוע את התקשורת עם הרחפנים בדרכים מסוימות, על מנת למנוע את השליטה בהם מרחוק, למשל. ולפחות נכון להיום, רחפנים עדיין רועשים למדי, כך שקשה להשתמש בהם לביצוע פיגועים חרישיים בבסיסים צבאיים.

ולמרות הקשיים שבדרך, קשה שלא להתרשם מהפוטנציאל של הרחפנים בשדה הקרב. סביר להניח שכבר בעשור הקרוב יפותחו להקי רחפנים שיוכלו להתמודד בכבוד עם לוחמים אנושיים, עם כלי-רכב משוריינים ואפילו עם מטוסים בשווי של עשרות מיליוני דולרים. וכדאי שנהיה מוכנים לקראתם.


 

אם מעניין אתכם לקרוא עוד על עתיד הרחפנים, הטרור ובאופן כללי על הדרך בה הטכנולוגיה תשפיע על החברה, אתם מוזמנים לקרוא את ספרי "השולטים בעתיד" (קישור לרכישה).

[1] https://www.stripes.com/news/pentagon-unveils-perdix-micro-drone-swarm-1.448124

[2] http://www.navy.mil/submit/display.asp?story_id=86558

[3] https://www.newscientist.com/article/2118412-us-army-wants-to-fire-swarm-of-weaponised-drones-from-a-missile/