עוד התקדמות בדרך לאל הממוחשב ששומע הכל ורואה הכל

עוד התקדמות בדרך לאל הממוחשב ששומע הכל ורואה הכל

בפינתנו היום אני רוצה לסקור פיתוח חדש של מיקרוסופט, שבמבט ראשון אינו נראה מרשים במיוחד. בראייה רחבה יותר, אני מאמין שהוא מרמז על כוחה של הבינה המלאכותית לשנות את העולם.

הרעיון עצמו פשוט למדי: חוקרים במעבדות מיקרוסופט פיתחו מערכת חדשה לתמלול פגישות בעולם הפיזי. במקום להסתמך על מיקרופון אחד בלבד, המערכת מתחברת לכל הסמארטפונים והמחשבים הניידים בחדר, ומקבלת מידע מהמיקרופונים שלהם בזמן אמת. המידע הזה עובר אינטגרציה, כך שבסופו של דבר, המערכת מסוגלת להבין ולתמלל את הדיבור בחדר, טוב יותר מכפי שהייתה יכולה לעשות זאת בהסתמך על מיקרופון אחד בלבד[1].

למה זה חשוב? מכיוון שאנו רואים כאן את ההתחלה של תפישה חדשה, שמסתמכת על 'מוח' ממוחשב המסוגל לקבל מידע ממספר רב של ערוצים בו-זמנית, ולהפיק ממנו משמעות. אנו איננו יכולים לעשות זאת: אנו מוגבלים למידע שמיעתי המגיע משני ערוצים בלבד – אוזן ימין ואוזן שמאל. אבל 'מוחות' ממוחשבים אינם ניחנים במגבלה דומה, והם מסוגלים לקבל מידע שמיעתי מעשרות, מאות ואפילו אלפי ערוצים. כל עוד הם ניחנים בכוח המחשוב הנחוץ, הם מסוגלים להפיק תובנות בעלות משמעות מכל המידע הזה.

יש השלכות עצומות לתפישה הזו. דמיינו שאתם מגיעים להרצאה בעוד חמש שנים. ברגע שאתם נכנסים לאולם, הטלפון שלכם מצטרף אוטומטית לרשת הרחבה שכוללת את הסמארטפונים של כל המאזינים האחרים. כל הטלפונים מקשיבים ביחד למרצה, ובסוף ההרצאה תקבלו את התמליל המדויק של כל מה שהוא אמר.

אבל למה לעצור במידע שמיעתי בלבד? בפעם הבאה שתלכו לקונצרט רוק עם אלפי אנשים בקהל, תוכלו לשתף גם את המידע החזותי המתקבל מהסמארטפון שלכם. כלומר, את קטעי הווידאו שאתם מצלמים. כל קטע וידאו כזה בפני עצמו אינו מעניין במיוחד, אבל זכרו שעשרות אנשים מצלמים כל הזמן, כל אחד מנקודה אחרת בקהל. אלגוריתמים מתקדמים יוכלו לאחות את כל הצילומים הללו כדי להפיק סרטים של האירוע השלם.

התפישה הזו פותחת גם צוהר לעולם העבודה החדש. באחת מהופעותיי האחרונות על הבמה באוסטרליה, טכנאי הסאונד גיחך קלות כששמע שאני סבור שהבינה המלאכותית יכולה לגזול מקומות עבודה מבני-אדם.

"ומי יחבר לך את המיקרופון לדש?" הוא שאל, תוך שידיו עוברות על גופי במיומנות. "מי ישחיל את הכבלים מתחת לחולצה שלך, ויחבר את הסוללה והמקלט לחגורה? מי יפעיל את המצלמה שמתעדת אותך על הבמה?"

והנה, אחת התשובות היא שפשוט לא יהיה צורך בכל המכשירים הייעודיים האלו. הם יוחלפו בכוח ההמון: בעשרות או מאות סמארטפונים שישתפו את המידע השמיעתי והחזותי ברמה שעולה על זו המתקבלת ממיקרופון בודד או מצלמה בודדת – משוכללים ככל שיהיו.

כמובן, אי אפשר שלא לחשוב גם על הבעיות הטמונות בתפישה זו. גופי ביון, למשל, יגירו ריר לנוכח האפשרות לשמוע הכל ולראות הכל. כבר עכשיו מקבלים גופי ביון רבים מידע מהסמארטפונים שלנו (לממשלת ארצות הברית, למשל, יש גישה לכל מה שאתם מקליטים ומעלים לענן של גוגל או פייסבוק). מה יקרה כשהם יוכלו לאחות את כל פיסות המידע הנפרדות האלו, כדי להרכיב תמונה גדולה וברורה יותר של העולם? והאם אנו רוצים באמת לתת בידיהם את הכוח הזה?

ייתכן שבעיה זו תיפתר בכוחן העתידי של טכנולוגיות הבלוקצ'יין, שאמורות ליצור רשתות תקשורת שיהיו חסינות לפריצה ולרחרוח מצד הממשלות. אולי. אבל יש עוד זמן עד אז. בינתיים, אפשר להסתפק בכך שהתפישה החדשה – זו שמספקת לבינה המלאכותית יכולת הצלבת מידע – אמורה לשרת את הציבור באמצעות שילוב הציבור עצמו. כולנו נצטרך 'לנדב' את כוח השמיעה, הראייה והתקשורת של הסמארטפונים שלנו, כדי לתת לבינה המלאכותית את המידע שהיא צריכה כדי לסייע לכולנו. כולם למען כולם.

זה בהחלט עתיד שאני יכול להתחבר אליו.

[1] https://www.microsoft.com/en-us/research/uploads/prod/2019/05/DenmarkTechReport-5ccb8b095c8f3.pdf

אוואטארים חייתיים, או – איך זכה חולה סרטן לעזרה מ- 300,000 זבובים

אוואטארים חייתיים, או – איך זכה חולה סרטן לעזרה מ- 300,000 זבובים

כשרופאיו של מר רוג'רס (שם בדוי) הבינו שהוא לוקה בסרטן המעי הגס בשלב המתקדם ביותר – עם גרורות באזורים שונים בגוף, שפיתחו כבר חסינות למספר תרופות – הם הציעו לו להשתתף במחקר ראשון מסוגו. הוא הסכים, ותוך שנה וקצת גילה שכבר אינו לבד במערכה: 300,000 זבובים, שכל אחד מהם הונדס גנטית כדי לחקות את מצבו הרפואי של רוג'רס, הצטרפו למלחמה בסרטן.

תאיו הסרטניים של רוג'רס נשאו תשע מוטציות סרטניות, שכל אחת מהן גרמה לתאים להגיב באופן שונה לתרופות, לכמותרפיה, להקרנות ולדרכים מקובלות אחרות להתמודדות עם סרטן בבני-אדם. תשע המוטציות ביחד הקנו לתאי הסרטן של רוג'רס את היכולת להדוף מעליהם בבוז מספר רב של טיפולים. הרופאים הבינו שלא ניתן להילחם ביעילות בסרטן בשלב מתקדם כל-כך, עם מספר מוטציות רב כל-כך, בדרכים קונבנציונליות. וכך, הם בחרו ליצור את צבא הזבובים המהונדסים, המכונים גם "אוואטרים חייתיים".

fly-717854.jpg

החוקרים הנדסו גנטית מספר עצום של זבובים על מנת שתאיהם יישאו את אותן המוטציות הסרטניות שבתאיו של מר רוג'רס. זו לא הייתה מטלה קשה כל-כך, מכיוון שזבובי פירות קטנים מאד (קטנים בהרבה מהזבובים שאנו רגילים אליהם בישראל) ומתרבים במהירות. מהרגע שמספרם היה גדול מספיק, החוקרים העסיקו מערכת רובוטית שטיפחה את הזבובים, האכילה אותם, והחשוב מכל – בחנה עליהם 121 תרופות שונות, כל אחת לחוד, וגם בשילובים.

זוהי מערכת מתוחכמת וחכמה למציאת רעיונות חדשים לתרופות מותאמות-אישית. כל אדם שונה מרעהו, וגידולים סרטניים שונים זה מזה גם הם. ועדיין, אנו חייבים להתמודד היום עם מקרי סרטן באמצעות הסתמכות על תוצאות שהתגלו במהלך טיפולים בבני-אדם אחרים, על גידולים סרטניים 'דומים מספיק'. ברור שזה אינו מצב אופטימלי. ניסויים על האוואטארים החייתיים, לעומת זאת, יכולים לספק לנו תשובות מדויקות יותר בנוגע לתרופות ולטיפולים המתאימים בדיוק לסוג הסרטן בו לוקה כל חולה. אחרי הכל, הזבובים לוקים באותו הסרטן בדיוק, וכל ניסוי שייערך עליהם, יוכל לספק תשובות בעלות משמעות גם עבור החולה המקורי.

במקרה של מר רוג'רס, המערכת הרובוטית זיהתה מספר שילובי תרופות ששימרו את הזבובים בחיים, והאטו את התפשטות הסרטן במעיהם. הרופאים בחרו לטפל בסופו של דבר במר רוג'רס בשילוב של תרופה נגד סרטן בשם טראמטיניב, ותרופה לאוסטאופורוזיס בשם זולדרונייט. שילוב של שתי אלו הניב את התוצאות הטובות ביותר בטיפול בזבובים – והצליח לעכב את התפשטות הסרטן של מר רוג'רס במשך 11 חודשים שלמים. לאחר זמן זה, כנראה שצברו תאי הסרטן בגופו מוטציות חדשות, והצליחו להתמודד גם עם השילוב יוצא-הדופן של התרופות. רוג'רס נפטר לאחר שלוש שנים.

חשוב לי להבהיר שעדיין לא נערכו ניסויים רחבי-היקף שיוכיחו ששימוש באוואטארים חייתיים מייעל את הטיפול בסרטן או במחלות אחרות. אף על פי כן, ברור שיש כאן פוטנציאל לייעול הטיפול ולהתאמתו באופן מדויק ביותר לסוג הסרטן שתוקף את האינדיבידואל. כך או כך, אני מתרגש במיוחד מהמערכת הרובוטית שהודגמה במחקר הנוכחי. בזכותה, מבצע של גידול זבובים ובחינת תרופות, שהיה אמור לדרוש צבא קטן של עובדי מעבדה יקרים, בוצע באופן אוטומטי כמעט לגמרי. העלות של מחקר מסוג זה בעבר הייתה אמורה להיות אסטרונומית. כיום היא… ובכן, עדיין אסטרונומית, כי המערכת עדיין חדשה. אבל בעוד חמש או עשר שנים, נוכל כולנו לזכות בטיפול דומה בעלות סבירה (כלומר, עדיין עלות גבוהה מאד, אבל שתכוסה ברובה על-ידי הביטוח הרפואי).

אנו רואים כאן כיצד מערכות רובוטיות יכולות לשנות את דרכי הטיפול במחלות מכל הסוגים. אבל למה לעצור כאן? ברור שהשלב הבא הוא ביצירת "אוואטארים אנושיים" – מאות-אלפי שחזורים של רקמות אנושיות, שכל אחד מהם מגיע מתאיו המקוריים של החולה – ובהתנסות עליהם במעבדה בזמן אמת. וגם אם רעיון זה נשמע מוזר כיום, הרי שהמערכות הרובוטיות של העתיד יוכלו לאפשר אותו בעלות נמוכה-יחסית.

זוהי עוד דוגמה לדרך בה בינה מלאכותית יכולה לעזור לנו להבין טוב יותר מחלות קיימות: לא רק באמצעות ניתוח המחלות בשימוש בכלים הקיימים והפקת תובנות, אלא גם על-ידי מתן האפשרות לעבוד עם כלים חדשים, או כאלו שלא נראו פרקטיים בעבר. ככל שהבינה המלאכותית תמשיך להשתכלל ולהשתפר, כך יגדל הקצב בו נמצא פתרונות מתקדמים יותר למחלות מכל הסוגים.


 

קישור למאמר המקורי ב- Science Advances

בינה מלאכותית אמנותית מכרה ציורים ביותר ממיליון דולרים

בינה מלאכותית אמנותית מכרה ציורים ביותר ממיליון דולרים

איידה היא ציירת, שיצירותיה הן מהמבוקשות ביותר בעולם. למעשה, למרות שהחלה לצייר רק באפריל – לפני חודשיים בלבד – היא כבר הצליחה למכור את ציוריה ביותר ממיליון דולרים. זהו הישג נדיר ביותר לאמנית בתחילת דרכה, אבל אולי לא מפתיע בהתחשב בכך שאיידה היא רובוט.

אם תגיעו לתערוכה שנפתחת בבריטניה בעוד שבוע, תוכלו להיחשף ליצירותיה של איידה – ותוכלו אפילו לפגוש אותה אישית. אם תעשו זאת, ראוי שתדעו שהיא תסרוק אתכם היטב באמצעות המצלמות שבעיניה, ותשלב את המידע שקלטה מכם ב- 'מוחה' האלקטרוני. ואז, היא תצייר, ותצייר, ותצייר. היא לא צריכה לנוח או לאכול, לטפל בילדים קטנים או לקנות אוכל בסופרמרקט. היא רק צריכה חשמל, ואת המידע שהיא קולטת מסביבה, אותו היא ממירה לציורים – יפים יותר או פחות – שהיא מעבירה לנייר באמצעות ידה הרובוטית שאוחזת בעפרון או בעט.

וכאמור, היא כבר מכרה יצירות ביותר ממיליון דולרים.

איידה – רובוטית ציירת עם הצלחה מרשימה בשיווק ובמכירת ציורים. במקור מ- Evening Standard, PA

איידה נראית בעיקר כגימיק כרגע. אחרי הכל, אין באמת צורך בתחפושת המפוארת והיקרה של רובוט הנראה כמו אשה אמיתית, או אפילו ביד הרובוטית. אלגוריתמים לציור יכולים לעשות את כל העבודה שאיידה עושה בקלות, ואז להדפיס את היצירות במדפסת פשוטה. אבל יש שלושה דברים שמייחדים את איידה ומבדלים אותה מאלגורתמים פשוטים יותר.

ראשית, מפתחיה של איידה הבינו שאין שום דבר מעניין בבינה מלאכותית שפשוט מציירת את מה שהיא רואה. "לא רצינו ללכת בדרך הפשטנית." אמר אחד היוצרים. "זהו אלגוריתם בינה מלאכותית שיצירתי לגמרי – אנחנו לא יודעים מה התוצאה תהיה."

והנה אחד התנאים החשובים ביותר לאמנות מודרנית (ובכלל): אי-הוודאות. לא מדובר כאן במכונה שממלאת בדיוק אחר הוראותינו, או שתפיק את אותם ציורים שוב ושוב אם תקבל את אותו הקלט. האלגוריתם שמאחורי איידה (לפי המעט שמפורסם עליו) פועל באופן אקראי-למחצה. כלומר, הוא משלב את כל מה שאיידה ראתה ולמדה עד כה, ביחד עם מקור ההשראה המיידי שלה, על מנת להעלות על הנייר יצירת אמנות חדשה ומקורית.

בעצם, את המשפט האחרון אפשר לומר גם עבור אמנים אנושיים.

שנית, הציורים שיימכרו בגלריה אינם באמת של איידה. הם תוצר של שיתוף פעולה בין האדם למכונה: בני-האדם עוזרים לאיידה לבחור את הסגנון האמנותי הרצוי, איידה משתמשת באלגוריתמים היצירתיים שלה כדי לשרטט על הקנבס, ואז אמנים אנושיים מוסיפים צבע וגימורים אחרונים.

בנקודה זו אתם עשויים לתהות למה צריך בכלל את איידה, והתשובה היא שאיידה (ביחד עם עוזריה / מנהליה האנושיים) אינה רק יוצרת אמנות, אלא היא עצמה יצירת אמנות. היא גורמת לנו לתהות מה משמעותה של אמנות אמיתית, ולחשוב מחדש על כל מה שמבדל אותנו מהבינה המלאכותית ומהרובוטים. היא מכריחה אותנו לשאול האם היצירתיות באמת שמורה רק לבני-האדם, או שהיא יכולה להיות נחלתם גם של 'מוחות' מבוססי-סיליקון ומערכות עצבים מלאכותיות.

אבל הדבר השלישי שמייחד את איידה ומבדיל אותה מיוצרים אנושיים הוא שהרובוטית אינה חייבת למות. יצירות אמנות מזנקות בערכן לאחר שהאמן שעמד מאחוריהן נפטר, מכיוון שכולם מבינים שהוא לעולם לא יוכל לשכפל אותן, או ליצור אמנות נוספת. זו גם אחת הסיבות לכך שעשירים גדולים נוטים לאסוף יצירות אמנות – לא רק בשל ערכן האסתטי, אלא גם (ואולי בעיקר) כהשקעה לעתיד שערכה רק עולה עם הזמן. אלא שאיידה אינה חייבת למות. האלגוריתמים שמפעילים אותה יכולים להמשיך להתקיים לנצח.

וכאן נשאלת השאלה: האם איידה באמת תמשיך לפעול לאורך זמן, או שיוצריה יוציאו אותה לגמלאות בשלב מסוים? הניחוש שלי הוא שבעוד מספר שנים, כשאנשים יפסיקו להתרגש מרובוטים יצירתיים, מפתחיה של איידה יכריזו על קצה הקרב של הרובוטית. הם יניחו לה לצייר סט אחרון של יצירות, תוך שהם מטים את האלגוריתמים שמאחוריה לכיוון המשקף את הסוף הקרב, את האבדון הממשמש לבוא, את הכסף שעומד לזרום – ואז הם ינתקו אותה מהשקע וימחקו כל זכר לאלגוריתמים. הם יהרגו אותה, וגם זו תהיה אמנות.


 

קישורים:

סיקור באתר CNET

סיקור באתר רויטרס

בסין, רובוטים מתחילים ללמד בבתי הספר ובגנים

בסין, רובוטים מתחילים ללמד בבתי הספר ובגנים

בבתי הספר בסין, רובוטים מתחילים לתפוס את מקום המורים.

זה לא כל כך מפתיע. סין מתמודדת בעשורים האחרונים עם אחוזי נשירה גבוהים מבתי הספר התיכוניים. מתוך העובדים בערים בסין, רק שלושים ושבעה אחוזים סיימו בית ספר תיכון. המצב קשה עוד יותר בכפרים, בהם רק שמונה אחוזים מהעובדים סיימו תיכון[1]. בכל כתה לומדים 49 ילדים בממוצע, משבע וחצי בבוקר עד חמש אחר הצהריים[2]. מעטים המורים המסוגלים להתמודד עם מספר תלמידים גדול כל כך, זמן רב כל כך, יום אחר יום. עד 2021, צפויה סין להתמודד עם מחסור של שלושה מיליון מורים[3].

וכך מתחילים הרובוטים להיכנס לבתי הספר בסין.

הרובוט הראשון בו נתקלים רוב הילדים נקרא בינגו. הוא מלמד בגני הילדים נושאים שונים, כגון אנגלית ומדע. הוא מסוגל לזהות תלמידים לפי פניהם, מוודא בתחילת כל שיעור שכל התלמידים נוכחים, שואל את הכתה שאלות – וגם עונה לשאלות שהילדים מעלים. הוא מסוגל לדרג את תשובות התלמידים לשאלותיו, גם לפי תוכן התשובה המילולית, וגם לפי הבעות הפנים של הילד. בסוף כל שיעור, מקבל כל ילד ציון – והתוצאות נשלחות ישירות להורים.

robot1.jpg

הרובוט בינגו מלמד בגן הילדים אנגלית ומדע, עונה לשאלות התלמידים וגם שואל אותם שאלות בעצמו ומדרג את התשובות.

כל זה לא אומר שבינגו עומד להחליף את כל הגננות או את כל המורים. אפשר לראות בצילומים מהכיתות ומהגנים שהרובוט אמנם עומד בעצמו מול הכתה, אבל ברקע תמיד משגיח גם אדם על הילדים. בינגו למעשה משדרג את השיעור, מכיוון שהוא מספק תוכן שרבים מהמורים הסיניים אינם מסוגלים להעביר לתלמידים בהצלחה. עדיין יש צורך בנוכחות אנושית, אבל בעיקר לצרכי השגחה והתמודדות עם בעיות מיוחדות. וראוי לציין שיצרנית בינגו פיתחה כבר גם גרסה של הרובוט לבית, שם הוא יכול להמשיך לסייע לילדים בסבלנות נצחית – כל עוד הוא מחובר לחשמל. העלות? בערך 150 דולרים לגרסה הביתית.

כל זה עשוי להישמע מוזר, אבל אי אפשר להתווכח עם התוצאות: בשלושת-אלפים גנים בסין כבר נעשה שימוש ברובוט, והמספר ממשיך לגדול[4].

רובוט אחר, בשם ZIB, מתחיל להופיע בבתי-ספר, שם הוא מספר סיפורים לילדים לפני שינת הצהריים, עונה לשאלותיהם במגוון נושאים, ואפילו בוחן אותם בנושאי מדע[5]. הרובוט KeeKo מבצע אינטראקציות דומות עם ילדים בגילאי שבע ומטה, ולפי היצרנית, ניחן בעצמו באינטיליגנציה של ילד בין חמש[6].

robot2.jpg

הרובוט ZIB מספר סיפורים לילדים, עונה לשאלות בנושאים שונים ובוחן את ידיעותיהם.

הרובוטים אינם רק תופסים תפקידי הוראה, אלא מעורבים גם בפעולות אחרות בבתי-הספר. באלפיים גנים בסין ניתן למצוא כיום רובוט בשם Walklake, שבוחן כל ילד שנכנס לגן מדי בוקר. הרובוט נראה כמו בובה ענקית – למעשה, לקרוא לו "רובוט" זו מחמאה, מכיוון שהוא אינו מסוגל לנוע בעצמו. אבל אי אפשר להתווכח עם התפקיד שהוא ממלא: הוא מוודא שכל הילדים שנכנסים לבתי-הספר בריאים. לשם כך הוא סורק את הטמפרטורה שלהם באמצעות מדחום האינפרא-אדום שעל מצחו, ובוחן את פניהם, ידיהם ועיניהם באמצעות המצלמות שבעיניו, בפיו ובחזהו. הוא מאתר סימנים למחלה כמו חום גבוה, שלפוחיות על הגוף, גרון כואב ועיניים מעקצצות.

כמו הרובוטים הקודמים, גם Walklake אינו מתמודד לבדו עם התלמידים. במידה והוא מאתר תלמיד חולה, הוא מתריע בפני המורים והאחיות בבית הספר על התקלה – ואלו ממשיכים את הטיפול בעבריין הבריאותי. בסוף כל יום, הרובוט שולח סיכום של כל המידע שאסף למנהל, שיכול להבין מה מצב הבריאות בבית הספר.

robot3.jpg

כשאני קורא על הרובוט, מרגיזה אותי במיוחד תגובתה של אחת מהחוקרות במערב שמוטרדת מהניכור הרגשי שהרובוט יוצר. בתגובה, שהתפרסמה במגזין ניו סיינטיסט, כתבה החוקרת כי – "להיבדק על-ידי רובוט כל בוקר כשאתה נכנס לבית הספר, נשמעת כמו חוויה מאד מנכרת לילדים צעירים – אינטראקציה ידידותית עם הרופא או האחות בוודאי תהיה טובה יותר."[7]

ובכן, היא צודקת, אבל איננו חיים בעולם אידיאלי, או שכל ילד גם היה מקבל חינוך פרטי משל עצמו. סין צריכה להתמודד עם מספר עצום של ילדים, שלעתים קרובות נשלחים לבית הספר ולגן כשהם נושאים מחלות מדבקות. הממשלה מחייבת את כל גני הילדים לבדוק את בריאותם של הילדים מדי בוקר. אם האפשרות היא לבזבז שעה שלמה מהיום בהמתנה בכניסה לבית-הספר כדי להיבדק על-ידי אדם, או לעצור לשלוש שניות במסדרון מול הרובוט (זה כל הזמן שהוא צריך כדי לאבחן אותך), לי אישית ברור מה עדיף.

כל זה לא אומר שצריך להתעלם מהפן הרגשי, או מהצורך של ילדים באמפתיה. אבל במקום בו אפשר לייעל תהליכים מכניים כמדידת חום, איני רואה סיבה להימנע משימוש ברובוטים.

סיכום

סין מהווה כיום כר מבחן להתפתחויות טכנולוגיות. הממשלה רצה קדימה אל העתיד, תוך שהיא מציעה לאזרחים – או כופה עליהם – מגוון שירותים הנסמכים על בינה מלאכותית ורובוטיקה. מבחינה זו, היא מקדימה את מדינות המערב, שאינן נמצאות באותו לחץ מתמיד מצד האוכלוסיה הגדלה. אין פלא שסין מוכנה להתנסות במגוון רעיונות חדשניים. חלקם בוודאי ייכשלו – אבל יש הרבה מה ללמוד מהכשלונות ומההצלחות כאחד.

בשנים הקרובות נראה האם הרובוטים ממשיכים להתפשט בבתי הספר ובגני הילדים בסין. אם כך יקרה, ואם הרובוטים ינחלו הצלחה בלימוד הילדים, הרי שכבר בעשור הקרוב נתחיל בוודאי לראות רובוטים דומים גם במוסדות החינוך בישראל.

אני יכול רק לקנא בבן שלי, שיזכה לחינוך טוב יותר מזה שאני קיבלתי – כנראה גם מצד רובוט.

 


 

[1] https://www.scmp.com/news/china/society/article/2108280/chinas-biggest-problem-huge-numbers-dropping-out-school

[2] https://www.theeducator.com/blog/class-sizes-around-world/

[3] https://www.dailymail.co.uk/news/article-6734785/Chinese-kindergartens-use-robots-teacher-children.html

[4] https://www.newscientist.com/article/2204279-robots-conduct-daily-health-inspections-of-schoolchildren-in-china/

[5] http://www.zibrobot.com/benny_robot.html

[6] https://www.scmp.com/news/china/society/article/2087341/robots-are-being-used-teach-children-chinas-schools-no-fear-they

[7] https://www.newscientist.com/article/2204279-robots-conduct-daily-health-inspections-of-schoolchildren-in-china/

על שוטרי-העל של לונדון – וכיצד הם מוחלפים באלגוריתמים (גרועים) לזיהוי פנים

על שוטרי-העל של לונדון – וכיצד הם מוחלפים באלגוריתמים (גרועים) לזיהוי פנים

באוטובוסים בלונדון פעל מטריד מיני סדרתי במשך חודשים ארוכים, מבלי שאיש הצליח לתפוס או לזהות אותו. אספר לכם עליו, אבל הוא לא המוקד בסיפור היום.

בלונדון קיימת יחידה אמיתית לגמרי של שוטרי-על: אנשים בעלי יכולת ייחודית לזהות פנים של אחרים, גם לאחר מבט חטוף אחד לפני שנים. אספר לכם עליהם, אבל גם הם לא המוקד בסיפור היום.

החודש בלונדון, נעצר אדם על-ידי המשטרה ונקנס, לאחר שהרים את חולצתו כדי להסתיר את פניו ממצלמות האבטחה הנמצאות בכל מקום בלונדון. אותו אדם היה חף מפשע לחלוטין, ודווקא המקרה שלו מספק לקחים עבור העתיד של כולנו.

סכנה באוטובוסים בלונדון

אילאן קאראטיפה היה תוקף מינית סדרתי. הוא היה עולה על אוטובוסים רבים מדי יום, ומחפש אחר קורבנות. הוא היה יושב לצד נשים צעירות באוטובוסים הומי-אדם, פתח עיתון כדי להסתיר את מעשיו, ואז היה מבצע את זממו. בשנת 2014 הזעיקה נערה בת 15 את המשטרה לאחר שקאראטיפה חפן את מפשעתה, אך התוקף הצליח לרדת מהאוטובוס בזמן ולהיעלם בין שלל עוברי-האורח ברחוב. שני אירועים נוספים דווחו למשטרה – ונראה סביר שהיו רבים אחרים שמעולם לא דווחו.

השוטרים בחנו את התיעוד שהתקבל ממצלמות האבטחה באוטובוסים וברחובות. למזלם, היה שפע של תיעוד. לפי חלק מההערכות, בלונדון קיימות יותר ממיליון מצלמות המותקנות ברחובות ובתשתיות. על כך אמר אחד מראשי העיר הקודמים –

"כשאתה הולך ברחובות לונדון, אתה כוכב קולנוע. אתה מתועד על-ידי יותר מצלמות משאתה יכול לדמיין."

השוטרים מצאו בקלות סרטונים המתעדים את מעשיו של קאראטיפה, אך הם לא הצליחו לעמוד על זהותו. התמונות המתקבלות מהמצלמות הללו אינן ברזולוציה גבוהה, ובניגוד למתרחש בסדרות המשטרה הטלוויזיוניות, הבלשים אינם מסוגלים להגדיל את התמונה ולהתמקד באדם מסוים מבלי לאבד חלק גדול מהרזולוציה הנמוכה ממילא. באמצעות הצלבת כרטיסי התעבורה (הרב-קו הלונדוני) בהם נעשה שימוש בכל שלושת המקרים, משטרת לונדון הצליחה לזהות את הכרטיס הספציפי בו השתמש קאראטיפה, אך הוא רכש אותו במזומן – ולכן לא ניתן היה לגלות את זהות הרוכש.

השוטרים המשיכו לעקוב אחר כרטיס התעבורה האמור, וגיבשו ניחוש כי האיש גר בקמדן – אחד מפרברי לונדון. טוב ויפה, אלא שבקמדן גרים כמעט 25,000 אזרחים. אז מה עושים עכשיו?

וכך הוזעקה יחידת מזהי-העל של לונדון לפעולה[1].

מזהי-העל של לונדון

אליסון יאנג הייתה שוטרת קהילתית צעירה מן השורה, עד שיום אחד זומנה לסקוטלנד יארד, שם התבקשה לעבור מבחן לזיהוי פנים. לצד עשרות שוטרים נוספים, ישבה יאנג מול מחשב נייד עליו הוקרנו תמונות פנים על-גבי פנים, והתבקשה להצביע על זהויות שחזרו על עצמן. כשהמבחן הסתיים, היה ברור שיאנג נמנית על אחד ממזהי-העל: אנשים המסוגלים לזהות אחרים בעקבות מבט חטוף בתמונותיהם, ולשמר את היכולת לאורך שנים.

למרות שזו נשמעת כמו התחלה לסדרה טלוויזיונית, מזהי-העל של משטרת לונדון באמת קיימים, ויכולותיהם נבדקו ואושרו על-ידי מדענים. כפי שיש אנשים שגרועים במיוחד בזיהוי פנים (כותב שורות אלו נמנה עליהם), כך ניתן גם למצוא את אלו שמוצלחים במיוחד במטלה. הם עדיין יכולים לטעות, אך לפי המספרים שמשחררת היחידה לציבור, בשבעים ושלושה אחוזים מהמקרים בהם הסתמכה המשטרה על מזהי-העל, הוגשו אישומים פליליים כנגד המזוהים. בשלושה-עשר אחוזים מהמקרים, הסתבר שהזיהוי שגוי.

נתונים אלו, אם לומר את האמת, אינם מעודדים. קל למצוא במה להאשים אדם, ברגע שפניו 'זוהו' על-ידי המשטרה. והגשת אישום פלילי כנגד אדם כלשהו, אינה מעידה בהכרח על כך על אשמתו. למרות כל ההסתייגויות הללו, לסיפורנו האנקדוטלי יש סוף טוב: יאנג ועמיתה ביקרו בתחנת הרכבת בקמדן, ומיד זיהו את קאראטיפה מבין אלפי האנשים שהסתובבו במקום בשעת העומס. הם צפו בו כאשר רכש עיתון – מאותו סוג בו השתמש כדי להסתיר את מעשיו – ועזב את התחנה. הם שעטו בעקבותיו ועצרו אותו. הוא הודה בהכל.

וזה סוף טוב, אבל בכל זאת: שלושה-עשר אחוזי שגיאה? מזהי-העל הטובים ביותר שהאנושות יכולה להעמיד לרשותנו, עדיין שוגים בכמעט חמישה-עשר אחוזים מהמקרים? המשמעות היא שבין כל מאה אנשים אותם עוצרת המשטרה – לעתים קרובות מדי בשימוש בכוח – ניתן יהיה למצוא שלושה-עשר אנשים חפים-מפשע. ולא נעים לומר, אבל גם חפים-מפשע עלולים להתוודות בפשעים שלא ביצעו, או להפסיד במשפט על לא עוול בכפם.

האם באמת איננו יכולים למצוא שיטה יעילה יותר, בטוחה ואחראית יותר לזהות פנים?

וכאן נכנסת לסיפור הכוכבת האמיתית, שאינה אנושית כלל.

זיהוי פנים בלונדון

טכנולוגיות זיהוי פנים קיימות כבר מזה זמן רב, אך בשנים האחרונות הן מגיעות לאחוזי דיוק גבוהים יותר מאי-פעם. בסין, בה נמצאות מצלמות בכל פינה בערים, הצליחו אלגוריתמים לזהות את פניו של פושע, מתוך שישים אלף מבקרים בקונצרט רוק, והשוטרים נשלחו לעצור אותו לפי מספר השורה בה ישב[2]. עיתונאי מרשת BBC זוהה ונעצר על-ידי משטרת סין, בעיר עם 4.3 מיליון תושבים, תוך שבע דקות בלבד – בזכות העובדה שהמשטרה הוסיפה את תמונת פניו למאגרי המידע שלה. למזלו של העיתונאי, היה מדובר בניסוי בלבד, בו השתתף מרצון[3].

ההצלחות האנקדוטליות אכן מרשימות, אך התבוננות מעמיקה יותר בנתונים חושפת תמונה לא-פשוטה – ואת זה אפילו בני-האדם יכולים לזהות. האלגוריתמים לזיהוי פנים מגיעים לאחוזי דיוק גבוהים, אך כאשר הם מורצים על פניהם של מיליוני אנשים מדי יום, חייבות להתרחש גם טעויות. כמה אנשים חפים מפשע נעצרים לבדיקה ברחובות סין, מכיוון שפניהם סומנו על-ידי המכונה, אך את סיפוריהם איננו שומעים כלל?

אנו יכולים להבין טוב יותר את יכולותיה של המערכת לפי מידע ששחררה משטרת דרום וויילס בעקבות דרישה מצד הציבור ב- 2018. מסתבר שבשבוע האחרון של ליגת האלופות ב- 2017 בבריטניה, זיהתה המערכת בהצלחה 173 אנשים. זה נשמע טוב, אבל שימו לב לנתון הבא: 2,297 אנשים חפים מפשע, זוהו על-ידי המערכת כפושעים[4].

טבלה באדיבות משטרת דרום וויילס, הממחישה את ההצלחות בזיהוי לעומת האשמות שגויות.

לזכות משטרת דרום וויילס נציין שהמערכת הייתה צריכה לנתח את תמונותיהם של חצי-מיליון אנשים, ושרבות מהתמונות היו באיכות נמוכה[5]. אני מנחש גם שאם מזהי-העל המפורסמים של לונדון היו צריכים לעבור על כל אותן חצי-מיליון תמונות, הם היו מגיעים לאחוזי שגיאה גבוהים יותר. ובכל מקרה מדובר היה במערכת ניסויית בלבד, כך שאף אחד מאותם אנשים חפים מפשע לא נעצר באופן פיזי על-ידי המשטרה (כנראה). ועם זאת, קשה שלא לתהות: מה יקרה כשמערכות כאלו, עם אחוז שגיאה פרקטי גבוה כל-כך, ינחו את השוטרים ברחוב?

בלי פניקה

לא צריך להיכנס לפניקה. לפחות, עדיין לא. קרוב לוודאי שגם רוב גופי השיטור יעדיפו שלא להשתמש במערכות עם אחוז שגיאה פרקטי גבוה כל-כך. למשטרה אין משאבים מיותרים להוציא על חקירת אלפיים בני-אדם שחטאם היחידי הוא שמערכת בינה מלאכותית סברה שהם דומים מדי במראיהם ליצחק אברג'יל או ליעקב אלפרון. גופי השיטור במדינות הדמוקרטיות גם מודעים היטב לכך שארגוני זכויות האדם מזנבים בהם, ועיריית סאן פרנסיסקו אפילו לקחה צעד החלטי לאחרונה וקבעה בחוק כי המשטרה אינה מורשית להשתמש בטכנולוגיות זיהוי פנים בשטח העיר[6].

אבל הטכנולוגיות ימשיכו להתפתח. אנו נמצאים רק בעשור הראשון בו טכנולוגיות זיהוי פנים הגיעו לרמה בה ניתן להשתמש בהן ביעילות. כאשר איכות התמונות תשתפר, וכאשר ניתן יהיה להפיק מידע נוסף ממספר רב של מצלמות ולהצליבו באופן אוטומטי ויעיל, נוכל לצפות לכך שמשטרות בכל העולם יעשו שימוש בטכנולוגיות לזיהוי פנים.

זוהי הזדמנות גדולה – ואיום גדול – לחירות האזרח. בכל חברה מתוקנת יש צורך לזהות ולהעניש את הפושעים ואת העבריינים, ולהגן על החפים מפשע. טכנולוגיות זיהוי פנים והצלבת מידע ברמה גבוהה, יכולות לצמצם דרמטית את מספר הנאשמים על לא עוול בכפם, ואת המשאבים שמשקיעה המשטרה בחקירת כל אדם. כל חף מפשע שזומן בעבר לחקירת משטרה בעקבות חשד, יכול לספר עד כמה החוויה מטלטלת ומערערת. טכנולוגיות יעילות לזיהוי פנים יכולות למזער את מספר האנשים שעוברים אותה, ובמקביל – לסייע למשטרה להתמקד בפושעים האמיתיים.

ובמקביל, אי אפשר להתעלם ממשמעויותיה הרחבות יותר של הטכנולוגיה. כולנו מנוטרים גם כך באופן מתמיד על-ידי החברות הגדולות – פייסבוק, אמזון, גוגל – ובמקומות רבים גם על-ידי מצלמות הממוקמות בשטחים ציבוריים. זהו אינו דבר רע בפני עצמו. החברות אוספות עלינו מידע, אך הן עושות זאת בעיקר על מנת למצוא דרכים לשרת אותנו טוב יותר (ועל הדרך להרוויח כמה גרושים לעצמן – שאיפה הגיונית וראויה). המשטרה יכולה לקבל גישה למידע רק במקרה בו מתעורר חשד רציני לגבי אדם כלשהו, ושוב, כך ראוי שיהיה.

אבל מה קורה כשהמשטרה עצמה אינה מבינה כבר את הגבולות הראויים בתוכם היא צריכה לפעול?

זה מה שקרה בלונדון (כן, לונדון שוב) לפני שבוע, כאשר אדם נעצר ברחוב מסיבה פשוטה אחת: הוא בחר לכסות את פניו, במקום להציגם בגלוי למצלמות שברחוב.

 

פחד ואימה ברחובות לונדון

במזרח לונדון מתבצע לאחרונה ניסוי בזיהוי פנים בזמן אמת. מצלמות משוכללות סורקות את פני העוברים והשבים, ומזהות מיד את פניהם של מבוקשים. המשטרה טוענת כי טכנולוגיה זו תוכל למנוע ולגלות מקרי פשע באמצעות זיהוי מקדים של הפושעים. אלא שלא כולם מרוצים מהטכנולוגיה החדשה, ואחד מעוברי האורח בחר לכסות את פניו. הוא נעצר מיד, והשוטר שבמקום הסביר כי אסור היה לו להסתיר את פניו מהמצלמות. האיש התעצבן, התווכח עם השוטרים, וזכה לקנס של תשעים פאונד – ובסופו של דבר גם צולם[7].

אולי מיותר לציין, אבל במדינות מעטות בלבד יש חוק שאומר שאדם אינו יכול לכסות את פניו בעת שהוא הולך ברחוב[8]. אלא שהשוטרים אפילו לא האשימו את האזרח בכך שעבר על החוק, אלא פשוט בכך שהתנהג באופן חשוד, מכיוון שלא הסכין עם כך שטכנולוגיית זיהוי הפנים תופעל עליו במרחב הציבורי, בניגוד לרצונו. הוא לא ניסה להשחית את המצלמות, או לעורר מרי ציבורי, אלא רק פעל לכיסוי פניו – ועל כן נגרר מיד הצידה על-ידי השוטרים.

מקרים מסוג זה חושפים את הסכנה שבשימוש בטכנולוגיה, מבלי קידוד ראוי של הנהלים האתיים – ושהשוטרים שמופקדים על הטכנולוגיה יבינו אותם ויפעלו לפיהם. הבעיה האמיתית אינה הטכנולוגיה, אלא השימוש שאנו עושים בה. הבעיה אינה באיסוף המידע – הוא נאסף בכל מקרה – או אפילו בניתוח המידע. הבעיה האמיתית היא בקביעת החוקים, הכללים והנהלים שימנעו שימוש לרעה בכוח שהמידע מספק. המצלמות יגיעו לכל מקום, במוקדם או במאוחר. למעשה, הן נמצאות כבר עתה ברחובותינו, במחשבים ובטלפונים החכמים שלנו. השאלה האמיתית היא האם נשכיל להגדיר לממשלות ולחברות כיצד מותר וראוי שישתמשו ביכולות שהטכנולוגיות מעמידות לרשותן.

* תודה לאסף רזון שיידע אותי לגבי המקרה בבריטניה. כמו כן, ספרי האחרון – "השולטים בעתיד" – עוסק בעתיד השלטון והדמוקרטיה. אפשר גם למצוא התייחסות לנושא זה בשיחתי האחרונה בפודקאסט "חומר להקשבה" , על עתיד הדמוקרטיה (קישור כאן).

[1] https://www.newyorker.com/magazine/2016/08/22/londons-super-recognizer-police-force

[2] https://www.bbc.com/news/world-asia-china-43751276

[3] https://www.bbc.com/news/av/world-asia-china-42248056/in-your-face-china-s-all-seeing-state

[4] https://www.scribd.com/document/377980664/South-Wales-Police

[5] https://www.zdnet.com/article/facial-recognition-system-had-7-percent-hit-rate-at-2017-champions-league-final/

[6] https://www.nytimes.com/2019/05/14/us/facial-recognition-ban-san-francisco.html

[7] https://blokt.com/news/uk-met-police-run-facial-recognition-trials-man-fined-90-for-covering-his-face

[8] https://en.wikipedia.org/wiki/Anti-mask_laws

המחשב שפורץ למוח דרך העיניים

המחשב שפורץ למוח דרך העיניים

לרינגו, קוף קטן וחביב, הייתה עבודה פשוטה: הוא היה צריך רק לצפות בתמונות שהבהבו על המסך שמולו. אלא שהתמונות לא צולמו על-ידי בני-אדם. למעשה, הן פותחו על-ידי בינה מלאכותית מתקדמת בשם XDREAM, שמטרתה הייתה לפרוץ לתוך מוחו של רינגו, דרך העיניים. ולפני שבועיים גילינו שהיא הצליחה – ולכך יש משמעויות עבור עתיד הטיפול הפסיכולוגי בבני-אדם במקרה הטוב, ואולי גם כדרך לפרוץ למוחות של כולנו, במקרה הרע מאד.

אבל בואו נתחיל בהתחלה.

המוח כמחשב

אנו יודעים כבר מזה זמן רב שהמוח שלנו הוא סוג של מחשב. לא כזה שמבוסס על שבבי סיליקון ומעגלים חשמליים, אבל עדיין. החומרה שלנו – החלק הפיזי עליו מורצות 'התוכנות' – היא תאי העצב. המוח גדוש במאה-מיליארד בתאי עצב, ששולחים זה לזה הודעות פשוטות. ואיכשהו, מתוך כל הבלגן הזה של עצבים שוטים ופשוטים המתקשרים זה עם זה, צצה ומתעוררת לה התודעה, ועמה גם הזכרונות, הרגשות, המוסר וכל שאר המאפיינים של החשיבה.

נוירולוגים במעבדותיהם הצליחו כבר להתחקות אחר דפוסי פעולתם של קבוצות עצבים, או אפילו של תאי עצב בודדים, ולהראות כיצד הם מגיבים לגירויים שונים. הם יכולים, למשל, לעקוב אחר תא עצב בודד, ולבדוק כיצד הוא מגיב כשחושפים את האדם (או כל חיה אחרת) לגירויים שונים: לצלילים, לכאב, או אפילו לתמונות.

זה מה שעשו החוקרים בהרווארד לרינגו. הם עקבו אחר תא עצב אחד במוחו, באזור המוקדש לעיבוד הראייה, ובחנו כיצד אותו עצב מגיב לתמונות שהראו לקוף. זוהי פרוצדורה עתיקת יומין, שנוירולוגים מבצעים עוד מ- 1962, באמצעות הצגת צורות ותמונות מסוגים שונים לקופים בעיקר, וניסיון להבין כיצד המוח ותאי העצבים מגיבים אליהן[1]. אלא שעד כה, התמונות שהוצגו לקופים נבחרו רק על-ידי בני-אדם. מערכת הבינה המלאכותית XDREAM פותחה על-מנת להפיק סוג חדש של תמונות – ולבדוק אם אלו מסוגלות להפעיל את תאי העצב של הקופים באופן שונה מזה שהודגם עד כה.

תיאור גרפי של הניסוי: תמונות הוצגו לקופים, תוך כדי שנערך מעקב אחר תאי עצבים מסוימים במוחותיהם. בינה מלאכותית שיפצה ושחברה את חלקי התמונות בעלי ההשפעה החזקה ביותר על העצבים, ואז הציגה את התוצאה לקופים בסבב הבא. בדרך זו עברו התמונות אבולוציה מהירה עד לצורתן הסופית. המקור: המאמר המקורי ב- Cell.

למה זה טוב?

אפשר (ורצוי) כמובן, לשאול למה: מה מטרת הניסוי? התשובה המיידית היא שמדובר בניסיון לקדם את המדע הבסיסי ואת הבנת המוח. אם המוח הוא מחשב, הרי שהוא כזה שאיננו מבינים עדיין את שפת התכנות (או אפילו את החומרה במלואה) לפיה הוא עובד. אם נוכל לפענח איזה תאי עצב מגיבים לגירויים מסוימים, ובאיזו צורה, הרי שנוכל להבין גם טוב יותר את המוח עצמו.

זוהי תשובה טובה, אבל כדאי להבין גם את הפוטנציאל היישומי העתידי של המחקר. אנו כבר יודעים היטב שלמחשבים אפשר גם לפרוץ, ולגרום להם לפעול בדרכים שהמתכנת – או אפילו מפתחי המחשב – לא ייעדו עבורם במקור. פריצות שכאלו מתבצעות לרוב באמצעות פרצות אבטחה, דרכן יכולים ההאקרים רבי-התושייה להשפיע על פעולתו של המחשב.

ומה יכולה להיות פרצת אבטחה גדולה יותר לתוך המוח, מהעיניים עצמן – המסוגלות להזרים מידע אל המוח במהירות של 10 מיליון ביטים לשנייה? (לשם השוואה, זוהי בערך המהירות של חיבור קווי לאינטרנט)[2]

פרצת האבטחה הזו התגלתה כבר באנשים הסובלים מ- Photosensitive epilepsy – אפילפסיה המתעוררת בעקבות חשיפתם לאורות המהבהבים בתדירויות מסוימות, או לציורים בדפוסים מסוימים. אנשים הלוקים בסוג זה של אפילפסיה עשויים שלעולם לא לחוות התקפים, אלא אם הם נחשפים לגירויים הללו. במילים אחרות, ניתן לגרום למוחותיהם לצאת מסינכרוניזציה ולהפסיק להתנהג יפה, פשוט באמצעות הזרמת מידע מהעיניים.

ברור, אם כך, שמסרים חזותיים מסוימים יכולים לשבש את פעילותם של מוחות מסוימים, אבל האם אפשר להשפיע על המוח בצורה מעודנת יותר? לשגר מידע חזותי שיגרום למוח, למשל, להיכנס למצב בו העלאת זכרונות מן העבר הרחוק תוכל להתבצע בקלות רבה יותר? או למצב של יצירת זכרונות מוגברת, או לרגיעה שתסייע למטופלים להתמודד טוב יותר עם חוויות קשות מהעבר?

ברור שהתקדמות כזו, אם היא אפשרית, תביא להתייעלות גדולה באמנות הפסיכולוגיה. פסיכולוגים יוכלו לבקש מהמטופלים להתבונן ברצף של ציורים, תמונות, או אפילו לחשוף אותם לאורות בתדירויות ובתדרים שונים, שישפיעו על מוחו של המטופל ברמה תת-הכרתית ויסייעו לפסיכולוג בעבודתו. וכמובן, גם צבאות – ואולי ארגוני מודיעין – יעשו בוודאי שימוש בפיתוח כזה למטרותיהם.

ובכן, טוויתי עד כה מגדלים באוויר והבטחנו גדולות ונצורות, אבל האם בכלל אפשר להשפיע על עצבים מסוימים במוח באופן ממוקד ומדויק? סיפרתי הרי שכבר יותר מחמישים שנים מראים נוירולוגים תמונות לקופים, ובוחנים כיצד הן משפיעות על העצבים ועל המוח בכלל. אבל אנו נכנסים בשנים האחרונות לעידן חדש בהיסטוריה האנושית, בו בינות מלאכותיות מתחילות להגיע להישגים יוצאי-דופן במטלות שונות. האם יש סיכוי, לפיכך, שבינה מלאכותית תצליח לפתח תמונה או סט של תמונות שיפעילו את המוח באופן יוצא-דופן?

זה בדיוק מה שעשתה הבינה המלאכותית המכונה XDREAM.

הבינה המלאכותית שפרצה למוח

כדי לנסות לפרוץ למוחו של רינגו, עקבו החוקרים אחר עצב אחד מסוים במוחו, והעבירו את המידע על מצב העצב בזמן אמת לאלגוריתם בינה מלאכותית בשם XDREAM. האלגוריתם הוא למעשה צייר, שאומן על כמעט מיליון וחצי תמונות אמיתיות, ויוצר תמונות חדשות באמצעות שחבור מחדש של אלמנטים שונים. התמונות הללו הוצגו בפני רינגו, והאלגוריתם קיבל משוב בזמן-אמת כדי להבין עד כמה הן השפיעו על פעילות העצב. ואז, הוא שחבר מחדש את האלמנטים, הוסיף חדשים והעלים אחרים, כדי ליצור תמונה חדשה ולבחון גם אותה. התמונות, למעשה, עברו אבולוציה בהתאם לתגובת תא העצב במוחו של רינגו[3].

התמונות הראשוניות שהציע האלגוריתם לא היו מרגשות במיוחד, אך ככל שהבינה המלאכותית הבינה טוב יותר מה מרגש את תא העצב של רינגו, היא החלה להוסיף פרטים מעניינים. תוך זמן קצר התווספו לתמונות פנים שהחוקרים זיהו כ- "אנתוני", הקוף השוכן בכלוב לצדו של רינגו. מספר ימים לאחר מכן, האלגוריתם הפיק את פניה המעוותות של אחת מהמטפלות בקופים.

התמונות שיצרה הבינה המלאכותית, שהשפיעו יותר מכל תמונה טבעית על מוחותיהם של הקופים. מקור: המאמר המקורי.

לאחר סבבים רבים של אבולוציה, הצליחה הבינה המלאכותית לשרטט תמונות שמפעילות את תא העצב של רינגו בעוצמה גבוהה בהרבה מכל תמונה טבעית או ציור מעשה ידי-אדם. התמונות הללו, איך לאמר בעדינות, אינן קוסמות לעין. למעשה, הן מבעיתות. כמעט כולן מכילות עיניים שחורות עצומות, פנים מכוסות-למחצה במסיכה, ובאופן כללי הן מעוררות אפילו בצופים האנושיים תחושה עזה של אי-נוחות[4]. ואין פלא: זה בדיוק מה שהן נועדו לעשות עבור תא עצב בודד במוחו של קוף, ואנו דומים מספיק לקופים כדי להיות מושפעים מהן בעצמנו.

ועתה נשאלת השאלה: מה יקרה כאשר נפתח תמונות דומות כאלו עבור בני-אדם? האם נוכל בעתיד להריץ אלגוריתם דומה לזה של XDREAM על נבדקים אנושיים, על מנת לפתח את הרכב התמונות המדויק שישרה עלינו אימה, רגיעה, עונג, סקרנות, שכחה, או כל רגש אחר?

לשאלות אלו אין עדיין תשובה ברורה. ייתכן שנגלה שאפשר להשפיע רק על עצבים בודדים במוח האנושי, אך שקשה יותר לגרום למוח כולו לשנות כיוון ודרך פעולה. או שנגלה שההשפעה אינה חזקה כל-כך, ושהמוח יכול לווסת מחדש את העצבים שהתעוררו יתר-על-המידה בעקבות המידע החזותי המרגש. אבל אני מרשה לעצמי להיות אופטימי, ולדמיין עתיד – אני יכול ממש לראות אותו למול עיניי – בו פסיכולוגים יוכלו לטפל בחולים באמצעות הצגת תמונות שעוצבו במיוחד על מנת להכניס את המטופל למצב של פתיחות מוגברת. עתיד שבו אנשים הלוקים בדיכאון או במחלות נפשיות אחרות יוכלו לצפות בסט של תמונות שישנו את דרך הפעולה של מוחותיהם. ובה בעת אני גם חרד מאפשרויות השימוש בתמונות מסוג זה בתשדירי בחירות או בפרסומות.

האם נוכל להשתמש בבינה מלאכותית כדי לפרוץ למוח האנושי דרך העיניים? מי ישתמש בהן, לאיזו מטרה ועל איזה קהל יעד?

את התשובות, כרגיל, נגלה בעתיד.

[1] http://centennial.rucares.org/index.php?page=Neural_Basis_Visual_Perception

[2] https://www.eurekalert.org/pub_releases/2006-07/uops-prc072606.php

[3] https://www.cell.com/cell/fulltext/S0092-8674(19)30391-5

[4] https://www.theatlantic.com/science/archive/2019/05/ai-evolved-these-trippy-images-to-please-a-monkeys-neurons/588517/

איך להתמודד עם נטורי קרתא

איך להתמודד עם נטורי קרתא

"שמעת על נטורי קרתא, שעצרו כבאית שהוזעקה כדי לכבות שריפה בשכונה שלהם?" שאל אותי חברי איש המחשבים נאור באפטר-פארטי שאחרי מסיבות יום העצמאות. "הם נשכבו מתחת לגלגלים שלה, ואז כשעצרה הם טיפסו עליה, תלשו ממנה את דגל ישראל ושרפו אותו בהפגנתיות. ומה שיותר גרוע, הם עיכבו את כל מבצע כיבוי האש והזיקו כך לאחרים."

"כן," הסכמתי איתו. "נורא, מחריד, וכל זה."

"אבל יש לי פתרון!" הוא הכריז.

"נשמע."

"יש היום מנועי בינה מלאכותית שיכולים למדל את הדרך בה פורצות הפגנות." אמר. "הם מזהים את האנשים עם ההשפעה הגדולה ביותר, כדי שיהיה אפשר לבצע בהם… נאמר, סיכול ממוקד… כדי למנוע מהפגנה המונית להתממש."

"אתה לא מציע להרוג בנטורי קרתא, נכון?" שאלתי בחשש.

"כמובן שלא!" הוא נראה מזועזע. "גם הם בני-אדם, וחוץ מזה הריקושטים יוכלו לפגוע בסביבה. הפתרון שלי הרבה יותר פשוט. הכבאית תהיה מחוברת לאינטרנט, והבינה המלאכותית תוכל לזהות את הפנים של נטורי קרתא המשפיעים ביותר, לכוון עליהם תותח מים תוך כדי נסיעה ברחוב, וברגע שינסו לצאת מדלתות בתיהם כדי להסתער על הכבאית, הם יקבלו שפריץ רציני לפנים – מהסוג שזורק אותך אחורנית. והכל יקרה בצורה אוטומטית. אף אדם לא יעז להסתער לבדו על כבאית, חוץ מהקיצוניים ביותר – ואותם הבינה המלאכותית תזהה ותסכל. אני מבטיח לך שהרחוב יישאר פנוי לחלוטין ככה."

"אבל מה אם הם ישתמשו בטלפונים החכמים שלהם כדי לתאם הסתערות משותפת?" שאלתי. "אתה לא יכול להתמקד בכולם באותו הזמן."

"הכבאית תישא גם מכשיר שישבש את אורכי הגל באמצעותם מתקשרים טלפונים חכמים." הוא ענה מיד.

"ומה אם יצעקו אחד לשני מבית לבית?"

הוא פטר את שאלתי כלאחר יד. "נפעיל את הסירנות של הכבאית, ואף אחד לא יוכל לשמוע כלום בגלל הרעש."

"הבנתי." אמרתי. "אז אתה רוצה כבאית אוטונומית, עם סירנות שיחרישו את כל הרחוב, שתשתק את כל השידורים מסביבה, ותשפריץ מים על כל נטור קרתא עוין ובעל השפעה. אבל איך היא תזהה למי יש השפעה ולמי אין?"

"פשוט מאד!" הוא הריע. "נדרוש מנטורי קרתא להתחבר לפייסבוק, וכך יהיה לנו את כל המידע הנדרש עליהם."

"בעצם," הוא שקע לרגע בהרהורים, "אם הם יתחברו לפייסבוק וייחשפו לדיעות של אחרים, אולי אפילו לא נזדקק לכל זה. הם יתחילו להתדיין עם אנשים, להבין שגם אחרים הם בני-אדם ושצריך להתחשב בכולם, וימתנו את הגישות הקיצוניות שלהם!"

בהינו זה בזה לרגע בזמן שהדברים חלחלו, ואז התחלנו לצחוק.

יש דברים שכל-כך אבסורדיים, שאין טעם בכלל לדבר עלהם.