הרובוטית הראשונה קיבלה אזרחות – בערב הסעודית

הרובוטית הראשונה קיבלה אזרחות – בערב הסעודית

אז הנה זה קרה: לראשונה בעולם, זכה רובוט באזרחות. בערב הסעודית מכל המקומות שבעולם. זהו פעלול שיווקי מרהיב שאין לו שום משמעות טכנולוגית, מדעית או חברתית. מכיוון שכך, לא הייתי כותב עליו בכלל אילולא הייתי מקבל פניות מכמה וכמה אנשים שביקשו ממני להתייחס לנושא. ומה שיותר חשוב: העובדה שכל הסיפור הזה התפוצץ לערב הסעודית בפנים כשהדגיש את העובדה שרובוטים מקבלים יותר זכויות מנשים במדינה.

נתחיל בהתחלה.

שמה של ה- 'רובוטית' סופיה, והיא נוצרה על-ידי חברת "הנסון רובוטיקס". היא נראית אנושית בערך כמו בובת חלון ראווה משוכללת, עם שליטה מרשימה ב- 'שרירי הפנים', בשפתיים ובעיניים שלה. אבל זה בערך הדבר האחרון שמרשים בה, מכיוון שהבינה המלאכותית ששולטת בה מוגבלת מאד. היא בסך הכל מזהה מילות מפתח במה שאומרים לה, ויכולה רק להגיב במשפטים שתוכנתו והוקלטו לתוכה מראש. זה, כמובן, הספיק ליוצר, דיוויד הנסון לקבוע שהיא – "למעשה חיה" (Basically alive)[1] – ולשלוח אותה להופעה באו"ם שם הודיעה לשגרירי כל המדינות כי "אני כאן כדי לעזור לאנושות ליצור את העתיד".[2]

עד כאן הכל טוב ויפה. אכן מדובר ברובוט, ועם בינה מלאכותית בסיסית ומוגבלת, אבל אין בכך הרבה חדש. אלא שערב הסעודית מנסה להפוך את עצמה למדינה עם תעשיית ידע מפותחת, ומשווקת את הכנסים שלה בכל צורה אפשרית. וכך, גאון שיווקי כלשהו בכנס הפסגה הטכנולוגית של ערב הסעודית, הבין שהם יכולים לזכות בהרבה פרסום אם המדינה תהיה הראשונה בעולם שתעניק אזרחות לרובוטים. וכך הפכה סופיה לרובוטית הראשונה בעולם שזכתה באזרחות של כבוד בערב הסעודית[3].

אבל מה זה אומר, בעצם?

אם לסופיה יש בעלים – דיוויד הנסון שנהנה מבעלות מלאה על גופה – איך ניתן להתייחס ברצינות לאותה 'אזרחות' של סופיה, שאמורה להקנות לה זכות להחליט מה לעשות עם גופה?

אם סופיה אינה יכולה להתנגד לכך שייגעו בה, שיפשיטו אותה, שיתכנתו אותה מחדש – אם אין לה אפילו את הרצון או היכולת המחשבתית לגבש ולהביע התנגדות שכזו – למה שנתייחס אליה כאל ישות הראויה בכלל לקבל זכויות אזרחיות השוות לאלו של בני-אדם?

ובעצם, אם סופיה אינה יכולה להרגיש כאב, אינה מקבלת החלטות משל עצמה, ואם נודה באמת – אפילו אינה דומה לאדם מתחת ל- 'בגדים' שהיא לובשת – מה 'היא' כבר יכולה להרוויח מאזרחות שכזו? מה התועלת החברתית המתקבלת ממתן אזרחות לשולחן, לכסא, או לקולב בגדים?

בקיצור, הצהרת האזרחות של סופיה אינה אלא תעלול שיווקי… שבסופו של דבר התפוצץ למדינה בפנים, מכיוון שהוא הזכיר לכולם שבערב הסעודית יש דווקא הרבה מאד ישויות עם זכויות מוגבלות ביותר: נשים שאינן יכולות לצאת מהבית או להופיע בציבור ללא מלווה ממין זכר, ושעד לאחרונה לא היו יכולות אפילו לנהוג ברכב מבלי לצפות למלקות על חטאן. אפילו הסעודים התעצבנו על האזרחית הרובוטית החדשה, מאחר והחוק הסעודי אינו מאפשר ללא-מוסלמים לקבל אזרחות – ואין שום סימן שסופיה עומדת להתאסלם בקרוב. אפילו חיג'אב (כיסוי ראש מוסלמי) אין לה.

כל זה לא אומר שרובוטים לא יהיו זכאים, בסופו של דבר, לזכויות. אחרי הכל, אנו נוטים לתת היום זכויות למגוון ישויות לא-אנושיות: לבעלי-חיים למשל יש זכויות מסוימות, שאינן מאפשרות לאנשים להתעלל בהם או להכאיב להם אלא במצבים מוגדרים היטב כגון בבית המטבחיים. אפילו לתאגידים יש זכויות. כאשר ישויות מלאכותיות יזכו בסופו של דבר בבינה מתקדמת יותר, וכאשר יהיו דומות יותר לבני-אדם, הן בוודאי יקבלו זכויות מסוימות – גם אם לא כאלו המתקרבות לאלו של השמורות לבני האנוש. אך עוד ארוכה הדרך לשם, וסופיה רחוקה מלהיות הסנונית המבשרת את בוא האביב.


 

אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והרובוטים בספרי החדש "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

 

[1] https://www.youtube.com/watch?v=Bg_tJvCA8zw

[2] https://www.theguardian.com/technology/video/2017/oct/13/sophia-the-robot-tells-un-i-am-here-to-help-humanity-create-the-future-video

[3] http://www.arabnews.com/node/1183166/saudi-arabia

הרובוט ש(לא)חשב שהוא יכול: על רובוטים אוטונומיים והצלחות לא-צפויות

הרובוט ש(לא)חשב שהוא יכול: על רובוטים אוטונומיים והצלחות לא-צפויות

אני משתדל לעסוק בבלוג זה בנושאים שברומו של עולם: תרופות לסרטן, בינות מלאכותיות שמשתלטות על העולם, עתיד העבודה וכן הלאה. אלא שמדי פעם מגיע לתשומת לבי סיפור מיוחד כל-כך, שאיני יכול אלא לעצור הכל ולכתוב עליו. כזה הוא סיפורו של הרובוט ש(לא) חשב שהוא יכול.

סיפורנו מתחיל בסוף ינואר 2017, כאשר כלי-טיס בלתי-מאויש  (כטב"ם) שוגר מאריזונה שבארצות הברית במשימת אימונים פשוטה. שמו של הרובוט? צל (Shadow) RQ-7Bv2. נקרא לו בקיצור, צילי. רובוטים מסוגו של צילי משמשים לניטור אחר מטרות צבאיות לרוב, ואינם אמורים להתרחק יותר ממאה ועשרים קילומטרים מהתחנה השולטת בהם. אבל לצילי היו תכניות אחרות: מיד לאחר השיגור התנתק הקשר בינו לבין תחנת השליטה.

shadow uav.jpg

כלי טיס בלתי מאויש מסוג Shadow. המקור לתמונה: משרד ההגנה האמריקני.

כלים פשוטים יותר היו בוודאי מתרסקים כמה דקות לאחר אובדן התקשורת, אך צילי היה מיוחד. כטב"מים מסוג Shadow נהנים מרמה גבוהה של אוטונומיות. או במילים פשוטות, הם מסוגלים להישאר באוויר ולהמשיך למלא את המשימה גם אם הם מאבדים את הקשר עם המפעיל. מסיבה זו אני מרשה לעצמי לקרוא להם רובוטים אוטונומיים. אלא שצילי לא ידע מה המשימה שלו. וכפי שהבינו לפתע בני-האדם שנותרו על הקרקע מתחת לצלו של צילי, אף אחד בעצם לא ידע מה המשימה שלו.

כלי טיס בלתי-מאוישים מתוכנתים להתנהג בצורות שונות כאשר הם מאבדים תקשורת עם הקרקע. חלקם חגים באוויר מעל נקודה מסוימת עד לחידוש הקשר. אחרים מנמיכים רום ומנסים לנחות, או שמנסים לחזור לנקודה ממנה שוגרו במקור. מערכות חירום מופעלות ברגע שהכטב"ם מבין שהוא בודד עתה בשמים. אבל עבור צילי, נראה שהמערכות הללו לא הופעלו. סברה אחרת היא שצילי זכר בשוגג את הקואורדינטות של ביתו הקודם בבסיס צבאי במדינת וושינגטון, וניסה בגבורה לחזור לשם. או שאולי מערכות החירום לא הופעלו כלל, וצילי פשוט המשיך לשייט בשמים, במסעו אל הלא-נודע.

כך או כך, צילי הותיר מאחוריו את החיילים והמהנדסים המתוסכלים, והחל לטוס צפונה. צפונה, צפונה, צפונה, תוך שהוא מתעלם מכל ניסיון לחדש עמו קשר. הוא התרומם באוויר על גבי הרוחות החזקות, ונעזר בהן כדי לשייט מעל ליערות ושמורות אינדיאנים. כל אותו זמן, עקבו אחריו הרשויות באמצעות מערכות רדאר, אך לאחר חמש שעות הגיע צילי להרי הרוקי. הוא לא היה אמור להיות מסוגל לעבור אותם, ואנשי הצבא איבדו את חתימת הרדאר שלו באותה נקודה והניחו שהוא התרסק.

הרי הרוקי. צילי חצה גם אותם. מקור: Blue Planet Biomes

הוא לא התרסק. הוא רק התרומם עוד יותר גבוה, לרום של 4,000 מטרים, והפליג אל מעל ומעבר להרי הרוקי, לגבהים שלא תוכנן עבורם, למרחקים שלא נועד לגמוע. הוא המשיך צפונה, בלתי-נלאה, במסע בן אלף קילומטרים , עד שהתרסק בסמוך לדנוור. עדיין איננו יודעים מה היתה הסיבה להתרסקות, אך קשה להאמין שצילי היה יכול להמשיך עוד זמן רב, מאחר והדלק שלו בוודאי נגמר כבר, או היה קרוב להיגמר, באותו הזמן.

וזהו סיפורו של צילי, הרובוט שלא חשב שהוא יכול – מכיוון שאין לו כלל יכולת חשיבה – אבל שבדרך-לא-דרך גמע מרחקים שלא היה אמור לעבור, בפרק זמן שלא היה אמור לשרוד בשמים, ובניגוד להנחיות שהיה אמור לקבל.

יומם של הרובוטים האוטונומיים

צילי הוא רק חלק מדור חדש של רובוטים – כאלו הנהנים מאוטונומיות מוגבלת, ומסוגלים להוציא לפועל משימה המוגדרת להם, עם מעורבות מינימלית של מפעיל אנושי. הפרשה של צילי משקפת, למעשה, באג במערכת התפעול של הרובוט. לפעמים אנו מגלים באגים בתוכנות בהן אנו משתמשים: הוורד עשוי להיתקע פתאום או להתחיל למחוק אותיות ומילים בעצמו, או שמערכת ההפעלה של המחשב עשויה ליפול ולהפסיק לפעול. אלו באגים מעצבנים, אבל אנו מצפים להם ומבינים שהם כמעט בלתי-נמנעים במערכות מחשוב מורכבות כל-כך.

ובכן, גם לצילי היה באג. ההבדל היחיד הוא שצילי הוא כטב"ם צבאי בשווי של מיליון וחצי דולרים, והבאג גרם לו לחצות בטיסה שלוש מדינות ואת הרי הרוקי. אפשר לומר בצדק רב שהיה לנו מזל שצילי משמש למטרות ניטור בלבד, ולכן אינו חמוש. אבל בן-דודו הפרדטור (Predator) משמש גם הוא למטרות ניטור וריגול, וחמוש – רק ליתר ביטחון – בשני טילי הלפייר (Hellfire) נגד-טנקים ובשישה טילי גריפין (Griffin) אוויר-קרקע.

בן-דודו החביב-פחות של צילי, הפרדטור, יורה טיל הלפייר נגד-טנקים. מקור: Defense Systems

אני חושד שהיינו משועשעים פחות מכל הפרשיה אילו היה אחד מהפרדטורים החמושים תופס את מקומו של צילי ויוצא למסע דומה ברחבי אמריקה, מבלי שנבין לאן הוא טס או מה יכולותיו המדויקות.

הרצון שמאחורי הרובוט

הכתיבה הרגשנית בחלקה הראשון של הרשומה העלתה בוודאי גיחוך על פיותיהם של רובוטיקאים מומחים, ומסיבה טובה. לרובוטים אין רצונות משלהם. אין להם מחשבות או מודעות עצמית. אבל הרובוטים המשוכללים של היום מתחילים לזכות במה שאפשר לקרוא לו בצדק – "דחפים". המתכנתים מטמיעים ברובוטים האוטונומיים את הדחפים להגיב למצבים שונים בדרכים מסוימות שהוגדרו עבורם מראש. מבחינה זו, הרובוטים האוטונומיים מזכירים חרקים, שיכולים להגיב לאותו מצב פעם אחר פעם באותה הדרך בדיוק – גם אם דרך זו הוכחה כהרת אסון עבורם. ואף על פי כן, הם ניחנים בדחף לפעול כך.

חרקים הם יצורים משוכללים למדי, אך גם הם חושפים 'באגים' כאשר הם נתקלים במצבים לא-צפויים. זו הסיבה שיתושים ממשיכים לקבל זרמים חשמליים כשהם עפים אל האור המהפנט שבמלכודת החשמלית, או שזבובים ממשיכים להיכנס למלכודת זבובים מכנית פשוטה, למרות שהם רואים את כל חבריהם לכודים בתוכה. הדחפים הפשוטים המתוכנתים במערכת העצבים שלהם אינם יכולים להתמודד עם הסביבה המודרנית המורכבת החדשה.

ואם החרקים יכולים לחוות באגים כשהם נקלעים לסביבה לא-צפויה, על אחת כמה וכמה הדבר נכון לרובוטים אוטונומיים. סיפורו של צילי ממחיש מה קורה כאשר הרובוט מציית לדחפים שגויים, או כאשר מתרחש כשל במערכת שנועדה 'לדחוף' אותו לחזור הביתה. באגים כאלו הינם בלתי-נמנעים בכל מערכת מורכבת, אך השלכותיהם יכולות להיות הרות-אסון כשמדובר ברובוטים אוטונומיים, ובמיוחד רובוטים חמושים מהסוג שניתן למצוא בשדה הקרב.

אם גם אתכם זה מפחיד…

אם גם אתכם מפחיד תרחיש בו מתגלים באגים לא-צפויים ברובוטים אוטונומיים, ייתכן שתרצו לחתום על המכתב הפתוח ששחרר לפני שנה וחצי המכון לעתיד החיים (The Future of Life Institute), כנגד שימוש בכלי-נשק אוטונומיים בשדה הקרב. לא תהיו לבד בחתימה עליו: יותר מאלף מומחים וחוקרים בתחום הבינה המלאכותית חתמו כבר על המכתב הקורא להטיל איסור על השימוש בכלי נשק אוטונומיים.

האם המכתב יצליח להניא ממשלות מהקניית יכולות אוטונומיות לרובוטים בשדה הקרב? אני בספק. אם לא הצלחנו לעצור את החימוש הגרעיני, קשה להאמין שנוכל לעצור את חימוש הרובוטים. אבל לפחות כשצילי או פרדי הפרדטור ילכו לאיבוד בפעם הבאה, תוכלו לצקצק בלשונותיכם באכזבה ולציין שידעתם שזה יקרה.

בקיצור, תוכלו להיות עתידנים.

רובוט חדש "מעורר סיוטים"

רובוט חדש "מעורר סיוטים"

לפני מספר חודשים נפלה בידי הזכות להשתתף בהרצאה של אחת המהנדסות הבכירות בחברת בוסטון דינמיקס. החברה, למי שלא מכיר, בונה רובוטים. אבל לא סתם רובוטים: המכונות שלה מהלכות על ארבע או שתי רגליים, ובכך מחקות את דרך תנועתם של בעלי-חיים ושל בני-אדם. אחד הרובוטים המפורסמים ביותר של החברה הוא ביג דוג (כלב גדול, בלועזית), שנועד במקור לשמש את צבא ארצות הברית לנשיאת משאות בשדה הקרב. רובוט מפורסם אחר הוא אטלס, הנע על שתי רגליים כאילו היה אנושי, ומסוגל גם לפתוח דלתות, לשאת קופסאות, ואפילו לעשות שכיבות סמיכה.

בסוף ההרצאה הרמתי יד, ושאלתי מדוע בעצם מתרכזים מהנדסי החברה רק ברובוטים המחקים אחד-לאחד את דפוס התנועה הביולוגי. "למה אתם מסתמכים רק על מנגנונים שהתפתחו במהלך האבולוציה כדי לתמוך ביצורים ביולוגיים שצריכים גם להתכופף כדי לאסוף מזון, לשאת את צאצאיהם ולהזדווג? מדוע שלא תנסו למצוא דרכים יעילות יותר לתנועה, שהאבולוציה לא מצאה מעולם?"

מסתבר שהקשיבו לי שם.

(גילוי נאות: רוב הסיכויים שלא הקשיבו, והרובוט החדש הוא תוצר עבודת מחקר שהחלה הרבה לפני שהרמתי את היד. אבל מותר לי לחלום בהקיץ, לא כך?)

הרובוט החדש שהדגימה בוסטון דינמיקס בימים האחרונים מסוגל לנוע על שני גלגלים, ולאזן את מרכז הכובד של גופו באופן מושלם. הוא מפגין יכולת תנועה מהירה ומרשימה – בוודאי מהר יותר מאטלס ומביג דוג – על אף שהוא יהיה מוגבל בוודאי בעיקר למשטחים סלולים כמו כבישים ומדרכות. ומה אם הוא ייתקל במדרגה? אין מה לדאוג – הוא מסוגל לקפוץ כמו סוס מעל מכשולים בגובה מטר ויותר.

מייסד חברת בוסטון דינמיקס הגדיר את המכונה כ- "רובוט מעורר-סיוטים", ולא קשה להבין למה. הרובוטים הקודמים של החברה הזכירו בצורתם ובתנועתם את היצורים הביולוגיים שאנו רגילים לראות בכל מקום – כלבים ובני-אדם. הרובוט החדש הינו חדש במלוא מובן המילה: זהו יצור כלאיים שלא היה קיים כדוגמתו בכל ההיסטוריה של כדור-הארץ. הוא משלב בגוף אחד את הגלגל – טכנולוגיה שאינה שימושית בסביבה שאינה מכילה דרכים או משטחים חלקים – ואת הרגליים הביולוגיות והיכולת לשמור על שיווי משקל מושלם.

הרובוט החדש מראה לנו איך יכולים להיראות הרובוטים של העתיד: שונים מאד מחזונותיו של אסימוב אודות רובוטים אנושיים-למראה, ומותאמים באופן מושלם למטרות עבורן יוצרו. רובוטים דומים יוכלו להתנייד בכבישים ועל המדרכות תוך עשר שנים או פחות, לשאת משאות ומשלוחים, ואולי אפילו לקחת בני-אדם למחוז חפצם. וכן – הם יכולים גם להיות מכונות מלחמה מבעיתות, שיתפקדו בשטחים עירוניים. מכונות אלו יהיו עמידות בפני כדורים בזכות מיגון מתאים ויכולת להתאזן ולהימנע מנפילה בעקבות הפגיעה. מהירות התנועה שלהן תאפשר להן לשאת כלי-נשק מסוג ישן-חדש: להבים שיוכלו לגרום נזק נוראי לאזרחים בסביבות צפופות.

רובוט מלחמתי שכזה יכול באמת לעורר סיוטים, כפי שקבע מייסד בוסטון דינמיקס. אבל עד שתגיע המלחמה הגדולה הבאה, אפשר וראוי להתרשם מההחלטה לזנוח את דפוסי התנועה הביולוגיים המיושנים לטובת גופים ודפוסים חדשניים ושימושיים יותר. החברה ייצרה את הטכנולוגיה – ועכשיו תפקידנו להשגיח עליה, ולוודא שהיא משמשת לצרכים שייטיבו עם בני-האדם.