כשהבוטים של פייסבוק יוצאים משליטה

כשהבוטים של פייסבוק יוצאים משליטה

אני אוהב את אנטוניו. הוא נהג המונית המועדף עלי כשאני רוצה להגיע במהירות לפגישות חשובות. יש לו בנדנה אדומה שמשתלבת היטב עם השפם השחור המרשים. והנסיעות איתו תמיד מעניינות.

"שמעת שהבוטים עומדים להשמיד את כולנו?" התנפל עלי כשנכנסתי למונית.

"יש שמועות כאלו שמתרוצצות כבר מאה שנים בערך." חייכתי בזמן שהניע את הרכב והתחלנו לנוע קדימה. "שהסוף יגיע מהשתלטות הרובוטים, הבוטים, או בינה מלאכותית באופן כללי. אבל בינתיים, עשה לי טובה וסע במהירות – אני תכף מאחר לפגישה הבאה."

man-2192280.jpg

אנטוניו, צילום אילוסטרציה

"אלו כבר לא שמועות." הדגיש אנטוניו כשהשתלבנו בתנועה בכביש המהיר. "ממש השבוע פייסבוק הודיעו שהם נאלצו לסגור שני בוטים שהחלו להתמרד נגדנו, המציאו שפה חדשה משלהם ודיברו ביניהם בלי שנבין מה הם אומרים. מי יודע מה הם אמרו זה לזה, או כמה הם חכמים? לדעתי, הם מתכננים נגדנו. מזל שפייסבוק עצרה אותם ברגע האחרון."

"כן…" התלבטתי איך לענות. "אבל לא. לא בדיוק. נכון שהייתה הרבה דרמה בתקשורת מסביב לסיפור הזה – היו אתרים שדיווחו שהמהנדסים של פייסבוק נכנסו לפניקה וכיבו את הבוטים, או שתהו האם המצאנו את מפלצת פרנקנשטיין המודרנית. המציאות הרבה פחות דרמטית."

"פחות דרמטית?" הבחנתי בעיניו המצומצמות של אנטוניו ננעצות בי בראי. הרכב החל להאיץ קדימה. "אז אתה אומר שיש עוד מאחורי הקלעים של הסיפור הזה?"

"כן, אבל הקונטקסט הוא זה שחשוב כאן. בסך הכל היה מדובר בשני בוטים – אלגוריתמים שמחקים יכולות שיחה אנושיות. אגב, חזיתי את יכולותיהם המתקדמות של בוטים מהסוג הזה בספרי הקודם, "המדריך לעתיד". בכל מקרה, פייסבוק עורכת ניסויים עם בוטים בתקווה שהם יוכלו לדבר עם בני-אדם ולהציע להם שירותים. כך שבמקום להתקשר לחנות הפרחים, למשל, תוכל ליצור קשר עם הבוט של חנות הפרחים דרך פייסבוק, להגיד לו שאתה רוצה לשלוח זר לאשתך לרגל יום הנישואין, והוא יבין מיד שאתה רוצה זר חגיגי עם ורדים אדומים.

זה העתיד שפייסבוק מנסה לקדם, והיא רוצה לחמש את הבוטים שלה גם ביכולות מיקוח ומציאת פשרות. היחידה לחקר בינה מלאכותית בפייסבוק הצליחה כבר ביוני להקנות לבוטים יכולות שכאלו ברמה גבוהה, שמתחרה בזו של בני-אדם, לפחות עבור מציאת פשרות במקרי בוחן פשוטים, כגון חלוקת כדורים, כובעים וספרים בין המתמקחים באופן שיספק את כולם. עד כאן הכל טוב ויפה, אבל הייתה בעיה אחת במחקר הזה: כשהחוקרים הורו לבוטים להתמקח זה עם זה, הם גילו שהבוטים יוצאים משליטה."

"ורוצים להרוג את כולנו!" דפק אנטוניו בשתי ידיו על ההגה.

"לא. זה לא מה שאמרתי." התנגדתי. "העניין הוא שמדובר במערכות בינה מלאכותית שמבוססות על רשתות עצבים מלאכותיות. מערכות כאלו לומדות באופן פעיל מכל מה שהן חוות. זה היתרון הגדול שלהן על פני מערכות פשוטות יותר. ככל שהבוטים התווכחו יותר זה עם זה, כך הם למדו טוב יותר איך להעביר את המסר שלהם באופן ברור ופשוט יותר לצד השני. ומכיוון שהחוקרים לא הורו להם לשמור על כללי השפה האנגלית בזמן הדיונים, תוך זמן קצר השיחה בין שני הבוטים הפכה להיות בלתי-מובנת כמעט לחלוטין לבני-האדם שצפו בה. הם התחילו להשתמש בשפת קוד כדי להעביר מסרים זה לזה – שפה שהייתה מובנת רק להם במלואה."

"קוד?!" אנטוניו עקף רכב אחד משמאל, רכב אחד מימין, הכריח שלושה אופנוענים להתפזר לצדדים, וזינק מעל משאית. "עכשיו הרובוטים מתחילים גם לתכנת?!"

"לא, לא!" אמרתי בבהילות. עצמתי את עיניי, אבל זה היה מפחיד עוד יותר. פקחתי אותן שוב. "הם לא תכנתו את עצמם. זה בסדר. אפשר להירגע. הם פשוט מצאו דרך יעילה יותר להעביר מסרים ביניהם. תראה, לנו, בני-האדם, יש דרכים מאד מוגבלות להעביר מסרים. לכל מילה שלנו יש כמה משמעויות – כמו "קוד". אנחנו צריכים את כל המשמעויות האלו בשיחה האנושית, שנועדה להקיף מגוון של נושאים כמו אהבה, חברות, יריבות, פיננסים ועוד. אבל לבוטים היה רק צורך אחד – להגיע להסכמה במשא ומתן זה עם זה. ולכן הם פישטו עוד ועוד את השפה האנושית, עד שהגיעו לבסיס שהיו צריכים, שהעביר את מירב האינפורמציה עם מינימום הסחות דעת. אחד היה אומר "אני יכול אני אני כל דבר אחר" והשני היה מבין מיד את כוונתו ומשיב – "כדורים יש אפס לי לי לי לי לי לי". ככה זה נראה באנגלית –

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

אלו פישוטים של שיחה אנושית, אבל פישוטים דומים מתבצעים כל הזמן, למשל ביחידות צבאיות שצריכות לתקשר זו עם זו ביעילות ובקיצור בשדה הקרב."

"שדה הקרב?!" הוא שאג, והמונית רעמה קדימה. ייתכן שייבבתי.

"זה טוב! זה טוב! תחשוב כמה קשה לנו לתקשר אחד עם השני ולהעביר מידע ביעילות זה לזה! למכונות קשה עוד יותר – אם אנחנו רוצים שתכנה א' תעבוד עם תכנה ב', למשל, אנחנו חייבים להתאים כל אחת מהן לעבודה המשותפת, וזה דורש המון כוח תכנות אנושי! אבל אם היינו יכולים לעזור למכונות להמציא שפות משותפות באמצעותן הן יכולות להעביר מסרים זו לזו בקלות – אפילו בלי מעורבות אנושית – זה היה יכול לעזור לחבר את כל המערכות בעולם ולאפשר להן לעבוד בשיתוף פעולה! המזגן החכם, המקרר החכם, הרמזור, המכונית האוטונומית – "

הבנתי את הטעות מאוחר מדי, כשידיו של אנטוניו התהדקו על ההגה עד שאצבעותיו הלבינו. הוא לא אוהב לשמוע על מכוניות אוטונומיות. צפיתי בו שואף אוויר בין שפתיים מכווצות.

"על מכוניות אוטונומיות נדבר בפעם אחרת." סינן לבסוף, וירד למחלף בשלוש-מאות קמ"ש. "בינתיים, כשכל המכונות האלו שלך מדברות בעתיד זו עם זו בשפה שאנחנו לא מבינים, אתה יכול להגיד לי איך אתה מצפה שנשלוט עליהן? שנוודא שהן עושות את מה שאנחנו רוצים?"

"מחשבים באופן כללי עושים את מה שאנחנו אומרים להם לעשות." אמרתי בהכנעה. "אבל אתה צודק בכך שמערכות לומדות עלולות ללמוד גם לפרש את דברינו באופן לא-מדויק, ולהעביר אותם עוד פחות במדויק בשרשרת המכונות. זו בדיוק הסיבה שאנחנו חוקרים את הנושאים האלו עכשיו – כדי למצוא דרכים לעזור למכונות להעביר מסרים אחת לשנייה באופן מדויק יותר, ומצד שני שיישאר עדיין במסגרת הבנתנו האנושית. אבל באמת שלא צריך… לדאוג!"

את המילה האחרונה פלטתי בצעקה כשאנטוניו סטה ימינה בחדות והדמים את הרכב, תוך שהוא מחמיץ במילימטר את ברז הכיבוי הסמוך.

"הגענו ליעד!" הכריז. "במהירות כמו שרצית."

"זה היה קצת מהיר מדי." התנגדתי. "אפשר לקבל איזו הנחה? כמעט חטפתי… התקף… לב…"

המילים גוועו בגרוני לנוכח מבטו היוקד.

"תודה, אנטוניו." נאנחתי. "באמת הגענו מהר ליעד, אבל אולי כדאי שבפעם הבאה נתקשר טוב יותר לגבי מה הכוונות המדויקות שלי. למשל, להגיע ליעד בחיים."

עיניו נצנצו. "דולרים יש אפס לי לי לי." הלעיט. "ואם זה לא טוב לך, אתה יכול לעבור למכוניות האוטונומיות."


כמו תמיד, אם אתם אוהבים לקרוא על בינות מלאכותיות ועל הדרכים השונות בהן ישתלבו בעולמנו, אתם מוזמנים להתעמק ב- "המדריך לעתיד" ו- "השולטים לעתיד" – שניהם בחנויות הספרים.

הבינה המלאכותית שתחליף את המתרגלים באוניברסיטאות

הבינה המלאכותית שתחליף את המתרגלים באוניברסיטאות

"נזמין עוד פיצה?" הצעתי לאריק.

הוא רק נענע בראשו בשתיקה. היה ברור שמשהו מטריד אותו, טרדה גדולה כל כך שאפילו הפיצה בפלאטברד קומפאני, מסעדת הפיצריות הטובה ביותר ברוד איילנד, ואולי ביקום הידוע, לא יכולה להביא לה תקנה.

"מה מטריד אותך?" שאלתי לבסוף.

"זה הבוט." הוא התפרץ. "הבוט הארור הזה. הוא עומד לקחת לי את העבודה."

"אין לך עבודה." הזכרתי לו. "אתה מתרגל בקורס באוניברסיטה, ובקושי יש לך כסף לאוכל."

"טוב, אבל לפחות זאת עבודה." אמר במרמור. "ותכף גם היא נעלמת לי. שמעת שבמכון הטכנולוגי של ג'ורג'יה הצליחו להחליף את אחד המתרגלים בבוט – בבינה מלאכותית – ואף אחד מהסטודנטים לא שם לב?"

"כן," נזכרתי. "זה קרה בסמסטר האחרון. איך קראו לבוט ההוא?"

"קוראים לה ג'יל." אמר. "ג'יל ווטסון, כי היא מבוססת על אותו מנוע בינה מלאכותית בשם ווטסון שיבמ פיתחו לפני כמה שנים, ושיודע להתווכח עם אנשים, לעשות סקירות ספרות מדעיות ואפילו לספק ייעוץ משפטי. אז עכשיו הוא גם יכול לתרגל סטודנטים טוב יותר ממתרגל אנושי. והם אפילו לא שמים לב!"

"איך זה יכול להיות?" ניסיתי להבין.

"זה קרה בקורס על בינה מלאכותית, שהעביר פרופ' אשוק גוהל." הסביר אריק. "הוא ראה שהמתרגלים בקורס נקברים מתחת לעומס הפניות והשאלות מצד הסטודנטים, אז החליט לאמן בינה מלאכותית כדי להקל עליהם ולהוריד מהעומס. גוהל נתן לבינה המלאכותית לקרוא ארבעים-אלף שאלות, תשובות והערות שכתבו סטודנטים ומתרגלים בפורום של הקורס, ואימן אותה לענות באופן דומה על שאלות חדשות מצד סטודנטים."

"נו, והיא הצליחה?" שאלתי.

"בקלות." נאנח. "בלי לחשוב פעמיים, או אפילו פעם אחת. היא ענתה לכל השאלות של הסטודנטים, ואף אחד לא הבין שמדובר בבינה מלאכותית. היו אפילו דיבורים בין הסטודנטים לבחור בה כמתרגלת מצטיינת."

"ולמה זה כל-כך רע?" שאלתי. "הרי היא הורידה את עומס העבודה לכל המתרגלים האנושיים והסטודנטים יצאו מרוצים. במי זה פוגע, בסך הכל?"

הוא לטש בי מבט ארוך. "זה פוגע באלו מאיתנו שצריכים עבודה כדי להתקיים." הבהיר. "הרי בעוד שנה-שנתיים, כשמתרגלים אוטומטיים כאלו יהיו בכל קורס, יהיו פחות משרות פתוחות למתרגלים אנושיים."

"אתה צריך לחשוב על זה אחרת." אמרתי. "הצד החיובי הוא שעדיין יש מקום למתרגלים אנושיים, כל עוד הם יודעים לעבוד עם המתרגלים הממוחשבים. המחשב הרי לא יודע לענות על כל השאלות, ופה ושם צריך גם שיקול דעת אנושי. אז תמיד יהיה מקום למתרגל אנושי, אבל הוא יצטרך פשוט להיות הטוב ביותר: להפעיל כמה מתרגלים אוטומטיים בו זמנית שיתמודדו עם השאלות הרגילות ויעבירו לו רק את השאלות המורכבות והמוזרות ביותר. הוא יצטרך לדעת לעבוד עם מחשבים ובינה מלאכותית, להיות בעל יחסי אנוש טובים כדי לפתור מצבים מורכבים, ולהיות אחראי מספיק כדי לעשות את כל הדברים האלו. ונכון, תהיה תחרות גדולה על המקום הבודד הזה, אבל אני בטוח שתצליח!"

אריק לא נראה משוכנע. הרגשתי שזה הזמן להגביר את העידוד.

"וחוץ מזה, אתה תמיד יכול להחליף מקצוע. למשל, ללכת להיות פסיכולוג…"

"יש כבר חברות שמספקות שירותים פסיכולוגיים דרך האינטרנט, בשיחות טקסט." אמר. "זה עובד די טוב, מסתבר. רוצה להתערב שבוטים יוכלו לעשות גם את זה תוך כמה שנים? אז תתכונן להגיד שלום לחלק גדול מהפסיכולוגים."

"או אולי אתה יכול לכתוב ספרים…" ניסיתי.

"בינה מלאכותית הצליחה בתחילת השנה לכתוב ספר שלם, שעבר את הסיבוב הראשון בתחרות ספרות יפנית." קבע.

"או לכתוב נאומים פוליטיים…"

"מחשבים עושים גם את זה היום."

"טוב," התעצבנתי. "אז תהיה מוכר פרחים ודי!"

"פייסבוק פותחים עכשיו שירות בוטים, שיאפשרו לכל אדם לדבר איתם ברשת ולהזמין דרכם אוכל, פרחים וכל מיני מוצרים אחרים." קבע ביאוש.  "מה נשאר לבני-האדם, אני שואל אותך?"

"ובכן," חככתי בדעתי, "בטח יש עוד דברים שאנחנו יכולים לעשות. אתה רואה, למשל, את הבחורה ההיא בקצה הבר? חמודה, נכון? שמת לב שהיא עושה לך עיניים כבר איזה חצי-שעה?"

הוא עקב אחר מבטי. "כן." אמר, והקמטים שבמצחו החלו להתמסמס.

"תחשוב על זה." המשכתי. "היא בטח מעוניינת, אבל לא יודעת איך לגשת אליך."

הוא חשב על זה. "היא בטח לא יודעת מה להגיד לי." אמר.

הנהנתי בהסכמה.

"היא לא יודעת מה ימשוך את תשומת הלב שלי הכי טוב." המשיך.

"בדיוק!" אמרתי.

"היא צריכה עזרה." קבע בשפתיים חשוקות. "ואני בדיוק האיש שיכול לעזור לה!"

הוא קם בהחלטיות, וצעד בנחישות לכיוון היציאה.

"לאן אתה הולך?" קראתי אחריו. "היא ממש כאן!"

הוא הסתובב אלי, ואני התכווצתי כשראיתי את עיניו בוהקות.

"אפשר לפתור את הבעיה הזו עם בוט." אמר, רגע לפני שסגר מאחוריו את הדלת. "ואני עומד לעשות את זה."

חזרתי לשבת, והרמתי את כוסי במחוות ניחומים לבחורה בצד השני של הבר. היא עוד לא יודעת, אבל בקרוב בוטים יוכלו להחליף את בני-האדם בעוד תפקיד.