מכונות הסיוטים: כשבינות מלאכותיות מתוכנתות לפסיכופתיה

מכונות הסיוטים: כשבינות מלאכותיות מתוכנתות לפסיכופתיה

למעבדות המדיה של MIT יש מטרה נעלה: לפתח חזונות חדשים בנוגע לדרך בה בינה מלאכותית ובני-אדם ישתפו פעולה בעתיד.

לרוע המזל, הם בחרו להגשים את המטרה באמצעות פיתוח בינה מלאכותית פסיכופתית.

זוהי, כמובן, אינה המילה הנכונה לתיאור אותן בינות מלאכותיות, למרות שניתן לראות את התיאור הזה למחקר החדש בכל רחבי המדיה ברשת. המילה "פסיכופת" מתארת מצב שאינו נורמטיבי בקרב בני-אדם: דרך יוצאת-דופן לעיבוד מידע במוח האנושי. לבני-אדם מן השורה יש ראיית עולם בסיסית שמשותפת לכולנו. אנו מבינים מהי "אהבה" (או לפחות "התאהבות"), מהו "רצח", מהי "אמא" ומהם הרגשות שאנו חשים כלפיה. לעתים אנו מרחיבים את המושגים הללו מעבר למשמעותם המקורית – כך, למשל, חלק מהצמחוניים עשויים להגדיר הרג בעלי-חיים כ- "רצח". אבל גם אז, המושג הבסיסי משמר את משמעותו המקורית. בסופו של דבר, בבסיסנו אנחנו כולנו צאצאים של אותו שבט קופי-אדם שהתפתח לשמר לכידות חברתית.

אלא שלבינה מלאכותית אין את ההטיה האוטומטית הזו, כפי שמתעקשות מעבדות המדיה של MIT להראות שוב ושוב.

אני לא מגזים – במהלך שלוש השנים האחרונות, שחררו המעבדות מספר דוגמאות של מנועי בינה מלאכותית שלא-בדיוק עושות טוב לבני-האדם. הראשונה, בשנת 2016, הייתה "מכונת הסיוטים", שערכה מחדש תמונות כדי לעורר תחושות של אימה ופחד בבני-אדם. פרצופים אנושיים שנערכו על-ידי התוכנה נראים – כצפוי – מסויטים ומזעזעים. התוכנה עורכת תמונות נוף פסטורליות-לשעבר עד שהן מזכירות בתי-מטבחיים ומעוררות צמרמורת וחלחלה בקרב הצופים.

image-alt

מקור: מעבדות המדיה של MIT[1].

אבל החוקרים לא עצרו כאן. בשנת 2017 הפיקו המעבדות את "שלי" – מנוע בינה מלאכותית הכותב סיפורי אימה קצרים. שלי היא רשת עצבים מלאכותית שעברה על מספר עצום של סיפורי אימה קצרים מהרשת החברתית רדיט (Reddit), ולמדה איך להפיק שברי-סיפורים כאלו משלה. היא כתבה יותר ממאתיים סיפורי אימה קצרים, בסיוע בני-אדם מהרשת שרצו – מסיבה שלא לגמרי ברורה לי – לעזור לה להתפתח. הנה חלק קצר מאחד מהסיפורים שהיא כתבה, ביחד עם משפטים שתרמו בני-האדם בטוויטר. (החלקים ששלי כתבה בעצמה מופיעים בהדגשה)

"התחלתי לנשום שוב. השרשראות בקרסולי זעו והצל המשיך לבהות. קריאה שקטה ומספר סימני חיים החלו להיווצר. לא היה לי מושג. גידלתי אותו. הייתי חייבת לעשות משהו. הייתי חייבת לראות אותו. הייתי חייבת. עמדתי לגלות. עמדתי להתרחק מהדבר הזה. לא יכולתי לתת לו להשיג אותי. האדרנלין שלי החל לזרום ולא יכולתי לעצור את עצמי. אבל השרשראות! השרשראות! איך הייתי אמורה לשחרר את עצמי? התחלתי להשתגע. לא יכולתי לזוז. היצור היה שם איתי. מה הוא עשה?"[2]

וכן הלאה וכן הלאה. שלי צריכה להשתפר עוד הרבה לפני שתצליח למכור ספרים כמו סטפן קינג, אבל הרעיון הבסיסי, לפחות, ברור: אפשר לגרום לבינה מלאכותית לכתוב באופן שייגע ברגשות ובפחדים העמוקים והקמאיים ביותר שלנו.

מאוחר יותר באותה שנה, ניסו לראשונה החוקרים ליישם את הרעיונות האלו לשימוש מעשי בפרויקט "אמפתיה עמוקה". הם אימנו רשתות עצבים מלאכותיות על תמונות של איזורי אסון, ואז דרשו מהבינה המלאכותית לערוך מחדש תמונות של ערים בריאות ושוקקות-חיים. התוצאה נראית – כצפוי – מזעזעת: אתם יכולים לראות את עיר מגוריכם חרבה ומרוסקת. וזו בדיוק הייתה כוונתם של החוקרים, שרצו לסייע לתושבי העולם המערבי להתחבר ברגשותיהם לערים ולמדינות שחוו אסונות טבע ומלחמות.

כיצד הייתה נראית בוסטון לאחר אסון? הנה דוגמה, באדיבות "אמפתיה עמוקה"[3].

ועכשיו שעברנו על כמה מפרויקטי העבר של המעבדות, אתם יכולים להבין מאין צמחה הבינה המלאכותית החדשה שלהן: נורמן, על שם הפסיכופת מסרט האימה "פסיכו" של אלפרד היצ'קוק.

בדומה לבינות המלאכותיות האחרות שהצגתי עד כה, גם נורמן מבוסס על רשת עצבים מלאכותית, וגם הוא למד מאוסף דוגמאות שלא ממש היינו רוצים לחוות בחיים האמיתיים. נורמן הורץ על שרשור ידוע-לשמצה ברשת החברתית רדיט, בו כותבים המשתמשים רשמים ופרשנויות אודות טיבו של המוות. לאחר מכן, הוצגו בפני נורמן סדרה של כתמי רורשאך, והוא סיפק תיאור עבור כל תמונה. התיאור של נורמן הושווה לזה של רשת עצבים מלאכותית שאומנה על מאגר מידע גדול ומגוון הרבה יותר[4]. שלא במפתיע, נורמן פירש כל כתם רורשאך באופן מטריד ביותר. כתמים תמימים-למראה הזכירו לו גברים הנורים למוות למול נשיהם הצורחות, נשים הרות הנופלות למותן מבניינים גבוהים, ואנשים הנתפסים על-ידי מכונה לעיבוד בצק ונמשכים לתוכה. הבינה המלאכותית שלמדה ממגוון דגימות מגוון יותר, לעומת זאת, ראתה בתמונות הללו רק "אגרטל פרחים, ציפור קטנה, וזוג אנשים העומדים זה לצד זה."

norman.jpg

מקור: מעבדות המדיה של MIT[5].

מטרתו של נורמן אינה לגרום לנו לחשוב מחדש על פרשנויות אנושיות לכתמי רורשאך, אלא להדגיש נקודה קריטית בהבנתנו את הבינה המלאכותית: אנחנו יכולים ללמד אותה, לטוב ולרע, כיצד לפרש את הקלט שהיא מקבלת. הבינות המלאכותיות החדשות – אלו המבוססות על רשתות עצבים מלאכותיות – חייבות להתבסס על ניסיון העבר. אם המתכנתים מצמצמים את חומר הלימוד אליו היא נחשפת, התוצאה בהכרח היא בינה מלאכותית בעלת פרשנות מעוותת ולוקה-בחסר.

אפשר להשוות את הבינות המלאכותיות החדשות לילד אנושי. ילדים הגדלים בתרבויות ליברליות ופתוחות, בהן הם לומדים וחווים רעיונות שונים, יפתחו ראיית עולם רחבה יותר. הם יוכלו לפרש מצבים חדשים בדרכים שונות, ולשקול פתרונות שונים לכל בעיה (העובדה שהם יכולים לעשות זאת, אינה אומרת כמובן שכך אכן יעשו). לעומתם, ילדים הגדלים בתרבויות מסוגרות וקיצוניות, המאמינות ברעיון אחד גדול מעל לכל היתר, יפרשו כל מצב חדש דרך עדשותיו של אותו רעיון. וכפי שאמר אברהם מסלו –

"אם יש לך רק פטיש, אתה רואה כל דבר כאילו היה מסמר."[6]

זוהי תובנה חשובה לעתיד. ככל שיגדלו יכולותיהן של הבינות המלאכותיות, אנו צפויים לראות אותן מתפשטות למקומות ולשימושים רבים ושונים. הן יקחו חלק ביצירת סרטים, במערכות הבריאות ואפילו במערכות המשפט, הצדק והשלטון. הן יפתחו אביזרים טכנולוגיים חדשים, ימליצו על העונשים הראויים ביותר לכל פושע ויגבשו הצעות חוק לפתרון בעיות קיימות או עתידיות. הן יעשו כל זאת בהתאם לחומר הלימוד שקיבלו, ובכל מדינה ותרבות שתפתחנה בינות מלאכותיות שכאלו, יחונכו הבינות לפי מספר רעיונות שייבחרו בקפידה כדי לשרת את הנורמות הקיימות. בתרבויות דתיות ומסוגרות, יפותחו בינות מלאכותיות שיוכלו לפרש את העולם רק דרך עדשות הרעיונות המרכזיים של אותן דתות.

עתיד שכזה צריך להפחיד את כולנו. הדתות הראשיות כיום התפתחו כטכנולוגיה חברתית – ככלי לשימור לכידות חברתית, לדרבון אנשים להפגנת אלטרואיזם בתוך הקבוצה, ולקיבוץ אנשים רבים ביחד תחת שלטון ריכוזי אחד. הן הצליחו היטב במטלות הללו, אך הן נושאות עמן 'מטען עודף' רב שצברו לאורך מאות רבות של שנים: איסורים שונים ומשונים בתחום המזון, למשל, או קסנופוביה – שנאת זרים. מפחיד לחשוב על בינות מלאכותיות מתקדמות שירכשו הרגלי חשיבה ואמונה שהיו רלוונטיים ומועילים לפני אלפיים שנים – אך היום עומדים בניגוד לדרכי חשיבה מודרניות יותר שמדגישות את זכויות האדם, את המוסר האוניברסלי ואת שיתוף הפעולה בין עמים שונים.

כמובן, בינות מלאכותיות שמפותחות בעולם המערבי הליברלי יקבלו שפע של חומר לימודי מכל הסוגים. אלא שגם זה לא לגמרי מספיק. בכל דעה בכל נושא קיימים 'מיתוסים' – סיפורים שמסבירים את העולם, ושברור לכולם שצריך לפעול לפיהם, גם אם הם אינם מוגדרים היטב או בקול רם. קחו למשל את סיפורי ג'ורג' הסקרן, על קוף סקרן שנכנס לצרות פעם אחר פעם בשל סקרנותו – אך מצליח תמיד להפיק את המיטב מהמתרחש עד סוף הסיפור. ה- 'מיתוס' כאן הוא שסקרנות היא תכונה מועילה ושימושית, שמסייעת בסופו של דבר לבעליה. באופן דומה, כל ילדה שצפתה בסרטי וולט דיסני באמצע השני של המאה העשרים, למדה את המיתוס שנשים צריכות להיות חינניות, חטובות, עם ריסים ארוכים ושמלות ארוכות. וכמובן, שהן צריכות גיבור שיציל אותן.

במילים אחרות, בכל חומר קריאה אנושי קיימים רעיונות מתחת לפני השטח, שלעתים איננו שמים אליהם אפילו לב – אך הם משקפים את תפישת העולם הלא-מודעת שלנו. בינות מלאכותיות שיעברו על כל החומרים הללו יזהו גם הן את המיתוסים התת-הכרתיים המקובלים בתרבות, ויאמצו אותם בהכרח.

מכיוון שכך, הבעיה כפולה: איננו צריכים רק לבחור בקפידה את החומרים שאנו נותנים לבינה המלאכותית לקרוא, אלא גם לנסות להבין בעצמנו מה המסרים החבויים בסיפורים המקובלים בחברה – והאם אנו רוצים להנציח את אותם מסרים.

זוהי משימה קשה, אבל כדאי שנתחיל להתייחס אליה ברצינות. מכיוון שאם לא נעשה זאת, הרי שהבינות המלאכותיות יעשו אותה עבורנו.


אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והמוח האנושי בספריי המדריך לעתיד ו- "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

קישורים:

[1] http://nightmare.mit.edu/#portfolioModal31

[2] http://stories.shelley.ai/chains/

[3] https://deepempathy.mit.edu/

[4] http://cocodataset.org/#home

[5] http://norman-ai.mit.edu

[6] https://en.wikipedia.org/wiki/Law_of_the_instrument

עתיד הפסיכולוגיה – וחשיבותם של הצרכים הבסיסיים

עתיד הפסיכולוגיה – וחשיבותם של הצרכים הבסיסיים

רשומה זו התפרסמה במקור כטור בגלובס (קישור)


לאחרונה הזמינה אותי הסתדרות הפסיכולוגים הישראלית (הפ"י, בקיצור) לדבר אודות עתיד העבודה ובמשתמע גם על עתיד הפסיכולוגיה. סיפרתי להם על הבינה המלאכותית המתפתחת במהירות, הלוקחת על עצמה חלק הולך וגדל מהמטלות האנושיות. "אבל היא לא תחליף לעולם את הפסיכולוג האנושי", קבע בביטחון אחד המשתתפים, "איך אפשר להחליף את הנוכחות האנושית, את המטופל שעל הספה"?

זוהי טעות חשיבה נפוצה: אנו נוטים לבלבל בין הצרכים הבסיסיים לבין הכלים שמספקים מענה עבורם. הטכנולוגיות והפרקטיקות המקובלות כיום בכל תחום נועדו רק לתת מענה לצרכים הבסיסיים. הטכנולוגיות והכלים משתנים מדור לדור, אך הצרכים הבסיסיים נותרים כמעט זהים. מהו הצורך הבסיסי בפסיכולוגיה הקלינית? בהפשטה מסוימת: אנשים רוצים להרגיש טוב יותר. הפסיכולוגים, כמספקי שירות, צריכים למצוא דרך לספק את הצורך הבסיסי של הלקוח.

כיום, דרכם של הפסיכולוגים או פסיכיאטרים לספק את הצורך הבסיסי היא באמצעות מתן תרופות ומפגשים על ספת המטפל. בעתיד הלא-רחוק נמצא גם דרכים נוספות, כגון שימוש בבוטים. מנועי בינה מלאכותית, שמסוגלים לתקשר עם בני אדם בשפת הדיבור – שיספקו תמיכה פסיכולוגית בסיסית בכל זמן, בכל מקום. תאמרו שהבוטים הללו נלעגים וחיקוי עלוב לאנושיותו של הפסיכולוג? נטולי מבע מהורהר בעיניים? הכול נכון, אבל אם הם יטפלו בצורך הבסיסי ביעילות. אנשים ישתמשו בהם, ובסופו של דבר – הם גם יחליפו את ספת הפסיכולוג. בהסתכלות היסטורית אנו רואים את אותו דפוס חוזר על עצמו.למשל, הצורך הבסיסי בתחבורה לא היה הרצון להתחבר לנפשו האצילית של הסוס או ליהנות מהפאר ומההדר של כרכרת המלוכה. הצורך הבסיסי היה להגיע ממקום למקום במהירות ובזול – וברגע שהמכוניות איפשרו לעשות זאת, הן החליפו את הסוס והכרכרה תוך דור אחד.

פעמים רבות, שינויים שכאלו אינם מתרחשים בקלות. אנו יצורים של מסורת ושל הרגלים. לעתים קרובות נדרשות שנים ארוכות – לעתים דור או שניים – עד שהטכנולוגיה החדשה והיעילה יותר מאומצת על ידי ילדי הדור הבא. וזהו, לא נעים לומר, מפלטה המרכזי של הפסיכולוגיה הקלינית בעתיד: העובדה שיהיו בוודאות עוד מבוגרים וקשישים שיתמקדו בקנקן ולא בתוכנו, ושידרשו להיפגש עם פסיכולוג.

מה צריכים לעשות הפסיכולוגים, אם הם שואפים להזניק את מקצועם למאה ה-21? את התשובה סיפק, באופן אירוני, אחד המשתתפים בכנס בטרוניה שהעלה – "בכנסים של חברות ההייטק מדברים כל הזמן על היכולת לגרום ללקוח להרגיש טוב, אבל אין להם פסיכולוגים בכלל". ובכן, יש סיבה טובה לכך שאין להם פסיכולוגים: המהנדסים בגוגל, פייסבוק, אמזון, אפל ודומותיהן, עושים את אותה עבודה שהפסיכולוגים נועדו לעשות – ועושים אותה בשימוש בכלים שונים ומתקדמים יותר מפסיכולוגי הספה. הם מכמתים הכול ובוחנים כל העת את ההשפעות של שינויי הממשקים על המשתמשים ועל רגשותיהם. אבל לעתים קרובות הם אינם מבינים את הלקוחות – אין להם תיאוריה מגובשת היטב של הנפש האנושית. בינתיים, לפחות, הם עדיין מהנדסי מחשבים במקצועם ולא מהנדסי מוחות.

המקום שבו הפסיכולוגים יכולים להביא את מירב התועלת לעתיד הוא באמצעות חבירה לענקיות האינטרנט ושימוש במידע הגדול שהן מפיקות כדי לפתח תיאוריות חדשות אודות נפש האדם. תיאוריות אלו עשויות לקדם את ההבנה המדעית של המוח האנושי ודרכי מחשבתנו – ויובילו בוודאי לטיפולים מתקדמים עוד יותר, שיענו על הצורך הבסיסי באושר של מיליוני אנשים מסביב לעולם.

אבל האם רעיון זה יענה על הצורך הבסיסי של קהילת הפסיכולוגים עצמה כיום – במשמעות ובכבוד למקצוע כפי שהתהווה ב-150 השנים האחרונות?

 


 

אתם מוזמנים לקרוא עוד על עתיד העבודה והבינה המלאכותית בספרי "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).