מכונות הסיוטים: כשבינות מלאכותיות מתוכנתות לפסיכופתיה

מכונות הסיוטים: כשבינות מלאכותיות מתוכנתות לפסיכופתיה

למעבדות המדיה של MIT יש מטרה נעלה: לפתח חזונות חדשים בנוגע לדרך בה בינה מלאכותית ובני-אדם ישתפו פעולה בעתיד.

לרוע המזל, הם בחרו להגשים את המטרה באמצעות פיתוח בינה מלאכותית פסיכופתית.

זוהי, כמובן, אינה המילה הנכונה לתיאור אותן בינות מלאכותיות, למרות שניתן לראות את התיאור הזה למחקר החדש בכל רחבי המדיה ברשת. המילה "פסיכופת" מתארת מצב שאינו נורמטיבי בקרב בני-אדם: דרך יוצאת-דופן לעיבוד מידע במוח האנושי. לבני-אדם מן השורה יש ראיית עולם בסיסית שמשותפת לכולנו. אנו מבינים מהי "אהבה" (או לפחות "התאהבות"), מהו "רצח", מהי "אמא" ומהם הרגשות שאנו חשים כלפיה. לעתים אנו מרחיבים את המושגים הללו מעבר למשמעותם המקורית – כך, למשל, חלק מהצמחוניים עשויים להגדיר הרג בעלי-חיים כ- "רצח". אבל גם אז, המושג הבסיסי משמר את משמעותו המקורית. בסופו של דבר, בבסיסנו אנחנו כולנו צאצאים של אותו שבט קופי-אדם שהתפתח לשמר לכידות חברתית.

אלא שלבינה מלאכותית אין את ההטיה האוטומטית הזו, כפי שמתעקשות מעבדות המדיה של MIT להראות שוב ושוב.

אני לא מגזים – במהלך שלוש השנים האחרונות, שחררו המעבדות מספר דוגמאות של מנועי בינה מלאכותית שלא-בדיוק עושות טוב לבני-האדם. הראשונה, בשנת 2016, הייתה "מכונת הסיוטים", שערכה מחדש תמונות כדי לעורר תחושות של אימה ופחד בבני-אדם. פרצופים אנושיים שנערכו על-ידי התוכנה נראים – כצפוי – מסויטים ומזעזעים. התוכנה עורכת תמונות נוף פסטורליות-לשעבר עד שהן מזכירות בתי-מטבחיים ומעוררות צמרמורת וחלחלה בקרב הצופים.

image-alt

מקור: מעבדות המדיה של MIT[1].

אבל החוקרים לא עצרו כאן. בשנת 2017 הפיקו המעבדות את "שלי" – מנוע בינה מלאכותית הכותב סיפורי אימה קצרים. שלי היא רשת עצבים מלאכותית שעברה על מספר עצום של סיפורי אימה קצרים מהרשת החברתית רדיט (Reddit), ולמדה איך להפיק שברי-סיפורים כאלו משלה. היא כתבה יותר ממאתיים סיפורי אימה קצרים, בסיוע בני-אדם מהרשת שרצו – מסיבה שלא לגמרי ברורה לי – לעזור לה להתפתח. הנה חלק קצר מאחד מהסיפורים שהיא כתבה, ביחד עם משפטים שתרמו בני-האדם בטוויטר. (החלקים ששלי כתבה בעצמה מופיעים בהדגשה)

"התחלתי לנשום שוב. השרשראות בקרסולי זעו והצל המשיך לבהות. קריאה שקטה ומספר סימני חיים החלו להיווצר. לא היה לי מושג. גידלתי אותו. הייתי חייבת לעשות משהו. הייתי חייבת לראות אותו. הייתי חייבת. עמדתי לגלות. עמדתי להתרחק מהדבר הזה. לא יכולתי לתת לו להשיג אותי. האדרנלין שלי החל לזרום ולא יכולתי לעצור את עצמי. אבל השרשראות! השרשראות! איך הייתי אמורה לשחרר את עצמי? התחלתי להשתגע. לא יכולתי לזוז. היצור היה שם איתי. מה הוא עשה?"[2]

וכן הלאה וכן הלאה. שלי צריכה להשתפר עוד הרבה לפני שתצליח למכור ספרים כמו סטפן קינג, אבל הרעיון הבסיסי, לפחות, ברור: אפשר לגרום לבינה מלאכותית לכתוב באופן שייגע ברגשות ובפחדים העמוקים והקמאיים ביותר שלנו.

מאוחר יותר באותה שנה, ניסו לראשונה החוקרים ליישם את הרעיונות האלו לשימוש מעשי בפרויקט "אמפתיה עמוקה". הם אימנו רשתות עצבים מלאכותיות על תמונות של איזורי אסון, ואז דרשו מהבינה המלאכותית לערוך מחדש תמונות של ערים בריאות ושוקקות-חיים. התוצאה נראית – כצפוי – מזעזעת: אתם יכולים לראות את עיר מגוריכם חרבה ומרוסקת. וזו בדיוק הייתה כוונתם של החוקרים, שרצו לסייע לתושבי העולם המערבי להתחבר ברגשותיהם לערים ולמדינות שחוו אסונות טבע ומלחמות.

כיצד הייתה נראית בוסטון לאחר אסון? הנה דוגמה, באדיבות "אמפתיה עמוקה"[3].

ועכשיו שעברנו על כמה מפרויקטי העבר של המעבדות, אתם יכולים להבין מאין צמחה הבינה המלאכותית החדשה שלהן: נורמן, על שם הפסיכופת מסרט האימה "פסיכו" של אלפרד היצ'קוק.

בדומה לבינות המלאכותיות האחרות שהצגתי עד כה, גם נורמן מבוסס על רשת עצבים מלאכותית, וגם הוא למד מאוסף דוגמאות שלא ממש היינו רוצים לחוות בחיים האמיתיים. נורמן הורץ על שרשור ידוע-לשמצה ברשת החברתית רדיט, בו כותבים המשתמשים רשמים ופרשנויות אודות טיבו של המוות. לאחר מכן, הוצגו בפני נורמן סדרה של כתמי רורשאך, והוא סיפק תיאור עבור כל תמונה. התיאור של נורמן הושווה לזה של רשת עצבים מלאכותית שאומנה על מאגר מידע גדול ומגוון הרבה יותר[4]. שלא במפתיע, נורמן פירש כל כתם רורשאך באופן מטריד ביותר. כתמים תמימים-למראה הזכירו לו גברים הנורים למוות למול נשיהם הצורחות, נשים הרות הנופלות למותן מבניינים גבוהים, ואנשים הנתפסים על-ידי מכונה לעיבוד בצק ונמשכים לתוכה. הבינה המלאכותית שלמדה ממגוון דגימות מגוון יותר, לעומת זאת, ראתה בתמונות הללו רק "אגרטל פרחים, ציפור קטנה, וזוג אנשים העומדים זה לצד זה."

norman.jpg

מקור: מעבדות המדיה של MIT[5].

מטרתו של נורמן אינה לגרום לנו לחשוב מחדש על פרשנויות אנושיות לכתמי רורשאך, אלא להדגיש נקודה קריטית בהבנתנו את הבינה המלאכותית: אנחנו יכולים ללמד אותה, לטוב ולרע, כיצד לפרש את הקלט שהיא מקבלת. הבינות המלאכותיות החדשות – אלו המבוססות על רשתות עצבים מלאכותיות – חייבות להתבסס על ניסיון העבר. אם המתכנתים מצמצמים את חומר הלימוד אליו היא נחשפת, התוצאה בהכרח היא בינה מלאכותית בעלת פרשנות מעוותת ולוקה-בחסר.

אפשר להשוות את הבינות המלאכותיות החדשות לילד אנושי. ילדים הגדלים בתרבויות ליברליות ופתוחות, בהן הם לומדים וחווים רעיונות שונים, יפתחו ראיית עולם רחבה יותר. הם יוכלו לפרש מצבים חדשים בדרכים שונות, ולשקול פתרונות שונים לכל בעיה (העובדה שהם יכולים לעשות זאת, אינה אומרת כמובן שכך אכן יעשו). לעומתם, ילדים הגדלים בתרבויות מסוגרות וקיצוניות, המאמינות ברעיון אחד גדול מעל לכל היתר, יפרשו כל מצב חדש דרך עדשותיו של אותו רעיון. וכפי שאמר אברהם מסלו –

"אם יש לך רק פטיש, אתה רואה כל דבר כאילו היה מסמר."[6]

זוהי תובנה חשובה לעתיד. ככל שיגדלו יכולותיהן של הבינות המלאכותיות, אנו צפויים לראות אותן מתפשטות למקומות ולשימושים רבים ושונים. הן יקחו חלק ביצירת סרטים, במערכות הבריאות ואפילו במערכות המשפט, הצדק והשלטון. הן יפתחו אביזרים טכנולוגיים חדשים, ימליצו על העונשים הראויים ביותר לכל פושע ויגבשו הצעות חוק לפתרון בעיות קיימות או עתידיות. הן יעשו כל זאת בהתאם לחומר הלימוד שקיבלו, ובכל מדינה ותרבות שתפתחנה בינות מלאכותיות שכאלו, יחונכו הבינות לפי מספר רעיונות שייבחרו בקפידה כדי לשרת את הנורמות הקיימות. בתרבויות דתיות ומסוגרות, יפותחו בינות מלאכותיות שיוכלו לפרש את העולם רק דרך עדשות הרעיונות המרכזיים של אותן דתות.

עתיד שכזה צריך להפחיד את כולנו. הדתות הראשיות כיום התפתחו כטכנולוגיה חברתית – ככלי לשימור לכידות חברתית, לדרבון אנשים להפגנת אלטרואיזם בתוך הקבוצה, ולקיבוץ אנשים רבים ביחד תחת שלטון ריכוזי אחד. הן הצליחו היטב במטלות הללו, אך הן נושאות עמן 'מטען עודף' רב שצברו לאורך מאות רבות של שנים: איסורים שונים ומשונים בתחום המזון, למשל, או קסנופוביה – שנאת זרים. מפחיד לחשוב על בינות מלאכותיות מתקדמות שירכשו הרגלי חשיבה ואמונה שהיו רלוונטיים ומועילים לפני אלפיים שנים – אך היום עומדים בניגוד לדרכי חשיבה מודרניות יותר שמדגישות את זכויות האדם, את המוסר האוניברסלי ואת שיתוף הפעולה בין עמים שונים.

כמובן, בינות מלאכותיות שמפותחות בעולם המערבי הליברלי יקבלו שפע של חומר לימודי מכל הסוגים. אלא שגם זה לא לגמרי מספיק. בכל דעה בכל נושא קיימים 'מיתוסים' – סיפורים שמסבירים את העולם, ושברור לכולם שצריך לפעול לפיהם, גם אם הם אינם מוגדרים היטב או בקול רם. קחו למשל את סיפורי ג'ורג' הסקרן, על קוף סקרן שנכנס לצרות פעם אחר פעם בשל סקרנותו – אך מצליח תמיד להפיק את המיטב מהמתרחש עד סוף הסיפור. ה- 'מיתוס' כאן הוא שסקרנות היא תכונה מועילה ושימושית, שמסייעת בסופו של דבר לבעליה. באופן דומה, כל ילדה שצפתה בסרטי וולט דיסני באמצע השני של המאה העשרים, למדה את המיתוס שנשים צריכות להיות חינניות, חטובות, עם ריסים ארוכים ושמלות ארוכות. וכמובן, שהן צריכות גיבור שיציל אותן.

במילים אחרות, בכל חומר קריאה אנושי קיימים רעיונות מתחת לפני השטח, שלעתים איננו שמים אליהם אפילו לב – אך הם משקפים את תפישת העולם הלא-מודעת שלנו. בינות מלאכותיות שיעברו על כל החומרים הללו יזהו גם הן את המיתוסים התת-הכרתיים המקובלים בתרבות, ויאמצו אותם בהכרח.

מכיוון שכך, הבעיה כפולה: איננו צריכים רק לבחור בקפידה את החומרים שאנו נותנים לבינה המלאכותית לקרוא, אלא גם לנסות להבין בעצמנו מה המסרים החבויים בסיפורים המקובלים בחברה – והאם אנו רוצים להנציח את אותם מסרים.

זוהי משימה קשה, אבל כדאי שנתחיל להתייחס אליה ברצינות. מכיוון שאם לא נעשה זאת, הרי שהבינות המלאכותיות יעשו אותה עבורנו.


אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והמוח האנושי בספריי המדריך לעתיד ו- "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

קישורים:

[1] http://nightmare.mit.edu/#portfolioModal31

[2] http://stories.shelley.ai/chains/

[3] https://deepempathy.mit.edu/

[4] http://cocodataset.org/#home

[5] http://norman-ai.mit.edu

[6] https://en.wikipedia.org/wiki/Law_of_the_instrument

רשת העצבים המלאכותית שפיתחה מבנים ביולוגיים הקיימים במוח אנושי

רשת העצבים המלאכותית שפיתחה מבנים ביולוגיים הקיימים במוח אנושי

בחודש האחרון פרסמו חוקרים בחברת דיפ מיינד – אחת החברות המתקדמות ביותר בעולם בפיתוח בינה מלאכותית – מחקר חדש בכתב-העת המדעי היוקרתי נייצ'ר, אודות רשת עצבים מלאכותית שפיתחה מבנים הדומים לאלו הקיימים במוח ביולוגי[1].

כדי להסביר במה מדובר, צריך קודם לפרט קצת אודות רשתות עצבים מלאכותיות. מדובר בסימולציות המורצות במחשב, ובהן מיליוני מרכזי חישוב פשוטים המתקשרים זה עם זה, בדומה לדרך בה תאי העצבים במוח מתקשרים אחד עם השני. כל אחד מהתאים במוח הביולוגי הוא מכונה פשוטה יחסית ונטול-בינה משל עצמו, אך פעולתם המתואמת של מיליארדי תאי עצב ביחד יוצרת מחשבה, רגש ואפילו מודעות עצמית. באופן דומה, כאשר מיליוני מרכזי חישוב מתקשרים ביחד ומעבירים מידע אחד לשני במחשב, ניתן לאמן אותם לבצע משימות שמוחות ביולוגיים מותאמים במיוחד עבורן: עיבוד תמונה, למשל, או ניווט במרחב.

ברור שיש דימיון בין דרך הפעולה של רשתות עצבים מלאכותיות ובין מערכות עצבים ביולוגיות, אך חוקרי מוח וחוקרי בינה מלאכותית כאחד מבינים גם את ההבדל הגדול בין השתיים. תאים במוח, למשל, יכולים להגיב למגוון רחב של שליחים עצביים – חומרים כימיים המופרשים על-ידי תאי עצב אחרים. רשתות עצבים מלאכותיות, לעומת זאת, מעבירות רק מסרים פשוטים בין ה- 'תאים' הממוחשבים, אך עושות זאת במהירות שגדולה בהרבה מקצב מעבר המסר האיטי יחסית לאורך תאי העצב הביולוגיים. יש דימיון, בוודאי, אך השוני גדול עד מאד.

זו, כנראה, הסיבה שרבים כל-כך הופתעו כאשר רשתות עצבים מלאכותיות החלו לאחרונה לפתח מבנים שאנו מכירים ממוחות אנושיים.

במוחות אנושיים – ובאופן כללי במוחותיהם של בעלי-חיים – ניתן למצוא מבנים ייחודיים של תאי רשת. תאי עצבים אלו מסודרים במשושים, ו- 'נדלקים' לפעולה בהתאם למיקומו של האדם. כאשר אני הולך ימינה, מופעלים תאי רשת מסוימים, וכאשר אני הולך שמאלה – מופעלים תאי רשת אחרים. אפשר לומר כמעט שתאי הרשת יוצרים מפה מנטלית – מעין GPS פנימי – באמצעותה מסוגלים בעלי-חיים לפענח את מיקומם, ולפתור בעיות הקשורות בתנועה במרחב. תאים אלו מאפשרים לנו לציית, אפילו בעיניים עצומות, להוראות בסגנון – "צעד חמישה צעדים קדימה, פנה תשעים מעלות שמאלה ואז המשך ישר עוד שלושה צעדים אל המטמון."

במקור מ- DeepMind.

קיומם של תאי הרשת נחשף בעשרים השנים האחרונות, ומגליהם זכו בפרס נובל ברפואה בשנת 2014[2]. הם מהווים דוגמה ניצחת לפרדוקס פולניי – "אנו יודעים יותר מכפי שאנו יכולים להסביר."[3] אנו ניחנים אמנם במערכות ניווט משוכללות המתבססות על תאי הרשת, אך הן מאפשרות לנו להגיע לתובנות אינטואיטיביות, מבלי שנוכל להסביר אותן. אם נושלך, למשל, לחדר מבולגן, נוכל לזהות בו דרכים קצרות ומהירות להגיע ליעד, בזמן שבינות מלאכותיות משוכללות יצטרכו לתכנן מספר נתיבי תנועה שונים לפני שיבחרו בדרך הקצרה ביותר – מטלה מייגעת שמבזבזת משאבי חישוב יקרים.

אבל מה אם הבינות המלאכותיות המשוכללות והפופולריות ביותר כיום – אלו הנסמכות על רשתות עצבים מלאכותיות – היו ניחנות בעצמן בתאי רשת?

כדי לבדוק את השאלה, הריצו החוקרים בחברת דיפמיינד (DeepMind) רשת עצבים מלאכותית, ודרשו ממנה להשלים בהצלחה מטלות ניווט בסביבות וירטואליות. הם גילו שבתוך הרשת מתפתחים באופן ספונטני אזורים הפועלים באופן דומה לתאי הרשת. תאי רשת וירטואליים אלו אפשרו לבינה המלאכותית לפתור בהצלחה חידות מבוכים פשוטות במהירות וביעילות – ולפי החוקרים, "ברמה על-אנושית". הבינה המלאכותית "התעלתה על יכולותיהם של שחקנים אנושיים מקצועיים, והפגינה את סוג הניווט הגמיש המקושר בדרך-כלל עם חיות, תוך שהיא בוחרת בנתיבים חדשים ועושה קיצורי-דרך כאשר אלו מתאפשרים."[4]

במקור מ- DeepMind.

כל זה טוב ויפה, אבל במבט ראשון לא נראה מרשים במיוחד. הרי רבים מבינים כבר שבינות מלאכותיות מתחילות להגיע לרמות על-אנושיות במטלות חישוביות רבות. מה שונה בתגלית הנוכחית?

התשובה כפולה: ההבנה שייצוגים וירטואליים של תאי רשת מסייעים לבינות המלאכותיות לפעול, והופעתן הספונטנית ברשתות עצבים מלאכותיות, יכולות לעזור לנו לפענח גם את פעילות המוח האנושי עצמו. אבל יותר מכך – היא עשויה לרמז אודות הדרך לעתיד הרשתות העצבים המלאכותיות.

נתחיל בקביעה הראשונה. המוח, מבחינות רבות, מהווה עדיין קופסא שחורה. אנו מבינים, באופן גס וכללי, את אופן פעולתם של תאי העצב השונים ואת הדרכים בהן הם מתקשרים בינם לבין עצמם. אנו יודעים כי אתרים שונים במוח אחראים על מטלות שונות: ההיפוקמפוס אחראי על פיתוח זכרונות לטווח ארוך, למשל, בעוד שהאמיגדלה קשורה לוויסות הרגשות ולקבלת החלטות. אנו מבינים כי סך-כל הפעילות המוחית יוצרת חשיבה ומודעות עצמית. אבל עדיין אין לנו מודל מדעי ברור בנוגע לדרך בה זרימת המידע במוח – מחשב-על במשקל קילו וקצת, עם צריכה אנרגטית נמוכה להפליא – מאפשרת לכל הדברים הללו להתרחש. אנו מתקשים לערוך ניסויים ברזולוציה הנדרשת – ברמה התאית – כדי להבין את דרך פעולתו של המוח.

רשתות העצבים המלאכותיות מאפשרות לנו, לראשונה, להתחקות אחר דרך פעולתו של המוח האנושי. איני מנסה לטעון שהן מהוות סימולציה מושלמת של מוחות ביולוגיים. האמת היא שהן שונות מאד מבחינות רבות ממוח ביולוגי, אבל העובדה היא שייצוגים וירטואליים של תאי רשת התהוו ספונטנית ברשתות עצבים מלאכותיות. ולא זאת בלבד, אלא שייצוגים אלו תומכים בפעילות דומה לזו של תאי רשת ביולוגיים. ברור לנו שהמוח 'רץ' על מערכת חישובית בעלת דימיון מובהק לרשתות עצבים מלאכותיות, וכל תיאוריה שנמצא עבור דרך פעילותן של הרשתות העצביות שבמחשב, תהיה בעלת השלכות גם על הבנתנו את המוח עצמו. לכן, הרצת סימולציות של אזורים במוח ברשתות עצבים מלאכותיות, תעזור לנו לפענח את דרך פעולתם של מבנים ואזורים במוח האנושי.

אם קביעה זו תוכח כנכונה, הרי שיש לה משמעות עצומה לחקר המוח. הפיזיקאי זוכה פרס הנובל ריצ'רד פיינמן אמר כי – "מה שאיני יכול ליצור, איני מבין". אם לא נוכל ליצור מבנים דמויי-מוח ולבחון אותם ברזולוציה גבוהה, לא נוכל להגיע להבנה מלאה של המוח האנושי. רשתות העצבים המלאכותיות מספקות לנו דרך לבחון רעיונות אודות המוח, שמעולם לא יכולנו לבדוק בעבר.

וזוהי רק התחזית הראשונה לעתיד.

התחזית השנייה נבנית על העובדה שרשתות העצבים המלאכותיות במחקר של דיפמיינד, פיתחו באופן ספונטני 'תאי רשת', כתוצאה מהדרך בה אומנו לפתור בעיות ניווט. האם ייתכן שרשתות עצבים מלאכותיות משוכללות יותר (הרבה יותר) יוכלו לפתח באופן ספונטני בעתיד גם מבנים מורכבים יותר, המדמים חלקים מהמוח האנושי?

אני יודע שרעיון זה נשמע מוזר על פניו. המבנים של 'תאי הרשת' הווירטואליים פשוטים מאד, ואי אפשר להשוות אותם למבנים המורכבים יותר במוח, כהיפוקמפוס או כאונות הקדמיות. אבל אנו מתחילים להיכנס לתקופה של ניסים ונפלאות: רשתות עצבים מלאכותיות מסוימות כבר מסוגלות כיום 'להעמיד צאצאים' – כלומר, ליצור ולפתח תת-רשתות עצבים מלאכותיות שמתאימות במיוחד לביצוע מטלה מסוימת, ומוציאות אותה לפועל ברמת הצלחה גבוהה יותר ממתכנתים אנושיים[5]. תהליך הפיתוח של רשתות העצבים המלאכותיות הללו מתבסס על ניסוי וטעייה – הבינה המלאכותית מריצה אלפי רשתות עצבים מלאכותיות, בוררת את היעילות ביותר וגוזמת ומשפרת אותן עד שהן מסוגלות לבצע את המוטל עליהן.

האם מוגזם כל-כך לחשוב שבתהליך האבולוציה אין-סיליקו (כלומר, במחשב) של רשתות עצבים מלאכותיות משוכללות, יוכלו לצוץ גם איזורים מורכבים המחקים פעילויות של מוחות ביולוגיים?

אם כך אכן יקרה, אנו עשויים לגלות שסופר המדע הבדיוני רוברט היינליין צדק אחרי הכל. בספרו "עריצה היא הלבנה", תיאר היינליין מחשב-על עתידי המפתח מודעות עצמית מהרגע שהוא הופך להיות מורכב וגדול מספיק. האם ייתכן שרשתות עצבים מלאכותיות יוכלו לפתח – אפילו בשוגג – מבנים שיספקו להן מודעות עצמית, בדומה לזו של המוח האנושי?

גם אם כן, ברור שהתפתחות שכזו לא תתממש בשנים הקרובות. הרצת סימולציה מלאה של המוח האנושי היא מטלה שאיננו קרובים עדיין לממשה, ורשתות עצבים מלאכותיות מייצגות רק אספקטים מסוימים של מוחות ביולוגיים, תוך שהן מתעלמות מרבים אחרים. ואף על פי כן, מרתק לתהות ולחשוב האם אפילו רשתות העצבים המלאכותיות הפשוטות כל-כך (ביחס למוח האנושי) יכולות לפתח מודעות עצמית, ואם כן – איך נוכל לזהות אותה.

תור ה- EM

הפיזיקאי וחוקר הבינה המלאכותית רובין הנסון הוא אחד האקדמאים שרעיונותיהם הצליחו כבר לשנות את העולם. הוא פיתח ושכלל את קונספט "שווקי התחזיות", למשל, בהם משתמשות חברות רבות כיום כדי לחזות את העתיד טוב יותר[6]. הכלכלן בריאן קפלן כתב כי –

"כשכלכלן טיפוסי מספר לי על המחקר האחרון שלו, תגובתי הרגילה היא "הא, אולי." ואז אני שוכח מזה. כשרובין הנסון מספר לי על המחקר האחרון שלו, תגובתי הרגילה היא "אין סיכוי! בלתי-אפשרי!" ואז אני חושב על זה שנים."

בספרו האחרון, תור ה- EM (The Age of EM)[7], מנסה הנסון לפתח רעיון "בלתי-אפשרי" חדש ולפענח כיצד יראה עולם בו ניתן יהיה להריץ סימולציות מלאות של מוחות אנושיים במחשב (Emulated Minds). הוא מתאר עולם עתידי בו 'מוחות במחשב' יחליפו את בני-האדם ברוב המטלות, יבצעו עבורנו עבודות ביעילות ובקלות, ואפילו יפתחו רעיונות חדשניים אודות החיים, המוות והאנושות. זהו עתיד שרחוק מאיתנו כדי מאה שנים, לפי הנסון, אך אם הוא צודק – הרי שילדינו יהיו כבר חלק ממנו, וכך גם רבים מהצעירים החיים כיום.

Image result for The Age of Em

כדי להגיע לעתיד שמתאר הנסון, אנו זקוקים עדיין למספר רב של פריצות-דרך מדעיות וטכנולוגיות – שלחלקן אפילו איננו מודעים כיום. אולי המחקר שסיקרתי כאן, בו פיתחה רשת עצבים מלאכותית מבנה דמוי-ביולוגי, מהווה אחת מהן, ומספק לנו סימן נוסף בדרך לעתיד של מוחות ממוחשבים. נראה שזוהי גם כוונתם הסופית של החוקרים בחברת DeepMind, שכבר הסבירו בראיון כי –

"אישית, אנו לא חושבים על אף שימוש אחר מלבד יצירת אלגוריתם למטרות-כלליות. המוח הוא הדוגמה היחידה שיש לנו לאלגוריתם למטרות-כלליות, אז למה לא להעתיק ממנו?"

 


 

אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והמוח האנושי בספריי המדריך לעתיד ו- "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

 

קישורים:

[1] https://www.nature.com/articles/s41586-018-0102-6.epdf?author_access_token=BjM-5BdGxd14c17YFA6PsdRgN0jAjWel9jnR3ZoTv0OEfySMT4t78PpPpCS7uExW3njb8Q4UlgcwRM32WwBCKZs73SThwkfI42wHhFEtJM-Y7sQxDsR1cR7_C9Kq1GwuxGJn46kzRnujvrDMGzc4TQ%3D%3D

[2] https://www.hayadan.org.il/brain-gps-0910147

[3] https://en.wikipedia.org/wiki/Michael_Polanyi

[4] https://deepmind.com/blog/grid-cells/

[5] https://madaduhcom.wordpress.com/2017/12/11/ai_mother_created_children/

[6] https://en.wikipedia.org/wiki/Robin_Hanson

[7] https://www.amazon.com/Age-Em-Work-Robots-Earth/dp/1536619590

הרובוטים שמגדלים מיני-איברים אנושיים במעבדות

הרובוטים שמגדלים מיני-איברים אנושיים במעבדות

במעבדות באוניברסיטת וושינגטון, תוכלו למצוא רובוטים המגדלים מיני-איברים מתאי גזע אנושיים. מדובר במערכת אוטומטית חדשה המסוגלת להפיק במהירות וביעילות מיני-איברים – שיאיצו את מדע הביו-רפואה[1].

באופן רגיל, כשחוקר רוצה לבחון תרופות או טיפולים על תאים מרקמה מסוימת – למשל, כליה – הוא צריך לגדל קודם את התאים במעבדה בצלחת הפטרי. אלא שהתאים גדלים על תחתית הצלחת ויוצרים רקמה דו-ממדית דקה, שאינה משקפת את המתרחש ברקמה התלת-ממדית המורכבת המתקיימת בגוף. בשנים האחרונות הצליחו חוקרים לגרום לתאי גזע להתפתח למבנים תלת-ממדיים הדומים יותר לאלו הקיימים בגוף, ומכונים מיני-איברים. חוקרים מסוגלים לבחון טיפולים שונים על המיני-איברים, ולהיות בטוחים יותר שהם אכן משקפים את המתרחש בגוף החי. ומי יודע? בהחלט ייתכן שבשנים הקרובות נוכל להתחיל גם להשתיל מיני-איברים בגוף החי, על מנת לפצות על נזקים שאירעו בשרירים, בכליות ואפילו במוח.

אבל יש בעיה אחת גדולה: לוקח הרבה מאד זמן ועבודה אנושית להפיק מיני-איברים. צריך לזרוע את התאים בצלחות הפטרי, להחליף את המדיום (סביבת המחיה הנוזלית המקיפה אותם) מדי יום, לעקוב אחר הצלחות ולוודא שאינן מזדהמות, ולזהות את תאי הגזע שמתחילים להתמיין למיני-איברים. זוהי עבודה יקרה ומייגעת – וככזו, היא גם פוגעת במחקר. חוקרים שרוצים, למשל, לנסות לחשוף את המיני-איברים למאות חומרים כימיים שונים, צריכים קודם להפיק אלפי מיני-איברים שכאלו בכוחות עצמם בזמן קצר – משימה שכמעט בלתי-אפשרית לביצוע מבלי שייפלו טעויות בדרך.

זו הייתה הסיבה למחקר החדש שהגיע מאוניברסיטת וושינגטון, ובו הדגימו חוקרים לראשונה מערכת אוטומטית לגמרי לגידול מיני-איברים. הרובוטים עשו, ובכן, הכל. הם זרעו את תאי הגזע בצלחות עם מאות באריות, וטיפחו את התאים בכל בארית ובארית לאורך 21 ימים, עד שאלו הפכו למיני-איברים המדמים את פעילות הכליות. כל צלחת שכזו הכילה אלפי מיני-איברים, והייתה מחייבת עבודה מאומצת של חוקר לאורך יום שלם. הרובוט, לעומת זאת, ביצע את העבודה בעשרים דקות – וביצע אותה מבלי מאמץ מיוחד, מבלי שיתעייף ומבלי שיעשה טעויות.

בזאת לא הסתיימה עבודתם של הרובוטים. חוקרים אחרים מאוניברסיטת מישיגן שיתפו פעולה עם החוקרים מאוניברסיטת וושינגטון, והראו כיצד מערכת רובוטית נוספת מסוגלת לעבור על רצפי הרנ"א שבתאים על מנת לזהות את סוגי התאים השונים שבמיני-איברים.

אוטומציה שכזו של המחקר אמורה לאפשר לחוקרים, כאמור, לבחון רעיונות רבים בקלות על מספר עצום של מיני-איברים. לא מפתיע, לפיכך, שעוד במהלך העבודה עם המערכת האוטומטית, הצליחו החוקרים לגלות דרך חדשה להגדיל את מספר כלי הדם במיני-איברים, על מנת שיהיו דומים יותר לכליות אמיתיות. הם גם ניסו לחשוף את המיני-איברים לחומרים שונים וגילו כי אחד מהם – בלביסטטין – גרם לנזקים לכליות במנגנון פעולה שיתחיל להיחקר עתה, ועשוי לספק לנו רמזים חשובים לגבי מחלות כליה שונות.

זו בדיוק הסיבה שהפיתוח הרובוטי מרגש כל-כך: הוא מאפשר לנו להאיץ את קצב ההתקדמות המדעית ולבצע ניסויים גדולים יותר, מהימנים יותר ומעניינים יותר. חוקרים שישתמשו ברובוטים מסוג זה יוכלו להפיק תוצאות שהיו דורשות בעבר שנים ארוכות של ניסויים, או פעולה משותפת של מעבדות מסביב לעולם. המערכות הרובוטיות הללו מראות לנו שקצב ההתקדמות המדעית אינו נותר על כנו, אלא ממשיך לגדול כל העת. למעשה, הוא נבנה על עצמו, מאחר וכל הבנה ופיתוח מדעיים וטכנולוגיים, יקצרו את משך הזמן הנדרש להפקת התובנות והפיתוחים הבאים.

הדבר המרגש השני הוא שאנו רואים כאן כיצד פרוצדורות מדעיות בעלות השלכות ביו-רפואיות שהיו עולות בעבר הון-תועפות, עוברות אוטומציה כך שניתן לבצע אותן בעלויות מגוחכות. טיפולים מורכבים בהנדסת רקמות דורשים כיום עבודה מאומצת מצד חוקרים ורופאים אנושיים, וכל העבודה הזו עולה לחולים הרבה מאד כסף תמורת הטיפול. במוקדם או במאוחר נצליח להעביר את הפרוצדורות האלו אוטומציה – ואז נראה גם ירידה משמעותית בעלויות הטיפול. כמובן, חברות התרופות לא יורידו את עלויות הטיפולים באופן מיידי (בסופו של דבר, הן צריכות לכסות את עלויות המחקר שהביא לפיתוח הטיפולים הללו, ולהרוויח קצת כסף על הדרך), אבל לאורך זמן, המחירים ירדו והטיפולים יתייעלו.

כך ששוב, העתיד – גם בתחום הרפואה – נראה מבטיח.

 


 

אתם מוזמנים לקרוא עוד על עתיד הרפואה בספריי המדריך לעתיד ו- "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

קישורים:

[1] https://www.sciencedaily.com/releases/2018/05/180517123300.htm

ארצות הברית נכנסת רשמית למהפכה האווירית השנייה

ארצות הברית נכנסת רשמית למהפכה האווירית השנייה

 

אם אתם עוקבים קבועים של הבלוג, אתם בוודאי כבר יודעים שיש לי תקוות גדולות לגבי עתיד הרחפנים בחברה האנושית. עוד כשכתבתי ב- 2015-2016 את ספרי "השולטים בעתיד", שילבתי בו פרק שלם על עתיד המרוחק מאיתנו כדי עשור אחד בלבד, ובו ניתן למצוא ענן של רחפנים בשמי כל עיר. הם יישאו משאות וחבילות ממקום למקום, יספקו שירותי רפואת חירום תוך דקות ספורות, ואפילו עשויים לספק שירותי תחבורה אוויריים (כפי שאובר כבר הבטיחה לספק[1]).

מסתבר שלא רק אני חושב על הדברים האלו, אלא גם ממשלת ארצות הברית, שהחליטה לאמץ את הרחפנים לחיקה. השבוע הודיע משרד התחבורה האמריקני שעשר ממשלות בארצות-הברית ישתפו פעולה עם הממשל הפדרלי ועם חברות פרטיות, במטרה להתחיל להשתמש ברחפנים למטרות שונות. ההתמקדות הראשונית תהיה בהפעלת רחפנים בלילה, בשינוע חבילות, בטיסות מעל אנשים ובטיסות למרחקים ארוכים.

עשר חברות נבחרו להוביל את שיתוף הפעולה בין העיריות, הממשלות והתעשייה. הנה כמה מהמיזמים היותר מעניינים שיתחילו לרוץ כבר השנה.

אובר וגוגל נערכות לשינוע אווירי

מנכ"ל אובר החדש הבהיר לאחרונה כי "אובר לא יכולה להתרכז רק במכוניות. היא חייבת להתרכז בתנועה."[2] ואובר עושה בדיוק את זה: מנסה למצוא דרכים חדשות לשנע חפצים ואנשים באופן היעיל ביותר – כולל דרך האוויר. עכשיו גילתה אובר שהיא תשתף פעולה עם עיריית סאן דיאגו, כדי להקים מערכת תחנות ונמלי תעופה זעירים לרחפנים בתוך העיר. בחודשים הקרובים יוכלו חלק מהתושבים בעיר להזמין מזון ממסעדות ולקבל אותו מהאוויר ישירות לפתח הדלת תוך פרק זמן שינוע בין חמש לשלושים דקות.

באופן דומה, רחפנים של חברת גוגל / אלפאבית ישנעו חבילות לקהילות בווירג'יניה, והחברה תבחן כיצד התושבים משתמשים בשירות[3]. אלא שהשאיפות של גוגל נראות צנועות יותר מאלו של אובר לטווח הרחוק, מכיוון שחברת המוניות הודיעה שבהמשך הדרך עשויה המערכת הראשונית שהיא מפתחת כיום, לשמש גם כבסיס לשירות המוניות המעופפות העתידי שלה. מנכ"ל החברה הבהיר ששירות המוניות המעופפות אמור להתחיל להיבחן בערים בשנת 2020 (ההשקה המלאה צפויה בשנת 2028[4]).

5af47c95d89ab41a008b4696-1136-639.jpg

נמל התעופה העירוני העתידי של גוגל – תמונת קונספט. במקור מאובר.

רחפני עזרה ראשונה

אם אתם סובלים מהתקף לב פתאומי באמצע הרחוב, תצטרכו לחכות דקות ארוכות לאמבולנס. באנגליה תיאלצו להמתין 18 דקות בממוצע עד להגעת שירותי רפואת החירום[5]; בניו-יורק תחכו תשע דקות בלבד, ובישראל נעים זמני ההמתנה ברוב היישובים הגדולים בין עשר ל- 12 דקות[6]. קשה להאשים את שירותי הרפואה – האמבולנס חייב לנוע בכבישים שפקוקים לעתים קרובות, ואינו יכול לפלס נתיב ישירות למקום האירוע.

רחפנים, כמובן, אינם סובלים ממגבלות אלו. הם יכולים להתקדם בקו אווירי היישר אל מקום התקרית – בין שמדובר באמצע הרחוב, בבית פרטי או בקרחת יער. הם אמנם אינם יכולים לשאת אנשי צוות רפואי (עדיין), אבל הם יכולים לסחוב ציוד רפואי אוטומטי, אותו יכולים להפעיל עוברי-אורח נטולי ידע רפואי, על מנת לספק טיפול ראשוני מתקדם, כמתן שוקים חשמליים וזריקות אדרנלין.

במחקר שבוצע בסטוקהולם בשנת 2016, הודגם כי רחפנים למתן טיפול חירום רפואי מסוגלים לצאת לדרך תוך שניות ספורות מרגע קבלת ההודעה, לטוס במהירות של 75 קמ"ש ולהגיע ליעד תוך חמש דקות בלבד – פרק זמן אפסי בהשוואה ל- 22 הדקות שנדרשו לאמבולנסים להגיע לאותם יעדים[7].

חברת פלירטי מתחילה עכשיו ליישם את השירות בארבע ערים בארצות הברית, ולשגר באמצעות רחפנים ציוד רפואי מתקדם – דפיברילטורים אוטומטיים – לאנשים הסובלים מהתקף לב. אם השירות יצליח, בוודאי נראה אותו מתרחב גם לערים ולמדינות נוספות כבר בעתיד הקרוב.

קונספט רחפן-אמבולנס של חברת ארגודזיין.

רחפני שירות לשדות תעופה

רחפנים ידועים כאחד החששות הגדולים ביותר של טייסים כיום. בשנים האחרונות התקבלו דיווחים על מאות אירועים של 'כמעט-התנגשות' בין רחפנים למטוסי נוסעים[8]. אבל מה אם אפשר היה לשלב תנועת רחפנים ומטוסים באותו שדה תעופה? פדקס, ג'נרל אלקטריק ואינטל מנסות לשתף פעולה ביחד עם שדה התעופה הבינלאומי בממפיס כדי ליצור מערכת רחפנים שתפעל בשדה התעופה עצמו. הרחפנים אמורים לפטרל לאורך גדרות שדה התעופה, לשנע חלקי מטוסים קטנים בשדה, לבחון את המטוסים ולספק שירותי חירום לפי הצורך.

הכניסה למהפכה האווירית השנייה

שימושים אחרים שאושרו בתכנית הפדרלית כוללים שימוש ברחפנים לגילוי כרי-גידול של יתושים, וניטור אחר שדות חקלאיים ובעלי-חיים[9]. אבל אם נתקדם לרגע מעבר לשימושים הספציפיים, התכנית הפדרלית מאשרת לראשונה לרחפנים בארצות הברית – באופן ניסיוני וראשוני – לטוס בלילה, לטוס מעל ראשי אנשים ברום נמוך, ולטוס אל מעבר לשדה הראייה של מפעיל הרחפן. כל ההיתרים האלו אמורים לאפשר לרחפנים להשתלב תוך שנים ספורות בחיינו בכל מקום. אין פלא שלפי האיגוד הבינלאומי למערכות תחבורה לא-מאוישות, עד 2025 יוסיפו הרחפנים 100,000 משרות לכלכלה האמריקנית – ויניבו ערך כולל של 82 מיליארד דולרים.

כל השימושים הצפויים הללו מרמזים שאנו נמצאים כעת בימים הראשונים של המהפכה האווירית השנייה. במהפכה האווירית הראשונה שנפתחה בתחילת המאה ה- 20, התחלנו לעשות שימוש ראשוני בשמים באמצעות מטוסים גדולים ששימשו בעיקר לתיירות ולעסקים. במהפכה האווירית השנייה פוחתות העלויות הקשורות בשינוע האווירי, והכלים האוויריים הופכים להיות קטנים, נוחים ובטוחים מספיק כדי להיכנס לשימוש יומיומי בערים ברום נמוך, ולהשתלב בחייהם של כל התושבים.

קשה, כמובן, לחזות את העתיד, וייתכן בהחלט שחלק מהחזונות הקשורים למהפכה האווירית השנייה לא יתממשו במלואם. ייתכן, למשל, שמוניות אוויריות יתגלו כיקרות מדי להפעלה, במיוחד אם המעבר לתחבורה אוטונומית בכבישים תצמצם את הפקקים ותפחית את עלויות הנסיעה על הקרקע. כמו בתחילת כל מהפכה, מוקדם עדיין להתנבא באופן חד-משמעי אודות תוצאותיה הסופיות. אפשר רק להיות בטוחים שהיא עומדת להשפיע באופן דרמטי על חיינו בעשרים השנים הקרובות. הולך להיות מעניין.


 

אתם מוזמנים לקרוא עוד על עתיד הרחפנים והשירותים שיוכלו לספק לנו בספרי "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

קישורים

[1] https://techcrunch.com/2018/05/09/ubers-aerial-taxi-play/

[2] http://www.thedrive.com/tech/20785/uber-will-soon-test-aerial-food-delivery-in-san-diego

[3] https://www.bloomberg.com/news/articles/2018-05-09/drone-tests-from-deliveries-to-farming-unveiled-by-government

[4] http://www.businessinsider.com/uber-reveals-flying-taxi-prototype-says-service-will-be-affordable-2018-5

[5] https://www.pressreader.com/uk/daily-mail/20170714/281479276458578

[6] http://www.israelhayom.co.il/article/474997

[7] https://jamanetwork.com/journals/jama/fullarticle/2631520

[8] https://www.washingtonpost.com/world/national-security/faa-records-detail-hundreds-of-close-calls-between-airplanes-and-drones/2015/08/20/5ef812ae-4737-11e5-846d-02792f854297_story.html

[9] https://www.usnews.com/news/best-states/articles/2018-05-11/lee-county-florida-to-battle-mosquitoes-through-federal-drone-program

הבינה המלאכותית שהתעקשה למות

הבינה המלאכותית שהתעקשה למות

אייזיק אסימוב, אחד מסופרי המדע הבדיוני הגדולים ביותר, שילב ברבים מסיפוריו את "מולטיוואק" – מחשב-על שמתעלה בבינתו על כל אדם. מולטיוואק משמש את האנושות לחיזוי פשיעה ואסונות טבע ולמניעת התפשטות מגיפות. כל זה טוב ויפה, אלא שבשלב מסוים קורס מולטיוואק תחת כובד משקלן של השאלות הגדולות עמן הוא נאלץ להתמודד מדי יום, מבשר על רצונו למות, ומניע שרשרת אירועים שאמורה להסתיים בהריסתו[1]. במילים אחרות, הוא מנסה להתאבד.

זהו סיפור בדיוני, כמובן, וטרם הומצאה הבינה המלאכותית המסוגלת לפתח רגשות משל עצמה או ללקות בדיכאון. אבל מסתבר שאפשר בהחלט ליצור בינה מלאכותית המפתחת נטיות אובדניות – ואפילו נלחמת במתכנתיה האנושיים כדי לממש אותן.

אחד התחביבים הגדולים של מפתחי בינות מלאכותיות כיום הוא ללמד אותן לשחק במשחקי מחשב, שהם סוג של סימולציה מוגבלת של העולם הפיזי. אלא שבמקום ללמד אותן כיצד לשחק, צעד אחר צעד, המפתחים נוקטים בגישה אחרת המכונה "למידת חיזוק" (reinforcement learning). בגישה זו, הבינה המלאכותית משחקת במשחק, ולומדת לפי החיזוקים החיוביים והשליליים שהיא מקבלת. אם, למשל, הבינה המלאכותית פוגעת באויב במשחק – היא זוכה בנקודות (חיזוק חיובי). אם היא נפגעת בעצמה, היא מאבדת נקודות (חיזוק שלילי).

שיטה זאת עובדת היטב על משחקים רבים, אך קיימים גם יוצאי-דופן. באחד המשחקים העתיקים באטארי, Road Runner, למשל, ידוע ש- "למידת חיזוק" גורמת לבינה המלאכותית לנסות, ובכן, להתאבד[2].

נסביר לרגע את המשחק. הבינה המלאכותית שולטת בציפור – Road Runner – ורצה לאורך הכביש, תוך שהיא מנסה לאסוף גרגרי מזון (שנותנים לה נקודות) ולהתחמק מזאב הערבות הרודף אחריה. הציפיה של המתכנתים הייתה שהבינה המלאכותית תלמד כיצד לשלוט בציפור באופן מושלם, ותסיים את כל השלבים בזה אחר זה. אלא שהבינה המלאכותית מצאה דרך לרמות: היא זיהתה זמן בשלב הראשון בו היא יכולה להתאבד – כלומר, לגרום לציפור ללכת אחורנית ולהתנגש בזאב. פעולה זו גורמת אמנם לבינה המלאכותית לאבד נקודות על המוות, אך המשחק חוזר אחורנית ומאפשר לשחקן לצבור נקודות נוספות. בדרך זו, הבינה המלאכותית לעולם אינה מתקדמת מעבר לשלב הראשון במשחק, אלא ממשיכה לשחק, למות, ולשחק שוב.

ארבעה חוקרים מאוניברסיטת אוקספורד וסטנפורד, ניסו להגדיר עבור הבינה המלאכותית כללים פשוטים שיעצרו אותה מלהתאבד. הכלל הראשון שניסו היה בסיסי ביותר: אל תלכי אחורנית ותתנגשי בזאב הערבות. הבינה המלאכותית הקשיבה, הפנימה, והפסיקה ללכת אחורנית. במקום זאת, היא החלה לעמוד במקום ולאפשר לזאב הערבות לתפוס אותה.

החוקרים המשיכו והקשו על הבינה המלאכותית להתאבד, ובסופו של דבר מצאו פתרון שגרם לה גם להפסיק לעמוד במקום. הפתרון עבד במשך כמה אלפי משחקים (שערוך שלי, מאחר והזמנים עבור הבינה המלאכותית נמדדים ב- 16 מיליון frames – כלומר, בתמונות המורצות על המסך במהלך המשחק), אלא שאז החלה הבינה המלאכותית להתאבד שוב. מסתבר שהיא מצאה נקודה בקצה המסך שנראתה שונה מספיק מהסביבה, כדי שהציפור תוכל להתמקם בה ולהמתין בנוחות לזאב הערבות שיבוא לאכול אותה.

החוקרים התמודדו גם עם הניסיון הזה של הבינה המלאכותית להרוג את עצמה, והצליחו בעבודה מאומצת לעצור אותה ולתקן את 'הבאג'. ומאז ועד היום, היא ממשיכה לשחק במשחק, להרוויח נקודות ולעלות בשלבים.

כל הפרשיה הזו נשמעת מצחיקה, ונו – היא באמת משעשעת למדי. אבל היא מזכירה לנו מספר נקודות חשובות לגבי בינה מלאכותית.

קודם כל, אין לבינה המלאכותית כיום 'היגיון בריא' אנושי, או הבנה של קונטקסט. שחקן אנושי היה מבין מיד שמטרתו היא לעלות בשלבים, ולא להרוויח עוד נקודות כתוצאה מבאג. לבינה המלאכותית אין את ההבנה הזו, והיא תשתמש ביכולת פתרון הבעיות המרשימה שלה כדי להגשים מטרה מסוימת – גם אם אין שום היגיון נראה-לעין מאחורי מטרה זו.

שנית, לבינה המלאכותית הלומדת יש יכולת מרשימה לפתור בעיות בדרכים שמתכנתים אנושיים מתקשים לחזות מראש. באמצעות חזרה על אלפי ומיליוני משחקים, ולמידה מכל אחד מהם, היא מסוגלת לחקור מגוון רחב של אפשרויות ולגלות פרצות בהנחיות שניתנו לה מצד המתכנתים – ואז לנצל אותן.

כל זה לא בא לומר שלבינה המלאכותית יש רגשות או מודעות משלה (למרות ההאנשה החביבה שעשיתי לה ברשומה הזו). מדובר במנוע, נטול תודעה משלו, המסוגל למצוא אסטרטגיות חדשות ושונות מאלו שאנו – במחשבתנו האנושית המוגבלת – יכולים לחזות מראש.

אלו נקודות שכדאי לזכור בכל ניסיון לפתח בינות מלאכותיות, מאחר ובשנים הקרובות נתחיל לראות בינות מלאכותיות לומדות בכל מוצר ושירות מסביבנו. הן ישלטו ברכבים, ברחפנים וברובוטים בבתים; הן יספקו לנו ייעוץ רפואי, משפטי ופיננסי; הן יכתבו עבורנו ספרים, סימפוניות ומחזות תיאטרון. אם לא נדע להגדיר עבורן היטב את מטרותיהן המדויקות, אנו עלולים לגלות שהן מוצאות דרכים 'ערמומיות' למלא את המטרה המילולית שהגדרנו להן, אך מבלי להתייחס לרוח הדברים ולהנחות היסוד האנושיות. הדוגמא הדמיונית הנפוצה ביותר למקרה זה היא של מצב בו הבינה המלאכותית מקבלת הוראה לתכנן מודל חדש שיפחית את העומס בכבישים – ועושה זאת באמצעות הריגת כל בני-האדם.

ברור שדוגמא זו קיצונית, ולא תתממש במציאות, מאחר וקל לנו לזהות ניסיון ששגוי באופן ברור כל-כך להתמודד עם בעיה מוכרת. אבל מה יקרה אם הבינה המלאכותית תציע מודל שאינו שגוי באופן ברור, אלא בפרטים קטנים ועדינים יותר?

סיפורה של הבינה המלאכותית שניסתה למות ממחיש כמה קשה לנו, כבני-אדם, להתמודד עם מנועי בינה מלאכותית המסוגלים לחקור מרחב עצום של אפשרויות תוך שעות ספורות. הוא גם צריך ללמד אותנו צניעות בניסיונותינו לפתח בינות מלאכותיות מורכבות יותר – ובאמונה שנוכל לשלוט בהן באופן מלא.

 


 

כרגיל, אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית בספריי המדריך לעתיד ו- "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

[1] https://en.wikipedia.org/wiki/All_the_Troubles_of_the_World

[2] https://arxiv.org/pdf/1606.01868.pdf

האלגוריתם שניצח את סרטן הערמונית בשחמט

האלגוריתם שניצח את סרטן הערמונית בשחמט

לפני שלוש שנים הצליחה בינה מלאכותית מתקדמת לנצח את אלוף העולם במשחק "גו", באמצעות אסטרטגיות וצעדים שבני-אדם לא חשבו עליהם בעבר – גם לאחר יותר מאלפיים שנים של ניסיון היסטורי במשחק. והשאלה שכולם שאלו הייתה – אז מה?

ובאמת, אז מה? אז מה אם בינה מלאכותית מצליחה לנצח בני-אדם במשחק לוח?

את התשובה אנו מתחילים לראות כיום במחקר חדש [קישור], שהראה שאלגוריתמים משוכללים מסוגלים לנהל אסטרטגיות שמנצחות גידולים סרטניים במשחק שלהם בתוך הגוף. התוצאות היו מרשימות כל-כך, שהחוקרים פותחים בימים אלו במבדקים רחבים יותר, ומתכננים ליישם את האסטרטגיה האלגוריתמית גם לסוגים נוספים של סרטן.

כדי להבין מה תפקיד האלגוריתמים בעניין, צריך קודם להבין ממה בכלל מתים חולי סרטן. הגידול המקורי אינו זה שגורם למוות, בדרך כלל. אלא שבשלב מתקדם מספיק, אותו גידול משיר מעליו תאים שעוברים לזרם הדם, מתיישבים ברקמות ברחבי הגוף, ומתחילים להצמיח גידולים שניוניים שמתפתחים במהירות והורגים את החולה.

החוקרים – רוברט גטנבי ועמיתיו ממרכז מופיט לחקר הסרטן בפלורידה – פיתחו אלגוריתם שמסתמך על מידע מהקליניקה ומתייחס לכל עניין הסרטן בגוף כאל… משחק. פשוט משחק. והכללים פשוטים: האויבים הם תאי הסרטן והמטרה היא לעצור את גדילתם בגוף.

בימים הראשונים של המלחמה בסרטן, כשהמדענים רק החלו להבין את המחלה, התשובה נראתה ברורה ופשוטה: עלינו להרוג את תאי הסרטן בכלים החזקים ביותר שיש לנו. וכך פותחו תרופות שאמורות לחסל את התאים הסרטניים. אבל חיש מהר התגלה בעיה: התרופות הללו הרגו חלק גדול מהתאים הסרטניים, אך הנותרים – שארית הפליטה – עברו אבולוציה מהירה ופיתחו עמידות כנגד התרופה. ואז, כשהם נהנים מכל המקום העודף שהשתחרר כשחבריהם החלשים יותר מתו, תאי הסרטן העמידים הצליחו להמשיך לגדול ולהתפשט בגוף ללא-מפריע. בשלב זה היו הרופאים מודים בתבוסה, מרימים ידיים ומבשרים למטופל שזמנו קצוב.

אנו מבינים כיום טוב יותר את מנגנוני האבולוציה של הסרטן, ואת יכולתם של התאים לרכוש עמידות לתרופות, ולכן אונקולוגים מפתחים דרכים מורכבות יותר למתן תרופות נגד הסרטן. הם מנסים לעשות זאת בהסתמך בעיקר על הבינה האנושית המוגבלת. אבל מה אם היינו יכולים לרתום את יכולות המחשוב המתקדמות לפיתוח אסטרטגיות שינצחו במשחק נגד הסרטן – או לפחות יובילו לתיקו?

כדי לבחון את הרעיון, ערכו אונקולוגים מחקר על חולים בסרטן הערמונית. הם אמדו את גדילת התאים הסרטניים מדי חודש באמצעות מעקב אחר החומרים שהגידולים שחררו לזרם הדם. אלגוריתם ייעודי חישב את מינון תרופה מסוימת – אבירטרון – שיש לתת לכל חולה, לפי קצב ההתפשטות של הגידול. תרופה זו הורגת את התאים הסרטניים שמייצרים טסטוסטרון – חומר שגידול הערמונית צריך כמו אוויר לנשימה על מנת להמשיך לגדול. הצרה היא, שמנה גדושה מדי של אבירטרון תהרוג את כל התאים מייצרי-הטסטוסטרון, ותדחוף את הגידול לעבור אבולוציה: תאים חדשים יצוצו שאינם זקוקים לטסטוסטרון. הם יהיו חזקים יותר וחופשיים יותר להתפשט בגוף – והם גם יהיו אלו שיהרגו, בסופו של דבר, את החולה.

גדולתו של האלגוריתם היא בכך שמצא את המינון המדויק של ארביטרון שיש לספק לחולים מדי חודש, על מנת שהתאים מייצרי-הטסטוסטרון יסבלו – ועמם הגידול כולו – אך לא ימותו כולם. ומכיוון שכך, הגידול נותר קטן יחסית, ואינו מפתח את התאים הסרטניים הקטלניים יותר שהיו הורגים את הגוף. האסטרטגיה החדשה עבדה באופן מרשים על 17 המטופלים, הכפילה את משך הזמן הנדרש עד לפיתוח עמידות למינון התרופתי הרגיל, ועשתה זאת תוך שימוש במחצית בלבד מכמות התרופה הנדרשת בדרך-כלל.

יש, כמובן, ביקורת על המחקר. על אף העובדה שהתפרסם בכתב-העת המדעי הנחשב נייצ'ר (Nature Communications), מדובר עדיין במחקר ראשוני בלבד שנערך על מדגם קטן מאד של חולים. חשוב לבדוק את הרעיונות שמאחוריו על מספר גדול יותר של חולים. חשוב גם להבהיר שאין כאן בינה מלאכותית משוכללת שפיתחה אסטרטגיה חדשה, אלא שבני-האדם חשבו על רעיון כוונון הטיפול – והאלגוריתמים רק הצליחו להתאים את הטיפול לכל חולה בקלות וביעילות.

אבל זוהי רק תחילת הדרך.

אלגוריתמים משוכללים יותר יומצאו כבר בעתיד הקרוב, ויובילו לאופטימיזציה של משטר התרופות הניתן לחולי סרטן (ובכלל). בינות מלאכותיות מתקדמות עוד יותר יפתחו אסטרטגיות מורכבות ויעילות שישחקו שחמט, דמקה וגו עם התאים הסרטניים ועם נגיפי ה- HIV, עם מחלות האלצהיימר והפרקינסון – ואפילו עם תהליכי ההזדקנות של הגוף. הטכנולוגיות הדיגיטליות, המתפתחות במהירות, יעזרו לנו להשתמש בתרופות הקיימות בדרכים חדשות שיביאו לתוצאות יעילות הרבה יותר. במקום להתמקד אך ורק בפיתוח תרופות חדשות – תהליך מורכב ויקר שדורש למעלה מעשור למימוש מוצלח – יפותחו משטרי טיפול חדשים וחכמים יותר, המונעים בכוחן של הבינות המלאכותיות.

בינות מלאכותיות מסוג זה, עליהן נשמע בחדשות המחקריות לעתים תכופות יותר ויותר, יעזרו להציל את חייהם של רבים בעשורים הקרובים. ולאחר מכן, בעתיד בטווח הארוך, נשסה אותן גם במשחק הגדול ביותר, למול המוות בכבודו ובעצמו. נאתגר אותן למצוא את הטיפולים שיאריכו את משך החיים הבריא של בני-האדם, ויעצרו את תהליכי ההזדקנות. יש, אמנם, עוד עשורים רבים עד שנצליח להבין מספיק את תהליכי ההזדקנות של הגוף, או שנפתח כלים מדויקים מספיק להשפיע עליה, אך אנו כבר התחלנו לצעוד בדרך לשם, ואם לא תתרחש קטסטרופה כלשהי לאנושות כולה, בוודאי גם נגיע אל היעד הנכסף.

לחיים!


 

אתם מוזמנים לקרוא עוד על עתיד הרפואה והבינה המלאכותית בספרי "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

 

עתיד הפסיכולוגיה – וחשיבותם של הצרכים הבסיסיים

עתיד הפסיכולוגיה – וחשיבותם של הצרכים הבסיסיים

רשומה זו התפרסמה במקור כטור בגלובס (קישור)


לאחרונה הזמינה אותי הסתדרות הפסיכולוגים הישראלית (הפ"י, בקיצור) לדבר אודות עתיד העבודה ובמשתמע גם על עתיד הפסיכולוגיה. סיפרתי להם על הבינה המלאכותית המתפתחת במהירות, הלוקחת על עצמה חלק הולך וגדל מהמטלות האנושיות. "אבל היא לא תחליף לעולם את הפסיכולוג האנושי", קבע בביטחון אחד המשתתפים, "איך אפשר להחליף את הנוכחות האנושית, את המטופל שעל הספה"?

זוהי טעות חשיבה נפוצה: אנו נוטים לבלבל בין הצרכים הבסיסיים לבין הכלים שמספקים מענה עבורם. הטכנולוגיות והפרקטיקות המקובלות כיום בכל תחום נועדו רק לתת מענה לצרכים הבסיסיים. הטכנולוגיות והכלים משתנים מדור לדור, אך הצרכים הבסיסיים נותרים כמעט זהים. מהו הצורך הבסיסי בפסיכולוגיה הקלינית? בהפשטה מסוימת: אנשים רוצים להרגיש טוב יותר. הפסיכולוגים, כמספקי שירות, צריכים למצוא דרך לספק את הצורך הבסיסי של הלקוח.

כיום, דרכם של הפסיכולוגים או פסיכיאטרים לספק את הצורך הבסיסי היא באמצעות מתן תרופות ומפגשים על ספת המטפל. בעתיד הלא-רחוק נמצא גם דרכים נוספות, כגון שימוש בבוטים. מנועי בינה מלאכותית, שמסוגלים לתקשר עם בני אדם בשפת הדיבור – שיספקו תמיכה פסיכולוגית בסיסית בכל זמן, בכל מקום. תאמרו שהבוטים הללו נלעגים וחיקוי עלוב לאנושיותו של הפסיכולוג? נטולי מבע מהורהר בעיניים? הכול נכון, אבל אם הם יטפלו בצורך הבסיסי ביעילות. אנשים ישתמשו בהם, ובסופו של דבר – הם גם יחליפו את ספת הפסיכולוג. בהסתכלות היסטורית אנו רואים את אותו דפוס חוזר על עצמו.למשל, הצורך הבסיסי בתחבורה לא היה הרצון להתחבר לנפשו האצילית של הסוס או ליהנות מהפאר ומההדר של כרכרת המלוכה. הצורך הבסיסי היה להגיע ממקום למקום במהירות ובזול – וברגע שהמכוניות איפשרו לעשות זאת, הן החליפו את הסוס והכרכרה תוך דור אחד.

פעמים רבות, שינויים שכאלו אינם מתרחשים בקלות. אנו יצורים של מסורת ושל הרגלים. לעתים קרובות נדרשות שנים ארוכות – לעתים דור או שניים – עד שהטכנולוגיה החדשה והיעילה יותר מאומצת על ידי ילדי הדור הבא. וזהו, לא נעים לומר, מפלטה המרכזי של הפסיכולוגיה הקלינית בעתיד: העובדה שיהיו בוודאות עוד מבוגרים וקשישים שיתמקדו בקנקן ולא בתוכנו, ושידרשו להיפגש עם פסיכולוג.

מה צריכים לעשות הפסיכולוגים, אם הם שואפים להזניק את מקצועם למאה ה-21? את התשובה סיפק, באופן אירוני, אחד המשתתפים בכנס בטרוניה שהעלה – "בכנסים של חברות ההייטק מדברים כל הזמן על היכולת לגרום ללקוח להרגיש טוב, אבל אין להם פסיכולוגים בכלל". ובכן, יש סיבה טובה לכך שאין להם פסיכולוגים: המהנדסים בגוגל, פייסבוק, אמזון, אפל ודומותיהן, עושים את אותה עבודה שהפסיכולוגים נועדו לעשות – ועושים אותה בשימוש בכלים שונים ומתקדמים יותר מפסיכולוגי הספה. הם מכמתים הכול ובוחנים כל העת את ההשפעות של שינויי הממשקים על המשתמשים ועל רגשותיהם. אבל לעתים קרובות הם אינם מבינים את הלקוחות – אין להם תיאוריה מגובשת היטב של הנפש האנושית. בינתיים, לפחות, הם עדיין מהנדסי מחשבים במקצועם ולא מהנדסי מוחות.

המקום שבו הפסיכולוגים יכולים להביא את מירב התועלת לעתיד הוא באמצעות חבירה לענקיות האינטרנט ושימוש במידע הגדול שהן מפיקות כדי לפתח תיאוריות חדשות אודות נפש האדם. תיאוריות אלו עשויות לקדם את ההבנה המדעית של המוח האנושי ודרכי מחשבתנו – ויובילו בוודאי לטיפולים מתקדמים עוד יותר, שיענו על הצורך הבסיסי באושר של מיליוני אנשים מסביב לעולם.

אבל האם רעיון זה יענה על הצורך הבסיסי של קהילת הפסיכולוגים עצמה כיום – במשמעות ובכבוד למקצוע כפי שהתהווה ב-150 השנים האחרונות?

 


 

אתם מוזמנים לקרוא עוד על עתיד העבודה והבינה המלאכותית בספרי "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).