רשת העצבים המלאכותית שפיתחה מבנים ביולוגיים הקיימים במוח אנושי

רשת העצבים המלאכותית שפיתחה מבנים ביולוגיים הקיימים במוח אנושי

בחודש האחרון פרסמו חוקרים בחברת דיפ מיינד – אחת החברות המתקדמות ביותר בעולם בפיתוח בינה מלאכותית – מחקר חדש בכתב-העת המדעי היוקרתי נייצ'ר, אודות רשת עצבים מלאכותית שפיתחה מבנים הדומים לאלו הקיימים במוח ביולוגי[1].

כדי להסביר במה מדובר, צריך קודם לפרט קצת אודות רשתות עצבים מלאכותיות. מדובר בסימולציות המורצות במחשב, ובהן מיליוני מרכזי חישוב פשוטים המתקשרים זה עם זה, בדומה לדרך בה תאי העצבים במוח מתקשרים אחד עם השני. כל אחד מהתאים במוח הביולוגי הוא מכונה פשוטה יחסית ונטול-בינה משל עצמו, אך פעולתם המתואמת של מיליארדי תאי עצב ביחד יוצרת מחשבה, רגש ואפילו מודעות עצמית. באופן דומה, כאשר מיליוני מרכזי חישוב מתקשרים ביחד ומעבירים מידע אחד לשני במחשב, ניתן לאמן אותם לבצע משימות שמוחות ביולוגיים מותאמים במיוחד עבורן: עיבוד תמונה, למשל, או ניווט במרחב.

ברור שיש דימיון בין דרך הפעולה של רשתות עצבים מלאכותיות ובין מערכות עצבים ביולוגיות, אך חוקרי מוח וחוקרי בינה מלאכותית כאחד מבינים גם את ההבדל הגדול בין השתיים. תאים במוח, למשל, יכולים להגיב למגוון רחב של שליחים עצביים – חומרים כימיים המופרשים על-ידי תאי עצב אחרים. רשתות עצבים מלאכותיות, לעומת זאת, מעבירות רק מסרים פשוטים בין ה- 'תאים' הממוחשבים, אך עושות זאת במהירות שגדולה בהרבה מקצב מעבר המסר האיטי יחסית לאורך תאי העצב הביולוגיים. יש דימיון, בוודאי, אך השוני גדול עד מאד.

זו, כנראה, הסיבה שרבים כל-כך הופתעו כאשר רשתות עצבים מלאכותיות החלו לאחרונה לפתח מבנים שאנו מכירים ממוחות אנושיים.

במוחות אנושיים – ובאופן כללי במוחותיהם של בעלי-חיים – ניתן למצוא מבנים ייחודיים של תאי רשת. תאי עצבים אלו מסודרים במשושים, ו- 'נדלקים' לפעולה בהתאם למיקומו של האדם. כאשר אני הולך ימינה, מופעלים תאי רשת מסוימים, וכאשר אני הולך שמאלה – מופעלים תאי רשת אחרים. אפשר לומר כמעט שתאי הרשת יוצרים מפה מנטלית – מעין GPS פנימי – באמצעותה מסוגלים בעלי-חיים לפענח את מיקומם, ולפתור בעיות הקשורות בתנועה במרחב. תאים אלו מאפשרים לנו לציית, אפילו בעיניים עצומות, להוראות בסגנון – "צעד חמישה צעדים קדימה, פנה תשעים מעלות שמאלה ואז המשך ישר עוד שלושה צעדים אל המטמון."

במקור מ- DeepMind.

קיומם של תאי הרשת נחשף בעשרים השנים האחרונות, ומגליהם זכו בפרס נובל ברפואה בשנת 2014[2]. הם מהווים דוגמה ניצחת לפרדוקס פולניי – "אנו יודעים יותר מכפי שאנו יכולים להסביר."[3] אנו ניחנים אמנם במערכות ניווט משוכללות המתבססות על תאי הרשת, אך הן מאפשרות לנו להגיע לתובנות אינטואיטיביות, מבלי שנוכל להסביר אותן. אם נושלך, למשל, לחדר מבולגן, נוכל לזהות בו דרכים קצרות ומהירות להגיע ליעד, בזמן שבינות מלאכותיות משוכללות יצטרכו לתכנן מספר נתיבי תנועה שונים לפני שיבחרו בדרך הקצרה ביותר – מטלה מייגעת שמבזבזת משאבי חישוב יקרים.

אבל מה אם הבינות המלאכותיות המשוכללות והפופולריות ביותר כיום – אלו הנסמכות על רשתות עצבים מלאכותיות – היו ניחנות בעצמן בתאי רשת?

כדי לבדוק את השאלה, הריצו החוקרים בחברת דיפמיינד (DeepMind) רשת עצבים מלאכותית, ודרשו ממנה להשלים בהצלחה מטלות ניווט בסביבות וירטואליות. הם גילו שבתוך הרשת מתפתחים באופן ספונטני אזורים הפועלים באופן דומה לתאי הרשת. תאי רשת וירטואליים אלו אפשרו לבינה המלאכותית לפתור בהצלחה חידות מבוכים פשוטות במהירות וביעילות – ולפי החוקרים, "ברמה על-אנושית". הבינה המלאכותית "התעלתה על יכולותיהם של שחקנים אנושיים מקצועיים, והפגינה את סוג הניווט הגמיש המקושר בדרך-כלל עם חיות, תוך שהיא בוחרת בנתיבים חדשים ועושה קיצורי-דרך כאשר אלו מתאפשרים."[4]

במקור מ- DeepMind.

כל זה טוב ויפה, אבל במבט ראשון לא נראה מרשים במיוחד. הרי רבים מבינים כבר שבינות מלאכותיות מתחילות להגיע לרמות על-אנושיות במטלות חישוביות רבות. מה שונה בתגלית הנוכחית?

התשובה כפולה: ההבנה שייצוגים וירטואליים של תאי רשת מסייעים לבינות המלאכותיות לפעול, והופעתן הספונטנית ברשתות עצבים מלאכותיות, יכולות לעזור לנו לפענח גם את פעילות המוח האנושי עצמו. אבל יותר מכך – היא עשויה לרמז אודות הדרך לעתיד הרשתות העצבים המלאכותיות.

נתחיל בקביעה הראשונה. המוח, מבחינות רבות, מהווה עדיין קופסא שחורה. אנו מבינים, באופן גס וכללי, את אופן פעולתם של תאי העצב השונים ואת הדרכים בהן הם מתקשרים בינם לבין עצמם. אנו יודעים כי אתרים שונים במוח אחראים על מטלות שונות: ההיפוקמפוס אחראי על פיתוח זכרונות לטווח ארוך, למשל, בעוד שהאמיגדלה קשורה לוויסות הרגשות ולקבלת החלטות. אנו מבינים כי סך-כל הפעילות המוחית יוצרת חשיבה ומודעות עצמית. אבל עדיין אין לנו מודל מדעי ברור בנוגע לדרך בה זרימת המידע במוח – מחשב-על במשקל קילו וקצת, עם צריכה אנרגטית נמוכה להפליא – מאפשרת לכל הדברים הללו להתרחש. אנו מתקשים לערוך ניסויים ברזולוציה הנדרשת – ברמה התאית – כדי להבין את דרך פעולתו של המוח.

רשתות העצבים המלאכותיות מאפשרות לנו, לראשונה, להתחקות אחר דרך פעולתו של המוח האנושי. איני מנסה לטעון שהן מהוות סימולציה מושלמת של מוחות ביולוגיים. האמת היא שהן שונות מאד מבחינות רבות ממוח ביולוגי, אבל העובדה היא שייצוגים וירטואליים של תאי רשת התהוו ספונטנית ברשתות עצבים מלאכותיות. ולא זאת בלבד, אלא שייצוגים אלו תומכים בפעילות דומה לזו של תאי רשת ביולוגיים. ברור לנו שהמוח 'רץ' על מערכת חישובית בעלת דימיון מובהק לרשתות עצבים מלאכותיות, וכל תיאוריה שנמצא עבור דרך פעילותן של הרשתות העצביות שבמחשב, תהיה בעלת השלכות גם על הבנתנו את המוח עצמו. לכן, הרצת סימולציות של אזורים במוח ברשתות עצבים מלאכותיות, תעזור לנו לפענח את דרך פעולתם של מבנים ואזורים במוח האנושי.

אם קביעה זו תוכח כנכונה, הרי שיש לה משמעות עצומה לחקר המוח. הפיזיקאי זוכה פרס הנובל ריצ'רד פיינמן אמר כי – "מה שאיני יכול ליצור, איני מבין". אם לא נוכל ליצור מבנים דמויי-מוח ולבחון אותם ברזולוציה גבוהה, לא נוכל להגיע להבנה מלאה של המוח האנושי. רשתות העצבים המלאכותיות מספקות לנו דרך לבחון רעיונות אודות המוח, שמעולם לא יכולנו לבדוק בעבר.

וזוהי רק התחזית הראשונה לעתיד.

התחזית השנייה נבנית על העובדה שרשתות העצבים המלאכותיות במחקר של דיפמיינד, פיתחו באופן ספונטני 'תאי רשת', כתוצאה מהדרך בה אומנו לפתור בעיות ניווט. האם ייתכן שרשתות עצבים מלאכותיות משוכללות יותר (הרבה יותר) יוכלו לפתח באופן ספונטני בעתיד גם מבנים מורכבים יותר, המדמים חלקים מהמוח האנושי?

אני יודע שרעיון זה נשמע מוזר על פניו. המבנים של 'תאי הרשת' הווירטואליים פשוטים מאד, ואי אפשר להשוות אותם למבנים המורכבים יותר במוח, כהיפוקמפוס או כאונות הקדמיות. אבל אנו מתחילים להיכנס לתקופה של ניסים ונפלאות: רשתות עצבים מלאכותיות מסוימות כבר מסוגלות כיום 'להעמיד צאצאים' – כלומר, ליצור ולפתח תת-רשתות עצבים מלאכותיות שמתאימות במיוחד לביצוע מטלה מסוימת, ומוציאות אותה לפועל ברמת הצלחה גבוהה יותר ממתכנתים אנושיים[5]. תהליך הפיתוח של רשתות העצבים המלאכותיות הללו מתבסס על ניסוי וטעייה – הבינה המלאכותית מריצה אלפי רשתות עצבים מלאכותיות, בוררת את היעילות ביותר וגוזמת ומשפרת אותן עד שהן מסוגלות לבצע את המוטל עליהן.

האם מוגזם כל-כך לחשוב שבתהליך האבולוציה אין-סיליקו (כלומר, במחשב) של רשתות עצבים מלאכותיות משוכללות, יוכלו לצוץ גם איזורים מורכבים המחקים פעילויות של מוחות ביולוגיים?

אם כך אכן יקרה, אנו עשויים לגלות שסופר המדע הבדיוני רוברט היינליין צדק אחרי הכל. בספרו "עריצה היא הלבנה", תיאר היינליין מחשב-על עתידי המפתח מודעות עצמית מהרגע שהוא הופך להיות מורכב וגדול מספיק. האם ייתכן שרשתות עצבים מלאכותיות יוכלו לפתח – אפילו בשוגג – מבנים שיספקו להן מודעות עצמית, בדומה לזו של המוח האנושי?

גם אם כן, ברור שהתפתחות שכזו לא תתממש בשנים הקרובות. הרצת סימולציה מלאה של המוח האנושי היא מטלה שאיננו קרובים עדיין לממשה, ורשתות עצבים מלאכותיות מייצגות רק אספקטים מסוימים של מוחות ביולוגיים, תוך שהן מתעלמות מרבים אחרים. ואף על פי כן, מרתק לתהות ולחשוב האם אפילו רשתות העצבים המלאכותיות הפשוטות כל-כך (ביחס למוח האנושי) יכולות לפתח מודעות עצמית, ואם כן – איך נוכל לזהות אותה.

תור ה- EM

הפיזיקאי וחוקר הבינה המלאכותית רובין הנסון הוא אחד האקדמאים שרעיונותיהם הצליחו כבר לשנות את העולם. הוא פיתח ושכלל את קונספט "שווקי התחזיות", למשל, בהם משתמשות חברות רבות כיום כדי לחזות את העתיד טוב יותר[6]. הכלכלן בריאן קפלן כתב כי –

"כשכלכלן טיפוסי מספר לי על המחקר האחרון שלו, תגובתי הרגילה היא "הא, אולי." ואז אני שוכח מזה. כשרובין הנסון מספר לי על המחקר האחרון שלו, תגובתי הרגילה היא "אין סיכוי! בלתי-אפשרי!" ואז אני חושב על זה שנים."

בספרו האחרון, תור ה- EM (The Age of EM)[7], מנסה הנסון לפתח רעיון "בלתי-אפשרי" חדש ולפענח כיצד יראה עולם בו ניתן יהיה להריץ סימולציות מלאות של מוחות אנושיים במחשב (Emulated Minds). הוא מתאר עולם עתידי בו 'מוחות במחשב' יחליפו את בני-האדם ברוב המטלות, יבצעו עבורנו עבודות ביעילות ובקלות, ואפילו יפתחו רעיונות חדשניים אודות החיים, המוות והאנושות. זהו עתיד שרחוק מאיתנו כדי מאה שנים, לפי הנסון, אך אם הוא צודק – הרי שילדינו יהיו כבר חלק ממנו, וכך גם רבים מהצעירים החיים כיום.

Image result for The Age of Em

כדי להגיע לעתיד שמתאר הנסון, אנו זקוקים עדיין למספר רב של פריצות-דרך מדעיות וטכנולוגיות – שלחלקן אפילו איננו מודעים כיום. אולי המחקר שסיקרתי כאן, בו פיתחה רשת עצבים מלאכותית מבנה דמוי-ביולוגי, מהווה אחת מהן, ומספק לנו סימן נוסף בדרך לעתיד של מוחות ממוחשבים. נראה שזוהי גם כוונתם הסופית של החוקרים בחברת DeepMind, שכבר הסבירו בראיון כי –

"אישית, אנו לא חושבים על אף שימוש אחר מלבד יצירת אלגוריתם למטרות-כלליות. המוח הוא הדוגמה היחידה שיש לנו לאלגוריתם למטרות-כלליות, אז למה לא להעתיק ממנו?"

 


 

אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והמוח האנושי בספריי המדריך לעתיד ו- "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

 

קישורים:

[1] https://www.nature.com/articles/s41586-018-0102-6.epdf?author_access_token=BjM-5BdGxd14c17YFA6PsdRgN0jAjWel9jnR3ZoTv0OEfySMT4t78PpPpCS7uExW3njb8Q4UlgcwRM32WwBCKZs73SThwkfI42wHhFEtJM-Y7sQxDsR1cR7_C9Kq1GwuxGJn46kzRnujvrDMGzc4TQ%3D%3D

[2] https://www.hayadan.org.il/brain-gps-0910147

[3] https://en.wikipedia.org/wiki/Michael_Polanyi

[4] https://deepmind.com/blog/grid-cells/

[5] https://madaduhcom.wordpress.com/2017/12/11/ai_mother_created_children/

[6] https://en.wikipedia.org/wiki/Robin_Hanson

[7] https://www.amazon.com/Age-Em-Work-Robots-Earth/dp/1536619590

בינה מלאכותית העמידה צאצאים – והם מוצלחים יותר מתוכנות מעשה ידי-אדם

בינה מלאכותית העמידה צאצאים – והם מוצלחים יותר מתוכנות מעשה ידי-אדם

נו, אז הנה זה קרה: בינה מלאכותית יצרה צאצא של עצמה, והוא מתוק, יפהפה ומתפקד היטב, תודה ששאלתם.

בוודאי לא יפתיע אתכם לגלות שהחברה מאחורי הפיתוח היא גוגל. גוגל חשפה לפני מספר חודשים את "בינת האם" שמכונה AutoML – "למידת מכונה אוטומטית"[1]. נקרא לה מעכשיו בימא, שזה קיצור של בינה ואמא. בימא עושה פעולה פשוטה ומורכבת באותו הזמן: בני-האדם מבהירים לה מה הם צריכים – למשל, שהם רוצים בינה מלאכותית שתזהה עבורם בני-אדם בתמונות – ואז בימא מציעה כמה 'צאצאים' שיכולים לעשות את העבודה. כל אחד מהצאצאים האלו מהווה דרך מוסדרת שונה לניתוב מידע דרך רשתות עצבים מלאכותיות, באופן שיפיק תוצאה שבימא חושבת שתהיה בעלת משמעות.

עד לכאן, טוב ויפה, אבל הצאצאים הראשוניים האלו – איך לומר – גרועים במשימה שניתנה להם. ה- 'מוח' שלהם פשוט לא מכוונן נכון. וכך פותחת עכשיו בימא בתהליך השיפור ההדרגתי. היא נותנת להם מטלות – זהו את בני-האדם שבתמונה! – ובוחנת איך הם מתפקדים. היא לומדת מה עובד ומה לא, ולאחר כל סבב לימודי כזה, היא מכחידה את צאצאיה הקודמים (אכזרי, אני יודע) וממציאה חדשים משופרים. וכך היא חוזרת על התהליך אלפי פעמים, שוב ושוב, עד לתוצר 'הסופי' שהתפרסם לאחרונה בבלוג של גוגל: בינה מלאכותית שמסוגלת לזהות בני-אדם וחפצים בתמונות, טוב יותר מבינות מלאכותיות שפותחו על-ידי בני-אדם[2].

חשוב להבין שאנחנו רק בתחילת הדרך מבחינת הפיתוח של בימא. מנוע דומה יוכל לשמש אותנו בעתיד כדי ליצור תוכנות ואלגוריתמים במגוון רחב של תחומים. למעשה, בהחלט ייתכן שבאמצעות ממשקים פשוטים יותר, יוכל כל אדם מן השורה ליצור עבור עצמו (כלומר, להורות לבימא ליצור עבורו אוטומטית) בינה מלאכותית שמבצע פעולות מסוימות שחשובות עבורו: למיין מלפפונים בחווה[3], למשל, או להניע רובוט עם חמש רגליים שהוא פיתח בגראז' (באמצעות הרצת סימולציות חוזרות במחשב על הדרך בה רובוט כזה צריך לשלוט בגפיו)[4].

האפשרות המעניינת יותר היא שבימא יכולה לשלב גם משוב ממקור אנושי כדי לפתח את הצאצאים שלה. בימא שצריכה לפתח בינה מלאכותית ליצירת מנגינות עצובות ונוגות, למשל, יכולה לשלוח לביקורת את היצירות של צאצאיה לבני-אדם מסביב לעולם ("האזינו ליצירה במשך חצי-דקה, ודרגו כמה היא נגעה ללבכם!") בעלות אפסית, ולשפר את הצאצא בכל פעם. בדרך זו אפשר ליצור באופן אוטומטי בינות מלאכותיות משוכללות יותר גם בנושאים שאינם ניתנים לכימות בקלות.

אבל בואו נדבר על מה שמפחיד את כולם: שבינה מלאכותית שכזו תצא משליטה. האמת? זו אכן בעיה. לא מכיוון שאני חושש שבינה מלאכותית לזיהוי אנשים בתמונות תאבד את הרסן ותנסה להשתלט על העולם, אלא מכיוון שתהליך הפיתוח של הצאצאים פועל באופן אבולוציוני, וללא הכוונה של בני-אדם, או הבנה מלאה מדוע התוצר הסופי עובד כפי שהוא עובד. המשמעות היא שאם אנו בוחרים בדרך זו לייצר בינה מלאכותית שתכווין את התנועה בכבישים, למשל, אנו צריכים לקחת בחשבון שהיא עלולה לקבל החלטות לפי תהליך אופטימיזציה שעברה שמקדש את זרימת התנועה בכבישים – אבל שם פחות דגש על שימור חיי הנוסעים. וכך, בינה מלאכותית שכזו עלולה לייצר לנו מודלים לניהול התנועה שיהיו יעילים מאד, אבל יעלו בחייהם של כמה אנשים מדי חודש. ייתכן בהחלט שזהו יחס המרה טוב – אבל אנו צריכים להיות מודעים לפחות לבחירות שהבינה המלאכותית עושה עבורנו!

בסופו של דבר, הופעתן של בינות מלאכותיות שמסוגלות לתכנת את הדורות הבאים של עצמן, מהווה פיתוח שיכול לקדם עוד יותר את תחום המחשוב ולהאיץ את קצב השיפור. זוהי התפתחות ברוכה – אבל כמו בכל טכנולוגיה אחרת, עלינו להבין איך לשלוט בה ולוודא שהיא ממלאת את התפקיד שאנו מייעדים עבורה, אך מבלי לפגוע בערכי בסיס אנושיים.

אולי נוכל להפקיד בינה מלאכותית גם על זה.

 


 

אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והרובוטים בספרי החדש "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

 

[1] https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html

[2] https://research.googleblog.com/2017/11/automl-for-large-scale-image.html

[3] https://cloud.google.com/blog/big-data/2016/08/how-a-japanese-cucumber-farmer-is-using-deep-learning-and-tensorflow

[4] https://www.extremetech.com/extreme/252242-googles-deepmind-teaches-ai-navigate-parkour-course

שלושת גלי הבינה המלאכותית שיעצבו את העתיד

שלושת גלי הבינה המלאכותית שיעצבו את העתיד

בחודשים האחרונים כתבתי בבלוג הרבה על בינה מלאכותית ויכולותיה, שלא לדבר על כל הכתיבה הקודמת שלי בספרים כמו "המדריך לעתיד" ו- "השולטים לעתיד" (שיצא לאור באמצע מרץ). בכתבים אלו הבטחתי שהעתיד צופן לנו גדולות ונצורות: בינה מלאכותית שמנתחת רגשות אנושיים, שמפענחת משמעויות וניואנסים חברתיים, שמאפילה על רופאים ועורכי-דין ביכולותיה ואפילו מייתרת חלק גדול מהמטלות שבני-אדם מבצעים כיום.

אני עדיין עומד מאחורי כל התחזיות הללו, אבל כפי שכתבתי – אלו תחזיות לטווח הארוך. ולכן נשאלת השאלה, מהו המצב בשטח כיום. עכשיו. בהווה. כדי לענות על השאלה, יצא לאחרונה סרטון של דרפ"א – סוכנות הביטחון המתקדמת בעולם, שעומדת מאחורי יצירת האינטרנט, רובוטים בעלי רגליים, שווקי תחזיות, מערכת המיקום הגלובלית (או כפי שאנו מכירים אותה בקיצור בשמה כיום – GPS), ועוד ועוד. מרגע שדרפ"א הוקמה, היא התמקדה בטכנולוגיות ובמיזמים פורצי-דרך, כך שאין פלא שכיום הסוכנות מרכזת מאמצי מחקר גם בתחום הבינה המלאכותית.

בימים האחרונים שחרר המשרד לחדשנות מידע בדרפ"א סרטון חדש, בו מנסה מנהל המשרד להסביר את המציאות בנוגע לבינה המלאכותית, ולהסביר מהן יכולותיה כיום – ומה היא תוכל לעשות בעתיד. המגזין המקוון Motherboard הגדיר את הסרטון כ- "מנתץ את ההייפ" שמסביב לבינה המלאכותית. האם הוא באמת עושה זאת? על כך תוכלו להחליט עד סוף הרשומה.

הסרטון באורך 16 דקות ושווה צפייה, אבל אם אתם מהאנשים שמעדיפים לקרוא, הרשיתי לעצמי לתמצת את הסרטון – ואת מחשבותיי על הנקודות שבו – ברשומה הנוכחית. כפי שדרפ"א עושה בסרטון, נחלק את מערכות הבינה המלאכותית לשלושה סוגים, שכל אחד מהם הגיע אחרי הקודם לו. למעשה, שלושה גלים, שתוצרי כל אחד מהם בעלי יכולות מתקדמות יותר מתוצרי הגל הקודם.

 

הגל הראשון: ידע מתוכנת

בגל הראשון של הבינה המלאכותית, מומחים תכנתו את האלגוריתמים ואת המחשבים לפי הידע שהיה ברשותם, ולפי החוקים וכללי ההיגיון שפוענחו וגובשו במהלך ההיסטוריה האנושית. בדרך זו, למשל, תוכנתו אלגוריתמים שהצליחו לשחק שחמט כנגד בני-אדם, או תוכנות לתיאום משלוחים. לא מוגזם לומר שרוב המוצרים הממוחשבים בהם אנו משתמשים כיום נסמכים על בינה מלאכותית מסוג זה: ווינדוס, האפליקציות בטלפון החכם שלנו, ואפילו הרמזורים להולכי הרגל בכבישים, שהאור בהם מתחלף לירוק כשאנו לוחצים על כפתור.

דוגמה טובה לדרך בה בינה מלאכותית מסוג זה פועלת, מגיעה מחברת מודריה. ממשלת הולנד, המחויבת לשלם עבור הייצוג המשפטי של בני-זוג ברוב מקרי הגירושין, הבינה שהיא עלולה לפשוט את הרגל אם שיעור הגירושין בחברה ימשיך לעלות. מכיוון שכך, הממשלה שכרה את חברת מודריה – שמתמחה ביצירת מערכות צדק חכמות – כדי לבנות כלי שמסייע לבעל ולאשה להתגרש מבלי צורך בעורך דין.

מודריה פעלה בהתאם למגבלות הגל הראשון של הבינה המלאכותית. היא תמצתה את הידע של עורכי-דין ומומחים בתחום הגירושין, ויצרה פלטפורמה מקוונת בה נשאלים בני-הזוג סדרה של שאלות. שאלות לדוגמה כוללות התייחסות לסוגיית המשמורת על הילדים, לחלוקת הרכוש בין המתגרשים, ועוד. כשבני-הזוג מסיימים לענות על השאלות, המערכת מזהה באופן אוטומטי את איזורי ההסכמה ואי-ההסכמה ביניהם, ומסייעת להכווין את הדיונים ביניהם באופן שיביא למתן מענה מיטבי.

המערכות בגל הראשון של הבינה המלאכותית – זה בו מומחים מסבירים למחשב כיצד לפעול – נוטות להתבסס על כללים הגיוניים וברורים. המערכות בוחנות מספר מרכיבים חשובים של כל מצב חדש בו הן נתקלות, ומגיעות למסקנה מה הפעולה המתאימה ביותר בכל מקרה. אבל מערכות אלו נתקלות בקשיים ניכרים כשהן נדרשות לבחון את העולם שמחוץ למחשב ולהבין מה בדיוק מתרחש בו. הן גם מתקשות בלמידה או בהפשטה – בנטילת ידע שגיבשו, ויישומו מחדש באופן שונה.

אם לסכם, מערכות אלו יכולות ליישם כללי היגיון פשוטים עבור בעיות המוגדרות היטב, אבל אינן מסוגלות ללמוד, ומתקשות מאד להתמודד עם מצבים של אי-ודאות.

כמובן, אתם עשויים לנחור עתה בזלזול ולטעון שזו אינה "בינה מלאכותית" מהסוג עליה חושבים רוב האנשים. אלא שההגדרות של האדם ברחוב בנוגע לבינה מלאכותית משתנות לאורך השנים. אם הייתי שואל אתכם לפני שלושים שנים האם "ווייז" היא בינה מלאכותית, הייתם אומרים לי שהתשובה חיובית במפורש. אחרי הכל, ווייז מסוגלת לתכנן עבורכם נתיב מיטבי למטרה, ולהסביר לכם בקול רם כיצד לפנות בכל צומת בכביש. ואף על פי כן, האדם ברחוב מתייחס כיום ליכולותיה של ווייז כמובנות מאליהן, וטוען שבינה מלאכותית 'אמיתית' אמורה להיות מסוגלת להרבה יותר: לנווט גם את הרכב עצמו בכביש, לפתח פילוסופיה מוסרית שמתחשבת ברצונותיו של הנוסע, ולהכין לו קפה בו-זמנית. ובכן, נחשו מה – גם מוצרים 'פרימיטיביים' כמו מערכת הצדק של מודריה, או ווייז, מבוססים על בינה מלאכותית, ועל עבודה מאומצת רבה בתחום. מערכות בינה מלאכותית המתבססות על הגל הראשון אחראיות למעשה על כמעט כל המוצרים הממוחשבים בהם השתמשנו בשני העשורים האחרונים.

הגל השני: למידה סטטיסטית

בשנת 2004 פתחה דרפ"א לראשונה את תחרות הנהיגה האוטונומית. במסגרת התחרות הוצע פרס של מיליון דולרים לקבוצה שתצליח לפתח רכב ללא-נהג שיוכל להשלים מסלול באורך 240 קילומטרים. הרכבים נסמכו על בינה מלאכותית מהגל הראשון – כלומר, מבוססת חוקים שהוגדרו על-ידי מומחים – ותוך זמן קצר המחישו את מגבלות השיטה. הרכבים התקשו במיוחד לפענח את התמונות והווידאו ולהסיק מתוכם מה עליהם לעשות. הם לא יכלו להבדיל היטב בין צורות כהות בתמונות, למשל, ולהבין האם מדובר בצל, בסלע, בחפץ במרחק רב או קצר, וכיצד עליהם לפעול. לא מפתיע לגלות שחלק מהרכבים 'פחדו' אפילו מהצל של עצמם, או שדמיינו מכשולים בכביש פתוח.

אף אחת מהקבוצות לא הצליחה להשלים את המסלול עד סופו – ולמעשה, הרכב המוצלח ביותר גמע רק 11.9 קילומטרים. זה היה כישלון מהדהד – בדיוק מהסוג שדרפ"א אוהבת לממן, בתקווה שהלקחים והתובנות שיופקו ממנו יביאו ליצירת מערכות מתקדמות יותר.

וזה בדיוק מה שקרה, שנה אחת לאחר מכן, כשדרפ"א חזרה על התחרות – והפעם, חמש קבוצות הגיעו לסוף המסלול בהצלחה, כשהן נסמכות על הגל השני של הבינה המלאכותית: למידה סטטיסטית. מנהל הקבוצה המנצחת, אגב, נחטף כמעט מיד על-ידי גוגל, ועמד מאחורי פיתוח הרכב האוטונומי כפי שאנו מכירים אותו כיום.

הגל השני של בינה מלאכותית מתבסס על למידה סטטיסטית, והוא זה שמאפשר לטלפון שלכם להבין את קולכם, או לזהות פנים של אינדיבידואלים בתמונות. בגל זה, המהנדסים אינם טורחים לגבש כללים מדויקים, אלא מפתחים מודלים סטטיסטיים עבור תחום מסוים של בעיה, ואז מאמנים את המודלים הללו על דוגמאות רבות ושונות, כדי לעדן ולשפר את הדיוק שלהן.

מערכות למידה סטטיסטית מוצלחות במיוחד בהבנת העולם שמסביבן: הן יכולות להבדיל בין אדם אחד למשנהו, או בין הברה להברה. הן מסוגלות גם ללמוד ולהתאים את עצמן למצבים שונים באמצעות אימון הולם. עם זאת, בניגוד למערכות מהגל הראשון, הן מוגבלות דווקא ביכולות הלוגיות שלהן – הן אינן נסמכות על כללים מדויקים, אלא "על מה שעובד מספיק טוב, מספיק מהפעמים". הן גם אינן מצליחות להעביר ידע מתחום אחד למשנהו באופן יעיל.

בקטגוריה זו נכללות רשתות העצבים המלאכותיות בהן אנו תולים תקוות גדולות כל-כך (ראו כאן). רשתות העצבים המלאכותיות מבוססות על שכבות חישוביות, שבכל אחת מהן מתבצעת פעולה אחרת פשוטה יחסית של עיבוד המידע, ותוצאותיה מועברות לשכבה הבאה לעיבוד נוסף. באמצעות אימון של הרשתות הללו ושל כל אחת מהשכבות, ניתן 'לאלף' אותן להפיק את התוצאות הנכונות ביותר. לעתים מלאכת האימון והאילוף דורשת מהרשתות לחזור על ניתוח המידע עשרות-אלפים פעמים, כדי להגיע לשיפור קטן נוסף. אבל בסופו של דבר, דרך זו מצליחה לספק תוצאות מרשימות.

רשתות עצבים מלאכותיות מצליחות להגיע לרמת זיהוי פנים שעולה על זו של בני-אדם, מבדילות בין סוגים שונים של חיות ועצמים בתמונות, שולטות בתנועתם של רכבים אוטונומיים ורחפנים, מתמללות דיבור אנושי ברמה שעולה על זו של טובי המתמללים האנושיים, ומגיעות להישגים מרשימים יותר ויותר גם בתחום התרגום. ההצלחות בתחום משאירות את טובי המומחים לבינה מלאכותית בפה פעור.

למרות כל ההצלחות האלו, אנו רואים שרשתות העצבים המלאכותיות מצליחות במשימות שניתנות להן, אך אינן מנסות להבין או לפענח את הכללים הלוגיים שמאחורי פעולות הניתוח שהן מבצעות. מבחינה זו הן דומות למוח שלנו: אנו יכולים להשליך כדור באוויר ולנבא מראש היכן הוא עומד ליפול, גם מבלי שנחשב את משוואות התנועה הפורמליות של ניוטון – או שנהיה מודעים אפילו לקיומן.

תאמרו עכשיו שאין בכך בעיה אמיתית? שגם אם איננו מסוגלים לחשב את משוואות התנועה של ניוטון, אנו עדיין מגיעים לתוצאות 'טובות מספיק'? ובכן, מיקרוסופט עשויה שלא להסכים עמכם בנקודה זו. החברה שחררה לרשת החברתית בוט – כלומר, אלגוריתם שנועד לחקות כתיבה אנושית ולהגיב לבני-אדם – שכמעט בוודאות מבוסס על רשתות עצבים מלאכותיות. האלגוריתם, שכונה 'טאי', נועד לחקות צעירה אמריקנית בת 19, ולשוחח עם הצעירים בשפתם. הצעירים זינקו על האתגר, והחלו לשלוח לטאי הודעות מאתגרות, בלשון המעטה. הם סיפרו לה על היטלר והצלחותיו הגדולות, בישרו לה שנפילת מגדלי התאומים בניו-יורק הונדסה על-ידי גורמים פנימיים בממשל האמריקני, ועדכנו אותה לגבי תכונותיהם השליליות של מהגרים. וכך, תוך שעות ספורות, טאי החלה לספק תשובות המבוססות על מה שלמדה מהציבור, והסכימה שהיטלר פעל כשורה.

ParentsProudest-640x266.png

זו הייתה הנקודה בה מהנדסי מיקרוסופט ניתקו את טאי מהרשת.

הודעתה האחרונה של טאי הייתה שהיא לוקחת פסק זמן כדי "לעכל הכל". עד כמה שאנו יודעים, היא עדיין מעכלת.

פרשיה זו חושפת את אתגר הסיבתיות. אם במערכות מהגל הראשון יכולנו לחזות מראש היטב כיצד יפעלו בנסיבות מסוימות, הרי שבמערכות מהגל השני איננו מסוגלים כבר להתחקות באופן מדויק אחר הסיבתיות – אחר הדרך המדויקת בה קלט הופך לפלט, ומידע מתורגם להחלטה.

כל זה לא בא לומר שאין תועלת ברשתות העצבים המלאכותיות. כפי שכתבתי, הן מגיעות לתוצאות מרשימות יותר מכל מערכת שהומצאה לפניהן בתחומים כמו עיבוד ראייה, תמלול ותרגום דיבור אנושי ועוד. אלא שברור שכדי שהבינה המלאכותית שנפתח לא תהלל את שמו של היטלר, היא חייבת להשתפר. עלינו לעבור לדור הבא – לגל השלישי (והעתידי) של הבינות המלאכותיות.

הגל השלישי: התאמה לפי הקשר

בגל השלישי, המערכות עצמן יוכלו לגבש מודלים שיסבירו כיצד העולם פועל. במילים אחרות, הן יגלו בעצמן את כללי ההיגיון הבסיסיים שלפיהם הן יפעלו.

נסביר באמצעות דוגמה. נניח שמערכת עצבים מלאכותית מהגל השני בוחנת את התמונה הבאה, ומגיעה למסקנה שמדובר בפרה. איך היא מסבירה את עצמה?

Cow_female_black_white.jpg

פרה. מערכות מהגל השלישי יכולות להסביר שיש סבירות גבוהה שמדובר בפרה מכיוון שיש לה ארבע רגליים, שטח פנים לבן עם כתמים שחורים, עטינים וקרניים. קישור: ויקיפדיה

מערכות מהגל השני אינן יכולות באמת לנמק את החלטותיהן – לא יותר מכפי שילד היה יכול להסביר את משוואות התנועה של ניוטון מתוך הבנת התנועה של כדור באוויר. הן יכולות רק להגיד לנו ש- "זוהי התמונה שהתקבלה, ולאחר כל החישובים שערכתי, יש הסתברות של 87 אחוזים שמדובר בפרה".

מערכות מהגל השלישי אמורות להיות מסוגלות לנמק גם את החלטותיהן. בדוגמת הפרה, המערכת תוכל להסביר שמכיוון שמדובר בעצם בעל ארבע רגליים יש סיכוי גבוה יותר שמדובר בבעל-חיים. מכיוון ששטח הפנים שלו לבן עם כתמים שחורים, יש סיכוי גבוה יותר שמדובר בפרה (או דלמטי). מכיוון שיש לו עטינים וקרניים, הסיכוי שמדובר בפרה גדל עוד יותר בהשוואה לשאר האפשרויות, ולכן זו תהיה התשובה הסופית שתוצג למשתמש, ביחד עם פירוט של כל הנימוקים שהובילו אליה.

מערכות מהגל השלישי יוכלו גם להסתמך על מודלים שמשלבים תוכן והבנה ממספר מקורות שונים, כדי להגיע למסקנה סופית ומנומקת. הן יוכלו, למשל, לבחון כתיבה אנושית בהסתמכות על מודלים שמתארים את תנועת כף היד במרחב, ובדרך זו להגיע למסקנה בנוגע לכתוב. הן יוכלו גם לאמן את עצמן – כפי שעשתה מערכת אלפא-גו כאשר שיחקה נגד עצמה מיליון משחקי גו, כדי לזהות את הכללים הלוגיים המתאימים ביותר למשחק ברמה גבוהה. בדרך זו היא הייתה יכולה להסביר חלק מהמהלכים בהם נקטה, או לפחות לציין את ההסתברות שאדם היה נוקט במהלך שכזה במצב דומה.

מערכות הגל השלישי יוכלו לבחון כל מצב ממספר נקודות מבט שונות, להבין את משמעותו הרחבה יותר ולגבש תגובה הולמת. מעבר לכך, ייתכן בהחלט שהן יצליחו גם להגיע לרמה של חשיבה מופשטת – אבל כפי שמציין מנהל המשרד לחדשנות המידע בדרפ"א – "יש עוד המון עבודה שצריך לעשות כדי שנוכל לבנות את המערכות האלו".

מערכות הגל השלישי הן אלו שטומנות בחובן את ההבטחה הגדולה ביותר לעתיד. מערכות הגל השלישי יוכלו לגבש תובנות לגבי הבריאות של כל אדם, באמצעות הסתמכות על מקורות המידע הרבים והשונים שיגיעו מהתיק הרפואי שלו, מהבית החכם בו הוא גר, מהמחשוב הלביש שהוא עונד ומהחיפושים שהוא עורך באינטרנט. מערכות הגל השלישי יוכלו לנתח מצבים מהחיים תוך שימוש גם בכלי חשיבה מופשטים, ויגיעו לתובנות ולמסקנות דומות לאלו שבני-אדם היו מגיעים אליהן.  מערכות הגל השלישי יוכלו אפילו לתכנת את עצמן – לשפר פעם אחר פעם את המודלים שבאמצעותם הן מגיעות לתובנות.

וזהו. עד לכאן מגיעה ידיעת דרפ"א בנוגע למערכות הבינה המלאכותית של ההווה והעתיד.

מה המשמעויות?

הסרטון מסביר מצוין את ההבדלים בין מערכות הבינה המלאכותית, אבל בניגוד למובטח בחלק מהאתרים שסיקרו אותו, הוא אינו "מנתץ את ההייפ" שאופף את הבינה המלאכותית. למעשה, הוא רק מחזק ומספק ביסוס לרעיונות ולחששות של רבים מההוגים בתחום. דרפ"א מבהירה שבכל הנוגע לבינה מלאכותית שעתידה "להשתלט על העולם" – אנחנו עדיין לא שם. אבל זה ברור. אף אחד לא טען שהבינה המלאכותית מתקדמת מספיק כיום כדי לעשות את כל מה שסופרי המדע הבדיוני ורבים מהעתידנים (ואני ביניהם) מצפים שתעשה בעוד כמה עשורים: לפתח מוטיבציה משל עצמה, לקבל החלטות מוסריות, לתפוס את משרותיהם של רוב העובדים האנושיים, ואפילו לפתח את הדור הבא של הבינה המלאכותית.

אבל הגל השלישי עומד לתת לה חלק לא-מבוטל מהיכולות הללו.

כאשר מערכות הגל השלישי מסוגלות לפענח בעצמן את המודלים החדשים שישפרו את פעולתן, הרי שהן יכולות הלכה למעשה לתכנת את הדור הבא של עצמן. כשהן יכולות לפקח על פעילותן באמצעות הבנת הקונטקסט – המשמעות וההשלכות של פעולותיהן – הן מסוגלות להחליף חלק גדול מהעובדים האנושיים, ואולי את כולם. וכשהן יכולות לשנות את המודלים באמצעותן הן מעריכות את משמעויותיהן של פעולות מסוימות, הרי שהמשמעות היא שהן יכולות גם לחשב מחדש את המוטיבציה של עצמן.

כל הדברים האלו לא יתרחשו בשנים הקרובות, ובוודאי לא יגיעו לכדי מימוש מלא בעשרים השנים הקרובות. כאמור, איש אינו טוען אחרת. הטענה העיקרית כיום מצד חוקרים ואנשי הגות המודאגים לגבי עתיד הבינה המלאכותית – סטיבן הוקינג, ניק בוסטרום, אלון מאסק ואחרים – היא שאנו צריכים להתחיל לחשוב כבר עכשיו איך להטמיע אמצעי בקרה בבינות המלאכותיות של הגל השלישי, מהסוג שיתחיל להופיע בכל מקום בעוד עשור או שניים. בהתחשב ביכולותיהן של הבינות המלאכותיות הללו, זו אינה נראית דרישה בלתי-הגיונית.

אבל עבורי השאלה המעניינת באמת, היא איך ייראה הגל הרביעי: זה שאפילו דרפ"א – המקום שמרכז את כל החוקרים שמסתכלים קדימה הרבה מעבר לכולם – לא מדברים עליו עדיין. האם מנגנון קבלת ההחלטות של מערכות הגל הרביעי יתבסס כבר על חיקוי מדויק של המוח האנושי? או אולי הן יסתמכו על מנגנוני קבלת החלטות שאיננו יכולים עדיין להבין בכלל, ויפותחו על-ידי הבינות המלאכותיות של הגל השלישי?

כל הנושאים האלו אינם מוזכרים בסרטון, וכנראה שבצדק. הסרטון נועד להסביר בקצרה ובקלילות את דרכי הפעולה של הבינה המלאכותית בה אנו עושים שימוש כיום, ונעשה שימוש בשנים הקרובות. הוא לא נועד לחקור את העתיד ואת ההשלכות של המערכות האלו. אנחנו אלו שצריכים לחשוב על הנושאים הללו, לדרבן לחקור אותם ולתהות על קנקנם עוד לפני שהם מתממשים.

זוהי העבודה שלנו, לפחות לעת עתה.

לפני שמערכות הגל השלישי יעברו לבצע גם אותה.