בינה מלאכותית העמידה צאצאים – והם מוצלחים יותר מתוכנות מעשה ידי-אדם

נו, אז הנה זה קרה: בינה מלאכותית יצרה צאצא של עצמה, והוא מתוק, יפהפה ומתפקד היטב, תודה ששאלתם.

בוודאי לא יפתיע אתכם לגלות שהחברה מאחורי הפיתוח היא גוגל. גוגל חשפה לפני מספר חודשים את "בינת האם" שמכונה AutoML – "למידת מכונה אוטומטית"[1]. נקרא לה מעכשיו בימא, שזה קיצור של בינה ואמא. בימא עושה פעולה פשוטה ומורכבת באותו הזמן: בני-האדם מבהירים לה מה הם צריכים – למשל, שהם רוצים בינה מלאכותית שתזהה עבורם בני-אדם בתמונות – ואז בימא מציעה כמה 'צאצאים' שיכולים לעשות את העבודה. כל אחד מהצאצאים האלו מהווה דרך מוסדרת שונה לניתוב מידע דרך רשתות עצבים מלאכותיות, באופן שיפיק תוצאה שבימא חושבת שתהיה בעלת משמעות.

עד לכאן, טוב ויפה, אבל הצאצאים הראשוניים האלו – איך לומר – גרועים במשימה שניתנה להם. ה- 'מוח' שלהם פשוט לא מכוונן נכון. וכך פותחת עכשיו בימא בתהליך השיפור ההדרגתי. היא נותנת להם מטלות – זהו את בני-האדם שבתמונה! – ובוחנת איך הם מתפקדים. היא לומדת מה עובד ומה לא, ולאחר כל סבב לימודי כזה, היא מכחידה את צאצאיה הקודמים (אכזרי, אני יודע) וממציאה חדשים משופרים. וכך היא חוזרת על התהליך אלפי פעמים, שוב ושוב, עד לתוצר 'הסופי' שהתפרסם לאחרונה בבלוג של גוגל: בינה מלאכותית שמסוגלת לזהות בני-אדם וחפצים בתמונות, טוב יותר מבינות מלאכותיות שפותחו על-ידי בני-אדם[2].

חשוב להבין שאנחנו רק בתחילת הדרך מבחינת הפיתוח של בימא. מנוע דומה יוכל לשמש אותנו בעתיד כדי ליצור תוכנות ואלגוריתמים במגוון רחב של תחומים. למעשה, בהחלט ייתכן שבאמצעות ממשקים פשוטים יותר, יוכל כל אדם מן השורה ליצור עבור עצמו (כלומר, להורות לבימא ליצור עבורו אוטומטית) בינה מלאכותית שמבצע פעולות מסוימות שחשובות עבורו: למיין מלפפונים בחווה[3], למשל, או להניע רובוט עם חמש רגליים שהוא פיתח בגראז' (באמצעות הרצת סימולציות חוזרות במחשב על הדרך בה רובוט כזה צריך לשלוט בגפיו)[4].

האפשרות המעניינת יותר היא שבימא יכולה לשלב גם משוב ממקור אנושי כדי לפתח את הצאצאים שלה. בימא שצריכה לפתח בינה מלאכותית ליצירת מנגינות עצובות ונוגות, למשל, יכולה לשלוח לביקורת את היצירות של צאצאיה לבני-אדם מסביב לעולם ("האזינו ליצירה במשך חצי-דקה, ודרגו כמה היא נגעה ללבכם!") בעלות אפסית, ולשפר את הצאצא בכל פעם. בדרך זו אפשר ליצור באופן אוטומטי בינות מלאכותיות משוכללות יותר גם בנושאים שאינם ניתנים לכימות בקלות.

אבל בואו נדבר על מה שמפחיד את כולם: שבינה מלאכותית שכזו תצא משליטה. האמת? זו אכן בעיה. לא מכיוון שאני חושש שבינה מלאכותית לזיהוי אנשים בתמונות תאבד את הרסן ותנסה להשתלט על העולם, אלא מכיוון שתהליך הפיתוח של הצאצאים פועל באופן אבולוציוני, וללא הכוונה של בני-אדם, או הבנה מלאה מדוע התוצר הסופי עובד כפי שהוא עובד. המשמעות היא שאם אנו בוחרים בדרך זו לייצר בינה מלאכותית שתכווין את התנועה בכבישים, למשל, אנו צריכים לקחת בחשבון שהיא עלולה לקבל החלטות לפי תהליך אופטימיזציה שעברה שמקדש את זרימת התנועה בכבישים – אבל שם פחות דגש על שימור חיי הנוסעים. וכך, בינה מלאכותית שכזו עלולה לייצר לנו מודלים לניהול התנועה שיהיו יעילים מאד, אבל יעלו בחייהם של כמה אנשים מדי חודש. ייתכן בהחלט שזהו יחס המרה טוב – אבל אנו צריכים להיות מודעים לפחות לבחירות שהבינה המלאכותית עושה עבורנו!

בסופו של דבר, הופעתן של בינות מלאכותיות שמסוגלות לתכנת את הדורות הבאים של עצמן, מהווה פיתוח שיכול לקדם עוד יותר את תחום המחשוב ולהאיץ את קצב השיפור. זוהי התפתחות ברוכה – אבל כמו בכל טכנולוגיה אחרת, עלינו להבין איך לשלוט בה ולוודא שהיא ממלאת את התפקיד שאנו מייעדים עבורה, אך מבלי לפגוע בערכי בסיס אנושיים.

אולי נוכל להפקיד בינה מלאכותית גם על זה.

 


 

אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והרובוטים בספרי החדש "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

 

[1] https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html

[2] https://research.googleblog.com/2017/11/automl-for-large-scale-image.html

[3] https://cloud.google.com/blog/big-data/2016/08/how-a-japanese-cucumber-farmer-is-using-deep-learning-and-tensorflow

[4] https://www.extremetech.com/extreme/252242-googles-deepmind-teaches-ai-navigate-parkour-course

14 מחשבות על “בינה מלאכותית העמידה צאצאים – והם מוצלחים יותר מתוכנות מעשה ידי-אדם

  1. נראה לי שהתגית "בינה מלאכותית" מטעה. יש כאן תהליך אבולוציוני מואץ בתנאי מעבדה. האבולוציה הזאת מכוונת לקריטריונים מאוד מצומצמים ומסויימים (במקרה של הווידאו – תנועה ומעבר מכשולים בתנאי הניסוי). הסיכוי שהתכנה תפתח תודעה, רצון חפשי, ושאיפות הישרדות זהה לסיכוי שיוולד פתאום תינוק עם יכולת הנעה סילונית. לא עדיף לקרוא לזה "אלגוריתם אבולוציוני לפיתוח תכנה"?
    מאותה סיבה צורם לי השם "בינה מלאכותית" לתהליך של מיפוי מחיצה ב N ממדים לפילוח מרחב נתונים ב N+1 ממדים לתתי מרחב, כאשר כל נקודה (לפי קורדינאטות הנתונים) משוייכת לתוצאה המאפיינת במובהקות גבוהה מדידות ידועות באותו תת מרחב. אבל כנראה ש"למידה ממוחשבת" זה מספיק קרוב…

    אהבתי

    • אבל המונח "בינה מלאכותית" לא כולל בתוכו בהכרח "תודעה", "רצון חפשי", "שאיפות הישרדות" וכו'. זוהי פשוט אסקלציה של המושג שנגרמת מכך שמדי כמה שנים אנחנו מתרגלים ליכולות המוגברות של המחשבים, ומעלים את הרף עוד יותר עבור "בינה מלאכותית". אם הייתי בא אליך לפני עשרים שנים וטוען שיהיה לי מחשב שיכוון אותך בכבישים בשפה אנושית, היית מסכים איתי שזו בינה מלאכותית מדהימה. ברגע שזה קרה, התחלנו להעלות את הרף עוד יותר. זה משחק טיפשי שאין בו הרבה טעם, כך שאני מסרב להשתתף בו 🙂

      אהבתי

    • מסכים. והאמת היא שפה גם אני חושש שאולי הייתי נלהב מדי בתיאור החידוש. האם באמת אפשר לקרוא לצאצא "צאצא" אם הוא אינו כולל בתוכו את היכולת להעמדת צאצאים משלו? כנראה שכן, אבל ברור שאז אנחנו מחמיצים חלק חשוב מהמשמעות של "צאצאים" ביולוגיים, והאנלוגיה בעייתית יותר.

      אהבתי

  2. לא הבנתי. מה ההבדל בין "בימא" לבין למידת מכונה ב-Deep Learning שאנחנו שומעים עליה כבר חצי עשור?

    (קורא את הפוסט של גוגל).

    אה זה די מגניב. הם עושים למידה דו-שכבתית (למידה בתוך למידה). ברמה הגבוהה הם לומדים את הארכיטקטורה של הרשת (= המודל), וברמה הנמוכה יותר יש למידה עמוקה רגילה כדי לבדוק אם המודל יכול ללמוד את הבעיה טוב יותר.

    ומהצד השני: גוגל הארורה! לוקחת את כל המדע ולא נשאר לאף אחד אחר.

    אהבתי

  3. פינגבק: רועי צזנה: הצאצאים המוצלחים של הבינה המלאכותית - ייצור ידע

  4. פינגבק: רועי צזנה: הצאצאים המוצלחים של הבינה המלאכותית - ייצור ידע

  5. פינגבק: רועי צזנה: הצאצאים המוצלחים של הבינה המלאכותית - ייצור ידע

  6. פינגבק: רועי צזנה: הצאצאים המוצלחים של הבינה המלאכותית - ייצור ידע

  7. פינגבק: רועי צזנה: הצאצאים המוצלחים של הבינה המלאכותית - ייצור ידע

  8. פינגבק: רשת העצבים המלאכותית שפיתחה מבנים ביולוגיים הקיימים במוח אנושי – המדריך לעתיד – הבלוג של ד"ר רועי צזנה

  9. פינגבק: רועי צזנה: רשת העצבים המלאכותית שפיתחה מבנים ביולוגיים הקיימים במוח אנושי - ייצור ידע

להשאיר תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת /  לשנות )

תמונת גוגל פלוס

אתה מגיב באמצעות חשבון Google+ שלך. לצאת מהמערכת /  לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת /  לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת /  לשנות )

מתחבר ל-%s