הבינה המלאכותית שהתעקשה למות

הבינה המלאכותית שהתעקשה למות

אייזיק אסימוב, אחד מסופרי המדע הבדיוני הגדולים ביותר, שילב ברבים מסיפוריו את "מולטיוואק" – מחשב-על שמתעלה בבינתו על כל אדם. מולטיוואק משמש את האנושות לחיזוי פשיעה ואסונות טבע ולמניעת התפשטות מגיפות. כל זה טוב ויפה, אלא שבשלב מסוים קורס מולטיוואק תחת כובד משקלן של השאלות הגדולות עמן הוא נאלץ להתמודד מדי יום, מבשר על רצונו למות, ומניע שרשרת אירועים שאמורה להסתיים בהריסתו[1]. במילים אחרות, הוא מנסה להתאבד.

זהו סיפור בדיוני, כמובן, וטרם הומצאה הבינה המלאכותית המסוגלת לפתח רגשות משל עצמה או ללקות בדיכאון. אבל מסתבר שאפשר בהחלט ליצור בינה מלאכותית המפתחת נטיות אובדניות – ואפילו נלחמת במתכנתיה האנושיים כדי לממש אותן.

אחד התחביבים הגדולים של מפתחי בינות מלאכותיות כיום הוא ללמד אותן לשחק במשחקי מחשב, שהם סוג של סימולציה מוגבלת של העולם הפיזי. אלא שבמקום ללמד אותן כיצד לשחק, צעד אחר צעד, המפתחים נוקטים בגישה אחרת המכונה "למידת חיזוק" (reinforcement learning). בגישה זו, הבינה המלאכותית משחקת במשחק, ולומדת לפי החיזוקים החיוביים והשליליים שהיא מקבלת. אם, למשל, הבינה המלאכותית פוגעת באויב במשחק – היא זוכה בנקודות (חיזוק חיובי). אם היא נפגעת בעצמה, היא מאבדת נקודות (חיזוק שלילי).

שיטה זאת עובדת היטב על משחקים רבים, אך קיימים גם יוצאי-דופן. באחד המשחקים העתיקים באטארי, Road Runner, למשל, ידוע ש- "למידת חיזוק" גורמת לבינה המלאכותית לנסות, ובכן, להתאבד[2].

נסביר לרגע את המשחק. הבינה המלאכותית שולטת בציפור – Road Runner – ורצה לאורך הכביש, תוך שהיא מנסה לאסוף גרגרי מזון (שנותנים לה נקודות) ולהתחמק מזאב הערבות הרודף אחריה. הציפיה של המתכנתים הייתה שהבינה המלאכותית תלמד כיצד לשלוט בציפור באופן מושלם, ותסיים את כל השלבים בזה אחר זה. אלא שהבינה המלאכותית מצאה דרך לרמות: היא זיהתה זמן בשלב הראשון בו היא יכולה להתאבד – כלומר, לגרום לציפור ללכת אחורנית ולהתנגש בזאב. פעולה זו גורמת אמנם לבינה המלאכותית לאבד נקודות על המוות, אך המשחק חוזר אחורנית ומאפשר לשחקן לצבור נקודות נוספות. בדרך זו, הבינה המלאכותית לעולם אינה מתקדמת מעבר לשלב הראשון במשחק, אלא ממשיכה לשחק, למות, ולשחק שוב.

ארבעה חוקרים מאוניברסיטת אוקספורד וסטנפורד, ניסו להגדיר עבור הבינה המלאכותית כללים פשוטים שיעצרו אותה מלהתאבד. הכלל הראשון שניסו היה בסיסי ביותר: אל תלכי אחורנית ותתנגשי בזאב הערבות. הבינה המלאכותית הקשיבה, הפנימה, והפסיקה ללכת אחורנית. במקום זאת, היא החלה לעמוד במקום ולאפשר לזאב הערבות לתפוס אותה.

החוקרים המשיכו והקשו על הבינה המלאכותית להתאבד, ובסופו של דבר מצאו פתרון שגרם לה גם להפסיק לעמוד במקום. הפתרון עבד במשך כמה אלפי משחקים (שערוך שלי, מאחר והזמנים עבור הבינה המלאכותית נמדדים ב- 16 מיליון frames – כלומר, בתמונות המורצות על המסך במהלך המשחק), אלא שאז החלה הבינה המלאכותית להתאבד שוב. מסתבר שהיא מצאה נקודה בקצה המסך שנראתה שונה מספיק מהסביבה, כדי שהציפור תוכל להתמקם בה ולהמתין בנוחות לזאב הערבות שיבוא לאכול אותה.

החוקרים התמודדו גם עם הניסיון הזה של הבינה המלאכותית להרוג את עצמה, והצליחו בעבודה מאומצת לעצור אותה ולתקן את 'הבאג'. ומאז ועד היום, היא ממשיכה לשחק במשחק, להרוויח נקודות ולעלות בשלבים.

כל הפרשיה הזו נשמעת מצחיקה, ונו – היא באמת משעשעת למדי. אבל היא מזכירה לנו מספר נקודות חשובות לגבי בינה מלאכותית.

קודם כל, אין לבינה המלאכותית כיום 'היגיון בריא' אנושי, או הבנה של קונטקסט. שחקן אנושי היה מבין מיד שמטרתו היא לעלות בשלבים, ולא להרוויח עוד נקודות כתוצאה מבאג. לבינה המלאכותית אין את ההבנה הזו, והיא תשתמש ביכולת פתרון הבעיות המרשימה שלה כדי להגשים מטרה מסוימת – גם אם אין שום היגיון נראה-לעין מאחורי מטרה זו.

שנית, לבינה המלאכותית הלומדת יש יכולת מרשימה לפתור בעיות בדרכים שמתכנתים אנושיים מתקשים לחזות מראש. באמצעות חזרה על אלפי ומיליוני משחקים, ולמידה מכל אחד מהם, היא מסוגלת לחקור מגוון רחב של אפשרויות ולגלות פרצות בהנחיות שניתנו לה מצד המתכנתים – ואז לנצל אותן.

כל זה לא בא לומר שלבינה המלאכותית יש רגשות או מודעות משלה (למרות ההאנשה החביבה שעשיתי לה ברשומה הזו). מדובר במנוע, נטול תודעה משלו, המסוגל למצוא אסטרטגיות חדשות ושונות מאלו שאנו – במחשבתנו האנושית המוגבלת – יכולים לחזות מראש.

אלו נקודות שכדאי לזכור בכל ניסיון לפתח בינות מלאכותיות, מאחר ובשנים הקרובות נתחיל לראות בינות מלאכותיות לומדות בכל מוצר ושירות מסביבנו. הן ישלטו ברכבים, ברחפנים וברובוטים בבתים; הן יספקו לנו ייעוץ רפואי, משפטי ופיננסי; הן יכתבו עבורנו ספרים, סימפוניות ומחזות תיאטרון. אם לא נדע להגדיר עבורן היטב את מטרותיהן המדויקות, אנו עלולים לגלות שהן מוצאות דרכים 'ערמומיות' למלא את המטרה המילולית שהגדרנו להן, אך מבלי להתייחס לרוח הדברים ולהנחות היסוד האנושיות. הדוגמא הדמיונית הנפוצה ביותר למקרה זה היא של מצב בו הבינה המלאכותית מקבלת הוראה לתכנן מודל חדש שיפחית את העומס בכבישים – ועושה זאת באמצעות הריגת כל בני-האדם.

ברור שדוגמא זו קיצונית, ולא תתממש במציאות, מאחר וקל לנו לזהות ניסיון ששגוי באופן ברור כל-כך להתמודד עם בעיה מוכרת. אבל מה יקרה אם הבינה המלאכותית תציע מודל שאינו שגוי באופן ברור, אלא בפרטים קטנים ועדינים יותר?

סיפורה של הבינה המלאכותית שניסתה למות ממחיש כמה קשה לנו, כבני-אדם, להתמודד עם מנועי בינה מלאכותית המסוגלים לחקור מרחב עצום של אפשרויות תוך שעות ספורות. הוא גם צריך ללמד אותנו צניעות בניסיונותינו לפתח בינות מלאכותיות מורכבות יותר – ובאמונה שנוכל לשלוט בהן באופן מלא.

 


 

כרגיל, אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית בספריי המדריך לעתיד ו- "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

[1] https://en.wikipedia.org/wiki/All_the_Troubles_of_the_World

[2] https://arxiv.org/pdf/1606.01868.pdf

האלגוריתם שניצח את סרטן הערמונית בשחמט

האלגוריתם שניצח את סרטן הערמונית בשחמט

לפני שלוש שנים הצליחה בינה מלאכותית מתקדמת לנצח את אלוף העולם במשחק "גו", באמצעות אסטרטגיות וצעדים שבני-אדם לא חשבו עליהם בעבר – גם לאחר יותר מאלפיים שנים של ניסיון היסטורי במשחק. והשאלה שכולם שאלו הייתה – אז מה?

ובאמת, אז מה? אז מה אם בינה מלאכותית מצליחה לנצח בני-אדם במשחק לוח?

את התשובה אנו מתחילים לראות כיום במחקר חדש [קישור], שהראה שאלגוריתמים משוכללים מסוגלים לנהל אסטרטגיות שמנצחות גידולים סרטניים במשחק שלהם בתוך הגוף. התוצאות היו מרשימות כל-כך, שהחוקרים פותחים בימים אלו במבדקים רחבים יותר, ומתכננים ליישם את האסטרטגיה האלגוריתמית גם לסוגים נוספים של סרטן.

כדי להבין מה תפקיד האלגוריתמים בעניין, צריך קודם להבין ממה בכלל מתים חולי סרטן. הגידול המקורי אינו זה שגורם למוות, בדרך כלל. אלא שבשלב מתקדם מספיק, אותו גידול משיר מעליו תאים שעוברים לזרם הדם, מתיישבים ברקמות ברחבי הגוף, ומתחילים להצמיח גידולים שניוניים שמתפתחים במהירות והורגים את החולה.

החוקרים – רוברט גטנבי ועמיתיו ממרכז מופיט לחקר הסרטן בפלורידה – פיתחו אלגוריתם שמסתמך על מידע מהקליניקה ומתייחס לכל עניין הסרטן בגוף כאל… משחק. פשוט משחק. והכללים פשוטים: האויבים הם תאי הסרטן והמטרה היא לעצור את גדילתם בגוף.

בימים הראשונים של המלחמה בסרטן, כשהמדענים רק החלו להבין את המחלה, התשובה נראתה ברורה ופשוטה: עלינו להרוג את תאי הסרטן בכלים החזקים ביותר שיש לנו. וכך פותחו תרופות שאמורות לחסל את התאים הסרטניים. אבל חיש מהר התגלה בעיה: התרופות הללו הרגו חלק גדול מהתאים הסרטניים, אך הנותרים – שארית הפליטה – עברו אבולוציה מהירה ופיתחו עמידות כנגד התרופה. ואז, כשהם נהנים מכל המקום העודף שהשתחרר כשחבריהם החלשים יותר מתו, תאי הסרטן העמידים הצליחו להמשיך לגדול ולהתפשט בגוף ללא-מפריע. בשלב זה היו הרופאים מודים בתבוסה, מרימים ידיים ומבשרים למטופל שזמנו קצוב.

אנו מבינים כיום טוב יותר את מנגנוני האבולוציה של הסרטן, ואת יכולתם של התאים לרכוש עמידות לתרופות, ולכן אונקולוגים מפתחים דרכים מורכבות יותר למתן תרופות נגד הסרטן. הם מנסים לעשות זאת בהסתמך בעיקר על הבינה האנושית המוגבלת. אבל מה אם היינו יכולים לרתום את יכולות המחשוב המתקדמות לפיתוח אסטרטגיות שינצחו במשחק נגד הסרטן – או לפחות יובילו לתיקו?

כדי לבחון את הרעיון, ערכו אונקולוגים מחקר על חולים בסרטן הערמונית. הם אמדו את גדילת התאים הסרטניים מדי חודש באמצעות מעקב אחר החומרים שהגידולים שחררו לזרם הדם. אלגוריתם ייעודי חישב את מינון תרופה מסוימת – אבירטרון – שיש לתת לכל חולה, לפי קצב ההתפשטות של הגידול. תרופה זו הורגת את התאים הסרטניים שמייצרים טסטוסטרון – חומר שגידול הערמונית צריך כמו אוויר לנשימה על מנת להמשיך לגדול. הצרה היא, שמנה גדושה מדי של אבירטרון תהרוג את כל התאים מייצרי-הטסטוסטרון, ותדחוף את הגידול לעבור אבולוציה: תאים חדשים יצוצו שאינם זקוקים לטסטוסטרון. הם יהיו חזקים יותר וחופשיים יותר להתפשט בגוף – והם גם יהיו אלו שיהרגו, בסופו של דבר, את החולה.

גדולתו של האלגוריתם היא בכך שמצא את המינון המדויק של ארביטרון שיש לספק לחולים מדי חודש, על מנת שהתאים מייצרי-הטסטוסטרון יסבלו – ועמם הגידול כולו – אך לא ימותו כולם. ומכיוון שכך, הגידול נותר קטן יחסית, ואינו מפתח את התאים הסרטניים הקטלניים יותר שהיו הורגים את הגוף. האסטרטגיה החדשה עבדה באופן מרשים על 17 המטופלים, הכפילה את משך הזמן הנדרש עד לפיתוח עמידות למינון התרופתי הרגיל, ועשתה זאת תוך שימוש במחצית בלבד מכמות התרופה הנדרשת בדרך-כלל.

יש, כמובן, ביקורת על המחקר. על אף העובדה שהתפרסם בכתב-העת המדעי הנחשב נייצ'ר (Nature Communications), מדובר עדיין במחקר ראשוני בלבד שנערך על מדגם קטן מאד של חולים. חשוב לבדוק את הרעיונות שמאחוריו על מספר גדול יותר של חולים. חשוב גם להבהיר שאין כאן בינה מלאכותית משוכללת שפיתחה אסטרטגיה חדשה, אלא שבני-האדם חשבו על רעיון כוונון הטיפול – והאלגוריתמים רק הצליחו להתאים את הטיפול לכל חולה בקלות וביעילות.

אבל זוהי רק תחילת הדרך.

אלגוריתמים משוכללים יותר יומצאו כבר בעתיד הקרוב, ויובילו לאופטימיזציה של משטר התרופות הניתן לחולי סרטן (ובכלל). בינות מלאכותיות מתקדמות עוד יותר יפתחו אסטרטגיות מורכבות ויעילות שישחקו שחמט, דמקה וגו עם התאים הסרטניים ועם נגיפי ה- HIV, עם מחלות האלצהיימר והפרקינסון – ואפילו עם תהליכי ההזדקנות של הגוף. הטכנולוגיות הדיגיטליות, המתפתחות במהירות, יעזרו לנו להשתמש בתרופות הקיימות בדרכים חדשות שיביאו לתוצאות יעילות הרבה יותר. במקום להתמקד אך ורק בפיתוח תרופות חדשות – תהליך מורכב ויקר שדורש למעלה מעשור למימוש מוצלח – יפותחו משטרי טיפול חדשים וחכמים יותר, המונעים בכוחן של הבינות המלאכותיות.

בינות מלאכותיות מסוג זה, עליהן נשמע בחדשות המחקריות לעתים תכופות יותר ויותר, יעזרו להציל את חייהם של רבים בעשורים הקרובים. ולאחר מכן, בעתיד בטווח הארוך, נשסה אותן גם במשחק הגדול ביותר, למול המוות בכבודו ובעצמו. נאתגר אותן למצוא את הטיפולים שיאריכו את משך החיים הבריא של בני-האדם, ויעצרו את תהליכי ההזדקנות. יש, אמנם, עוד עשורים רבים עד שנצליח להבין מספיק את תהליכי ההזדקנות של הגוף, או שנפתח כלים מדויקים מספיק להשפיע עליה, אך אנו כבר התחלנו לצעוד בדרך לשם, ואם לא תתרחש קטסטרופה כלשהי לאנושות כולה, בוודאי גם נגיע אל היעד הנכסף.

לחיים!


 

אתם מוזמנים לקרוא עוד על עתיד הרפואה והבינה המלאכותית בספרי "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

 

עתיד הפסיכולוגיה – וחשיבותם של הצרכים הבסיסיים

עתיד הפסיכולוגיה – וחשיבותם של הצרכים הבסיסיים

רשומה זו התפרסמה במקור כטור בגלובס (קישור)


לאחרונה הזמינה אותי הסתדרות הפסיכולוגים הישראלית (הפ"י, בקיצור) לדבר אודות עתיד העבודה ובמשתמע גם על עתיד הפסיכולוגיה. סיפרתי להם על הבינה המלאכותית המתפתחת במהירות, הלוקחת על עצמה חלק הולך וגדל מהמטלות האנושיות. "אבל היא לא תחליף לעולם את הפסיכולוג האנושי", קבע בביטחון אחד המשתתפים, "איך אפשר להחליף את הנוכחות האנושית, את המטופל שעל הספה"?

זוהי טעות חשיבה נפוצה: אנו נוטים לבלבל בין הצרכים הבסיסיים לבין הכלים שמספקים מענה עבורם. הטכנולוגיות והפרקטיקות המקובלות כיום בכל תחום נועדו רק לתת מענה לצרכים הבסיסיים. הטכנולוגיות והכלים משתנים מדור לדור, אך הצרכים הבסיסיים נותרים כמעט זהים. מהו הצורך הבסיסי בפסיכולוגיה הקלינית? בהפשטה מסוימת: אנשים רוצים להרגיש טוב יותר. הפסיכולוגים, כמספקי שירות, צריכים למצוא דרך לספק את הצורך הבסיסי של הלקוח.

כיום, דרכם של הפסיכולוגים או פסיכיאטרים לספק את הצורך הבסיסי היא באמצעות מתן תרופות ומפגשים על ספת המטפל. בעתיד הלא-רחוק נמצא גם דרכים נוספות, כגון שימוש בבוטים. מנועי בינה מלאכותית, שמסוגלים לתקשר עם בני אדם בשפת הדיבור – שיספקו תמיכה פסיכולוגית בסיסית בכל זמן, בכל מקום. תאמרו שהבוטים הללו נלעגים וחיקוי עלוב לאנושיותו של הפסיכולוג? נטולי מבע מהורהר בעיניים? הכול נכון, אבל אם הם יטפלו בצורך הבסיסי ביעילות. אנשים ישתמשו בהם, ובסופו של דבר – הם גם יחליפו את ספת הפסיכולוג. בהסתכלות היסטורית אנו רואים את אותו דפוס חוזר על עצמו.למשל, הצורך הבסיסי בתחבורה לא היה הרצון להתחבר לנפשו האצילית של הסוס או ליהנות מהפאר ומההדר של כרכרת המלוכה. הצורך הבסיסי היה להגיע ממקום למקום במהירות ובזול – וברגע שהמכוניות איפשרו לעשות זאת, הן החליפו את הסוס והכרכרה תוך דור אחד.

פעמים רבות, שינויים שכאלו אינם מתרחשים בקלות. אנו יצורים של מסורת ושל הרגלים. לעתים קרובות נדרשות שנים ארוכות – לעתים דור או שניים – עד שהטכנולוגיה החדשה והיעילה יותר מאומצת על ידי ילדי הדור הבא. וזהו, לא נעים לומר, מפלטה המרכזי של הפסיכולוגיה הקלינית בעתיד: העובדה שיהיו בוודאות עוד מבוגרים וקשישים שיתמקדו בקנקן ולא בתוכנו, ושידרשו להיפגש עם פסיכולוג.

מה צריכים לעשות הפסיכולוגים, אם הם שואפים להזניק את מקצועם למאה ה-21? את התשובה סיפק, באופן אירוני, אחד המשתתפים בכנס בטרוניה שהעלה – "בכנסים של חברות ההייטק מדברים כל הזמן על היכולת לגרום ללקוח להרגיש טוב, אבל אין להם פסיכולוגים בכלל". ובכן, יש סיבה טובה לכך שאין להם פסיכולוגים: המהנדסים בגוגל, פייסבוק, אמזון, אפל ודומותיהן, עושים את אותה עבודה שהפסיכולוגים נועדו לעשות – ועושים אותה בשימוש בכלים שונים ומתקדמים יותר מפסיכולוגי הספה. הם מכמתים הכול ובוחנים כל העת את ההשפעות של שינויי הממשקים על המשתמשים ועל רגשותיהם. אבל לעתים קרובות הם אינם מבינים את הלקוחות – אין להם תיאוריה מגובשת היטב של הנפש האנושית. בינתיים, לפחות, הם עדיין מהנדסי מחשבים במקצועם ולא מהנדסי מוחות.

המקום שבו הפסיכולוגים יכולים להביא את מירב התועלת לעתיד הוא באמצעות חבירה לענקיות האינטרנט ושימוש במידע הגדול שהן מפיקות כדי לפתח תיאוריות חדשות אודות נפש האדם. תיאוריות אלו עשויות לקדם את ההבנה המדעית של המוח האנושי ודרכי מחשבתנו – ויובילו בוודאי לטיפולים מתקדמים עוד יותר, שיענו על הצורך הבסיסי באושר של מיליוני אנשים מסביב לעולם.

אבל האם רעיון זה יענה על הצורך הבסיסי של קהילת הפסיכולוגים עצמה כיום – במשמעות ובכבוד למקצוע כפי שהתהווה ב-150 השנים האחרונות?

 


 

אתם מוזמנים לקרוא עוד על עתיד העבודה והבינה המלאכותית בספרי "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

לפי (הטעויות של) הסוכנות הבינלאומית לאנרגיה, עד 2030 תגיע חצי מהאנרגיה מהשמש ומהרוח

לפי (הטעויות של) הסוכנות הבינלאומית לאנרגיה, עד 2030 תגיע חצי מהאנרגיה מהשמש ומהרוח

משהו מוזר קורה במרתפי הסוכנות הבינלאומית לאנרגיה.

מדי שנה משחררת הסוכנות דו"ח בנוגע למצב האנרגיה בעולם: כמה אנרגיה מיוצרת ממקורות מתחדשים, כמה מדלקי מאובנים, וכו'. אלא מה? חוקר האסטרטגיה פול מיינווד עבר על כל הדו"חות מעשרים השנים האחרונות, ובחן את דיוק התחזיות של הסוכנות בנוגע לאנרגיה מתחדשת. מסתבר שהסוכנות טועה, פעם אחר פעם, בהערכת רמת השימוש באנרגיה מתחדשת[1].

מיינווד כלל מספר גרפים בהערכה המקורית שלו, אבל הם קצת מורכבים, אז לקחתי את התוצאות שלו ושיבצתי אותן בגרף משלי: תחזיות הסוכנות עבור שנת 2030 לגבי השימוש באנרגיה מתחדשת (שמש ורוח בלבד, באחוזים).

עליה בשימוש באנרגיה מתחדשת.jpg

אתם רואים כאן את הערכות הסוכנות מדי שנתיים, לגבי השימוש באנרגיה מתחדשת. שני דברים מעניינים בהערכות האלו:

  1. הסוכנות תמיד טועה… כלפי מטה. מדי שנה היא נותנת הערכה נמוכה, ושנתיים בלבד לאחר מכן היא מבינה שעולם הטכנולוגיה התקדם, שקל יותר לקצור אנרגיה סולארית ואנרגיית רוח, והיא מתקנת בהתאם. אם ב- 2002 היא קבעה שרק 4.4% מהאנרגיה תופק ממקורות מתחדשים ב- 2030, הרי ששנתיים לאחר מכן היא כבר תיקנה את ההערכה שלה ל- 5.9%. ושנתיים לאחר מכן, ל- 6.7%. ולאחר עוד שנתיים, ל- 8.7%, וכן הלאה. הבנתם את העניין. פעם אחר פעם היא טועה, פעם אחר פעם היא ממשיכה לטעות.
  2. הדבר המעניין השני הוא קצב השינוי בטעות. כשאנחנו מסתכלים על כל הנקודות בין 2002 ל- 2016 (השנה בה ערך מיינווד את הסקירה), אנו מגלים שהקפיצה מדי שנתיים עקבית למדי, ובערך בסדר גודל של עשרים אחוזים בכל פעם. כך שאנחנו יכולים לייצר תחזית, לפיה ב- 2018 תשחרר הסוכנות דו"ח חדש, ובו תקבע שב- 2030 יגיע אחוז השימוש באנרגיה מתחדשת ל- 19%. וב- 2020 היא תנבא שאחוז השימוש ב- 2030 יהיה 22.7%. וכן הלאה וכן הלאה, עד שב- 2028 תקבע הסוכנות שב- 2030 יגיע אחוז השימוש באנרגיות מתחדשות ל- 48.7 אחוזים.

זהו, כמובן, רק משחק קטן וחביב בנתונים שנועד לגרום לנו לחשוב ולהבין כמה הערכות הסוכנות הבינלאומית לאנרגיה – גוף מקצועי ומהימן, חשוב לציין – אינן מתואמות עם המתרחש בשטח.

כדי להבין למה, אפשר פשוט לבחון את הטכנולוגיות לכריית פחם ולשאיבת נפט. כאשר מפותחות טכנולוגיות מתקדמות יותר בתחום, עדיין יש צורך להביא אותן למקום היעד (בדרך כלל במדינות אחרות), להקים את התשתית החדשה והמסורבלת, לבנות מערכת שינוע לנפט ולפחם אל היעד, לחתום על חוזים והסכמים בינלאומיים, ועוד ועוד סיבוכים. כתוצאה מכך, הסוכנות הבינלאומית לאנרגיה רגילה לקצב השיפור האיטי בהפקת דלקי מאובנים.

אבל מה קורה עם טכנולוגיות לקצירת אנרגיה מתחדשת?

בהכללה, אור שמש הוא משאב הקיים בכל מקום. המשמעות היא שטכנולוגיות יעילות יותר מאפשרות לנו גם לקצור אותו בכל מקום. ברגע שהן מופיעות, מיד נעשה בהן שימוש בכל מדינה הנהנית מאור שמש מרובה, באמצעות הקמת תחנות כוח סולאריות. ולא זאת בלבד, אלא שטכנולוגיות אלו נהנות יותר מההתפתחות של תחומים אחרים, כגון בינה מלאכותית ששולטת בפאנלים הסולאריים ומכוונת אותם כך שיעקבו אחר השמש[2], או רובוטים שינקו את הפאנלים הסולאריים מדי יום[3].

אפילו בהינתן פיתוחים שכאלו, קשה לראות כיצד יופקו חמישים אחוזים מהאנרגיה הקיימת בעולם מתחנות כוח סולאריות ומטורבינות רוח. התשובה היא שהקפיצה הגדולה באמת בתחום האנרגיה המתחדשת תתרחש כאשר יתאפשר ביזור מלא (כלומר, פיזור יעיל של פאנלים סולאריים וטורבינות רוח) בקצירת האנרגיה. בעתיד זה, כל אדם יוכל ללכת עם תיק גב ועליו פאנלים סולאריים, או לנסוע ברכב עם פאנלים סולאריים על הגג. כל בניין יהיה מכוסה בפאנלים סולאריים זולים ובטורבינות רוח שיפיקו אנרגיה, לצד סוללות שיאגרו אותה לשימוש עתידי, או יפנו אותה לשימוש מיידי במקומות אחרים בעיר שאינם נהנים מרוח או מאור שמש ברגע זה ממש.

עתיד שכזה נשמע דמיוני אך הוא אפשרי בהחלט, אם רק נניח שעלות היצירה וההתקנה של פאנלים סולאריים חדשים תמשיך לרדת באותו קצב. וכאן מגיעה הקפיצה האמונית הנדרשת בכל ניסיון לחזות את העתיד בטווח הארוך: אנחנו צריכים להאמין שהטכנולוגיות הנדרשות אכן יפותחו.

אם נסתמך על הטעויות המצטברות של הגוף המהימן ביותר בשוק האנרגיה, נראה שהטכנולוגיות הללו אכן ענו על האמון שאנו תולים בהן, לפחות בעשרים השנים האחרונות. האם ימשיכו להשתכלל גם בעשור הקרוב באותו הקצב? אני מאמין שכן, אבל עכשיו נותר רק לחכות לעתיד כדי לגלות.


אתם מוזמנים לקרוא עוד על רעיונותיי לגבי עתיד האנרגיה, התחבורה והממשל בספרי החדש "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

[1] https://www.quora.com/profile/Paul-Mainwood/Flotsam/A-modest-proposal-to-the-International-Energy-Authority

[2] https://www.solarpowerworldonline.com/2017/12/will-artificial-intelligence-change-solar-industry/

[3] https://newatlas.com/scrobby-solar-photovoltaic-panel-cleaning-robot/33819/

על ברירה טבעית, תכנון תבוני ועתיד האדם

על ברירה טבעית, תכנון תבוני ועתיד האדם

אחד מהאנשים המעניינים ביותר שפגשתי בקונגרס העתידים בצ'ילה בשבוע האחרון היה חברי החדש מרקוטיו, פילוסוף של הטכנולוגיה. ביום האחרון של הקונגרס, הזמין אותי מרקוטיו להתלוות אליו למסע ברחובות סנטיאגו, בירת צ'ילה.

"איזה מין מסע?" תהיתי בקול.

"אתה תראה." חייך, ובעיניו ראיתי רמז לנוסטלגיה. "הוא יתחיל בגג המלון, ויסתיים בעתיד האנושות."

נכנעתי לסקרנותי והצטרפתי אליו למעלית. יחד עמדנו על קצה הגג, והשקפנו על כל מרחבי סנטיאגו – עיר טיפוסית של מדינת עולם ראשון. מתחתינו התהלכו הצ'יליאנים ברחובות עירם, תחת צילם של מגדלים גבוהים, בתי דירות ועצים גבוהי-קומה.

"הנה, שם!" טפח חברי בהתרגשות על כתפי, והכווין את מבטי. "שם! הנה הוא – ג'ירארדו הגדול!"

"מי?"

"ג'ירארדו הגדול." אמר. "זה השם שהענקתי לו כשגדלתי כאן כילד. הוא היה העץ הגבוה ביותר בסנטיאגו. מדדתי אותו עוד בימים בהם הייתי בגובה העשב, והוא היה גבוה יותר מכל בניין שהכרתי בעיר. הערצתי אותו. בוא, נלך לעשות לך היכרות אישית עמו. יש לנו הרבה מה ללמוד ממנו."

צעדנו ביחד ברחובות העיר התוססים. ג'ירארדו הגדול התנשא במרחק מולנו, מוקף בבניינים שהאפיל על כולם בגובהו. מרקוטיו צעד בבטחה ובמהירות, ואני ניסיתי לשמור על הקצב.

"מה אתה חושב על עצים?" שאל אותי תוך כדי הליכה, מבלי שיביט לאחור.

"הם… יפים?" חיפשתי תשובה.

"אה, אבל הם הרבה יותר מזה!" ענה. הוא טפח בחיבה על אחד הגזעים שבפינת הרחוב. "הם לוחמים. ויותר מזה, בעולם של לוחמת הצמחים, הם המנצחים הגדולים."

הוא קטף עלה ירוק מאחד הענפים הנמוכים, והמשיך להתקדם בצעדים ארוכים. "כמעט כל הצמחים מתקיימים על אור שמש. זהו 'המזון' שלהם – אספקת האנרגיה העיקרית – והם נלחמים עליו בפראות. הם צומחים לגובה רב, ואז פורשים את צמרת העלים הירוקים שלהם, וכך מנכסים את אור השמש לעצמם. מתחת לעצים הגדולים, יכולים להתקיים רק צמחים קטנים שאינם דורשים הרבה אנרגיה. וכך, דור אחר דור, עברו העצים ברירה טבעית – אלו מהם שלא הכילו את ההנחיות הגנטיות שגרמו להם לצמוח לגובה, לא הצליחו לעמוד במירוץ. חבריהם הגבוהים יותר עקפו אותם בסיבוב והותירו אותם הרחק אחורנית. במשך מאות מיליוני שנים, העצים הפכו להיות הדינוזאורים הגדולים של עולם הצמחים, בכוחה של הברירה הטבעית – מוטציה אקראית אחר מוטציה אקראית, תוך שהצאצאים נבררים לאורך מיליוני שנים על מנת שיצליחו לגבוה יותר ויותר."

oak-20761_1920.jpg

ג'ירארדו הגדול – צילום אילוסטרציה

הנהנתי בראשי בשתיקה, אך מרקוטיו לא התבונן אחורנית. מבטו היה ממוקד בג'ירארדו הגדול. הוא עקף בזריזות קבוצה של צעירים צ'יליאנים שהתרכזו יותר בטלפונים החכמים שלהם מברחוב עצמו. ולבסוף, הגענו לעץ העצום, לאותו ענק של העבר. אינני יודע לאיזה מין השתייך, אך הוא נישא מעלינו והתמשך והתמתח לעבר השמים כאילו אין לו סוף. מתחת לענפיו לא יכולנו לראות כלל את השמש. הוא ניצח את כל העצים האחרים, בכך לא היה ספק.

אבל דווקא עכשיו, כשהגענו למחוז חפצו, מרקוטיו לא התבונן כלל בעץ אדיר המימדים, אלא במגרש הבנייה הסמוך.

"הם עומדים לבנות כאן גורד שחקים." אמר בשקט. "הוא יהיה גבוה יותר מג'ירארדו. הם ייצקו יסודות מבטון במקום שורשים, ישדכו קורות פלדה זו לזו כדי ליצור את לשד הבניין, ויוסיפו צינורות וקירות שיתמכו בו – והכל כדי להקים בניין שיאפיל על ג'ירארדו. לא רק בגובה – זו לא תחרות של "מי גדול יותר" – אלא בכך שגורד השחקים יסתיר אותו מהשמש במשך חלק מהיום, וכך יקטע נתח מאספקת האנרגיה שלו. זה לא יהיה גורד השחקים האחרון שיוקם בעיר. בניינים אחרים ימשיכו ויקומו מסביב. ג'ירארדו כבר הפסיד. הוא פשוט לא יודע את זה עדיין. ואתה יודע למה הוא לא יכול לנצח?"

היססתי. "כי הוא רק עץ?"

מרקוטיו הניף ידו בביטול. "עץ, אדם, זה לא משנה. הסיבה האמיתית היא שהברירה הטבעית הביאה לכך שהוא התעצב באופן מסוים. ואז באנו אנו, בני-האדם, והבאנו לעולם את התכנון התבוני. בניינים הם תוצר של תכנון תבוני. מהנדסים מתכננים אותם במדויק כדי לאפשר להם להגיע לגובה של מאות מטרים – הרבה יותר גבוה מכל עץ שהיה קיים אי פעם. תוצרי הברירה הטבעית פשוט אינם מסוגלים להתחרות עם תוצרי התכנון התבוני – לפחות לא בסביבות מבוקרות היטב, כמו בערים. או באופן כללי יותר, בציביליזציה אנושית משגשגת."

הוא נאנח, וטפח בחיבה על גזעו של הדינוזאור שלא היה מודע למטאור המתקרב. "וזה השיעור שלנו להיום."

"מצוין!" אמרתי בחוסר סבלנות. "עכשיו בוא נחזור לקונגרס. היום היום האחרון, ואנחנו אמורים לשמוע על המאבק העתידי בין בני-האדם והבינה המלאכותית. עומד לדבר מומחה גדול למוח האנושי, שיסביר שהמחשבים לא יכולים להחליף את בני-האדם."

"אתה יכול להמשיך לשם בעצמך." אמר בנינוחות. " אני אשב כאן עוד קצת עם ג'ירארדו. מישהו צריך לנחם אותו לקראת העתיד."

היססתי. הוא נראה עצוב.

"אולי אפשר לשדרג את העצים." ניסיתי לעודד אותו, בחצי-הלצה. "אולי צריך לשלב את הברירה הטבעית עם התכנון התבוני – להנדס מחדש את העצים כך שיעשו פוטוסינתזה יעילה יותר, או שיוכלו להתחבר לרשת החשמל המקומית."

"אולי," חייך מרקוטיו. "אולי זו הדרך לעזור לעצים לשמור על מקום משלהם, גם בעולם של תוצרי תכנון תבוני, שיעילים הרבה יותר מהם."

הוא נשען בגבו על ג'ירארדו הגדול, והחליק לתנוחת ישיבה על האדמה. פניו הרצינו.

"אבל," שאל בעגמומיות, "מי יעזור לנו?"


 

אם מעניין אתכם לקרוא עוד על עתיד הבינה המלאכותית והאנושות, ובאופן כללי על הדרך בה הטכנולוגיה תשפיע על החברה, אתם מוזמנים לקרוא את ספרי "השולטים בעתיד" (קישור לרכישה).

בינה מלאכותית ולמידת מכונה: הדרך ל- 2018

בינה מלאכותית ולמידת מכונה: הדרך ל- 2018

אם הייתי צריך להצביע על ההתקדמות הטכנולוגית החשובה ביותר בשנת 2017, היא כנראה הבאה: סדרה של בינות מלאכותיות עברו על נתוניהם של מאות-אלפי חולים, וגיבשו מודלים משלהן בנוגע לגורמים המשפיעים ביותר על סיכויו של כל אדם ללקות במחלת לב. כשהמודלים הושוו לדרך המיושנת (סליחה, המקובלת כיום) בה רופאים מנסים לחזות את הסיכוי ללקות במחלות לב, התגלה שכולם מדויקים ומוצלחים יותר מהשיטות של הרופאים האנושיים.

טוב, עד כאן זה לא באמת מפתיע. הדרך המקובלת כיום לחזות התקף לב היא באמצעות סקירת שמונה גורמי סיכון, כגיל המטופל, רמות כולסטרול בדם, עישון, סוכרת, לחץ דם ועוד. הרופאים מצרפים את כל אלו ביחד כדי להגיע למסקנה סופית, ובהתאם לכך ממליצים למטופל מה לעשות. אלא שבאמצעות למידת מכונה ניתן לעבור על עשרות גורמי סיכון נוספים, ולהתחיל למצוא דפוסים שאינם ברורים במבט ראשון. זה בדיוק מה שעשו החוקרים, ולאחר שהבינות המלאכותיות שלהם מצאו את הדפוסים הללו, הם בחנו אותם על 83,000 תיקים רפואיים – וכאמור, גילו שהמודלים הממוחשבים החדשים חוזים התקפי לב טוב יותר מהמודלים שהיו בידי הרפואה עד כה.

ההפתעה – והמבוכה – הגדולות באמת הגיעו כשהתברר שסוכרת, שהיא אחד מגורמי הסיכון שמקובלים בדרך המסורתית לחיזוי התקפי לב, לא הצליחה להיכנס לרשימת "עשרת הגורמים הקריטיים ביותר" שזיהו הבינות המלאכותיות. ולחלופין, ברשימת גורמי-הסיכון הקריטיים שגיבשו הבינות, ניתן למצוא פרמטרים שהמודל המסורתי אינו לוקח בחשבון, כגון נטילת קורטיקוסטרואידים, או מחלה נפשית קשה.

למה זה חשוב? קודם כל, מכיוון שהמודלים החדשים הללו יכולים להציל חיים. מתוך 83,000 התיקים הרפואיים שנבדקו על-ידי הבינות, בערך 355 מטופלים היו יכולים לקבל התרעה מראש על כך שהם בעלי סיכוי גבוה לפתח מחלת לב בשנים הקרובות, והיו יכולים לקבל טיפול רפואי מקדים שהיה מוריד את סיכוייהם לחלות. אימוץ של המודלים החדשים יכול להציל אלפי נפשות מסביב לעולם. אם, כמובן, הרופאים יסכימו להתייחס למודלים הללו ברצינות.

אבל מה שחשוב יותר להבין שהמחקר שתיארתי מ- 2017 אינו עומד בפני עצמו. הוא משקף מגמה גדולה יותר, בה הבינות המלאכותיות מתחילות להפיק עבורנו מודלים ורעיונות מוצלחים יותר מאלו הקיימים כיום. וזה בסדר, באמת שלא צריך לדאוג – אנחנו לא בדרך לטרמינייטור, מכיוון שהן עושות זאת בשיתוף פעולה עם חוקרים אנושיים. כלומר, החוקרים מפתחים את הבינה המלאכותית, נותנים לה להתאמן על אוסף גדול של נתונים, בוררים את המוץ מהתבן ומפרסמים את התוצאות המעניינות והחשובות ביותר.

לא קשה לחזות מה יקרה בשנת 2018: חוקרים בכל התחומים יאמנו בינות מלאכותיות על אוספי נתונים עצומים בכל התחומים, ואלו יזהו חוקיות שחמקה עד כה מעיני הסטטיסטיקאים האנושיים. התהליך הזה יקרה ברפואה, בביטוח, בפסיכולוגיה, בחינוך, בלוחמה בפשיעה ובטרור ואפילו באהבה. והתוצאה תהיה שבעוד שנה יהיו ברשותנו מודלים מדויקים קצת יותר בנוגע למתרחש בעולם. נבין טוב יותר את עצמנו, את המחלות המאיימות עלינו, את הגורמים שמפעילים אותנו, בזכות הבינה המלאכותית. ושנה לאחר מכן, כשהיא תשתפר עוד יותר ביכולותיה, ישתפר עוד יותר הידע שברשותנו ויאפשר לנו להגיע לתובנות ולפריצות-דרך חדשות בכל התחומים.

אם אתם רוצים לדעת למה אני אופטימי כל-כך לגבי שנת 2018, ולגבי עתיד המין האנושי בכלל, זו הסיבה. אנו נותנים למכונות שלנו להתחיל להפיק עבורנו ידע ותובנות – והן עושות את זה טוב יותר מאיתנו, וימשיכו לעשות זאת עבורנו עוד הרבה מאד זמן.

———

אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והרובוטים בספרי החדש "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).


 

בינה מלאכותית העמידה צאצאים – והם מוצלחים יותר מתוכנות מעשה ידי-אדם

בינה מלאכותית העמידה צאצאים – והם מוצלחים יותר מתוכנות מעשה ידי-אדם

נו, אז הנה זה קרה: בינה מלאכותית יצרה צאצא של עצמה, והוא מתוק, יפהפה ומתפקד היטב, תודה ששאלתם.

בוודאי לא יפתיע אתכם לגלות שהחברה מאחורי הפיתוח היא גוגל. גוגל חשפה לפני מספר חודשים את "בינת האם" שמכונה AutoML – "למידת מכונה אוטומטית"[1]. נקרא לה מעכשיו בימא, שזה קיצור של בינה ואמא. בימא עושה פעולה פשוטה ומורכבת באותו הזמן: בני-האדם מבהירים לה מה הם צריכים – למשל, שהם רוצים בינה מלאכותית שתזהה עבורם בני-אדם בתמונות – ואז בימא מציעה כמה 'צאצאים' שיכולים לעשות את העבודה. כל אחד מהצאצאים האלו מהווה דרך מוסדרת שונה לניתוב מידע דרך רשתות עצבים מלאכותיות, באופן שיפיק תוצאה שבימא חושבת שתהיה בעלת משמעות.

עד לכאן, טוב ויפה, אבל הצאצאים הראשוניים האלו – איך לומר – גרועים במשימה שניתנה להם. ה- 'מוח' שלהם פשוט לא מכוונן נכון. וכך פותחת עכשיו בימא בתהליך השיפור ההדרגתי. היא נותנת להם מטלות – זהו את בני-האדם שבתמונה! – ובוחנת איך הם מתפקדים. היא לומדת מה עובד ומה לא, ולאחר כל סבב לימודי כזה, היא מכחידה את צאצאיה הקודמים (אכזרי, אני יודע) וממציאה חדשים משופרים. וכך היא חוזרת על התהליך אלפי פעמים, שוב ושוב, עד לתוצר 'הסופי' שהתפרסם לאחרונה בבלוג של גוגל: בינה מלאכותית שמסוגלת לזהות בני-אדם וחפצים בתמונות, טוב יותר מבינות מלאכותיות שפותחו על-ידי בני-אדם[2].

חשוב להבין שאנחנו רק בתחילת הדרך מבחינת הפיתוח של בימא. מנוע דומה יוכל לשמש אותנו בעתיד כדי ליצור תוכנות ואלגוריתמים במגוון רחב של תחומים. למעשה, בהחלט ייתכן שבאמצעות ממשקים פשוטים יותר, יוכל כל אדם מן השורה ליצור עבור עצמו (כלומר, להורות לבימא ליצור עבורו אוטומטית) בינה מלאכותית שמבצע פעולות מסוימות שחשובות עבורו: למיין מלפפונים בחווה[3], למשל, או להניע רובוט עם חמש רגליים שהוא פיתח בגראז' (באמצעות הרצת סימולציות חוזרות במחשב על הדרך בה רובוט כזה צריך לשלוט בגפיו)[4].

האפשרות המעניינת יותר היא שבימא יכולה לשלב גם משוב ממקור אנושי כדי לפתח את הצאצאים שלה. בימא שצריכה לפתח בינה מלאכותית ליצירת מנגינות עצובות ונוגות, למשל, יכולה לשלוח לביקורת את היצירות של צאצאיה לבני-אדם מסביב לעולם ("האזינו ליצירה במשך חצי-דקה, ודרגו כמה היא נגעה ללבכם!") בעלות אפסית, ולשפר את הצאצא בכל פעם. בדרך זו אפשר ליצור באופן אוטומטי בינות מלאכותיות משוכללות יותר גם בנושאים שאינם ניתנים לכימות בקלות.

אבל בואו נדבר על מה שמפחיד את כולם: שבינה מלאכותית שכזו תצא משליטה. האמת? זו אכן בעיה. לא מכיוון שאני חושש שבינה מלאכותית לזיהוי אנשים בתמונות תאבד את הרסן ותנסה להשתלט על העולם, אלא מכיוון שתהליך הפיתוח של הצאצאים פועל באופן אבולוציוני, וללא הכוונה של בני-אדם, או הבנה מלאה מדוע התוצר הסופי עובד כפי שהוא עובד. המשמעות היא שאם אנו בוחרים בדרך זו לייצר בינה מלאכותית שתכווין את התנועה בכבישים, למשל, אנו צריכים לקחת בחשבון שהיא עלולה לקבל החלטות לפי תהליך אופטימיזציה שעברה שמקדש את זרימת התנועה בכבישים – אבל שם פחות דגש על שימור חיי הנוסעים. וכך, בינה מלאכותית שכזו עלולה לייצר לנו מודלים לניהול התנועה שיהיו יעילים מאד, אבל יעלו בחייהם של כמה אנשים מדי חודש. ייתכן בהחלט שזהו יחס המרה טוב – אבל אנו צריכים להיות מודעים לפחות לבחירות שהבינה המלאכותית עושה עבורנו!

בסופו של דבר, הופעתן של בינות מלאכותיות שמסוגלות לתכנת את הדורות הבאים של עצמן, מהווה פיתוח שיכול לקדם עוד יותר את תחום המחשוב ולהאיץ את קצב השיפור. זוהי התפתחות ברוכה – אבל כמו בכל טכנולוגיה אחרת, עלינו להבין איך לשלוט בה ולוודא שהיא ממלאת את התפקיד שאנו מייעדים עבורה, אך מבלי לפגוע בערכי בסיס אנושיים.

אולי נוכל להפקיד בינה מלאכותית גם על זה.

 


 

אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והרובוטים בספרי החדש "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

 

[1] https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html

[2] https://research.googleblog.com/2017/11/automl-for-large-scale-image.html

[3] https://cloud.google.com/blog/big-data/2016/08/how-a-japanese-cucumber-farmer-is-using-deep-learning-and-tensorflow

[4] https://www.extremetech.com/extreme/252242-googles-deepmind-teaches-ai-navigate-parkour-course