על הסינגולריות

לאחרונה התבקשתי ממגזין מדע לילדים לכתוב מאמר קצר על הסינגולריות. הנה התוצאה, ואשמח לקבל הערות ורעיונות לשיפור.

 

על הסינגולריות

הניסוי הבא מתאים לכל הגילאים: לכו לאבא או לאמא. שאלו אותם האם, לפני שנולדתם, הם העזו לחשוב שיום אחד כולם יפרסמו וישתפו את התמונות שלהם ברשת החברתית ששמה "פייסבוק". או שיוכלו לקבל תשובה לכל שאלה מישות ערטילאית ששמה "גוגל". או שיהיה להם נהג-עזר ממוחשב ושמו "וייז", שינחה אותם בכבישים למחוז חפצם. התשובה שתקבלו, בוודאות כמעט מוחלטת, תהיה שלילית. המעטים שחשבו שטכנולוגיות כמו מחשבי-על, רשת אלחוטית או בינה מלאכותית יהיו זמינות לציבור הרחב, לא הבינו איך אנשים ישתמשו בהן.

ההיסטוריה מלאה במקרים בהם טכנולוגיה חדשה ופורצת-דרך, או אוסף של טכנולוגיות כאלו, משנה לחלוטין את חיי האנשים, עד כדי כך שאלו שחיו לפני התפתחות הטכנולוגיות אינם יכולים להבין כלל את דרך חשיבתם של בני הדורות הבאים. הנקודה בה מתרחש אותו מפנה חשיבתי מכונה "סינגולריות" או "נקודה סינגולרית" – מונח המגיע במקור ממתמטיקה ומתאר נקודה שאיננו יכולים להבין מה מתרחש בה.

הסינגולריות זכתה לפופולריות גדולה בשנים האחרונות בזכות המדען וסופר המדע הבדיוני ורנור וינג'י, שכתב ב- 1993 ש- "תוך שלושים שנים, יעמדו ברשותנו היכולות הטכנולוגיות ליצור בינה על-אנושית. זמן קצר לאחר מכן, עידן האדם יסתיים."

ריי קורצווייל, בספרו "הסינגולריות קרבה", מסכים עם וינג'י אך סבר שהיה אופטימי מדי. לפי קורצווייל, עד שנת 2045 נחווה את הסינגולריות הטכנולוגית הגדולה ביותר בתולדות האנושות: כזו שתוכל להפוך תוך שנים ספורות את מוסדות החברה ואת הדרך בה אנו רואים את עצמנו כבני-אדם. גם קורצווייל סבור שהסינגולריות תגיע מכיוון שנצליח ליצור בינה מלאכותית על-אנושית. בינה שכזו תוכל להגות רעיונות שאף אדם לא הצליח לחשוב עליהם בעבר, ותמציא כלים טכנולוגיים מתקדמים יותר מכל כלי הקיים ברשותנו כיום. אחד מתפקידיה של אותה בינה מלאכותית יהיה בוודאי לשפר את עצמה ואת ביצועיה, וליצור את הדור הבא של בינות מלאכותיות מתקדמות יותר. אלו ישפרו גם הן את עצמן, וכך תוך שנים ספורות תשאיר הבינה המלאכותית את בני-האדם הפשוטים הרחק מאחור.

אם הרעיון מפחיד אתכם, אתם בחברה טובה. אנשים גדולים וחכמים כמדען סטיבן הוקינג והממציא אילון מאסק כבר הביעו את חששותיהם מכך שהבינה העל-אנושית תצא משליטתנו ותפעל כנגדנו. אחרים רואים דווקא את ההזדמנויות הגדולות הטמונות בסינגולריות שכזו. הם מבינים שבינה מלאכותית על-אנושית, אם תישמר תחת שליטתנו, תוכל לנתח ולחשוף את צפונות העולם עבורנו. איינשטיין היה גאון יוצא-דופן, שחולל קפיצת דרך בהבנתנו את הפיזיקה. מה אם היינו נהנים מעשרות, מאות, או מיליוני 'איינשטיינים' שהיו מנתחים כל בעיה לפי דרישה ומוצאים עבורה את הפתרון? מה אם כל אחד מאיתנו היה יכול ליהנות מ- 'דוקטור האוס' פרטי משלו, שהיה מנתח את מצבו הרפואי בכל רגע נתון ומספק המלצות בלתי-פוסקות? ומהם הרעיונות החדשים, הניתוחים והגילויים שיוכלו למצוא הסופר-רמב"ם וסופר-רש"י העתידיים בתלמוד ובתנ"ך?

אנו מתחילים לראות כבר היום כיצד הבינה המלאכותית מתחילה לשנות את דרך חשיבתנו על עצמנו. המחשב "כחול עמוק" הצליח לנצח את גארי קספרוב בשחמט בשנת 1997, וכיום אלופי העולם האנושיים בשחמט אינם מהווים אתגר לבינה המלאכותית בפני עצמם. לאחר המפלה, יצר קספרוב סוג חדש של תחרויות שחמט: תחרויות בהן השחקנים האנושיים והממוחשבים משתפים פעולה, וביחד מגיעים להצלחות ולהישגים גדולים יותר מכפי שהיו מגיעים אליהן בכוחות עצמם. בשיתוף פעולה שכזה, המחשב מספק את מהירות החישוב ומציע אפשרויות. תפקידו של השחקן האנושי הוא לבחור בין האפשרויות, לנתח את יריביו ולהוציא אותם משיווי המשקל. ביחד, השניים יוצרים קנטאור: יצור מיתולוגי המשלב את התכונות הטובות ביותר של שני מינים שונים.

הבינה המלאכותית, לפיכך, אילצה כבר את שחקני השחמט לחשוב מחדש על משמעות היותם אנושיים ועל משמעות המשחק. בסופו של דבר, היא שינתה את פני המשחק כולו והביאה לצמיחתם של הקנטאורים: שחקני שחמט אנושיים המשתפים פעולה עם המחשבים, ומנצחים גם את הבינות המלאכותיות המשוכללות ביותר הקיימות כיום.

אנו יכולים לצפות לכך שבעשורים הקרובים תתרחש סינגולריות דומה גם בשאר המשחקים, המקצועות ותחומי הדעת בעולם שהיו שמורים בעבר רק לבני-האדם. חלק מבני-האדם ייאבקו כנגד התפתחות הבינה המלאכותית או יתעלמו ממנה, וכאשר זו תעקוף את יכולותיהם, הם ייוותרו מאחור בצד הדרך. אחרים ישתפו פעולה עם המחשבים, יעזרו להם ללמוד ויכווינו את צמיחתם וגדילתם. אלו יהיו הקנטאורים של העתיד. והבנה זו – שהאדם אינו יכול עוד להסתמך רק על עצמו ועל מוחו, אלא צריך לשתף פעולה ולהתאחד עם מחשבים משוכללים כדי להצליח באתגרי העתיד – הרי זו סינגולריות בפני עצמה.

 

תחרות Freestyle Chess בירדן. מקור.

תחרות Freestyle Chess בירדן. מקור.

 

תמונת השער: מאתר Othertees.com

9 מחשבות על “על הסינגולריות

  1. מעניין לקרוא, גם אותי זה לימד, אני בור בדברים האלה.
    אם אני מסתכל מעיניו של ילד, המאמר לא נותן תשובה לפחד מפני טכנולוגיה שתקום על בני האדם. גם לא מובן איך "בינה מלאכותית על-אנושית תוכל להגות רעיונות שאף אדם לא הצליח לחשוב עליהם בעבר, ותמציא כלים טכנולוגיים מתקדמים יותר". הרי אין לה תודעה. האם אתה יכול להביא דוגמה לטכנולוגיה שמשפרת את עצמה?
    תודה, יוחנן

    אהבתי

    • תודה על הקריאה ועל התשובה!

      לשאלותיך –

      א. לגבי הפחד: יש גבול למה שאפשר לעשות במאמר של שש-מאות מילים.

      ב. לגבי טכנולוגיה שמשפרת את עצמה: הדוגמה הבסיסית ביותר היום היא באלגוריתמים שלומדים, ואלו נמצאים בשימוש בכל מקום – בזיהוי תמונות ופנים, ברכבים אוטונומיים ואפילו ברחפנים. האלגוריתמים למעשה מתכנתים את עצמם מחדש (באופן מאד מוגבל) לפי מה שקורה בעולם.

      אהבתי

  2. אין דרך הגיונית לשכנע ילדים בכך שהוריהם החליטו לא לאפשר להם להביא לעולם ילדים לא אנושיים, סייבורגים ש"התאחדו" עם מחשבים. טיעוני הסינגולריות יכולים לשכנע רק מבוגרים שמסיבות כאלו ואחרות החליטו להתיאש ולהקריב את העתיד האנושי של ילדיהם.

    אהבתי

  3. מענין מאד. יש להניח שלמקרא מאמרך, הילדים האינטליגנטים ישאלו: הי, לשתף פעולה זה הגיוני, אנו בעצם עושים זאת גם היום. אבל "להתאחד" עם מחשבים? מה אחרי זה ישאר בנו אנושי ועצמאי?

    אהבתי

    • מושגים כמו "עצמאי" ו- "אנושי" הם חסרי משמעות בפני עצמם (לפחות לדעתי) ורק מתייחסים למצב הקיים. יש לנו יכולת קבלת החלטות כיום, ואני מניח שגם אחרי שנשתף פעולה עם רכיבים חישוביים שייטמעו בגופינו ובמוחותינו, נשמר חלק ממנה.

      אהבתי

  4. פינגבק: רועי צזנה: על הסינגולריות - ייצור ידע

להשאיר תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת / לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת / לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת / לשנות )

תמונת גוגל פלוס

אתה מגיב באמצעות חשבון Google+ שלך. לצאת מהמערכת / לשנות )

מתחבר ל-%s