מכונות הסיוטים: כשבינות מלאכותיות מתוכנתות לפסיכופתיה

למעבדות המדיה של MIT יש מטרה נעלה: לפתח חזונות חדשים בנוגע לדרך בה בינה מלאכותית ובני-אדם ישתפו פעולה בעתיד.

לרוע המזל, הם בחרו להגשים את המטרה באמצעות פיתוח בינה מלאכותית פסיכופתית.

זוהי, כמובן, אינה המילה הנכונה לתיאור אותן בינות מלאכותיות, למרות שניתן לראות את התיאור הזה למחקר החדש בכל רחבי המדיה ברשת. המילה "פסיכופת" מתארת מצב שאינו נורמטיבי בקרב בני-אדם: דרך יוצאת-דופן לעיבוד מידע במוח האנושי. לבני-אדם מן השורה יש ראיית עולם בסיסית שמשותפת לכולנו. אנו מבינים מהי "אהבה" (או לפחות "התאהבות"), מהו "רצח", מהי "אמא" ומהם הרגשות שאנו חשים כלפיה. לעתים אנו מרחיבים את המושגים הללו מעבר למשמעותם המקורית – כך, למשל, חלק מהצמחוניים עשויים להגדיר הרג בעלי-חיים כ- "רצח". אבל גם אז, המושג הבסיסי משמר את משמעותו המקורית. בסופו של דבר, בבסיסנו אנחנו כולנו צאצאים של אותו שבט קופי-אדם שהתפתח לשמר לכידות חברתית.

אלא שלבינה מלאכותית אין את ההטיה האוטומטית הזו, כפי שמתעקשות מעבדות המדיה של MIT להראות שוב ושוב.

אני לא מגזים – במהלך שלוש השנים האחרונות, שחררו המעבדות מספר דוגמאות של מנועי בינה מלאכותית שלא-בדיוק עושות טוב לבני-האדם. הראשונה, בשנת 2016, הייתה "מכונת הסיוטים", שערכה מחדש תמונות כדי לעורר תחושות של אימה ופחד בבני-אדם. פרצופים אנושיים שנערכו על-ידי התוכנה נראים – כצפוי – מסויטים ומזעזעים. התוכנה עורכת תמונות נוף פסטורליות-לשעבר עד שהן מזכירות בתי-מטבחיים ומעוררות צמרמורת וחלחלה בקרב הצופים.

image-alt

מקור: מעבדות המדיה של MIT[1].

אבל החוקרים לא עצרו כאן. בשנת 2017 הפיקו המעבדות את "שלי" – מנוע בינה מלאכותית הכותב סיפורי אימה קצרים. שלי היא רשת עצבים מלאכותית שעברה על מספר עצום של סיפורי אימה קצרים מהרשת החברתית רדיט (Reddit), ולמדה איך להפיק שברי-סיפורים כאלו משלה. היא כתבה יותר ממאתיים סיפורי אימה קצרים, בסיוע בני-אדם מהרשת שרצו – מסיבה שלא לגמרי ברורה לי – לעזור לה להתפתח. הנה חלק קצר מאחד מהסיפורים שהיא כתבה, ביחד עם משפטים שתרמו בני-האדם בטוויטר. (החלקים ששלי כתבה בעצמה מופיעים בהדגשה)

"התחלתי לנשום שוב. השרשראות בקרסולי זעו והצל המשיך לבהות. קריאה שקטה ומספר סימני חיים החלו להיווצר. לא היה לי מושג. גידלתי אותו. הייתי חייבת לעשות משהו. הייתי חייבת לראות אותו. הייתי חייבת. עמדתי לגלות. עמדתי להתרחק מהדבר הזה. לא יכולתי לתת לו להשיג אותי. האדרנלין שלי החל לזרום ולא יכולתי לעצור את עצמי. אבל השרשראות! השרשראות! איך הייתי אמורה לשחרר את עצמי? התחלתי להשתגע. לא יכולתי לזוז. היצור היה שם איתי. מה הוא עשה?"[2]

וכן הלאה וכן הלאה. שלי צריכה להשתפר עוד הרבה לפני שתצליח למכור ספרים כמו סטפן קינג, אבל הרעיון הבסיסי, לפחות, ברור: אפשר לגרום לבינה מלאכותית לכתוב באופן שייגע ברגשות ובפחדים העמוקים והקמאיים ביותר שלנו.

מאוחר יותר באותה שנה, ניסו לראשונה החוקרים ליישם את הרעיונות האלו לשימוש מעשי בפרויקט "אמפתיה עמוקה". הם אימנו רשתות עצבים מלאכותיות על תמונות של איזורי אסון, ואז דרשו מהבינה המלאכותית לערוך מחדש תמונות של ערים בריאות ושוקקות-חיים. התוצאה נראית – כצפוי – מזעזעת: אתם יכולים לראות את עיר מגוריכם חרבה ומרוסקת. וזו בדיוק הייתה כוונתם של החוקרים, שרצו לסייע לתושבי העולם המערבי להתחבר ברגשותיהם לערים ולמדינות שחוו אסונות טבע ומלחמות.

כיצד הייתה נראית בוסטון לאחר אסון? הנה דוגמה, באדיבות "אמפתיה עמוקה"[3].

ועכשיו שעברנו על כמה מפרויקטי העבר של המעבדות, אתם יכולים להבין מאין צמחה הבינה המלאכותית החדשה שלהן: נורמן, על שם הפסיכופת מסרט האימה "פסיכו" של אלפרד היצ'קוק.

בדומה לבינות המלאכותיות האחרות שהצגתי עד כה, גם נורמן מבוסס על רשת עצבים מלאכותית, וגם הוא למד מאוסף דוגמאות שלא ממש היינו רוצים לחוות בחיים האמיתיים. נורמן הורץ על שרשור ידוע-לשמצה ברשת החברתית רדיט, בו כותבים המשתמשים רשמים ופרשנויות אודות טיבו של המוות. לאחר מכן, הוצגו בפני נורמן סדרה של כתמי רורשאך, והוא סיפק תיאור עבור כל תמונה. התיאור של נורמן הושווה לזה של רשת עצבים מלאכותית שאומנה על מאגר מידע גדול ומגוון הרבה יותר[4]. שלא במפתיע, נורמן פירש כל כתם רורשאך באופן מטריד ביותר. כתמים תמימים-למראה הזכירו לו גברים הנורים למוות למול נשיהם הצורחות, נשים הרות הנופלות למותן מבניינים גבוהים, ואנשים הנתפסים על-ידי מכונה לעיבוד בצק ונמשכים לתוכה. הבינה המלאכותית שלמדה ממגוון דגימות מגוון יותר, לעומת זאת, ראתה בתמונות הללו רק "אגרטל פרחים, ציפור קטנה, וזוג אנשים העומדים זה לצד זה."

norman.jpg

מקור: מעבדות המדיה של MIT[5].

מטרתו של נורמן אינה לגרום לנו לחשוב מחדש על פרשנויות אנושיות לכתמי רורשאך, אלא להדגיש נקודה קריטית בהבנתנו את הבינה המלאכותית: אנחנו יכולים ללמד אותה, לטוב ולרע, כיצד לפרש את הקלט שהיא מקבלת. הבינות המלאכותיות החדשות – אלו המבוססות על רשתות עצבים מלאכותיות – חייבות להתבסס על ניסיון העבר. אם המתכנתים מצמצמים את חומר הלימוד אליו היא נחשפת, התוצאה בהכרח היא בינה מלאכותית בעלת פרשנות מעוותת ולוקה-בחסר.

אפשר להשוות את הבינות המלאכותיות החדשות לילד אנושי. ילדים הגדלים בתרבויות ליברליות ופתוחות, בהן הם לומדים וחווים רעיונות שונים, יפתחו ראיית עולם רחבה יותר. הם יוכלו לפרש מצבים חדשים בדרכים שונות, ולשקול פתרונות שונים לכל בעיה (העובדה שהם יכולים לעשות זאת, אינה אומרת כמובן שכך אכן יעשו). לעומתם, ילדים הגדלים בתרבויות מסוגרות וקיצוניות, המאמינות ברעיון אחד גדול מעל לכל היתר, יפרשו כל מצב חדש דרך עדשותיו של אותו רעיון. וכפי שאמר אברהם מסלו –

"אם יש לך רק פטיש, אתה רואה כל דבר כאילו היה מסמר."[6]

זוהי תובנה חשובה לעתיד. ככל שיגדלו יכולותיהן של הבינות המלאכותיות, אנו צפויים לראות אותן מתפשטות למקומות ולשימושים רבים ושונים. הן יקחו חלק ביצירת סרטים, במערכות הבריאות ואפילו במערכות המשפט, הצדק והשלטון. הן יפתחו אביזרים טכנולוגיים חדשים, ימליצו על העונשים הראויים ביותר לכל פושע ויגבשו הצעות חוק לפתרון בעיות קיימות או עתידיות. הן יעשו כל זאת בהתאם לחומר הלימוד שקיבלו, ובכל מדינה ותרבות שתפתחנה בינות מלאכותיות שכאלו, יחונכו הבינות לפי מספר רעיונות שייבחרו בקפידה כדי לשרת את הנורמות הקיימות. בתרבויות דתיות ומסוגרות, יפותחו בינות מלאכותיות שיוכלו לפרש את העולם רק דרך עדשות הרעיונות המרכזיים של אותן דתות.

עתיד שכזה צריך להפחיד את כולנו. הדתות הראשיות כיום התפתחו כטכנולוגיה חברתית – ככלי לשימור לכידות חברתית, לדרבון אנשים להפגנת אלטרואיזם בתוך הקבוצה, ולקיבוץ אנשים רבים ביחד תחת שלטון ריכוזי אחד. הן הצליחו היטב במטלות הללו, אך הן נושאות עמן 'מטען עודף' רב שצברו לאורך מאות רבות של שנים: איסורים שונים ומשונים בתחום המזון, למשל, או קסנופוביה – שנאת זרים. מפחיד לחשוב על בינות מלאכותיות מתקדמות שירכשו הרגלי חשיבה ואמונה שהיו רלוונטיים ומועילים לפני אלפיים שנים – אך היום עומדים בניגוד לדרכי חשיבה מודרניות יותר שמדגישות את זכויות האדם, את המוסר האוניברסלי ואת שיתוף הפעולה בין עמים שונים.

כמובן, בינות מלאכותיות שמפותחות בעולם המערבי הליברלי יקבלו שפע של חומר לימודי מכל הסוגים. אלא שגם זה לא לגמרי מספיק. בכל דעה בכל נושא קיימים 'מיתוסים' – סיפורים שמסבירים את העולם, ושברור לכולם שצריך לפעול לפיהם, גם אם הם אינם מוגדרים היטב או בקול רם. קחו למשל את סיפורי ג'ורג' הסקרן, על קוף סקרן שנכנס לצרות פעם אחר פעם בשל סקרנותו – אך מצליח תמיד להפיק את המיטב מהמתרחש עד סוף הסיפור. ה- 'מיתוס' כאן הוא שסקרנות היא תכונה מועילה ושימושית, שמסייעת בסופו של דבר לבעליה. באופן דומה, כל ילדה שצפתה בסרטי וולט דיסני באמצע השני של המאה העשרים, למדה את המיתוס שנשים צריכות להיות חינניות, חטובות, עם ריסים ארוכים ושמלות ארוכות. וכמובן, שהן צריכות גיבור שיציל אותן.

במילים אחרות, בכל חומר קריאה אנושי קיימים רעיונות מתחת לפני השטח, שלעתים איננו שמים אליהם אפילו לב – אך הם משקפים את תפישת העולם הלא-מודעת שלנו. בינות מלאכותיות שיעברו על כל החומרים הללו יזהו גם הן את המיתוסים התת-הכרתיים המקובלים בתרבות, ויאמצו אותם בהכרח.

מכיוון שכך, הבעיה כפולה: איננו צריכים רק לבחור בקפידה את החומרים שאנו נותנים לבינה המלאכותית לקרוא, אלא גם לנסות להבין בעצמנו מה המסרים החבויים בסיפורים המקובלים בחברה – והאם אנו רוצים להנציח את אותם מסרים.

זוהי משימה קשה, אבל כדאי שנתחיל להתייחס אליה ברצינות. מכיוון שאם לא נעשה זאת, הרי שהבינות המלאכותיות יעשו אותה עבורנו.


אתם מוזמנים לקרוא עוד על עתיד הבינה המלאכותית והמוח האנושי בספריי המדריך לעתיד ו- "השולטים בעתיד", בחנויות הספרים המובחרות (וגם אלו שסתם בסדר).

קישורים:

[1] http://nightmare.mit.edu/#portfolioModal31

[2] http://stories.shelley.ai/chains/

[3] https://deepempathy.mit.edu/

[4] http://cocodataset.org/#home

[5] http://norman-ai.mit.edu

[6] https://en.wikipedia.org/wiki/Law_of_the_instrument

23 מחשבות על “מכונות הסיוטים: כשבינות מלאכותיות מתוכנתות לפסיכופתיה

  1. פוסט מענין רועי , רק הפוסט שם דגש על מודלים לא מוגמרים ושלבי מעבר או שלבים ראשוניים. המודל היותר מוגמר , הינו אנושי לכל דבר . אנושי לכל דבר , מיישם שאתה למעשה , לא מכווין התוכנה או היצור המלאכותי . אתה נותן לו להתפתח , כפי יצור אנושי רגיל . והוא קולט באופן כוללני את ההוויה האנושית , כפי בן אדם רגיל .

    תוכנות בעלות בינה מלאכותית שנועדו לפתרונות מסויימים , זה דבר אחד , אבל , זה לא דבר כוללני או מודל סופי . המודל הסופי הינו זה , שזהו בן אדם לכל דבר וענין ( או כמו ) רק , הוא סופר אינטליגנטי , גם במובנים אנושיים ומופשטים וכוללניים . את זה , משיגים לא על ידי פרוגרמה , אלא , על ידי השראה . כפי שחינוך ליברלי , לא מייצר אישיות מוגמרת מראש , אלא , נותן לה השראה להתפתחות עצמית .

    נמחיש זאת , ובאמת בתי משפט הינה זירה עילאית :

    בינה מלאכותית , יכולה לגזור דינו של אדם בהתאמה טובה יחסית . למה , מדובר יותר בכוח חישובי ופשוט יחסית , מאשר , תפיסה אנושית כללית . זה קרוב יותר לטכניקה מאשר להפשטה ( בלי להיכנס לסיבוכים פה ) אבל :

    הכרעת הדין ( משמע : אשם לא אשם הנאשם ועד כמה ) מזקיקה יותר הפשטה :

    נניח אדם חשוד . המשטרה תפסה ועצרה אותו . הוא שומר על זכות השתיקה . לא מדבר בחקירה כלום . עצם השתיקה , מהווה ראיה מפלילה מבחינת השופט . אבל , מבחינת השופט , אם בדיעבד מביא האדם , סיבות , וטובות ככאלו , לשמירה על זכות השתיקה , סיבות טובות , חיצוניות נניח , לא מפלילות , השופט , לאיו דווקא יפליל אותו בגין שמירה על זכות השתיקה , כגון :

    אם היה מספר הגרסה שלו ולא שומר על שתיקה , אזי , הגרסה הייתה עשויה לזכות אותו בעיני חוקר המשטרה , אבל מאידך : הייתה מסגירה אותו בגין מעשה אחר שהוא מכחיש אותו ומפחד מגילויו , כגון : שהוא בגד באשתו ( וכך היה מסתבר , באם היה מספר הגרסה שלו מן ההתחלה , ולא שומר על זכות השתיקה ) .

    אז זוהי דילמה אנושית מוכרת וכוללנית . לכן , בינה אנושית דנן , צריכה להיות עם ניסיון חיים אנושי כוללני . וזהו המודל המוגמר יותר . לצורך הענין , אי אפשר ממש להכווין התוכנה , ולהטמיע בה, או לחסום אותה מהוויות חיים אנושיות , אחרת :

    היא לא תהא ממש בבחינת בינה מלאכותית .היא צריכה להתפתח ולהשתכלל , כפי יצור אנושי ממש .

    להתראות

    אהבתי

    • מר אל רום, השראה . בדקתי במילון את משמעות המילה השראה ואחד הפירושים הוא גם אינדוקציה.
      במדע, אִינְדּוּקְצִיָּה היא הדרך שבה מסיקים מסקנה ממקרים פרטיים ועוברים מהם לקביעה כללית. זה מה שעושה מחשב זה מה שעושה שופט. בודאי שלמחשב תהיה גישה מהירה לכמות גדולה של מקרים פרטיים.

      "השראה היא ניצוץ של אפשרות שפותח לאדם ערוץ חיבור למקור שיצר את כל הדברים ומאפשר לו נגישות לאינטליגנציה שנמצאת מעבר למוחו"

      נתקלתי פעם בהגדרה של רוחניות שאומרת שרוחניות היא הנוכחות הפעילה של אלוהים בחייהם של בני האדם. אני מאמין שבכל פעם שהשראה נוכחת, זה אומר שאלוהים קפץ לביקור…

      יש לי הרגשה שאתה פשוט מבטא במילים אחרות את הטענה שלשופט_אדם יש נשמה ומודעות שעה שלתוכנת מחשב לא יכולה להיות. כי מה שמעבר למוחו של אדם הוא דבר נעלם, פתפתל בלתי נתפס שברגע שנגדיר אותו ישנה צורה ויחמוק.
      אבל הרי אנחנו חוזרים וטוענים סיבובית שאנחנו מנסים ליצר מחשב שתהיה לו אינטלגנציה וכל מה שאינטלגנציה הוא גישה למידע ועיבוד המידע. אין יותר מזה. אין נשמה ואין מודעות ואין חוש שישי אלא רק בדמיון

      אהבתי

  2. רק שורת מחץ מבהירה לתגובתי לעי"ל :

    לא מספיק , שתוכנה בעלת בינה מלאכותית , תדע את החוק על בוריו למשל ( בתורת שופט היושב על כס השיפוט ) שהרי , לדקלם החוקים והתקנות כולן , לא יעזור הרבה . צריך ניסיון חייים אנושי מופשט וכוללני , שחורג מן הבקיאות שבהבנת החוק ודקלומו :

    צריך ששופט יעריך , כפי ההמחשה בתגובה לעי"ל ש :

    אדם מן היישוב , בנסיבות הענין , ייתכן בהחלט , אנושי בהחלט הדבר , שהוא ישמור על זכות השתיקה , ויפליל עצמו בכך מחד , ומאידך יעשה זאת , בשביל : להכחיש ולא לחשוף בפני החוקר , שהוא בגד באשתו , פן ייודע לה הדבר .

    לזה צריך , ניסיון חיים אנושי מופשט , וכוללני מעל הכל , הרבה מעבר לבקיאות בחוק ומשפט כמובן .
    וזוהי המחשה , באמת ברוטלית , ורזה ועניה מאוד , ורק לצורך מתודולוגי . האמן לי .

    להתראות

    אהבתי

    • מחשב יוכל להפיק את נסיון החיים של אלפי שופטים מבלי שיהיו לו דעות קדומות תוך יום של קריאת פסקי דין ומצבים זהים. לא ברורה הטלת הספק שלך, מחשבים יכולים לקרוא הבעות פנים טוב מבני אדם, להשוות מידע עצום טוב מכל שופט ולא יהיו המתנות של שנים לכל משפט
      כמו שהבינה המלאכותית תוכל להבין מה המסרים החבויים בסיפורים המקובלים בחברה היא תוכל בקלות להבין אם הלקוח מסתיר משהו מסיבות של להפליל עצמו ועוד וההגיון שלה יעבוד תמיד.
      שופט לא יכול להבין ארועים שאינם קשורים לתחום ההתמחות שלו, אם הוא צריך להבין נושאים שקשורים במקצועות מסובכים, ברקע של המעורבים….הוא רק מניח. המחשב יוכל לבדוק מנסיון בסיס הנתונים אם העובדות שמציגים בפניו מציאותיות או לא. הטעויות תהינה קטנות בהרבה ואיש לא יאשים אותו שהוא חבר של הפרקליט או סתם רוצה לנקות שולחן מהר

      אהבתי

      • הילה ,

        לא הטלתי ספק !! מאיפה הבנת כדבר הזה ? אלא שגם לא עשיתי ההיפך . רק הגדרתי את המודל הנכון לבינה מלאכותית . האם יצליחו ומתי ועד כמה , נחיה ונראה . לא יכול להאריך בדבר .

        שופט אגב , לא רק שיכול להבין אירועים שאינם קשורים להתמחות שלו , אלא , שזוהי העבודה שלו , להבין אירועים שלא קשורים לכאורה כלל לתחום ההתמחות שלו . זה התפקיד הטבוע שלו .

        מאיפה את יודעת מה שופט עושה שאת מניחה כך בוודאות כזו ? ונמחיש ונסביר :

        שופט חותך קייס . מכריע בין גרסאות נוגדות ( תביעה נ' הגנה , תובע נ' נתבע ) . אלא , שכל צד , תומך את גרסתו בחוות דעת מקצועית לא פעם ( נניח בענין שברפואה , ענין שבמדעים וכו… ) .

        יוצא מכאן , שתמיד יש גרסאות נוגדות , ותמיד צריך להכריע בין חוות דעת מנוגדות של מומחים הרי . העבודה שלו , יסודה ( בין היתר ) :

        להכריע, בתחום לא לו ( רפואה למשל ) איזוהיא הגרסה , הנכונה , האובייקטיבית , המהימנה , המקצועית , המשקפת וכו…. כלומר , הוא מעל למומחה לתחום אפילו . זוהי העבודה שלו !!

        אלא ששוב , כל זה , לא קשור למה שכתבתי על בינה מלאכותית .

        תודה

        אהבתי

    • האם בתי–המשפט חסינים מפני השפעות של נסיון עבר וציפייה תרבותית?
      השאלה המתבקשת היא אם
      ציפיות ודעות קדומות עשויות על החלטות שיפוטיות.
      האם החלטה שיפוטית היא לוגית במהותה ובעיקרה? האין היא מושפעת מגורמים
      לבר–משפטיים כגון אישיות, דעות קדומות, מזג, מוצא ורקע של השופט? האם השופט
      מודע למכלול הגורמים המובילים אותו לפסיקתו הסופית? קיימות גישות בפסיכולוגיה
      הגורסות שהתנהגות האדם היא דטרמיניסטית ברובה, כלומר, שהתנהגותו והחלטותיו
      של האדם מוכתבות לו על–ידי מנגנון פנימי שהוא אינו מודע לו ואינו יכול להתנגד לו
      )ראו, למשל, את גישותיהם של זיגמונד פרויד67 וקרל יונג68 .)אם כן, האין אופיו המובנה
      של כל שופט מכתיב לו את מהות תפיסתו והחלטותיו?69 בניסוח מתון יותר ובהקשר
      הספציפי שלנו: האם שופטים, לנוכח נסיונם המקצועי ויכולתם הלכאורית לשפוט ללא
      נראה שהתשובה לשאלה אחרונה זו היא שלילית, באשר אדם הוא אדם הוא אדם.70 משוא–פנים, חסינים מפני השפעות של נסיון עבר וציפיות?
      בישראל קיימת טענה נפוצה בדבר העדר רף ענישה אחיד אצל שופטים שונים. אכן, כל
      סנגור ותיק יודע, כאשר הוא נכנס אל בין כותלי בית–המשפט לאולמו של שופט ספציפי,
      אם שפר עליו מזלו אם לאו, ואם עסקינן בשופט מחמיר, רחמן, קפדן, פרוצדורלי או
      מהותי

      אהבתי

    • יש לנו כנראה מרחק רב עד שבינה מלאכותית תגשר בית מסד נתונים ליכולת לבצע פסק דין מושכל, אבל היא לא חייבת להחליף שופט על ידי כך שתחקה אותו ותעשה לו סימולציה, היא יכולה לשפוט בצורה שונה בחלקה ובכלים שונים שאין לנו כיום ולא הומצאו.
      ואנחנו גם לא רחוקים ממצב שמכונת אמת תשתכלל ותוכל לתרגם מחשבות שחולפות במוחו של אדם והוא יהיה ספר פתוח

      אהבתי

      • אני סבורה, כי ביום בו תינתן לבינה המלאכותית לגזור את דיננו, תמיד פסק הדין יהיה לא מוסרי ובטח לא לטובתנו, הרי בגלל כך נלקחה זכות זו מאיתנו מלכתחילה. אלו יהיו דיקטטורות.

        אהבתי

  3. פינגבק: רועי צזנה: כשבינות מלאכותיות מתוכנתות לפסיכופתיה - ייצור ידע

  4. פינגבק: רועי צזנה: כשבינות מלאכותיות מתוכנתות לפסיכופתיה - ייצור ידע

  5. פינגבק: רועי צזנה: כשבינות מלאכותיות מתוכנתות לפסיכופתיה - ייצור ידע

  6. חוקרי בינה מלאכותית מוותרים על פיתוח
    AI
    שתחשוב כמו אדם
    לדברי חוקרים מובילים, אין טעם בלנסות לפתח תוכנות עם יכולות של מוח אנושי – ועדיף להתמקד בשיפור פיתוחים קיימים. למשל, זיהוי דיבור טבעי, ניתוח מידע, ראיית מכונה ועיבוד תמונה

    https://www.calcalist.co.il/internet/articles/0,7340,L-3739485,00.html

    אהבתי

    • אכן כן. אבל מה זה אומר? אף אחד לא מנסה לחקות את כל הפעולות של המוח האנושי כרגע. ועם זאת, אפילו חיקוי מספר קטן של פעולות באופנים של למידת מכונה, יכול לשאת עמו הטיות מסוימות שניתן ללמוד עליהן מדרך פעולתו של המוח האנושי (ולהפך).

      אהבתי

      • בעצם אין לזה משמעות אלא אם כן אנחנו רוצים להעביר את התודעה שלנו לתוך מחשב. האחד זה סימולציה של מוח אדם עד לתודעה, אם יש דבר כזה תודעה. השני זה לימוד מחשב לבצע פעולות שאדם מבצע וטוב יותר. השלישי זה צרוף של תוכנות לומדות שיעלו עלינו ויציעו הצעות שאנחנו לא חשבנו עליהן כלל.

        השני יכול להיות ארוע בו אני גומר לקרוא ספר של הבלש האחרון מאת פיטר לבסי ומבקש עוד, לצערי הוא נפטר לפני עשרים שנה אבל אני יכול לבקש מחשב שיכתוב לי עוד ועוד ספרים בדיוק באותו סיגנון.
        המחשב גם עשוי להציע לי שהוא פשוט יתן לי סיפוק למוח מאותו סוג שהיתי מקבל לו הייתי קורא את הספר גם בלי לקרוא אותו כלל

        Liked by 1 person

  7. לא זזים מהכורסה

    האנושות נמצאת בדרכה להתמזגות סופית עם המיטה והכורסה: אפשר להזמין הכל ברשת ולקבל הביתה, בלי הקטע המעצבן הזה של לצאת החוצה ולתקשר עם אנשים. חברת Telexsistance רוצה לקחת את זה צעד גדול הלאה: היא מפתחת רובוט שנועד להחליף אתכם בעולם האמיתי. לא מדובר בהתקן נוכחות דיגיטלית – רובוט שנושא מסך ומצלמה ומאפשר לכם לתקשר עם הסביבה מרחוק – אלא בתחליף מלא: פשוט שמים על הראש משקפי AR, מתחברים לרובוט שממוקם בסופרמרקט השכונתי ובוחרים ירקות. לאחר מכן מתנתקים ועוברים לרובוט אחר שנמצא במשרד שלכם, לתשע שעות עבודה מהמיטה. אז מתנתקים שוב ועוברים לרובוט שנמצא ליד האמפי בקיסריה; יש הופעה של רובו-שלמה ארצי.

    אהבתי

  8. . בתרבויות דתיות ומסוגרות, יפותחו בינות מלאכותיות שיוכלו לפרש את העולם רק דרך עדשות הרעיונות המרכזיים של אותן דתות.

    התוכנה תהיה בעלת אינטלגנציה, משמע היא תצטרך להחליט אם המידע שהיא קוראת, המיתוסים, הטענות, הן ברוח האלוהים, זאת אומרת ברוח המתכנת. אבל כמובן שאפשר להגדיר למכונה מה זה מוסר ואז היא תבין לבד מה לא עולה בקנה אחד עם המוסר ומה לא.
    איך יכול רובוט להחליף כומר עם כל הסתירות שקיימות בדת? הוא יצטרך להיות רובוט מתוחכם מאד כדי להבין שגם זה צודק וגם זה צודק.
    אולי כדאי שנתמקד בינתיים ברובוטים שמתמחים בתחום אחד בלבד.

    אגב אם היה לנו רובוט עתידן שהיה מנבא את העתיד על סמך העבר גם הוא היה צריך להבין שהעתיד כבר לא עובד לפי אותם כללים של העבר

    אהבתי

  9. Apple is teaming up with Playboy Magazine in the self driving office.
    One of the top economy in China , Lady Gaga says today that Obama is legal.
    Google Plus has introduced the remains that lowers the age of coffee.
    According to a new study , the governor of film welcome the leading actor of Los Angeles area , Donald Trump .

    אלו למרבה הצער בדיחות שחיברה תוכנת AI שלמדה די הרבה בדיחות ויצרה מה שמצחיק לדעתה.כנראה שקל יותר ליצר אצל בני אדם סיוטים מאשר להצחיק אותם.

    בשביל מה לכל השדים והרוחות צריך להפחיד אותנו? מי הפסיכופט, המחשב או המתכנת? אם סוף סוף יצליחו ליצר מחשב שיחבר בדיחות, סטנד אפ קומידין, זו תהיה פיסגת ההצלחה של אינטלגנציה מלאכותית,לפענך את מסתרי ההומור.

    אהבתי

    • ההומור קיים כדי להסתתר מאחוריו בשל החולשות שלנו. הסיטוים שלנו הם שמנחים אותנו. מדוע עתידן בוחר במקצוע שכזה? הוא פוחד מהעתיד, מהלא נודע.

      אהבתי

  10. באותה מידה שתוכנה יכולה לקבל את הרושם מסרטי דיסני שכל בחורה רוצה ריסים ארוכים וחתן, היא יכולה גם למצוק את ההפך, ביקורת, התנגדות, דעות פמיניסטיות. זה לא נשמע מסובך. השאלה איך מתכנתים א. על פי רוב הדעות, חוכמת ההמונים. ב. על פי סט חוקי מוסר שהמתכנתים קבעו ג. על פי קומן סנס. תוכנה שתאפשר למחשב להחליט מה הגיוני, והשאלה כמובן היא מה הוא הגיון: מי נפגע פחות או יותר, מה תורם לחברה כשהשאלה מה היא תרומה, מה יוצר פחות סתירות, קביעת ערך לכל אחת מהסתירות.
    כל אחד מהנושאים הוא נושא שונה ואפשר להוריד אותו מהמדף ולצרף אותו ליחידה אחת שמבצעת החלטות וזה למעשה מה שנעשה כיום.
    עדיין לא ברור לי איך לא הצליחו להדביר את הסרטן

    אהבתי

  11. למעשה אל רום ענה על הדילמה שלך רועי: המודל היותר מוגמר , הינו אנושי לכל דבר . אנושי לכל דבר , מיישם שאתה למעשה , לא מכווין התוכנה או היצור המלאכותי . אתה נותן לו להתפתח , כפי יצור אנושי רגיל . והוא קולט באופן כוללני את ההוויה האנושית ,
    לכן הוא ידע מה אמת ומה טוב ונכון באופן מושלם יחסית על פי כללי החברה העכשבית עם התגברות על כללי ודעות החלק החלש והפגום.

    אהבתי

להשאיר תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת /  לשנות )

תמונת גוגל פלוס

אתה מגיב באמצעות חשבון Google+ שלך. לצאת מהמערכת /  לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת /  לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת /  לשנות )

מתחבר ל-%s