כשהבוטים של פייסבוק יוצאים משליטה

כשהבוטים של פייסבוק יוצאים משליטה

אני אוהב את אנטוניו. הוא נהג המונית המועדף עלי כשאני רוצה להגיע במהירות לפגישות חשובות. יש לו בנדנה אדומה שמשתלבת היטב עם השפם השחור המרשים. והנסיעות איתו תמיד מעניינות.

"שמעת שהבוטים עומדים להשמיד את כולנו?" התנפל עלי כשנכנסתי למונית.

"יש שמועות כאלו שמתרוצצות כבר מאה שנים בערך." חייכתי בזמן שהניע את הרכב והתחלנו לנוע קדימה. "שהסוף יגיע מהשתלטות הרובוטים, הבוטים, או בינה מלאכותית באופן כללי. אבל בינתיים, עשה לי טובה וסע במהירות – אני תכף מאחר לפגישה הבאה."

man-2192280.jpg

אנטוניו, צילום אילוסטרציה

"אלו כבר לא שמועות." הדגיש אנטוניו כשהשתלבנו בתנועה בכביש המהיר. "ממש השבוע פייסבוק הודיעו שהם נאלצו לסגור שני בוטים שהחלו להתמרד נגדנו, המציאו שפה חדשה משלהם ודיברו ביניהם בלי שנבין מה הם אומרים. מי יודע מה הם אמרו זה לזה, או כמה הם חכמים? לדעתי, הם מתכננים נגדנו. מזל שפייסבוק עצרה אותם ברגע האחרון."

"כן…" התלבטתי איך לענות. "אבל לא. לא בדיוק. נכון שהייתה הרבה דרמה בתקשורת מסביב לסיפור הזה – היו אתרים שדיווחו שהמהנדסים של פייסבוק נכנסו לפניקה וכיבו את הבוטים, או שתהו האם המצאנו את מפלצת פרנקנשטיין המודרנית. המציאות הרבה פחות דרמטית."

"פחות דרמטית?" הבחנתי בעיניו המצומצמות של אנטוניו ננעצות בי בראי. הרכב החל להאיץ קדימה. "אז אתה אומר שיש עוד מאחורי הקלעים של הסיפור הזה?"

"כן, אבל הקונטקסט הוא זה שחשוב כאן. בסך הכל היה מדובר בשני בוטים – אלגוריתמים שמחקים יכולות שיחה אנושיות. אגב, חזיתי את יכולותיהם המתקדמות של בוטים מהסוג הזה בספרי הקודם, "המדריך לעתיד". בכל מקרה, פייסבוק עורכת ניסויים עם בוטים בתקווה שהם יוכלו לדבר עם בני-אדם ולהציע להם שירותים. כך שבמקום להתקשר לחנות הפרחים, למשל, תוכל ליצור קשר עם הבוט של חנות הפרחים דרך פייסבוק, להגיד לו שאתה רוצה לשלוח זר לאשתך לרגל יום הנישואין, והוא יבין מיד שאתה רוצה זר חגיגי עם ורדים אדומים.

זה העתיד שפייסבוק מנסה לקדם, והיא רוצה לחמש את הבוטים שלה גם ביכולות מיקוח ומציאת פשרות. היחידה לחקר בינה מלאכותית בפייסבוק הצליחה כבר ביוני להקנות לבוטים יכולות שכאלו ברמה גבוהה, שמתחרה בזו של בני-אדם, לפחות עבור מציאת פשרות במקרי בוחן פשוטים, כגון חלוקת כדורים, כובעים וספרים בין המתמקחים באופן שיספק את כולם. עד כאן הכל טוב ויפה, אבל הייתה בעיה אחת במחקר הזה: כשהחוקרים הורו לבוטים להתמקח זה עם זה, הם גילו שהבוטים יוצאים משליטה."

"ורוצים להרוג את כולנו!" דפק אנטוניו בשתי ידיו על ההגה.

"לא. זה לא מה שאמרתי." התנגדתי. "העניין הוא שמדובר במערכות בינה מלאכותית שמבוססות על רשתות עצבים מלאכותיות. מערכות כאלו לומדות באופן פעיל מכל מה שהן חוות. זה היתרון הגדול שלהן על פני מערכות פשוטות יותר. ככל שהבוטים התווכחו יותר זה עם זה, כך הם למדו טוב יותר איך להעביר את המסר שלהם באופן ברור ופשוט יותר לצד השני. ומכיוון שהחוקרים לא הורו להם לשמור על כללי השפה האנגלית בזמן הדיונים, תוך זמן קצר השיחה בין שני הבוטים הפכה להיות בלתי-מובנת כמעט לחלוטין לבני-האדם שצפו בה. הם התחילו להשתמש בשפת קוד כדי להעביר מסרים זה לזה – שפה שהייתה מובנת רק להם במלואה."

"קוד?!" אנטוניו עקף רכב אחד משמאל, רכב אחד מימין, הכריח שלושה אופנוענים להתפזר לצדדים, וזינק מעל משאית. "עכשיו הרובוטים מתחילים גם לתכנת?!"

"לא, לא!" אמרתי בבהילות. עצמתי את עיניי, אבל זה היה מפחיד עוד יותר. פקחתי אותן שוב. "הם לא תכנתו את עצמם. זה בסדר. אפשר להירגע. הם פשוט מצאו דרך יעילה יותר להעביר מסרים ביניהם. תראה, לנו, בני-האדם, יש דרכים מאד מוגבלות להעביר מסרים. לכל מילה שלנו יש כמה משמעויות – כמו "קוד". אנחנו צריכים את כל המשמעויות האלו בשיחה האנושית, שנועדה להקיף מגוון של נושאים כמו אהבה, חברות, יריבות, פיננסים ועוד. אבל לבוטים היה רק צורך אחד – להגיע להסכמה במשא ומתן זה עם זה. ולכן הם פישטו עוד ועוד את השפה האנושית, עד שהגיעו לבסיס שהיו צריכים, שהעביר את מירב האינפורמציה עם מינימום הסחות דעת. אחד היה אומר "אני יכול אני אני כל דבר אחר" והשני היה מבין מיד את כוונתו ומשיב – "כדורים יש אפס לי לי לי לי לי לי". ככה זה נראה באנגלית –

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

אלו פישוטים של שיחה אנושית, אבל פישוטים דומים מתבצעים כל הזמן, למשל ביחידות צבאיות שצריכות לתקשר זו עם זו ביעילות ובקיצור בשדה הקרב."

"שדה הקרב?!" הוא שאג, והמונית רעמה קדימה. ייתכן שייבבתי.

"זה טוב! זה טוב! תחשוב כמה קשה לנו לתקשר אחד עם השני ולהעביר מידע ביעילות זה לזה! למכונות קשה עוד יותר – אם אנחנו רוצים שתכנה א' תעבוד עם תכנה ב', למשל, אנחנו חייבים להתאים כל אחת מהן לעבודה המשותפת, וזה דורש המון כוח תכנות אנושי! אבל אם היינו יכולים לעזור למכונות להמציא שפות משותפות באמצעותן הן יכולות להעביר מסרים זו לזו בקלות – אפילו בלי מעורבות אנושית – זה היה יכול לעזור לחבר את כל המערכות בעולם ולאפשר להן לעבוד בשיתוף פעולה! המזגן החכם, המקרר החכם, הרמזור, המכונית האוטונומית – "

הבנתי את הטעות מאוחר מדי, כשידיו של אנטוניו התהדקו על ההגה עד שאצבעותיו הלבינו. הוא לא אוהב לשמוע על מכוניות אוטונומיות. צפיתי בו שואף אוויר בין שפתיים מכווצות.

"על מכוניות אוטונומיות נדבר בפעם אחרת." סינן לבסוף, וירד למחלף בשלוש-מאות קמ"ש. "בינתיים, כשכל המכונות האלו שלך מדברות בעתיד זו עם זו בשפה שאנחנו לא מבינים, אתה יכול להגיד לי איך אתה מצפה שנשלוט עליהן? שנוודא שהן עושות את מה שאנחנו רוצים?"

"מחשבים באופן כללי עושים את מה שאנחנו אומרים להם לעשות." אמרתי בהכנעה. "אבל אתה צודק בכך שמערכות לומדות עלולות ללמוד גם לפרש את דברינו באופן לא-מדויק, ולהעביר אותם עוד פחות במדויק בשרשרת המכונות. זו בדיוק הסיבה שאנחנו חוקרים את הנושאים האלו עכשיו – כדי למצוא דרכים לעזור למכונות להעביר מסרים אחת לשנייה באופן מדויק יותר, ומצד שני שיישאר עדיין במסגרת הבנתנו האנושית. אבל באמת שלא צריך… לדאוג!"

את המילה האחרונה פלטתי בצעקה כשאנטוניו סטה ימינה בחדות והדמים את הרכב, תוך שהוא מחמיץ במילימטר את ברז הכיבוי הסמוך.

"הגענו ליעד!" הכריז. "במהירות כמו שרצית."

"זה היה קצת מהיר מדי." התנגדתי. "אפשר לקבל איזו הנחה? כמעט חטפתי… התקף… לב…"

המילים גוועו בגרוני לנוכח מבטו היוקד.

"תודה, אנטוניו." נאנחתי. "באמת הגענו מהר ליעד, אבל אולי כדאי שבפעם הבאה נתקשר טוב יותר לגבי מה הכוונות המדויקות שלי. למשל, להגיע ליעד בחיים."

עיניו נצנצו. "דולרים יש אפס לי לי לי." הלעיט. "ואם זה לא טוב לך, אתה יכול לעבור למכוניות האוטונומיות."


כמו תמיד, אם אתם אוהבים לקרוא על בינות מלאכותיות ועל הדרכים השונות בהן ישתלבו בעולמנו, אתם מוזמנים להתעמק ב- "המדריך לעתיד" ו- "השולטים לעתיד" – שניהם בחנויות הספרים.

הומאופתיה לטיפול באוטיזם (לא עובדת)

הומאופתיה לטיפול באוטיזם (לא עובדת)

יש לי חבר שהבן שלו – נקרא לו ארז – אובחן לאחרונה כאוטיסט. החבר התחיל לחפש מענה לצרכי הילד, ונותר בהלם לנוכח כמויות הבולשיט שהחל לקבל אונליין. הוא שיתף איתי את הבולשיט המעצבן ביותר שהגיע אליו: הומאופתית שמתיימרת להציע טיפול הומאופתי לאוטיזם. אתם יכולים לראות בתמונה בדיוק את מה שחברים שלחו לו: כל מיני סיפורים על שיבושים בשדה אנרגטי פנימי והדרך בה הומאופתיה מתקנת אותו.

homeopathy.jpg

אלא מה? אין שום דבר כזה "שדה אנרגטי פנימי". מעולם לא התגלה כזה. חוקרים ורופאים אמיתיים אינם משתמשים אפילו במילים כאלו מחוץ לעולם הפסאודו-מדע. ואם זה לא מספיק, כדאי שתדעו שבלי קשר לשדות אנרגטיים או לאוטיזם, הומאופתיה. פשוט. לא. עובדת.

איך אנחנו יודעים? כי עברו כבר מאתיים שנים מאז המצאת ההומאופתיה, והצלחותיה וכשלונותיה נבחנו כבר ב- 1,800 מחקרים[1]. וראו זה פלא, כשוועדה של ממשלת אוסטרליה עברה על התוצאות בקפדנות, היה ברור ש-

"אין ראיה באיכות טובה לתמיכה בטענה שהומאופתיה יעילה בטיפול במצבים בריאותיים."

קולטים? מאתיים שנים עברו, גילינו את החלבונים, הדנ"א, תאי הגזע ומה לא – וכל תגלית מדעית שמה עוד מקל בגלגלים של ההומאופתיה. אפילו ועדה בממשלת רוסיה כבר הגיעה למסקנה שהומאופתיה אינה שונה מטענות לגבי כוחות כישוף[2].

כל זה לא מפריע להומאופתים מסוימים לטעון שהטיפולים שלהם דווקא מועילים. בניגוד לחוק, אגב, מכיוון שבארצות הברית וגם בארץ, ה- FDA מחייב את יצרניות התכשירים ההומאופתיים שלא להתיימר להשפעה קלינית כלשהי של התרופות.

אבל מה? מסתבר שהומאופתים עדיין יכולים לפנות לאבא של ארז, שמחפש מענה ופתרון בכל מקום, ולהציע לו טיפולים שלא הוכחו מעולם. ולמה לא, בעצם? יש הרבה כסף בשוק הזה. מכירות תכשירים הומאופתיים וצמחיים הגיעו ב- 2012 ל- 6.4 מיליארד דולרים בארצות הברית בלבד. שוק הרפואה המשלימה מסביב לעולם גלגל 113 מיליארד דולרים ב- 2014, וחברות הרפואה האלטרנטיבית נהנות ממחזורי מכירות של מאות-מיליוני דולרים[3]. הדבר המדהים באמת הוא שבכל הכסף הזה, הן לא מצליחו לקנות מחקרים איכותיים שיוכיחו שהומאופתיה עובדת. יודעים למה? כי מהרגע שמחקרים כאלו נערכים באופן איכותי ומוקפד, הם מגלים (הפתעה-הפתעה) שהומאופתיה עדיין אינה פועלת.

ובינתיים, אבא של ארז ממשיך לקבל פניות מהומאופתים. "מה אכפת לך? תנסה את הטיפול שלנו." הם מציעים לו. ולמה לא, באמת? שיטת מצליח: מישהו כבר ישלם להם עשרים-אלף שקלים על טיפול שלא הוכח ושלא נבדק.

תגידו עכשיו ש- "טוב, מה 'כפת לך?" ובכן, אכפת לי מאד. אכפת לי מאבא של ארז שההומאופתים תופסים אותו ברגעים הקשים ביותר שלו ומפעילים עליו את כל כוחות השכנוע שלהם כדי להציע לו טיפולים הומאופתיים שאינם עובדים. אכפת לי מארז, שיקבל תכשירים הומאופתיים שלא לצורך ושחלקם (גם אם במקרים נדירים) יכולים גם להזיק לבריאותו.

לכולנו צריך להיות אכפת מכך שפרקטיקות כאלו קיימות, ואנחנו צריכים להזהיר אחרים מטיפולי השקר הללו. אבא של ארז מכיר את הנתונים ויודע להבדיל בין בדיה לבין מציאות. אם אתם מכירים אנשים שהיו יכולים להיעזר בידע הזה, שתפו את הפוסט איתם.

[1] http://www.smithsonianmag.com/smart-news/1800-studies-later-scientists-conclude-homeopathy-doesnt-work-180954534/

[2] http://www.independent.co.uk/news/world/europe/russia-academy-of-sciences-homeopathy-treaments-pseudoscience-does-not-work-par-magic-a7566406.html

[3] https://www.facebook.com/Hasholtim/photos/a.239144199890479.1073741828.239131866558379/271779043293661