על שוטרי-העל של לונדון – וכיצד הם מוחלפים באלגוריתמים (גרועים) לזיהוי פנים

על שוטרי-העל של לונדון – וכיצד הם מוחלפים באלגוריתמים (גרועים) לזיהוי פנים

באוטובוסים בלונדון פעל מטריד מיני סדרתי במשך חודשים ארוכים, מבלי שאיש הצליח לתפוס או לזהות אותו. אספר לכם עליו, אבל הוא לא המוקד בסיפור היום.

בלונדון קיימת יחידה אמיתית לגמרי של שוטרי-על: אנשים בעלי יכולת ייחודית לזהות פנים של אחרים, גם לאחר מבט חטוף אחד לפני שנים. אספר לכם עליהם, אבל גם הם לא המוקד בסיפור היום.

החודש בלונדון, נעצר אדם על-ידי המשטרה ונקנס, לאחר שהרים את חולצתו כדי להסתיר את פניו ממצלמות האבטחה הנמצאות בכל מקום בלונדון. אותו אדם היה חף מפשע לחלוטין, ודווקא המקרה שלו מספק לקחים עבור העתיד של כולנו.

סכנה באוטובוסים בלונדון

אילאן קאראטיפה היה תוקף מינית סדרתי. הוא היה עולה על אוטובוסים רבים מדי יום, ומחפש אחר קורבנות. הוא היה יושב לצד נשים צעירות באוטובוסים הומי-אדם, פתח עיתון כדי להסתיר את מעשיו, ואז היה מבצע את זממו. בשנת 2014 הזעיקה נערה בת 15 את המשטרה לאחר שקאראטיפה חפן את מפשעתה, אך התוקף הצליח לרדת מהאוטובוס בזמן ולהיעלם בין שלל עוברי-האורח ברחוב. שני אירועים נוספים דווחו למשטרה – ונראה סביר שהיו רבים אחרים שמעולם לא דווחו.

השוטרים בחנו את התיעוד שהתקבל ממצלמות האבטחה באוטובוסים וברחובות. למזלם, היה שפע של תיעוד. לפי חלק מההערכות, בלונדון קיימות יותר ממיליון מצלמות המותקנות ברחובות ובתשתיות. על כך אמר אחד מראשי העיר הקודמים –

"כשאתה הולך ברחובות לונדון, אתה כוכב קולנוע. אתה מתועד על-ידי יותר מצלמות משאתה יכול לדמיין."

השוטרים מצאו בקלות סרטונים המתעדים את מעשיו של קאראטיפה, אך הם לא הצליחו לעמוד על זהותו. התמונות המתקבלות מהמצלמות הללו אינן ברזולוציה גבוהה, ובניגוד למתרחש בסדרות המשטרה הטלוויזיוניות, הבלשים אינם מסוגלים להגדיל את התמונה ולהתמקד באדם מסוים מבלי לאבד חלק גדול מהרזולוציה הנמוכה ממילא. באמצעות הצלבת כרטיסי התעבורה (הרב-קו הלונדוני) בהם נעשה שימוש בכל שלושת המקרים, משטרת לונדון הצליחה לזהות את הכרטיס הספציפי בו השתמש קאראטיפה, אך הוא רכש אותו במזומן – ולכן לא ניתן היה לגלות את זהות הרוכש.

השוטרים המשיכו לעקוב אחר כרטיס התעבורה האמור, וגיבשו ניחוש כי האיש גר בקמדן – אחד מפרברי לונדון. טוב ויפה, אלא שבקמדן גרים כמעט 25,000 אזרחים. אז מה עושים עכשיו?

וכך הוזעקה יחידת מזהי-העל של לונדון לפעולה[1].

מזהי-העל של לונדון

אליסון יאנג הייתה שוטרת קהילתית צעירה מן השורה, עד שיום אחד זומנה לסקוטלנד יארד, שם התבקשה לעבור מבחן לזיהוי פנים. לצד עשרות שוטרים נוספים, ישבה יאנג מול מחשב נייד עליו הוקרנו תמונות פנים על-גבי פנים, והתבקשה להצביע על זהויות שחזרו על עצמן. כשהמבחן הסתיים, היה ברור שיאנג נמנית על אחד ממזהי-העל: אנשים המסוגלים לזהות אחרים בעקבות מבט חטוף בתמונותיהם, ולשמר את היכולת לאורך שנים.

למרות שזו נשמעת כמו התחלה לסדרה טלוויזיונית, מזהי-העל של משטרת לונדון באמת קיימים, ויכולותיהם נבדקו ואושרו על-ידי מדענים. כפי שיש אנשים שגרועים במיוחד בזיהוי פנים (כותב שורות אלו נמנה עליהם), כך ניתן גם למצוא את אלו שמוצלחים במיוחד במטלה. הם עדיין יכולים לטעות, אך לפי המספרים שמשחררת היחידה לציבור, בשבעים ושלושה אחוזים מהמקרים בהם הסתמכה המשטרה על מזהי-העל, הוגשו אישומים פליליים כנגד המזוהים. בשלושה-עשר אחוזים מהמקרים, הסתבר שהזיהוי שגוי.

נתונים אלו, אם לומר את האמת, אינם מעודדים. קל למצוא במה להאשים אדם, ברגע שפניו 'זוהו' על-ידי המשטרה. והגשת אישום פלילי כנגד אדם כלשהו, אינה מעידה בהכרח על כך על אשמתו. למרות כל ההסתייגויות הללו, לסיפורנו האנקדוטלי יש סוף טוב: יאנג ועמיתה ביקרו בתחנת הרכבת בקמדן, ומיד זיהו את קאראטיפה מבין אלפי האנשים שהסתובבו במקום בשעת העומס. הם צפו בו כאשר רכש עיתון – מאותו סוג בו השתמש כדי להסתיר את מעשיו – ועזב את התחנה. הם שעטו בעקבותיו ועצרו אותו. הוא הודה בהכל.

וזה סוף טוב, אבל בכל זאת: שלושה-עשר אחוזי שגיאה? מזהי-העל הטובים ביותר שהאנושות יכולה להעמיד לרשותנו, עדיין שוגים בכמעט חמישה-עשר אחוזים מהמקרים? המשמעות היא שבין כל מאה אנשים אותם עוצרת המשטרה – לעתים קרובות מדי בשימוש בכוח – ניתן יהיה למצוא שלושה-עשר אנשים חפים-מפשע. ולא נעים לומר, אבל גם חפים-מפשע עלולים להתוודות בפשעים שלא ביצעו, או להפסיד במשפט על לא עוול בכפם.

האם באמת איננו יכולים למצוא שיטה יעילה יותר, בטוחה ואחראית יותר לזהות פנים?

וכאן נכנסת לסיפור הכוכבת האמיתית, שאינה אנושית כלל.

זיהוי פנים בלונדון

טכנולוגיות זיהוי פנים קיימות כבר מזה זמן רב, אך בשנים האחרונות הן מגיעות לאחוזי דיוק גבוהים יותר מאי-פעם. בסין, בה נמצאות מצלמות בכל פינה בערים, הצליחו אלגוריתמים לזהות את פניו של פושע, מתוך שישים אלף מבקרים בקונצרט רוק, והשוטרים נשלחו לעצור אותו לפי מספר השורה בה ישב[2]. עיתונאי מרשת BBC זוהה ונעצר על-ידי משטרת סין, בעיר עם 4.3 מיליון תושבים, תוך שבע דקות בלבד – בזכות העובדה שהמשטרה הוסיפה את תמונת פניו למאגרי המידע שלה. למזלו של העיתונאי, היה מדובר בניסוי בלבד, בו השתתף מרצון[3].

ההצלחות האנקדוטליות אכן מרשימות, אך התבוננות מעמיקה יותר בנתונים חושפת תמונה לא-פשוטה – ואת זה אפילו בני-האדם יכולים לזהות. האלגוריתמים לזיהוי פנים מגיעים לאחוזי דיוק גבוהים, אך כאשר הם מורצים על פניהם של מיליוני אנשים מדי יום, חייבות להתרחש גם טעויות. כמה אנשים חפים מפשע נעצרים לבדיקה ברחובות סין, מכיוון שפניהם סומנו על-ידי המכונה, אך את סיפוריהם איננו שומעים כלל?

אנו יכולים להבין טוב יותר את יכולותיה של המערכת לפי מידע ששחררה משטרת דרום וויילס בעקבות דרישה מצד הציבור ב- 2018. מסתבר שבשבוע האחרון של ליגת האלופות ב- 2017 בבריטניה, זיהתה המערכת בהצלחה 173 אנשים. זה נשמע טוב, אבל שימו לב לנתון הבא: 2,297 אנשים חפים מפשע, זוהו על-ידי המערכת כפושעים[4].

טבלה באדיבות משטרת דרום וויילס, הממחישה את ההצלחות בזיהוי לעומת האשמות שגויות.

לזכות משטרת דרום וויילס נציין שהמערכת הייתה צריכה לנתח את תמונותיהם של חצי-מיליון אנשים, ושרבות מהתמונות היו באיכות נמוכה[5]. אני מנחש גם שאם מזהי-העל המפורסמים של לונדון היו צריכים לעבור על כל אותן חצי-מיליון תמונות, הם היו מגיעים לאחוזי שגיאה גבוהים יותר. ובכל מקרה מדובר היה במערכת ניסויית בלבד, כך שאף אחד מאותם אנשים חפים מפשע לא נעצר באופן פיזי על-ידי המשטרה (כנראה). ועם זאת, קשה שלא לתהות: מה יקרה כשמערכות כאלו, עם אחוז שגיאה פרקטי גבוה כל-כך, ינחו את השוטרים ברחוב?

בלי פניקה

לא צריך להיכנס לפניקה. לפחות, עדיין לא. קרוב לוודאי שגם רוב גופי השיטור יעדיפו שלא להשתמש במערכות עם אחוז שגיאה פרקטי גבוה כל-כך. למשטרה אין משאבים מיותרים להוציא על חקירת אלפיים בני-אדם שחטאם היחידי הוא שמערכת בינה מלאכותית סברה שהם דומים מדי במראיהם ליצחק אברג'יל או ליעקב אלפרון. גופי השיטור במדינות הדמוקרטיות גם מודעים היטב לכך שארגוני זכויות האדם מזנבים בהם, ועיריית סאן פרנסיסקו אפילו לקחה צעד החלטי לאחרונה וקבעה בחוק כי המשטרה אינה מורשית להשתמש בטכנולוגיות זיהוי פנים בשטח העיר[6].

אבל הטכנולוגיות ימשיכו להתפתח. אנו נמצאים רק בעשור הראשון בו טכנולוגיות זיהוי פנים הגיעו לרמה בה ניתן להשתמש בהן ביעילות. כאשר איכות התמונות תשתפר, וכאשר ניתן יהיה להפיק מידע נוסף ממספר רב של מצלמות ולהצליבו באופן אוטומטי ויעיל, נוכל לצפות לכך שמשטרות בכל העולם יעשו שימוש בטכנולוגיות לזיהוי פנים.

זוהי הזדמנות גדולה – ואיום גדול – לחירות האזרח. בכל חברה מתוקנת יש צורך לזהות ולהעניש את הפושעים ואת העבריינים, ולהגן על החפים מפשע. טכנולוגיות זיהוי פנים והצלבת מידע ברמה גבוהה, יכולות לצמצם דרמטית את מספר הנאשמים על לא עוול בכפם, ואת המשאבים שמשקיעה המשטרה בחקירת כל אדם. כל חף מפשע שזומן בעבר לחקירת משטרה בעקבות חשד, יכול לספר עד כמה החוויה מטלטלת ומערערת. טכנולוגיות יעילות לזיהוי פנים יכולות למזער את מספר האנשים שעוברים אותה, ובמקביל – לסייע למשטרה להתמקד בפושעים האמיתיים.

ובמקביל, אי אפשר להתעלם ממשמעויותיה הרחבות יותר של הטכנולוגיה. כולנו מנוטרים גם כך באופן מתמיד על-ידי החברות הגדולות – פייסבוק, אמזון, גוגל – ובמקומות רבים גם על-ידי מצלמות הממוקמות בשטחים ציבוריים. זהו אינו דבר רע בפני עצמו. החברות אוספות עלינו מידע, אך הן עושות זאת בעיקר על מנת למצוא דרכים לשרת אותנו טוב יותר (ועל הדרך להרוויח כמה גרושים לעצמן – שאיפה הגיונית וראויה). המשטרה יכולה לקבל גישה למידע רק במקרה בו מתעורר חשד רציני לגבי אדם כלשהו, ושוב, כך ראוי שיהיה.

אבל מה קורה כשהמשטרה עצמה אינה מבינה כבר את הגבולות הראויים בתוכם היא צריכה לפעול?

זה מה שקרה בלונדון (כן, לונדון שוב) לפני שבוע, כאשר אדם נעצר ברחוב מסיבה פשוטה אחת: הוא בחר לכסות את פניו, במקום להציגם בגלוי למצלמות שברחוב.

 

פחד ואימה ברחובות לונדון

במזרח לונדון מתבצע לאחרונה ניסוי בזיהוי פנים בזמן אמת. מצלמות משוכללות סורקות את פני העוברים והשבים, ומזהות מיד את פניהם של מבוקשים. המשטרה טוענת כי טכנולוגיה זו תוכל למנוע ולגלות מקרי פשע באמצעות זיהוי מקדים של הפושעים. אלא שלא כולם מרוצים מהטכנולוגיה החדשה, ואחד מעוברי האורח בחר לכסות את פניו. הוא נעצר מיד, והשוטר שבמקום הסביר כי אסור היה לו להסתיר את פניו מהמצלמות. האיש התעצבן, התווכח עם השוטרים, וזכה לקנס של תשעים פאונד – ובסופו של דבר גם צולם[7].

אולי מיותר לציין, אבל במדינות מעטות בלבד יש חוק שאומר שאדם אינו יכול לכסות את פניו בעת שהוא הולך ברחוב[8]. אלא שהשוטרים אפילו לא האשימו את האזרח בכך שעבר על החוק, אלא פשוט בכך שהתנהג באופן חשוד, מכיוון שלא הסכין עם כך שטכנולוגיית זיהוי הפנים תופעל עליו במרחב הציבורי, בניגוד לרצונו. הוא לא ניסה להשחית את המצלמות, או לעורר מרי ציבורי, אלא רק פעל לכיסוי פניו – ועל כן נגרר מיד הצידה על-ידי השוטרים.

מקרים מסוג זה חושפים את הסכנה שבשימוש בטכנולוגיה, מבלי קידוד ראוי של הנהלים האתיים – ושהשוטרים שמופקדים על הטכנולוגיה יבינו אותם ויפעלו לפיהם. הבעיה האמיתית אינה הטכנולוגיה, אלא השימוש שאנו עושים בה. הבעיה אינה באיסוף המידע – הוא נאסף בכל מקרה – או אפילו בניתוח המידע. הבעיה האמיתית היא בקביעת החוקים, הכללים והנהלים שימנעו שימוש לרעה בכוח שהמידע מספק. המצלמות יגיעו לכל מקום, במוקדם או במאוחר. למעשה, הן נמצאות כבר עתה ברחובותינו, במחשבים ובטלפונים החכמים שלנו. השאלה האמיתית היא האם נשכיל להגדיר לממשלות ולחברות כיצד מותר וראוי שישתמשו ביכולות שהטכנולוגיות מעמידות לרשותן.

* תודה לאסף רזון שיידע אותי לגבי המקרה בבריטניה. כמו כן, ספרי האחרון – "השולטים בעתיד" – עוסק בעתיד השלטון והדמוקרטיה. אפשר גם למצוא התייחסות לנושא זה בשיחתי האחרונה בפודקאסט "חומר להקשבה" , על עתיד הדמוקרטיה (קישור כאן).

[1] https://www.newyorker.com/magazine/2016/08/22/londons-super-recognizer-police-force

[2] https://www.bbc.com/news/world-asia-china-43751276

[3] https://www.bbc.com/news/av/world-asia-china-42248056/in-your-face-china-s-all-seeing-state

[4] https://www.scribd.com/document/377980664/South-Wales-Police

[5] https://www.zdnet.com/article/facial-recognition-system-had-7-percent-hit-rate-at-2017-champions-league-final/

[6] https://www.nytimes.com/2019/05/14/us/facial-recognition-ban-san-francisco.html

[7] https://blokt.com/news/uk-met-police-run-facial-recognition-trials-man-fined-90-for-covering-his-face

[8] https://en.wikipedia.org/wiki/Anti-mask_laws

סטייליסטים מתחילים להציע עיצוב שיער ואיפור אנטי-ביומטריים

סטייליסטים מתחילים להציע עיצוב שיער ואיפור אנטי-ביומטריים

אם הייתי משגר אתכם בזמן מתחילת שנות השמונים לימינו אנו, הייתם נותרים בוודאי המומים מהדברים שהייתם רואים. לא (רק) מההתקדמות הטכנולוגית העצומה, אלא מכך שכולם מסביבכם מדברים בשפה לא-מובנת עם כל מיני מילים מוזרות כ- "לגגל" או "לצייץ". ואם זה לא מספיק, הרי שהייתם נשארים בפה פעור לנוכח הפופולריות של שרברב גוץ בעל שפם-עבות, הלבוש בבגדים בצבעים צעקניים ונהנה לקפוץ על ראשן של פטריות תמימות. כלומר, מסופר מריו.

בקיצור, הייתם מופתעים מהדרך בה התרבות סביבכם השתנתה.

סופר מריו וחבריו. תודו שלא חשבתם ששרברב עם שפם יהפוך לגיבור התרבות ולאחד הסמלים האייקוניים של המאה ה- 21. 

מעניין תמיד לתהות כיצד תשתנה התרבות גם בעשורים הקרובים. ובכן, הנה אפשרות אחת, באדיבות מיזם CV Dazzle, שמציע לסטייליסטים דרכים חדשות לאפר ולעצב את הפנים והשיער של לקוחותיהם מתוך מטרה אחת: להקשות על אלגוריתמים לזיהוי פנים לזהות אותם.responsive

מה צריך לעשות לשם כך? המיזם ממליץ לשים איפור שמתנגש עם צבע העור הטבעי, לכסות חלקית את גשר האף ואת אחת העיניים, להשתמש בתכשיטים יוצאי-דופן, להשתמש בכובעים או פיאה המשנים את צורת הראש כפי שהיא נתפסת במצלמה ולהימנע משימוש סימטרי באיפור בשני צדדי הפנים. יישום נכון של העקרונות הללו יקשה מאד על הבינה המלאכותית לזהות אתכם.

 

אם החרדה הציבורית לפרטיות תימשך, מי יודע – אולי נראה את הסגנון הזה תופס תאוצה ומתפשט בחברה האנושית. כמובן, לא ברור עד כמה הוא יצליח להמשיך ולהסוות זהויות כאשר האלגוריתמים ישתפרו עוד יותר. ומכיוון שאנשים נוהגים להעלות את תמונותיהם יוצאות-הדופן לרשתות החברתיות, קרוב לוודאי שהאלגוריתמים של העתיד יוכלו לזהות את פנינו גם לאחר עיצוב-מחדש מרשים כל-כך.

 

 

אבל בינתיים לפחות, מדובר בדרך נפלאה לעצבן את האנשים שמאחורי הדרכון הביומטרי.

 

סין מפעילה מערכת בינה מלאכותית לחיזוי פשיעה ולמעקב מתמיד אחר האזרחים

סין מפעילה מערכת בינה מלאכותית לחיזוי פשיעה ולמעקב מתמיד אחר האזרחים

בספרי החדש "השולטים בעתיד" כתבתי על עתיד הפשיעה בעולם המנוטר. זה יהיה עולם גדוש במצלמות, רחפנים המנטרים אחר כולם, חיישנים על הבגדים ובתוך הגוף, ועוד. יהיה די קשה לפשוע בעולם שכזה, וכדי להבהיר את הקושי הבאתי בספר תיאור של פושע עתידי. הנה מה שכתבתי, ומיד לאחר מכן תוכלו לקרוא כיצד בסין מתחילים עכשיו לעשות את זה בדיוק, ממש כאילו קראו את הספר שלי כהנחיות לעתיד.

"הבה נבדוק את האפשרות הזאת [לביצוע פשיעה בעולם המנוטר] באמצעות ניסוי מחשבתי שבו תנסו אתם לבצע פשע קטן ושולי ממש: מתן סטירה מצלצלת לאדם אקראי ברחוב.

אתם יודעים שברגע שתבצעו את הפשע, המצלמות ברחוב ואלו המותקנות על הרחפנים הסובבים את האזור יקלטו את המתחולל וינסו לזהות אתכם. מכיוון שכך, אתם עוטים על עצמכם מראש כובעי גרב המכסים גם את הפנים. אתם עושים זאת בחדר החשוך ביותר בביתכם, מכיוון שברור לכם שמהרגע שתצאו מהבית ינטר אתכם כל חיישן אפשרי. מכיוון שאתם מבינים שגם החיישנים שעל גופכם יוכלו להבחין בפעילות הלא-שגרתית ולהסגיר אתכם, אתם מסירים מעליכם את הקעקועים האלקטרוניים ואת הטבעות החכמות והצמידים החכמים, משילים את החולצה והמכנסיים המכילים חיישנים ומחליפים אותם בביגוד "טיפש" מהמאה העשרים. לבסוף אתם בולעים סם משלשל ונכנסים לשירותים לכמה שעות כדי להפריש החוצה את החיישנים שבמעיכם.

עתה שעשיתם כל זאת, אתם יכולים לצאת סוף-סוף אל מחוץ לבית ולבצע את הפשע המושלם. כאשר אתם מתקדמים במורד הרחוב אתם שמים לב שעוברי אורח מעיפים בכם מבטים תמהים. אין פלא: יש לכם כובע גרב שמסתיר את פניכם. לפתע חולפת מחשבה מזעזעת בראשכם: אתם מבינים שניתן לזהות אתכם גם באמצעות זיהוי דפוס הליכתכם. אתם מתחילים מיד ללכת בשפיפה ולגרור רגליים כדי להפר את דפוס הצעדים הרגיל שלכם. אנשים מתחילים לעבור בחשש לצד השני של הרחוב כשהם רואים אתכם מתקרבים. לבסוף, כשאתם מאתרים אדם שלא נראה כאילו הוא עלול להחזיר לכם סטירה, אתם מדדים לכיוונו במגושם, אך נעצרים באמצע הדרך כאשר רחפן שהותרע למקום עם החשד הראשון (כובע הגרב המכסה את הפנים בוודאי תרם לכך) נוחת מולכם ומבקש מכם להזדהות באמצעות טביעת אצבעות, דגימת רוק, או כל אמצעי זיהוי ביומטרי אחר. אם לא תזדהו, ימשיך הרחפן לעקוב אחריכם כדי לוודא שאתם מתנהגים כשורה. יש לו זמן – הוא רובוט עם סבלנות אינסופית – ויש לו שפע של אנרגיה שמקורה מהשמש. במקרה הצורך הוא יוחלף ברחפן אחר מצי הרחפנים שבשמיים.

אתם מושכים בכתפיכם בהכנעה, מזדהים, ומוותרים על התכנית שלכם. אתם מבינים שבעולם של מערכות חיישנים המקושרות זו לזו ומשוות מידע זו עם זו בלי הרף, כל חריגה מהנורמה תזוהה מיידית ותטופל בהתאם.

בעולם כזה, הפשע יעבור תמורה מן היסוד: רוב הפושעים בעולם הפיזי ייעלמו, ואת מקומם יתפסו הסייבר-פושעים – מתכנתים והאקרים שיוכלו לפרוץ למערכות הצדק עצמן."

רחפן ניסיון המשמש את המשטרה למעקב אחר האזרחים. מקור.

כך כתבתי לפני שנה בערך על העתיד הרחוק – זה שיידרשו לנו עוד עשרים שנים בערך להגיע אליו. אלא שבסין מנסים לממש את העתיד הזה כבר עכשיו. לא באמצעות רחפנים, אמנם, אלא באמצעות מצלמות. וכאלו אינן חסרות. יותר מ- 176 מיליון מצלמות מפוזרות בכל רחבי סין, ורבות מהן מחוברות ישירות לאינטרנט או למאגרי מידע המנותחים על-ידי בינה מלאכותית בשירות הממשלה.

והתוצאות מרתקות ומפחידות באותו הזמן. מכיוון שחוקי הפרטיות בסין אינם חמורים כבמערב, ממשלת סין מרשה לעצמה להשתמש בכל המידע הזה לצרכיה. לפחות בעיר אחת, ג'ינאן, מצלמות עוקבות אחר אזרחים החוצים את הכביש באור אדום – ותוך דקות ספורות אותם אזרחים מגלים את פניהם, בתוספת שמותיהם המלאים וכתובות בתיהם, מוצגים בשלטי-חוצות אלקטרוניים שבצד הדרך ומפורסמים ברשתות החברתיות.

אם זה עדיין לא מפחיד אתכם, כדאי שתדעו שממשלת סין מנסה לשמור על הסדר גם בשירותים הציבוריים, בהם מצלמות משמשות כדי לוודא שהמשתמשים אינם מבזבזים נייר טואלט לשווא.

אבל זו רק ההתחלה.

חברת קלאוד ווק (נו, לא ווק לבישול – Cloud Walk) הסינית מתחילה בימים אלו להפעיל בינה מלאכותית שעוברת על הקלט המתקבל ממיליוני מצלמות ביותר מחמישים ערים ופרובינציות, ומצליבה אותו כדי להגיע למסקנות ולהתריע מראש על פוטנציאל פשיעה גבוה. לפי דיווחי החברה, הבינה המלאכותית שברשותה מסוגלת לעקוב אחר אנשים הרוכשים רכישות חשודות בחנויות שונות – למשל, אקדח או סכין. אבל יותר מכך, היא מסוגלת גם לזהות את אותם אנשים בחנויות שונות, ולזהות דפוסי רכישה חשודים. כך, אם אדם נכנס להום דיפו הסיני ורוכש פטיש, ושעתיים לאחר מכן עובר בחנות לציוד טיפוס וקונה חבל ושק גדול – המערכת תתריע על חשד לפשיעה בקרוב, ותעביר את המידע לשוטרים לבדיקה.

משטרת סין יכולה לעקוב גם אחורנית בזמן אחרי אנשים (יכולת שכיניתי טמפינט במאמר שכתבתי יחד עם שי הרשקוביץ במגזין וויירד). השוטרים יכולים לבנות סרטים הממפים את תנועתו של כל אדם ברחוב או בין חנויות גם לאחר מעשה. וכדבריו של אחד המומחים בתחום – "אנו יכולים… למצוא אנשים שנראים חשודים מכיוון שהם הולכים אחורה וקדימה באותו אזור, או חובשים מסכות… אפשרי גם להרכיב מחדש את המסלול של מישהו בשטח רחב."

אתם יכולים לחשוב שהשימוש במצלמות ובבינה המלאכותית מזעזע מכיוון שהוא מאפשר לממשלה לעקוב אחר כל האזרחים, אבל בואו נודה לרגע באמת: תוך זמן קצר, תהפוך סין להיות מדינה עם אחוז פשיעה נמוך ביותר – לפחות בכל האמור לפשיעה ברחובות ובבתים. יש לכך משמעות גדולה עבור עתיד סין, מאחר ופשיעה נושאת עמה עול כלכלי כבד (בארצות הברית בלבד נגרמו ב- 2007 נזקים של 194 מיליארד דולרים למדינה ולקורבנות כתוצאה מפשיעה). אך המשמעות הגדולה יותר היא שהמפלגה הקומוניסטית בסין תצליח כנראה לשמר את שלטונה ואת הסדר החברתי הקיים באמצעות המעקב הבלתי-פוסק אחר האזרחים. זאת, לפחות, עד ההתמוטטות הכלכלית נוסח "נפילת חומת ברלין" – אבל כזו לא צפויה עדיין באופק.

ועד אז, אם אתם רוצים לדעת איך ייראה עתיד של חוסר בפרטיות, של מעקב מתמיד ושל חיים תחת השגחה מצד בינה מלאכותית, אל תטרחו לקרוא ספרי מדע בדיוני. מספיק שתלכו לסין. אבל אם אין לכם כסף לכרטיס טיסה, אתם יכולים להסתפק בקריאת "השולטים בעתיד". מסתבר שהפעם, לפחות, צדקתי בתחזיות.