על שוטרי-העל של לונדון – וכיצד הם מוחלפים באלגוריתמים (גרועים) לזיהוי פנים

באוטובוסים בלונדון פעל מטריד מיני סדרתי במשך חודשים ארוכים, מבלי שאיש הצליח לתפוס או לזהות אותו. אספר לכם עליו, אבל הוא לא המוקד בסיפור היום.

בלונדון קיימת יחידה אמיתית לגמרי של שוטרי-על: אנשים בעלי יכולת ייחודית לזהות פנים של אחרים, גם לאחר מבט חטוף אחד לפני שנים. אספר לכם עליהם, אבל גם הם לא המוקד בסיפור היום.

החודש בלונדון, נעצר אדם על-ידי המשטרה ונקנס, לאחר שהרים את חולצתו כדי להסתיר את פניו ממצלמות האבטחה הנמצאות בכל מקום בלונדון. אותו אדם היה חף מפשע לחלוטין, ודווקא המקרה שלו מספק לקחים עבור העתיד של כולנו.

סכנה באוטובוסים בלונדון

אילאן קאראטיפה היה תוקף מינית סדרתי. הוא היה עולה על אוטובוסים רבים מדי יום, ומחפש אחר קורבנות. הוא היה יושב לצד נשים צעירות באוטובוסים הומי-אדם, פתח עיתון כדי להסתיר את מעשיו, ואז היה מבצע את זממו. בשנת 2014 הזעיקה נערה בת 15 את המשטרה לאחר שקאראטיפה חפן את מפשעתה, אך התוקף הצליח לרדת מהאוטובוס בזמן ולהיעלם בין שלל עוברי-האורח ברחוב. שני אירועים נוספים דווחו למשטרה – ונראה סביר שהיו רבים אחרים שמעולם לא דווחו.

השוטרים בחנו את התיעוד שהתקבל ממצלמות האבטחה באוטובוסים וברחובות. למזלם, היה שפע של תיעוד. לפי חלק מההערכות, בלונדון קיימות יותר ממיליון מצלמות המותקנות ברחובות ובתשתיות. על כך אמר אחד מראשי העיר הקודמים –

"כשאתה הולך ברחובות לונדון, אתה כוכב קולנוע. אתה מתועד על-ידי יותר מצלמות משאתה יכול לדמיין."

השוטרים מצאו בקלות סרטונים המתעדים את מעשיו של קאראטיפה, אך הם לא הצליחו לעמוד על זהותו. התמונות המתקבלות מהמצלמות הללו אינן ברזולוציה גבוהה, ובניגוד למתרחש בסדרות המשטרה הטלוויזיוניות, הבלשים אינם מסוגלים להגדיל את התמונה ולהתמקד באדם מסוים מבלי לאבד חלק גדול מהרזולוציה הנמוכה ממילא. באמצעות הצלבת כרטיסי התעבורה (הרב-קו הלונדוני) בהם נעשה שימוש בכל שלושת המקרים, משטרת לונדון הצליחה לזהות את הכרטיס הספציפי בו השתמש קאראטיפה, אך הוא רכש אותו במזומן – ולכן לא ניתן היה לגלות את זהות הרוכש.

השוטרים המשיכו לעקוב אחר כרטיס התעבורה האמור, וגיבשו ניחוש כי האיש גר בקמדן – אחד מפרברי לונדון. טוב ויפה, אלא שבקמדן גרים כמעט 25,000 אזרחים. אז מה עושים עכשיו?

וכך הוזעקה יחידת מזהי-העל של לונדון לפעולה[1].

מזהי-העל של לונדון

אליסון יאנג הייתה שוטרת קהילתית צעירה מן השורה, עד שיום אחד זומנה לסקוטלנד יארד, שם התבקשה לעבור מבחן לזיהוי פנים. לצד עשרות שוטרים נוספים, ישבה יאנג מול מחשב נייד עליו הוקרנו תמונות פנים על-גבי פנים, והתבקשה להצביע על זהויות שחזרו על עצמן. כשהמבחן הסתיים, היה ברור שיאנג נמנית על אחד ממזהי-העל: אנשים המסוגלים לזהות אחרים בעקבות מבט חטוף בתמונותיהם, ולשמר את היכולת לאורך שנים.

למרות שזו נשמעת כמו התחלה לסדרה טלוויזיונית, מזהי-העל של משטרת לונדון באמת קיימים, ויכולותיהם נבדקו ואושרו על-ידי מדענים. כפי שיש אנשים שגרועים במיוחד בזיהוי פנים (כותב שורות אלו נמנה עליהם), כך ניתן גם למצוא את אלו שמוצלחים במיוחד במטלה. הם עדיין יכולים לטעות, אך לפי המספרים שמשחררת היחידה לציבור, בשבעים ושלושה אחוזים מהמקרים בהם הסתמכה המשטרה על מזהי-העל, הוגשו אישומים פליליים כנגד המזוהים. בשלושה-עשר אחוזים מהמקרים, הסתבר שהזיהוי שגוי.

נתונים אלו, אם לומר את האמת, אינם מעודדים. קל למצוא במה להאשים אדם, ברגע שפניו 'זוהו' על-ידי המשטרה. והגשת אישום פלילי כנגד אדם כלשהו, אינה מעידה בהכרח על כך על אשמתו. למרות כל ההסתייגויות הללו, לסיפורנו האנקדוטלי יש סוף טוב: יאנג ועמיתה ביקרו בתחנת הרכבת בקמדן, ומיד זיהו את קאראטיפה מבין אלפי האנשים שהסתובבו במקום בשעת העומס. הם צפו בו כאשר רכש עיתון – מאותו סוג בו השתמש כדי להסתיר את מעשיו – ועזב את התחנה. הם שעטו בעקבותיו ועצרו אותו. הוא הודה בהכל.

וזה סוף טוב, אבל בכל זאת: שלושה-עשר אחוזי שגיאה? מזהי-העל הטובים ביותר שהאנושות יכולה להעמיד לרשותנו, עדיין שוגים בכמעט חמישה-עשר אחוזים מהמקרים? המשמעות היא שבין כל מאה אנשים אותם עוצרת המשטרה – לעתים קרובות מדי בשימוש בכוח – ניתן יהיה למצוא שלושה-עשר אנשים חפים-מפשע. ולא נעים לומר, אבל גם חפים-מפשע עלולים להתוודות בפשעים שלא ביצעו, או להפסיד במשפט על לא עוול בכפם.

האם באמת איננו יכולים למצוא שיטה יעילה יותר, בטוחה ואחראית יותר לזהות פנים?

וכאן נכנסת לסיפור הכוכבת האמיתית, שאינה אנושית כלל.

זיהוי פנים בלונדון

טכנולוגיות זיהוי פנים קיימות כבר מזה זמן רב, אך בשנים האחרונות הן מגיעות לאחוזי דיוק גבוהים יותר מאי-פעם. בסין, בה נמצאות מצלמות בכל פינה בערים, הצליחו אלגוריתמים לזהות את פניו של פושע, מתוך שישים אלף מבקרים בקונצרט רוק, והשוטרים נשלחו לעצור אותו לפי מספר השורה בה ישב[2]. עיתונאי מרשת BBC זוהה ונעצר על-ידי משטרת סין, בעיר עם 4.3 מיליון תושבים, תוך שבע דקות בלבד – בזכות העובדה שהמשטרה הוסיפה את תמונת פניו למאגרי המידע שלה. למזלו של העיתונאי, היה מדובר בניסוי בלבד, בו השתתף מרצון[3].

ההצלחות האנקדוטליות אכן מרשימות, אך התבוננות מעמיקה יותר בנתונים חושפת תמונה לא-פשוטה – ואת זה אפילו בני-האדם יכולים לזהות. האלגוריתמים לזיהוי פנים מגיעים לאחוזי דיוק גבוהים, אך כאשר הם מורצים על פניהם של מיליוני אנשים מדי יום, חייבות להתרחש גם טעויות. כמה אנשים חפים מפשע נעצרים לבדיקה ברחובות סין, מכיוון שפניהם סומנו על-ידי המכונה, אך את סיפוריהם איננו שומעים כלל?

אנו יכולים להבין טוב יותר את יכולותיה של המערכת לפי מידע ששחררה משטרת דרום וויילס בעקבות דרישה מצד הציבור ב- 2018. מסתבר שבשבוע האחרון של ליגת האלופות ב- 2017 בבריטניה, זיהתה המערכת בהצלחה 173 אנשים. זה נשמע טוב, אבל שימו לב לנתון הבא: 2,297 אנשים חפים מפשע, זוהו על-ידי המערכת כפושעים[4].

טבלה באדיבות משטרת דרום וויילס, הממחישה את ההצלחות בזיהוי לעומת האשמות שגויות.

לזכות משטרת דרום וויילס נציין שהמערכת הייתה צריכה לנתח את תמונותיהם של חצי-מיליון אנשים, ושרבות מהתמונות היו באיכות נמוכה[5]. אני מנחש גם שאם מזהי-העל המפורסמים של לונדון היו צריכים לעבור על כל אותן חצי-מיליון תמונות, הם היו מגיעים לאחוזי שגיאה גבוהים יותר. ובכל מקרה מדובר היה במערכת ניסויית בלבד, כך שאף אחד מאותם אנשים חפים מפשע לא נעצר באופן פיזי על-ידי המשטרה (כנראה). ועם זאת, קשה שלא לתהות: מה יקרה כשמערכות כאלו, עם אחוז שגיאה פרקטי גבוה כל-כך, ינחו את השוטרים ברחוב?

בלי פניקה

לא צריך להיכנס לפניקה. לפחות, עדיין לא. קרוב לוודאי שגם רוב גופי השיטור יעדיפו שלא להשתמש במערכות עם אחוז שגיאה פרקטי גבוה כל-כך. למשטרה אין משאבים מיותרים להוציא על חקירת אלפיים בני-אדם שחטאם היחידי הוא שמערכת בינה מלאכותית סברה שהם דומים מדי במראיהם ליצחק אברג'יל או ליעקב אלפרון. גופי השיטור במדינות הדמוקרטיות גם מודעים היטב לכך שארגוני זכויות האדם מזנבים בהם, ועיריית סאן פרנסיסקו אפילו לקחה צעד החלטי לאחרונה וקבעה בחוק כי המשטרה אינה מורשית להשתמש בטכנולוגיות זיהוי פנים בשטח העיר[6].

אבל הטכנולוגיות ימשיכו להתפתח. אנו נמצאים רק בעשור הראשון בו טכנולוגיות זיהוי פנים הגיעו לרמה בה ניתן להשתמש בהן ביעילות. כאשר איכות התמונות תשתפר, וכאשר ניתן יהיה להפיק מידע נוסף ממספר רב של מצלמות ולהצליבו באופן אוטומטי ויעיל, נוכל לצפות לכך שמשטרות בכל העולם יעשו שימוש בטכנולוגיות לזיהוי פנים.

זוהי הזדמנות גדולה – ואיום גדול – לחירות האזרח. בכל חברה מתוקנת יש צורך לזהות ולהעניש את הפושעים ואת העבריינים, ולהגן על החפים מפשע. טכנולוגיות זיהוי פנים והצלבת מידע ברמה גבוהה, יכולות לצמצם דרמטית את מספר הנאשמים על לא עוול בכפם, ואת המשאבים שמשקיעה המשטרה בחקירת כל אדם. כל חף מפשע שזומן בעבר לחקירת משטרה בעקבות חשד, יכול לספר עד כמה החוויה מטלטלת ומערערת. טכנולוגיות יעילות לזיהוי פנים יכולות למזער את מספר האנשים שעוברים אותה, ובמקביל – לסייע למשטרה להתמקד בפושעים האמיתיים.

ובמקביל, אי אפשר להתעלם ממשמעויותיה הרחבות יותר של הטכנולוגיה. כולנו מנוטרים גם כך באופן מתמיד על-ידי החברות הגדולות – פייסבוק, אמזון, גוגל – ובמקומות רבים גם על-ידי מצלמות הממוקמות בשטחים ציבוריים. זהו אינו דבר רע בפני עצמו. החברות אוספות עלינו מידע, אך הן עושות זאת בעיקר על מנת למצוא דרכים לשרת אותנו טוב יותר (ועל הדרך להרוויח כמה גרושים לעצמן – שאיפה הגיונית וראויה). המשטרה יכולה לקבל גישה למידע רק במקרה בו מתעורר חשד רציני לגבי אדם כלשהו, ושוב, כך ראוי שיהיה.

אבל מה קורה כשהמשטרה עצמה אינה מבינה כבר את הגבולות הראויים בתוכם היא צריכה לפעול?

זה מה שקרה בלונדון (כן, לונדון שוב) לפני שבוע, כאשר אדם נעצר ברחוב מסיבה פשוטה אחת: הוא בחר לכסות את פניו, במקום להציגם בגלוי למצלמות שברחוב.

 

פחד ואימה ברחובות לונדון

במזרח לונדון מתבצע לאחרונה ניסוי בזיהוי פנים בזמן אמת. מצלמות משוכללות סורקות את פני העוברים והשבים, ומזהות מיד את פניהם של מבוקשים. המשטרה טוענת כי טכנולוגיה זו תוכל למנוע ולגלות מקרי פשע באמצעות זיהוי מקדים של הפושעים. אלא שלא כולם מרוצים מהטכנולוגיה החדשה, ואחד מעוברי האורח בחר לכסות את פניו. הוא נעצר מיד, והשוטר שבמקום הסביר כי אסור היה לו להסתיר את פניו מהמצלמות. האיש התעצבן, התווכח עם השוטרים, וזכה לקנס של תשעים פאונד – ובסופו של דבר גם צולם[7].

אולי מיותר לציין, אבל במדינות מעטות בלבד יש חוק שאומר שאדם אינו יכול לכסות את פניו בעת שהוא הולך ברחוב[8]. אלא שהשוטרים אפילו לא האשימו את האזרח בכך שעבר על החוק, אלא פשוט בכך שהתנהג באופן חשוד, מכיוון שלא הסכין עם כך שטכנולוגיית זיהוי הפנים תופעל עליו במרחב הציבורי, בניגוד לרצונו. הוא לא ניסה להשחית את המצלמות, או לעורר מרי ציבורי, אלא רק פעל לכיסוי פניו – ועל כן נגרר מיד הצידה על-ידי השוטרים.

מקרים מסוג זה חושפים את הסכנה שבשימוש בטכנולוגיה, מבלי קידוד ראוי של הנהלים האתיים – ושהשוטרים שמופקדים על הטכנולוגיה יבינו אותם ויפעלו לפיהם. הבעיה האמיתית אינה הטכנולוגיה, אלא השימוש שאנו עושים בה. הבעיה אינה באיסוף המידע – הוא נאסף בכל מקרה – או אפילו בניתוח המידע. הבעיה האמיתית היא בקביעת החוקים, הכללים והנהלים שימנעו שימוש לרעה בכוח שהמידע מספק. המצלמות יגיעו לכל מקום, במוקדם או במאוחר. למעשה, הן נמצאות כבר עתה ברחובותינו, במחשבים ובטלפונים החכמים שלנו. השאלה האמיתית היא האם נשכיל להגדיר לממשלות ולחברות כיצד מותר וראוי שישתמשו ביכולות שהטכנולוגיות מעמידות לרשותן.

* תודה לאסף רזון שיידע אותי לגבי המקרה בבריטניה. כמו כן, ספרי האחרון – "השולטים בעתיד" – עוסק בעתיד השלטון והדמוקרטיה. אפשר גם למצוא התייחסות לנושא זה בשיחתי האחרונה בפודקאסט "חומר להקשבה" , על עתיד הדמוקרטיה (קישור כאן).

[1] https://www.newyorker.com/magazine/2016/08/22/londons-super-recognizer-police-force

[2] https://www.bbc.com/news/world-asia-china-43751276

[3] https://www.bbc.com/news/av/world-asia-china-42248056/in-your-face-china-s-all-seeing-state

[4] https://www.scribd.com/document/377980664/South-Wales-Police

[5] https://www.zdnet.com/article/facial-recognition-system-had-7-percent-hit-rate-at-2017-champions-league-final/

[6] https://www.nytimes.com/2019/05/14/us/facial-recognition-ban-san-francisco.html

[7] https://blokt.com/news/uk-met-police-run-facial-recognition-trials-man-fined-90-for-covering-his-face

[8] https://en.wikipedia.org/wiki/Anti-mask_laws

21 מחשבות על “על שוטרי-העל של לונדון – וכיצד הם מוחלפים באלגוריתמים (גרועים) לזיהוי פנים

  1. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  2. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  3. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  4. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  5. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  6. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  7. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  8. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  9. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  10. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  11. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  12. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  13. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  14. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  15. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  16. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  17. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  18. פינגבק: רועי צזנה: שוטרי לונדון מוחלפים באלגוריתמים - ייצור ידע

  19. אני רועד מפחד מהעתיד הזה ומהטכנולוגיה הזו בידי ממשלות. הרבה הרבה יותר משאני מתאווה לו ולטכנולוגיה העתידנית שהוא מביא איתו ולפלאים שהיא יכולה לעשות.
    גם כאזרח שומר חוק אמיתי ומחטט באף ברחוב באופן כרוני, זה פשוט מלחיץ אותי.
    זה "עוד לא התחיל" וכבר אזרח שרק בחר לכסות את פניו (!), מבלי להסב שום נזק למכשור, לשוטרים או שום כלום מלבד לכסות את פניו, והנה, הוא קיבל דו"ח.
    זה מתחיל בלפגוע לו בארנק.
    העתיד מפחיד.

    אהבתי

להשאיר תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת /  לשנות )

תמונת גוגל

אתה מגיב באמצעות חשבון Google שלך. לצאת מהמערכת /  לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת /  לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת /  לשנות )

מתחבר ל-%s