ספק זיהוי פנים קיבל ציון של 99% — ועדיין סימן קונים חפים מפשע כל היום
האלגוריתם של הספק דורג בשכבה העליונה של מדד הבנצ'מרק של ממשלת ארה"ב עצמה. על גלריה של שנים-עשר מיליון תצלומי מעצר, מערכות זיהוי הפנים המובילות מגיעות כיום לדיוק של יותר מ-99%. המספר היה אמיתי, התעודה הייתה אמיתית, והשתמשתי בו כדי להרגיע לקוח פיילוט שפריסת מניעת האובדן שלו איתנה.
אחר כך הרצנו את נתוני החנות האמיתיים שלהם, והמערכת סימנה קונים חפים מפשע לאורך כל היום.
הפער הזה — בין ציון בנצ'מרק של 99% לבין מערכת שמתעמתת עם הסבתא הלא-נכונה במעבר שש — הוא כל הנושא של המסה הזו. ציות בזיהוי פנים כמעט אף פעם אינו בעיה של אלגוריתם. זוהי בעיית רכש, בעיית נתונים, ובעיית ממשל שלבושה בבגדיו של אלגוריתם. למדתי זאת בדרך היקרה, וזו הסיבה שהצוות שלי ב-Veriprajna בסופו של דבר החל לבצע ביקורת מערכות ביומטריות אל מול התקנות, מדדי הבנצ'מרק והתקנים התפעוליים שבאמת חשובים במקום רק לדרג את דיוק הספקים.
כרטיס הניקוד שבניתי תחילה היה הכלי הלא-נכון
כשהתחלתי, חשבתי שהביקורת מובנת מאליה. לקרוא את NIST Face Recognition Vendor Test — המכון הלאומי לתקנים וטכנולוגיה (NIST) מנהל את מדד הבנצ'מרק העצמאי המכובד ביותר בתחום — לשלוף את הדירוג של הספק, לתת לו ציון, ולהגיש ללקוח וי ירוק. בניתי בדיוק את זה: כרטיס ניקוד מסודר לדיוק ספקים.
הפיילוט היה רשת קמעונאית עם רשימת מעקב של חשודים ידועים בגניבה מאורגנת. הספק שלהם היה מבצע מוביל אמיתי ב-FRVT. לפי כרטיס הניקוד שלי, הם עברו בהצלחה מלאה. אז כשהחנויות שלהם המשיכו להפיק התראות על אנשים שברור שלא היו באף רשימה, הנחתי שזו בעיית כיול והלכתי לחפש את הבאג בסף.
לא היה שום באג. המתמטיקה עבדה בדיוק כפי שתוכננה — פשוט ביקרתי את הדבר הלא-נכון.
בנצ'מרק אומר לך כיצד אלגוריתם מתפקד במעבדה. הוא אומר לך כמעט כלום על איך הוא יתנהג בחנות שלך.
הנה מה שהחמצתי. הדיוק המרכזי של NIST מגיע מהתאמת מערך סגור: בהינתן פנים, מצא את ההתאמה שלהן בגלריה ידועה. זו בעיית שחרור-הנעילה של הטלפון — האם זה הבעלים, כן או לא. אבל רשימת מעקב קמעונאית היא בעיית מערך פתוח, ושני אלה אינם בני-דודים. בחנות עם 8,000 מבקרים ביום ורשימת מעקב של 200 איש, 97.5% מכל סריקה מבוצעת מול מישהו שאינו רשום כלל. אלגוריתם מערך-סגור מתאמץ למצוא את ההתאמה הטובה ביותר לכל פנים שהוא רואה. כוון אותו אל נפח כזה ואפילו שיעור חיובי-שגוי של 0.1% יפיק בערך 8 התראות שגויות לחנות ליום. על פני 500 מיקומים, זה 4,000 אנשים חפים מפשע המסומנים מדי יום. אישרתי מערכת על השאלה הלא-נכונה לחלוטין.
זה היה הכישלון שבנה מחדש את הגישה של החברה. הפסקנו לדרג ספקים והתחלנו לבקר פריסות.
החיוביים השגויים הסתתרו באלבום התמונות
ההפתעה השנייה הייתה מהיכן ההתאמות הגרועות באמת הגיעו. הנחתי שהתאמה שגויה משמעה מודל חלש. ואז ישבתי עם גלריית הרישום של לקוח — מערך התמונות בפועל של רשימת המעקב שמולו המערכת משווה פנים — ופתחתי את רשת התמונות הממוזערות.
זה היה בלגן. קומץ תצלומי פנים נקיים ומבוקרים. ואז עשרות תמונות סטילס גרגריות ממצלמות אבטחה, צילומי טלפון, ותצלומי מעצר שהיו בני עשור. אי אפשר להתאים באופן אמין פנים חיות משנת 2026 מול תצלום מעצר ברזולוציה נמוכה משנת 2014, ואף דירוג אלגוריתם בעולם לא מתקן את זה. הזיהום היה בנתונים, לא במודל.
זה החלק שאף אחד לא מבקר. ארגונים אובססיביים לגבי איזה ספק לקנות ולעולם לא בוחנים את הגלריה שהם מזינים לו — רשימות המעקב שלא נגזמו, הצילומים המיושנים, אי-התאמות הרזולוציה שמניעים את רוב החיוביים השגויים בעולם האמיתי. כשהתחלנו להתייחס להיגיינה של מסד נתוני הרישום כחלק מדרגה ראשונה בביקורת, שיעורי ההתראות השגויות בפיילוטים ירדו עוד לפני שנגענו בסף בודד.
והתראות שגויות אלה אינן מתפלגות באופן שווה. בדיקות הדמוגרפיה של NIST מצאו ששיעורי החיוב-השגוי בתוך-קבוצה משתנים עד פי 7,203 על פני קבוצות דמוגרפיות — ילדים, קשישים, ונבדקים אסייתים ואינדיאנים אמריקאים כולם רואים שיעורים מוגברים, בין היתר משום שגווני עור כהים יותר מטילים דרישות לכידה קשות יותר של טווח דינמי שמצלמות זולות אינן עומדות בהן. זה אינו תיאורטי. כשוועדת הסחר הפדרלית (FTC) בחנה את הפריסה של Rite Aid, היא מצאה שחנויות בקהילות שבהן שחורים ואסייתים הם הקבוצה הגדולה ביותר הפיקו משמעותית יותר התראות שגויות מחנויות בקהילות שבהן לבנים הם הקבוצה הגדולה ביותר. עובדים, שלא הוכשרו במגבלות המערכת, התייחסו לכל התראה כעובדה והתעמתו עם לקוחות בהתאם.
השאלה שאמורה להדיר שינה מעיניו של מנהל סיכונים קמעונאי אינה "האם הספק שלנו מדויק." אלא "בפניו של מי הגלריה שלנו הכי גרועה, ומה העובדים שלנו עושים כשהמסך נדלק."
איך נראים 108 ימים בכלא
אם אתם רוצים לדעת מדוע אני חושב ששלב הבדיקה האנושית הוא כל המשחק, קראו את התיק של אנג'לה ליפס.
ליפס היא סבתא בת 50. ביולי 2025, משטרת פארגו השתמשה בזיהוי פנים כדי לזהות אותה כחשודה, ושירות המרשלים של ארה"ב עצר אותה. היא הייתה במרחק 1,200 מייל מזירת הפשע. היא בילתה 108 ימים בכלא לפני שהאישומים בוטלו בערב חג המולד 2025. מפקד משטרת פארגו התנצל בפומבי ב-27 במרץ 2026. תביעות בגין זכויות אזרח מוכנות כעת.
מערכת הפיקה מספר. אף אחד לא בדק האם המספר הזה אמין בהתחשב באיכות התמונה, בפער הגילים בין תמונת הבדיקה לתמונת הגלריה, או באיך שהאלגוריתם מתפקד על הקבוצה הדמוגרפית שלה. ציון ההתאמה טופל כראיה. זו לא הייתה ראיה — זו הייתה הסתברות ללא רמת ודאות מכוילת המצורפת אליה, ומישהו קרא אותה כשם.
ליפס אינה חריגה. הוושינגטון פוסט תיעד לפחות שמונה אמריקאים שנעצרו שלא כדין בעקבות התאמות זיהוי פנים, כשהחוקרים בכל מקרה דילגו על שלבים בסיסיים כמו בדיקת אליבי. המעצר השגוי של הארווי מרפי נמשך עשרה ימים, כלל תקיפה פיזית, והפך לתביעה בסך 10 מיליון דולר. ברינו, תיק המעצר-השגוי של ג'ייסון קילינגר בעקבות זיהוי-פנים-בקזינו מתקדם למשפט, כשקצין מצהיר לפרוטוקול שזה "מעולם לא היה צריך לקרות."
זו הסיבה שהרגולטורים הפסיקו לקבל פיקוח אנושי כתיבת סימון. הסטנדרט שמתכנס כעת בין תחומי שיפוט הוא בדיקה משמעותית, לא טקסית — ו"משמעותית" היא בדיוק מה שרוב הפריסות מזייפות. בחנתי נהלים של אדם-בתוך-הלולאה שבהם ל-SOP הייתה תיבה שכותרתה פיקוח משמעותי בלי שום דבר תחתיה. בודק שמחתים בחותמת גומי את פלט המכונה באותה מהירות שבה המכונה מייצרת אותו אינו פיקוח. אימות שזרימת העבודה של הבדיקה באמת עומדת ברף הרגולטורי — שאדם יכול לעקוף את המערכת ואכן עושה זאת, עם המידע הדרוש לכך — התברר כאחד החלקים הקשים והחשובים ביותר בכל ביקורת שאנו מבצעים.
טלאי-הטלאים שתחתיו אתם באמת אחראים משפטית
אנשים תמיד מבקשים ממני את "חוק זיהוי הפנים" שעליהם לציית לו. אין כזה. אין חוק פדרלי אמריקאי שמסדיר זיהוי פנים. מה שקיים במקום זאת הוא טלאי-טלאים, והקנסות אינם סמליים.
BIPA של אילינוי הוא זה עם השיניים, משום שהוא נושא זכות תביעה פרטית — כל אחד יכול לתבוע. הפיצויים לכל הפרה עומדים על 1,000 דולר להפרות ברשלנות ו-5,000 דולר להפרות מכוונות, וב-2025 לבדה הפשרות הסתכמו ל-136.6 מיליון דולר על פני יותר מ-107 תובענות ייצוגיות חדשות. המספרים לאורך כל הזמן גדולים אף יותר: פייסבוק הגיעה לפשרה על 650 מיליון דולר, Clearview AI על 51.75 מיליון דולר. CUBI של טקסס נושא קנסות עד 25,000 דולר להפרה והפיק פשרה עם גוגל בסך 1.375 מיליארד דולר, אם כי טקסס אוכפת רק דרך התובע הכללי שלה, וחוק TRAIGA שלה מ-2025 יצר פטורים לאבטחה ולמניעת הונאה.
ואז יש את EU AI Act, שהפרקטיקות האסורות שלו — כולל איסורים על זיהוי ביומטרי מרחוק בזמן אמת — נכנסו לאכיפה בפברואר 2025, עם קנסות עד 35 מיליון אירו או 7% מהמחזור הגלובלי. המועדים האחרונים למערכות בסיכון-גבוה שלו נדחו ל-2 בדצמבר 2027, לאחר שהפרלמנט האירופי הצביע להאריך אותם, מה שקונה זמן אך אינו משנה דבר לגבי האיסורים שכבר בתוקף. הוסיפו על כך את חוק הפרטיות המתוקן של קולורדו, את החוק הביומטרי של וושינגטון, ואיסורים מוחלטים ביותר מ-16 ערים בארה"ב כולל סן פרנסיסקו, בוסטון, אוקלנד ופורטלנד — כאשר 10 מדינות נוספות או יותר צפויות להעביר הגנות ביומטריות עד סוף 2026 — ויש לכם פריסה שחוקית במיקוד אחד ומגנט לתובענות ייצוגיות במיקוד הבא. תכונת "Familiar Faces" של Ring מבית אמזון, שהושקה בדצמבר 2025, נחסמה באילינוי, בטקסס ובפורטלנד תוך שבועות מהשקתה.
ביקורת אמיתית חייבת למפות פריסה בודדת אל מול כל אלה בבת אחת. שום כלי מדף אינו עושה זאת, וזו בדיוק הסיבה שהיינו צריכים לבנות את היכולת.
מדוע קניית הספק המדורג-ראשון אינה מספיקה?
בשלב מוקדם, יועץ אמר לי שכל העניין פשוט יותר ממה שאני עושה אותו: קנה את הספק המדורג הכי גבוה של NIST, ואתה עומד בדרישות. האמנתי לזה כשבוע — עד שהפיילוט הוכיח שספק מוביל על בנצ'מרק מצוין עדיין הפיק חנות מלאה בהתראות שגויות.
נוף הספקים מתגמל ספקנות. המובילים בפתרון המלא — NEC, IDEMIA, Thales — כולם מבצעים מובילים אמיתיים ב-FRVT, ומומחי תוכנה כמו Paravision ו-Rank One Computing מדורגים בין הטובים ביותר. אבל הדירוגים משמיטים את השורה שהכי חשובה בחוזה: ספקים באופן שגרתי מתנערים מכל אחריות לדיוק. הארגון לוקח על עצמו את כל האחריות המשפטית לפלטים שהוא אינו יכול לבקר באופן עצמאי. שחקני הענן הגדולים קראו את המפה ועזבו — אמזון הטילה מורטוריום ללא מועד על שימוש משטרתי ב-Rekognition, מיקרוסופט עשתה אותו הדבר עבור Azure Face, ו-IBM יצאה לחלוטין מזיהוי פנים עוד ב-2020. Clearview AI, האוסף האגרסיבי ביותר, אסורה לחלוטין באיחוד האירופי.
אם הספק שלך לא יערוב לדיוק והרגולטור מטיל את החבות עליך עבור הפלט, דירוג הבנצ'מרק של הספק הוא העובדה הכי פחות מעניינת לגבי הפריסה שלך.
יש מלכודת רכש עמוקה יותר שרוב הקונים לעולם לא רואים. פעולת ה-FTC נגד Rite Aid לא רק אסרה זיהוי פנים למשך חמש שנים — היא הורתה על השבת מודל: השמדת כל הנתונים הביומטריים וכל מודל שאומן עליהם. השבה הופכת לכלי סטנדרטי; תיק ממאי 2025 אילץ חברת edtech למחוק גם היא את המודלים שלה. העיקרון הוא שאינך יכול להרוויח מנתונים, או מאלגוריתמים שנגזרו מנתונים, שלא הותר לך לאסוף. אז השאלה שמוביל רכש צריך לשאול ספק אינה "כמה מדויק אתה." אלא "האם אתה יכול להוכיח שהדיוק שאתה מוכר לי לא נבנה על נתונים שעלולים לגרום למחיקת המודל עצמו." זו שאלת בדיקת נאותות, וכמעט אף אחד לא שואל אותה.
לבנקים יש הבעיה ההפוכה — ואותו הפער
הקמעונאות היא המקרה החי, אך מוסדות פיננסיים יושבים במקום צר באותה מידה מהכיוון השני. הביומטריה שלהם אינה סינון רשימות מעקב — אלא בדיקות אלקטרוניות של הכר את הלקוח (Know Your Customer): אימות מסמכי זהות בשילוב עם התאמת פנים וזיהוי חיוניות כדי לאשר שאדם אמיתי פותח חשבון אמיתי. הפריסה מתבצעת בהסכמה וצרה, מה שנשמע קל יותר. זה לא, כי הרף זז.
נכון ל-1 בינואר 2026, FinCEN הרחיבה את דרישותיה למניעת הלבנת הון, והמעבר הפיקוחי הרחב יותר של 2026 הוא מנוכחות של בקרות ליעילות מוכחת של בקרות. כבר לא מספיק לומר שאתה מריץ זיהוי חיוניות. אתה חייב להראות שזה עובד — שבדיקת החיוניות שלך שורדת מתקפת מצג (תמונה מודפסת, וידאו משוחזר, מסכת סיליקון המוצמדת למצלמה), ששיעור ההתאמות השגויות שלך מחזיק על פני דמוגרפיות, שהבקרה עושה משהו מדיד ולא רק קיימת. בנק שמשתמש בספק כמו FacePhi לחיוניות בנקאית נמצא באותו מצב כמו הקמעונאי: מחזיק בכל האחריות המשפטית למערכת שהוא אינו יכול להעריך באופן עצמאי, וכעת מתבקש על ידי הרגולטור שלו להוכיח יעילות שמעולם לא מדד.
החוט המחבר בין מנהל מניעת האובדן לבין קצין הציות של הבנק הוא אותו הפער. שניהם קנו מערכת ביומטרית על סמך טענת ספק. אף אחד מהם אינו יכול לקרוא דוח NIST FRVT טוב מספיק כדי לתרגם אותו להחלטת רכש, לבקר את איכות הנתונים שהם מזינים למערכת, או להוכיח שתהליך הבדיקה האנושית שלהם משמעותי ולא טקסי. הפער הזה מתרחב ככל שהחלטות ביומטריות מועברות לסוכני AI אוטונומיים — רק 23% מהארגונים בכלל מחזיקים באסטרטגיה פורמלית לניהול זהות סוכנים, וחברת אימות הזהות iProov מזהירה מפני "ואקום של אחריותיות" כאשר סוכנים מקבלים החלטות בעלות השפעה גבוהה מבלי שמישהו נושא באחריות ברורה עליהן.
מה בעצם קונה לך אי-ודאות מכוילת?
התיקון שהיה החשוב ביותר היה הכי פחות זוהר. ספקי זיהוי פנים מדווחים ציון התאמה — מספר — ללא גבולות ודאות מכוילים סביבו. המערכת אומרת "0.94" והמפעיל קורא "זו היא." אבל 0.94 מול תצלום פנים סטודיו נקי ו-0.94 מול תצלום מעצר בן עשור של מישהו מדמוגרפיה שהאלגוריתם מטפל בה בצורה גרועה אינם אותה טענה, והציון הגולמי מסתיר את ההבדל.
מה שחסר הוא שכבת אי-ודאות: דרך לצרף ודאות כנה ומכוילת לכל התאמה כך שתוצאה גבולית מכריזה על עצמה כגבולית ומנתבת לאדם במקום למכשיר הקשר של מאבטח. סוג כזה של middleware אינו קיים מסחרית. בניית ההערכה עבורו — הדבר שהיה אומר לשוטר בפארגו "ההתאמה הזו היא בעלת ודאות נמוכה בהתחשב באיכות התמונה ובקבוצה הדמוגרפית של הנבדק, אל תפעל על פיה לבד" — היא העבודה שהלוואי והייתה קיימת לפני מקרה ליפס, לא אחריו.
אפשר לראות את המוסדות שכבר מבינים זאת. משטרת אסקס בבריטניה השהתה את תוכנית זיהוי הפנים שלה בשל סיכון להטיה בעקבות ביקורת של משרד נציב המידע (ICO). הם לא חיכו למעצר שגוי כדי לגלות שלמערכת שלהם יש נקודה עיוורת דמוגרפית. זו העמדה: להתייחס למערכת כאל חבות עד שביקורת עצמאית תוכיח אחרת, ולא ההפך.
ציון בנצ'מרק הוא מה שאתה מציג במצגת המכירות של ספק. גבול ודאות מכויל על כל התאמה הוא מה שאתה מציג לרגולטור ולאולם בית המשפט — ורק אחד מהם שורד חקירה נגדית.
השאלה האמיתית שכדאי להביא לשיחת הספק הבאה שלך
אם פרסתם זיהוי פנים, האמת הלא-נוחה היא שתעודת הבנצ'מרק שלכם מודדת מערכת שונה מזו שרצה בחנויות שלכם או בזרימת הצירוף שלכם. הדיוק אמיתי וכמעט לא רלוונטי. מה שקובע את החשיפה שלכם הוא המתמטיקה של המערך-הפתוח של הסביבה שלכם, ההיגיינה של הגלריה שבניתם, האם תחומי השיפוט שלכם ממופים, והאם אדם באמת יכול לתפוס את המכונה לפני שהיא מתעמתת עם האדם הלא-נכון.
שום דבר מכל זה לא מופיע בדירוג ספק. כל זה מופיע בתובענה ייצוגית, בצו הסכמה של FTC, או ב-108 הימים של סבתא בתא כלא. בנינו את ביקורת הציות הביומטרי וזיהוי הפנים שלנו עבור הקונה שמעדיף למצוא את הפערים הללו בדוח מאשר בתביעה משפטית.
אז בפעם הבאה שספק מגיש לכם מספר דיוק של 99%, אל תשאלו איך הם השיגו אותו. שאלו מה הוא לא מכסה — ואז לכו לספור כמה מהפנים שחולפות על פני המצלמות שלכם מדי יום מעולם לא היו באף רשימה מלכתחילה.