مورّد للتعرف على الوجوه سجّل دقة 99% — ومع ذلك ظل يشير إلى متسوقين أبرياء طوال اليوم
كانت خوارزمية المورّد مصنّفة ضمن الفئة العليا في المعيار المرجعي الخاص بالحكومة الأمريكية نفسها. فعلى مجموعة تضم اثني عشر مليون صورة جنائية، تحقق أنظمة التعرف على الوجوه الرائدة الآن دقة تتجاوز 99%. كان الرقم حقيقيًا، وكانت الشهادة حقيقية، وقد استخدمتها لطمأنة عميل تجريبي بأن نشر نظام منع الخسائر لديه سليم.
ثم شغّلنا بيانات متجرهم الفعلية، فراح النظام يشير إلى متسوقين أبرياء طوال اليوم.
تلك الفجوة — بين درجة معيارية بنسبة 99% ونظام يواجه الجدّة الخطأ في الممر رقم ستة — هي الموضوع الكامل لهذا المقال. الامتثال في التعرف على الوجوه لا يكون تقريبًا أبدًا مشكلة خوارزمية. إنه مشكلة شراء، ومشكلة بيانات، ومشكلة حوكمة ترتدي ثوب الخوارزمية. تعلّمت ذلك بالطريقة المكلفة، ولهذا انتهى فريقي في Veriprajna إلى تدقيق الأنظمة البيومترية مقابل اللوائح والمعايير المرجعية والمقاييس التشغيلية التي تهمّ فعلًا بدلًا من مجرد تسجيل دقة المورّدين.
بطاقة التقييم التي بنيتها أولًا كانت الأداة الخطأ
حين بدأت، ظننت أن التدقيق بديهي. اقرأ اختبار NIST لموردي التعرف على الوجوه — يدير المعهد الوطني للمعايير والتقنية أكثر المعايير المرجعية المستقلة احترامًا في المجال — استخرج تصنيف المورّد، وسجّل درجته، وسلّم العميل علامة صح خضراء. بنيت ذلك بالضبط: بطاقة تقييم أنيقة لدقة المورّد.
كان المشروع التجريبي سلسلة متاجر بيع بالتجزئة لديها قائمة مراقبة لمشتبه بهم معروفين بالسرقة المنظمة. كان مورّدهم من الأداء الأعلى فعلًا في FRVT. وفق بطاقة تقييمي، اجتازوا الاختبار بنظافة. لذا حين ظلت متاجرهم تولّد تنبيهات بشأن أشخاص لم يكونوا بوضوح على أي قائمة، افترضت أنها مشكلة ضبط، ورحت أبحث عن الخلل في العتبة.
لم يكن هناك خلل. كانت الرياضيات تعمل تمامًا كما صُممت — كنت قد دققت الشيء الخطأ فحسب.
المعيار المرجعي يخبرك بكيفية أداء الخوارزمية في المختبر. لكنه لا يخبرك تقريبًا بشيء عن كيفية تصرفها في متجرك.
إليك ما فاتني. تأتي الدقة الرئيسية لدى NIST من المجموعة المغلقة المطابقة: بالنظر إلى وجه، ابحث عن مطابقته في مجموعة معروفة. تلك هي مشكلة فتح قفل الهاتف — هل هذا المالك، نعم أم لا. لكن قائمة مراقبة البيع بالتجزئة هي مشكلة مجموعة مفتوحة، والاثنتان ليستا متقاربتين. في متجر يزوره 8,000 شخص يوميًا وبقائمة مراقبة من 200 شخص، 97.5% من كل عملية مسح تتم مقابل شخص غير مُسجَّل على الإطلاق. تجهد خوارزمية المجموعة المغلقة لإيجاد أفضل مطابقة لكل وجه تراه. وجّهها نحو هذا الحجم، وحتى معدل إيجابيات كاذبة بنسبة 0.1% يطلق نحو 8 تنبيهات خاطئة لكل متجر يوميًا. عبر 500 موقع، هذا يعني الإشارة إلى 4,000 شخص بريء يوميًا. كنت قد اعتمدت نظامًا بناءً على السؤال الخطأ تمامًا.
كان ذلك الإخفاق هو ما أعاد بناء نهج الشركة. توقفنا عن تسجيل درجات المورّدين وبدأنا في تدقيق عمليات النشر.
كانت الإيجابيات الكاذبة مختبئة في ألبوم الصور
المفاجأة الثانية كانت في المكان الذي جاءت منه المطابقات السيئة فعلًا. كنت قد افترضت أن المطابقة الخاطئة تعني نموذجًا ضعيفًا. ثم جلست مع مجموعة تسجيل خاصة بعميل — المجموعة الفعلية من صور قائمة المراقبة التي يقارن النظام الوجوه بها — واستدعيت شبكة الصور المصغّرة.
كانت فوضى. حفنة من صور الرأس النظيفة والمضبوطة. ثم عشرات من لقطات الدوائر التلفزيونية المغلقة المحبّبة، ولقطات الهواتف المحمولة، وصور الحجز التي مضى عليها عقد من الزمن. لا يمكنك أن تطابق بموثوقية وجهًا حيًا من عام 2026 مقابل صورة حجز منخفضة الدقة من عام 2014، ولا يوجد تصنيف خوارزمية في العالم يُصلح ذلك. كان التلوث في البيانات، لا في النموذج.
هذا هو الجزء الذي لا يدققه أحد. تهووس الشركات بأي مورّد تشتري، ولا تفحص أبدًا المجموعة التي تغذّيه بها — قوائم المراقبة غير المُشذّبة، واللقطات القديمة، وعدم تطابق الدقة الذي يدفع معظم الإيجابيات الكاذبة في العالم الحقيقي. حين بدأنا نعامل نظافة قاعدة بيانات التسجيل باعتبارها جزءًا من الطراز الأول من التدقيق، انخفضت معدلات التنبيهات الكاذبة في المشاريع التجريبية قبل أن نمسّ عتبة واحدة.
وتلك التنبيهات الكاذبة ليست موزعة بالتساوي. وجد اختبار NIST الديموغرافي أن معدلات الإيجابيات الكاذبة داخل المجموعة الواحدة تتفاوت بمقدار يصل إلى 7,203 أضعاف عبر المجموعات الديموغرافية — فالأطفال، وكبار السن، والأشخاص من أصول آسيوية وأمريكية أصلية جميعهم يشهدون معدلات مرتفعة، ويعود ذلك جزئيًا إلى أن درجات البشرة الأغمق تفرض متطلبات أصعب لالتقاط النطاق الديناميكي لا تلبيها الكاميرات الرخيصة. هذا ليس نظريًا. حين فحصت لجنة التجارة الفيدرالية عملية نشر Rite Aid، وجدت أن المتاجر في المجتمعات ذات الأغلبية من السود والآسيويين ولّدت تنبيهات كاذبة أكثر بكثير من المتاجر في المجتمعات ذات الأغلبية البيضاء. وعامل الموظفون، غير المدرَّبين على حدود النظام، كل تنبيه على أنه حقيقة وواجهوا الزبائن تبعًا لذلك.
السؤال الذي ينبغي أن يبقي مسؤول مخاطر البيع بالتجزئة مستيقظًا في الليل ليس "هل مورّدنا دقيق". بل "مَن أسوأ من تتعامل معهم مجموعتنا، وماذا يفعل موظفونا حين تضيء الشاشة".
كيف تبدو 108 أيام في السجن
إذا أردت أن تعرف لماذا أعتقد أن خطوة المراجعة البشرية هي كل ما في اللعبة، فاقرأ ملف أنجيلا ليبس.
ليبس جدّة في الخمسين من عمرها. في يوليو 2025، استخدمت شرطة فارغو التعرف على الوجوه لتحديدها كمشتبه بها، واعتقلها مأمورو الولايات المتحدة الفيدراليون. كانت على بُعد 1,200 ميل من مسرح الجريمة. أمضت 108 أيام في السجن قبل أن تُسقط التهم في عشية عيد الميلاد 2025. اعتذر رئيس شرطة فارغو علنًا في 27 مارس 2026. ويجري إعداد دعاوى تتعلق بالحقوق المدنية.
أنتج نظام رقمًا. لم يتحقق أحد مما إذا كان ذلك الرقم موثوقًا بالنظر إلى جودة الصورة، وفارق العمر بين صورة الفحص وصورة المجموعة، أو كيف تؤدي الخوارزمية على مجموعتها الديموغرافية. عُومِلت درجة المطابقة كدليل. لم تكن دليلًا — كانت احتمالًا لا ثقة معايَرة مرتبطة به، وقرأها أحدهم على أنها اسم.
ليبس ليست حالة شاذة. وثّقت صحيفة واشنطن بوست ما لا يقل عن ثمانية أمريكيين اعتُقلوا خطأً بعد مطابقات التعرف على الوجوه، مع تخطي المحققين في كل حالة خطوات أساسية مثل التحقق من عذر غياب. استمر احتجاز هارفي مورفي الخاطئ عشرة أيام، وتضمّن اعتداءً جسديًا، وتحوّل إلى دعوى قضائية بقيمة 10 ملايين دولار. وفي رينو، تتجه قضية الاعتقال الخاطئ لجيسون كيلينجر المتعلقة بالتعرف على الوجوه في الكازينو نحو المحاكمة، مع تصريح مسجّل لضابط يقول إنها "ما كان ينبغي أن تحدث أبدًا".
لهذا توقّف المنظِّمون عن قبول الإشراف البشري كخانة تُملأ. المعيار الذي يتقارب الآن عبر الولايات القضائية هو المراجعة الجوهرية، لا الشكلية — و"الجوهرية" هي بالضبط ما تزيّفه معظم عمليات النشر. راجعت إجراءات إبقاء الإنسان في الحلقة حيث كان في إجراء التشغيل القياسي خانة مكتوب عليها إشراف جوهري ولا شيء تحتها. المراجع الذي يختم بالمطاط على مخرجات الآلة بالسرعة نفسها التي تنتجها بها الآلة ليس إشرافًا. التحقق من أن سير عمل المراجعة يلبي فعلًا العتبة التنظيمية — من أن الإنسان يستطيع أن يتجاوز النظام ويفعل ذلك، بالمعلومات اللازمة لذلك — تبيّن أنه أحد أصعب وأهم أجزاء كل تدقيق نجريه.
التركيبة المرقّعة التي أنت مسؤول قانونيًا بموجبها فعلًا
يسألني الناس دائمًا عن "قانون التعرف على الوجوه" الذي عليهم الامتثال له. لا يوجد قانون واحد. لا يوجد قانون فيدرالي أمريكي ينظّم التعرف على الوجوه. ما يوجد بدلًا من ذلك هو تركيبة مرقّعة، والعقوبات ليست رمزية.
قانون BIPA في إلينوي هو صاحب الأنياب، لأنه يحمل حق التقاضي الخاص — يمكن لأي شخص أن يرفع دعوى. تبلغ التعويضات لكل مخالفة 1,000 دولار للمخالفات الناتجة عن الإهمال و5,000 دولار للمخالفات المتعمدة، وفي عام 2025 وحده بلغ إجمالي التسويات 136.6 مليون دولار عبر أكثر من 107 دعوى جماعية جديدة. أما الأرقام على مر الزمن فأكبر: سوّت Facebook مقابل 650 مليون دولار، وClearview AI مقابل 51.75 مليون دولار. يحمل قانون CUBI في تكساس عقوبات تصل إلى 25,000 دولار لكل مخالفة وأنتج تسوية مع 1.375 مليار دولار مع Google، رغم أن تكساس تُنفِّذ فقط عبر مدعيها العام، وأن قانونها TRAIGA لعام 2025 استثنى الأمن ومنع الاحتيال.
ثم هناك قانون الذكاء الاصطناعي للاتحاد الأوروبي، الذي أصبحت ممارساته المحظورة — بما فيها حظر التحديد البيومتري عن بُعد في الوقت الفعلي — قابلة للإنفاذ في فبراير 2025، مع عقوبات تصل إلى 35 مليون يورو أو 7% من إجمالي الإيرادات العالمية. وقد أُجِّلت مواعيده النهائية للأنظمة عالية الخطورة إلى 2 ديسمبر 2027، بعد أن صوّت البرلمان الأوروبي على تمديدها، ما يوفّر وقتًا لكنه لا يغيّر شيئًا في المحظورات السارية بالفعل. أَضِف إلى ذلك قانون الخصوصية المعدَّل في كولورادو، والقانون البيومتري في واشنطن، وحظرًا كاملًا في أكثر من 16 مدينة أمريكية بينها سان فرانسيسكو وبوسطن وأوكلاند وبورتلاند — مع توقّع أن تُقرّ 10 ولايات إضافية أو أكثر حماية بيومترية بحلول نهاية 2026 — ويكون لديك نظام نشر قانوني في رمز بريدي وجاذب لدعوى جماعية في الرمز التالي. حُظرت خاصية "الوجوه المألوفة" من Ring التابعة لـ Amazon، التي أُطلقت في ديسمبر 2025، في إلينوي وتكساس وبورتلاند خلال أسابيع من إصدارها.
على التدقيق الحقيقي أن يخطّط عملية نشر واحدة مقابل كل هذه في آن واحد. لا توجد أداة جاهزة تفعل ذلك، وهذا بالضبط سبب اضطرارنا إلى بناء هذه القدرة.
لماذا لا يكفي شراء المورّد الأعلى تصنيفًا؟
في وقت مبكر، أخبرني مستشار أن الأمر برمّته أبسط مما كنت أجعله: اشترِ مورّد NIST الأعلى تصنيفًا، وتكون ممتثلًا. صدّقت ذلك لنحو أسبوع — إلى أن أثبت المشروع التجريبي أن مورّدًا في القمة على معيار مرجعي رائع ما زال ينتج متجرًا مليئًا بالتنبيهات الكاذبة.
مشهد المورّدين يكافئ الشك. القادة كاملو الحزمة — NEC وIDEMIA وThales — جميعهم من الأداء الأعلى فعلًا في FRVT، ومتخصصو البرمجيات مثل Paravision وRank One Computing يُصنّفون بين الأفضل. لكن التصنيفات تغفل البند الأهم في العقد: يتنصّل المورّدون روتينيًا من أي ضمان للدقة. تتحمّل الشركة كل المسؤولية عن مخرجات لا تستطيع تدقيقها بشكل مستقل. قرأ لاعبو السحابة الكبار الأجواء وانسحبوا — فرضت Amazon وقفًا غير محدد المدة على استخدام الشرطة لـ Rekognition، وفعلت Microsoft الأمر نفسه لـ Azure Face، وخرجت IBM من التعرف على الوجوه كليًا في عام 2020. وClearview AI، أكثر الجامعين عدوانية، محظورة كليًا في الاتحاد الأوروبي.
إذا كان مورّدك لن يضمن الدقة، والمنظِّم يحمّل أنت المسؤولية عن المخرجات، فإن تصنيف المورّد المرجعي هو أقل الحقائق إثارة للاهتمام بشأن عملية نشرك.
هناك فخّ شراء أعمق لا يراه معظم المشترين أبدًا. لم تكتفِ إجراءات لجنة التجارة الفيدرالية ضد Rite Aid بحظر التعرف على الوجوه لخمس سنوات — بل أمرت بـ نزع ملكية النموذج: تدمير كل البيانات البيومترية وكل نموذج دُرِّب عليها. أصبح نزع الملكية أداة قياسية؛ فقد أجبرت قضية في مايو 2025 شركة تقنيات تعليمية على حذف نماذجها أيضًا. المبدأ هو أنك لا تستطيع الربح من بيانات، أو من خوارزميات مشتقة من بيانات، لم يكن مسموحًا لك بجمعها. لذا فإن السؤال الذي ينبغي أن يطرحه مسؤول الشراء على مورّد ليس "ما مدى دقتك". بل "هل تستطيع أن تُثبت أن الدقة التي تبيعني إياها لم تُبنَ على بيانات قد تؤدي إلى حذف النموذج نفسه". هذا سؤال عناية واجبة، ولا يكاد أحد يطرحه.
البنوك لديها المشكلة المعاكسة — والفجوة ذاتها
البيع بالتجزئة هو الحالة الواضحة، لكن المؤسسات المالية تجلس في موقف ضيق بالقدر نفسه من الاتجاه الآخر. فبياناتها البيومترية ليست فرز قوائم مراقبة — بل هي فحوص إلكترونية لـ اعرف عميلك: التحقق من وثيقة الهوية جنبًا إلى جنب مع مطابقة الوجه وكشف الحيوية للتأكد من أن شخصًا حقيقيًا يفتح حسابًا حقيقيًا. عملية النشر برضا وضيّقة، ما يبدو أسهل. لكنه ليس كذلك، لأن العتبة تحرّكت.
اعتبارًا من 1 يناير 2026، وسّعت FinCEN متطلباتها لمكافحة غسل الأموال، والتحوّل الرقابي الأوسع لعام 2026 هو من وجود الضوابط إلى الفعالية القابلة للإثبات للضوابط. لم يعد كافيًا أن تقول إنك تُشغّل كشف الحيوية. عليك أن تُظهر أنه يعمل — أن فحص الحيوية لديك يصمد أمام هجوم تقديمي (صورة مطبوعة، فيديو معاد تشغيله، قناع سيليكون مرفوع أمام الكاميرا)، وأن معدل المطابقة الكاذبة لديك يثبت عبر المجموعات الديموغرافية، وأن الضابط يفعل شيئًا قابلًا للقياس بدلًا من مجرد الوجود. البنك الذي يستخدم مورّدًا مثل FacePhi لكشف الحيوية المصرفية هو في الموقف نفسه كتاجر التجزئة: يحمل كل المسؤولية عن نظام لا يستطيع تقييمه بشكل مستقل، ويُطلب منه الآن من قِبل منظِّمه إثبات فعالية لم يقسها قط.
الخيط الذي يربط مدير منع الخسائر بمسؤول الامتثال في البنك هو الفجوة ذاتها. كلاهما اشترى نظامًا بيومتريًا بناءً على ادعاء مورّد. ولا أحد منهما يستطيع قراءة تقرير NIST FRVT بشكل جيد بما يكفي لترجمته إلى قرار شراء، أو تدقيق جودة البيانات التي يغذّي بها النظام، أو إثبات أن عملية المراجعة البشرية لديه جوهرية لا شكلية. وتتّسع هذه الفجوة مع تسليم القرارات البيومترية إلى وكلاء ذكاء اصطناعي مستقلين — إذ إن 23% فقط من المؤسسات لديها أي استراتيجية رسمية لإدارة هوية الوكيل، وقد ظلت شركة التحقق من الهوية iProov تحذّر من "فراغ في المساءلة" حين يتخذ الوكلاء قرارات عالية التأثير دون أن يكون أحد مسؤولًا عنها بوضوح.
ماذا يشتري لك الشك المعايَر فعلًا؟
الإصلاح الأهم كان الأقل بريقًا. يُبلغ موردو التعرف على الوجوه عن درجة مطابقة — رقم — دون حدود ثقة معايَرة حوله. يقول النظام "0.94" ويقرأ المشغّل "إنها هي". لكن 0.94 مقابل صورة رأس استوديو نظيفة و0.94 مقابل صورة حجز مضى عليها عقد لشخص من مجموعة ديموغرافية تتعامل معها الخوارزمية بشكل سيئ ليسا الادعاء نفسه، والدرجة الخام تخفي الفرق.
ما ينقص هو طبقة عدم اليقين: طريقة لإرفاق ثقة صادقة معايَرة بكل مطابقة بحيث إن النتيجة الحدّية تُعلن عن نفسها بوصفها حدّية وتُحوَّل إلى إنسان بدلًا من جهاز لاسلكي لحارس أمن. هذا النوع من البرمجيات الوسيطة غير موجود تجاريًا. بناء التقييم اللازم له — الشيء الذي كان سيقول لضابط في فارغو "هذه المطابقة منخفضة الثقة بالنظر إلى جودة الصورة والمجموعة الديموغرافية للشخص، لا تتصرّف بناءً عليها وحدها" — هو العمل الذي أتمنى لو كان موجودًا قبل قضية ليبس، لا بعدها.
يمكنك أن ترى المؤسسات التي تفهم هذا بالفعل. أوقفت شرطة إسكس في المملكة المتحدة برنامجها للتعرف على الوجوه بسبب مخاطر التحيّز عقب تدقيق أجراه مكتب مفوّض المعلومات. لم ينتظروا اعتقالًا خاطئًا ليكتشفوا أن نظامهم لديه نقطة عمياء ديموغرافية. هذا هو الموقف: عامل النظام كمسؤولية إلى أن يُثبت تدقيق مستقل خلاف ذلك، بدلًا من العكس.
درجة المعيار المرجعي هي ما تعرضه في عرض مبيعات مورّد. أما حدّ الثقة المعايَر على كل مطابقة فهو ما تعرضه على المنظِّم وقاعة المحكمة — وواحد فقط من هذين يصمد أمام الاستجواب المتقابل.
السؤال الحقيقي الذي ينبغي طرحه في مكالمتك التالية مع المورّد
إذا كنت قد نشرت التعرف على الوجوه، فالحقيقة المزعجة هي أن شهادة معيارك المرجعي تقيس نظامًا مختلفًا عن ذلك الذي يعمل في متاجرك أو في تدفق التسجيل لديك. الدقة حقيقية وشبه غير ذات صلة. ما يحدّد تعرّضك هو رياضيات المجموعة المفتوحة لبيئتك، ونظافة المجموعة التي بنيتها، وما إذا كانت ولاياتك القضائية مُخطّطة، وما إذا كان الإنسان يستطيع فعلًا أن يمسك الآلة قبل أن تواجه الشخص الخطأ.
لا شيء من ذلك يظهر في تصنيف مورّد. كل ذلك يظهر في دعوى جماعية، أو أمر موافقة من لجنة التجارة الفيدرالية، أو 108 أيام لجدّة في زنزانة. لقد بنينا تدقيق الامتثال البيومتري والتعرف على الوجوه لمصلحة المشتري الذي يفضّل أن يجد تلك الفجوات في تقرير بدلًا من دعوى قضائية.
لذا في المرة القادمة التي يسلّمك فيها مورّد رقم دقة 99%، لا تسأل كيف حصل عليه. اسأل عمّا لا يغطّيه — ثم اذهب وعُدّ كم عدد الوجوه التي تمرّ أمام كاميراتك كل يوم ولم تكن أصلًا على أي قائمة من البداية.