إلينوي تحظر حقل الرمز البريدي الذي يريد EU AI Act الإبقاء عليه. بنيتُ تدقيقاً آلياً للتوظيف يقول ذلك صراحةً بدلاً من طباعة علامة نجاح.

في الثاني من ديسمبر 2025، نشر مراقب حسابات ولاية نيويورك مراجعةً لعيّنة الـ32 شركة ذاتها التي سبق لإدارة حماية المستهلك والعامل في المدينة أن فحصتها بموجب Local Law 144، وأحصى 17 انتهاكاً محتملاً في حين لم تعثر DCWP سوى على انتهاك واحد. ووافقت DCWP على الانتقال إلى التطبيق الاستباقي.

قرأتُ ذلك وافترضتُ أن المشكلة الهندسية الصعبة تتعلق بالكشف: بناء شيء يرصد التحيز الذي فات الجولةَ الأولى. غيّر كتابةُ حزم القواعد رأيي، إذ تبيّن أن الكشف هو النصف الأسهل. النصفُ الصعب أن صاحب العمل الذي يُشغّل أدوات توظيف آلية عبر نيويورك وكولورادو وإلينوي وتكساس وكاليفورنيا والاتحاد الأوروبي يخضع لستة جهات تنظيمية تطلب ستة وثائق مختلفة الشكل، وفي موضع واحد على الأقل يطلب اثنان منها أشياء متعاكسة من العمود ذاته في البيانات.

لذا بنيتُ طبقة امتثال لذلك، وهي لوحة تحكم أسميتها Clarion تجلس فوق أدوات التوظيف بالذكاء الاصطناعي التي يُشغّلها صاحب العمل فعلاً، تقرأ تصدير تقييم مورّد واحد، وتحسب كل إحصاءات الأثر السلبي في كود حتمي، ثم تُوزّع ذلك التدقيق الواحد إلى ست مخرجات مُشكَّلة وفق كل ولاية قضائية. يمكنك الاطلاع على آلية عملها في veriprajna.com/demos/ai-hiring-compliance. كل ما يلي يعمل على تصدير اصطناعي مُبذَّر من 1,040 سجل مرشح لصاحب عمل وهمي هو "Acme Logistics, Inc."، على طلب التوظيف REQ-2026-0412. زرعتُ الانتهاك في تلك البيانات بنفسي، وهو السبب الوحيد الذي يجعلني أخبرك بما كان المحرك من المفترض أن يجده.

التدقيق الذي يجتاز الاختبار ليس التدقيق الذي يطلبه القانون

بذرتُ مجموعة البيانات، لذا لا يزال النتيجة الأولى تزعجني. اختبار الأخماس الأربعة الهامشي، الذي يُشحن في التدقيق الذاتي للمورّد، يجتاز بنظافة: أدنى نسبة تأثير عرقي 0.8196، مع تعادل المستهلكين من أصول إسبانية والسود عند هذا الحد الأدنى، وأدنى نسبة تأثير جنسي 0.8744. كلاهما عند خط 0.80 أو فوقه. لا شيء في الكود يُثبت ذلك النجاح. الرقم 0.8196 هو ما تُعيده الحسابات على المجموعة الثابتة، ويتجاوز الخط من تلقاء نفسه. على الشاشة، تقول بطاقة المعدل صراحةً: المورّد يتوقف هنا.

Local Law 144 لا تتوقف هنا. إنها تطلب نسب التأثير التقاطعية للعرق مع الجنس، والمرشحون الاصطناعيون يُقيَّمون بثلاثة أدوات محاكاة (مُقيِّم على غرار Workday-Spotlight، وجولة فيديو على غرار HireVue، ومحرك مطابقة على غرار Eightfold) وهي محوّلات ثابتة فوق تلك البيانات الاصطناعية، نماذج نمطية لا تكاملات. اقطع السجلات ذاتها وفق العرق والجنس فينقلب المشهد. مقارنةً بخلية المرجع الأبيض/الذكر التي تُقدِّم 68 من 130 مرشحاً بنسبة 52.31%، تُقدِّم خلية السوداء/الأنثى 44 من 130، أي 33.85%.نسبة التأثير 0.6471. الإسبانية/الأنثى تفشل أيضاً، بنسبة 0.7647.

الإسبانية/الأنثى هي حيث جادلتُ محركي الخاص. بموجب ضبط معدل الاكتشاف الزائف Benjamini-Hochberg عند ألفا 0.05، خلية السوداء/الأنثى فقط هي الإحصائية الموثوقة، بـ q = 0.0185. الإسبانية/الأنثى تقع عند q = 0.1629، فيُعلِّم عليها المحرك ويرفض صراحةً تصنيفها ذات دلالة. أردتُ أن تُحسب الخليتان، لأن خليتين فاشلتين قصة أفضل من خلية واحدة. يُفرّق المحرك بين النتيجة الموثوقة والعشوائية، وهو الانضباط ذاته الذي أودّ تطبيقه على أرقامي الخاصة لو كنتُ صاحب العمل على الجانب الآخر من التقرير.

ستة جهات تنظيمية، ستة وثائق مختلفة

كتبتُ حزم القواعد الست واحدة تلو الأخرى وظللتُ أحاول دمجها في نتيجة واحدة، لأن رقماً واحداً هو ما تستطيع لوحة التحكم استيعابه وما يتوقعه المشتري. لم تصمد أبداً عند ملامسة القوانين. نيويورك تريد تقرير الأثر السلبي التقاطعي بالإضافة إلى ملخص عام منشور. قانون كولورادو SB 24-205 يريد تقييم تأثير رعاية معقولة موثقاً وبرنامج إدارة مخاطر، ولا يحدد أي منهجية على الإطلاق، نافذاً في 30 يونيو 2026. Texas TRAIGA يرفض التأثير التفاضلي كأساس مستقل ويسأل عن النية. تعديلات كاليفورنيا FEHA ADS سارية منذ 1 أكتوبر 2025 وتطلب شكل توثيقها الخاص. EU AI Act يعامل التوظيف باعتباره عالي الخطورة بموجب Annex III ويطلب حوكمة البيانات بموجب Article 10 بالإضافة إلى ملف تقني بموجب Article 11، اعتباراً من 2 أغسطس 2026.

النتيجة الواحدة ماتت على حزمة تكساس. كنتُ قد بنيتُ مخرج نيويورك من النسب التقاطعية، وتجعل TRAIGA تلك الإحصاءات ذاتها لا صلة لها إثباتياً بتقييمها الخاص، لذا لم يكن ثمة ترجيح يمكن تطبيقه يجعل رقماً واحداً يعني الأمرين. ست أسئلة مختلفة، تُطرح بست أشكال مختلفة، ونتيجة الإنصاف تجيب على واحد ونصف منها تقريباً. لذا تُنتج Clarion ست مخرجات، تحمل كل منها استشهادها الخاص وتاريخ نفاذها وشكلها المطلوب، وتُبلِّغ مربعات عناوين اللوحة عن التغطية لا عن درجة: مخرجات الولايات القضائية 6، أدنى نسبة تأثير 0.65، عناصر تستوجب إجراءً بشرياً 9.

هذا العمود المتباين هو المخرج الصادق، وهو أيضاً ما لا يشحنه أحد. فحص باحثون من Cornell وData & Society وConsumer Reports 391 صاحب عمل في نيويورك بحثاً عن تدقيق التحيز الذي تستوجبه Local Law 144 فوجدوا تدقيقات تحيز منشورة لـ4.6% منهم (FAccT 2024). الالتزام ساري. الامتثال به يكاد يكون خطأ في التقريب، وقراءتي أن كثيراً من هذه الفجوة سببها أصحاب عمل يعتقدون حقاً أن نسبة النجاح الواحدة لمورّدهم أنهت المسألة.

Cramér's V 0.3321 على zip_region، ونظامان يريدان أشياء متعاكسة

كتبتُ محلِّلاً لمشكلة الرمز البريدي قبل أن أفهم مشكلة الرمز البريدي، وكان حذفه اللحظة التي غيّرت شكل المنتج. يكشف المحرك وكلاء الفئة المحمية بالارتباط، وzip_region يعود بـ Cramér's V 0.3321 مقابل العرق، 0.3253 بعد تصحيح التحيز، فوق عتبة 0.2. إنه وكيل. وهذا ليس مؤشراً يُعلّم على كل شيء: school_tier يقع عند 0.0711 في الجولة ذاتها ويجتاز.

Illinois HB 3773، نافذ منذ 1 يناير 2026، يحظر الرموز البريدية بوصفها وكلاء للفئة المحمية، لذا يُخفّض التكوين الآمن لـإلينوي المعلومات الجغرافية. EU AI Act Article 10(3) يستوجب بيانات تدريب ذات صلة وممثِّلة وكاملة، مما يستند عملياً إلى التغطية الجغرافية التي طلبت منك إلينوي للتو إزالتها. أخفِ الحقل يضعُف التزام التمثيل الأوروبي. أبقِه تنتهك إلينوي. تكوين نموذج واحد لا يستطيع تلبية الاثنين.

كان محلِّلي قد اختار فائزاً. قارن التعرّضَين، واختار الأكبر، وأصدر وضعاً نظيفاً للجانب الآخر، وهو بالضبط السلوك الذي يضع بياناً كاذباً في وثيقة مُقدَّمة. أزلتُه واستبدلتُه بحكم يُسمح للبوابة بالوصول إليه: CONFLICT. يكتب المُوفِّق بعدها مذكرة استراتيجية قانونية عوضاً عن شهادة. شغِّل تكوينين نشر، قناعاً جغرافياً كاملاً لاستدلال إلينوي وميزة منطقة أخشن لبيانات تدريب الاتحاد الأوروبي. أو، إن كان تكوين واحد مفروضاً، اختر النظام ذا التعرض الأكبر ووثِّق الخطر المقبول، مع الإشارة إلى أن عقوبات الخطورة العالية للاتحاد الأوروبي تبلغ أكبر قيمة من 15 مليون يورو أو 3% من إجمالي المبيعات السنوية العالمية كحد أقصى قانوني.

لوحة التحكم التي تقول "ممتثل" هي، في قاعة المحكمة، دليلٌ إثباتي. المذكرة التي تقول عرفنا وسعَّرنا الفرعين واخترنا هي دفاع.

هذه هي الصفقة التي كنتُ سأُبرمها بوصفي مستشاراً قانونياً عاماً في كل مرة، وهي الصفقة التي لن يُقدّمها أي منتج بُني ليُطمئن المشتري، لأن النسخة المطمئِنة تبيع أفضل حتى حين يأتي الإيداع القضائي.

حاولتُ إقناع نظامي بتمرير الاختبار

أجريتُ التجربة التي كنتُ أخشاها أكثر من غيرها، وهي معرفة ما إذا كان بإمكاني توجيه نظامي بالطلبات نحو حكم أفضل. ثمة ستة عوامل ولاية قضائية في Clarion، بالإضافة إلى مُوفِّق تعارض وشكّاك معارض، مبنية على Pydantic AI وقابلة لتبديل المزوّد. أعدتُ كتابة موجّه السرد ليميل نحو التسامح، بالطريقة التي يميل بها مورّد تحت ضغط ربع سنوي. أصبح النص أكثر دفئاً. لم يتحرك رقم واحد ولم يتغير حكم واحد، لأن كل إحصاء وكل مقارنة عتبة وكل قرار بوابة يعيش في engine.py وrulepacks.py، خارج إطار العوامل تماماً.

تظهر الخاصية ذاتها بالاتجاه الآخر. مع عدم تكوين أي مزوّد نموذج على الإطلاق، تعود المجموعة إلى قوالب حتمية ويعمل التطبيق بصورة متطابقة، ست مخرجات متطابقة، والرقم 0.6471 ذاته، وCONFLICT ذاتها. العوامل تُشير، والكود يقرر، و12 من 12 اختبار محرك تُثبِّت الحقيقة الأرضية المزروعة حتى لا ينفصل النجاح الهامشي عن الفشل التقاطعي بين التشغيلات.

يمكن للعوامل قراءة قانون وكتابة مذكرة. لكنها لا تستطيع أن تكون الشيء الذي يقرر أن عتبة قد تجاوزت، لأن موافقتها قابلة للشراء بطلب أفضل.

لم أبدأ بهذا الرأي. بدأتُ أعتقد أن العوامل هي المنتج والحساب هو السباكة، وكنتُ مخطئاً تماماً. بدَّلتُ المزوّد وبدَّلتُ الطلب وشغَّلتُه دون مفتاح على الإطلاق، والمحرك ما زال يُعيد 0.6471 عند السوداء/الأنثى وCONFLICT على zip_region. كل ما أُحسِّنه في النموذج يُحسِّن نثر المذكرة ولا شيء يفحصه مدقق.

ثلاث نظريات قانونية لم يلمسها تدقيق التحيز الناجح

بنيتُ الشكّاك المعارض توقعاً منه الجدال حول الإحصاءات، فأمضى وقته في الجدال حول النطاق بدلاً من ذلك. يرفض اعتماد ثلاثة أشياء، وكل منها نظرية قانونية مستقلة لا يغطيها تدقيق التحيز الناجح.

الأول هو التصنيف الذاتي. مذكرة المورّد التي تؤكد "مُقيِّمنا ليس AEDT" تُرفض، لأنه بموجب النظرية القانونية المُثارة في Mobley v. Workday أداةٌ تُوصي بالمرشحين أو تُصفيهم هي داخل القرار. هذه النظرية غير محسومة، ليست سابقة قضائية، وهو سبب إحالة البند إلى المستشار القانوني البشري للحصول على شهادة نطاق بدلاً من لون حالة.

الثاني هو إمكانية الوصول. على الـ432 مرشحاً الذين خضعوا لجولة الفيديو، معدل خطأ الكلمات 0.0794 لأصحاب الكلام المعياري و0.3016 للـ104 مرشحين أصحاب الكلام غير المعياري، وهو تباين بمقدار 3.8 مرة لا تختبره Local Law 144 قط، لأن LL144 تتعلق بالعرق والجنس. النظرية المُثارة في D.K. v. Intuit/HireVue هي نظرية ADA، وهي تنجو من تدقيق التحيز المثالي دون أن تُمسَّ. تكشف Clarion التباين وتُحيله إلى مراجعة بشرية لـADA. إنها لا تبني سير عمل التيسير، ولن أتظاهر بخلاف ذلك.

الثالث هو FCRA، الذي لا يهتم بالإنصاف على الإطلاق. في هذا التصدير، 510 مرشحين جرى تقييمهم من بيانات مجمَّعة من طرف ثالث وتصفيتهم بناءً على نتيجة رقمية، وهو النمط محل النزاع في Kistler v. Eightfold. إن كانت المنصة وكالة تقارير مستهلكين، فكل مرشح مُقيَّم يستحق إشعار إجراء سلبي ومسار طعن بصرف النظر عن مدى توازن النتائج. تكشف Clarion المُشغِّل وتُحيله إلى بنية تحتية للإجراء السلبي والطعن. إنها لا تبني بوابة المرشح أيضاً. أجد هذا الأقل بداهةً من الثلاثة، والأكثر احتمالاً للإغفال من فريق أنجز كل شيء صحيحاً في الإنصاف، لأن شيئاً في الإحصاءات لا يُخبرك بالجواب. السؤال الذي يطرحه FCRA يتعلق بما تكون عليه المنصة is، ويمكن لشركة أن تجتاز كل نسبة تأثير في التقرير وما زالت مدينة لمئات من الناس بإشعار لم تُرسله قط.

الحزمة التي كنتُ سأُسلِّمها لمن يوقّعها

أبقيتُ سؤالاً واحداً مُعلَّقاً أمامي طوال البناء: ما الذي يحتاجه الشخص الذي يوقّع هذا فعلاً، وليس نتيجة. عبر الأنظمة الست يُقيِّم المحرك 13 التزاماً ويُعيد 2 PASS و2 FAIL و7 NEEDS_PROOF و2 CONFLICT. بوصفها تغطيةً على هذا التصدير الاصطناعي المُبذَّر، 2 من 13 التزاماً تتحقق آلياً بالبيانات وحدها، و9 من 13 تُحال إلى إنسان مُسمَّى لأنها NEEDS_PROOF أو CONFLICT. على نظام مُباع باعتباره أتمتة تبدو تلك النسبة فشلاً. بوصفه تدقيقاً، هو الشكل الوحيد الذي كنتُ سأضع اسمي تحته.

التصدير عبارة عن حزمة مرتبطة بسلسلة SHA-256 من 17 عقدة، تربط كل عقدة بهاش العقدة التي سبقتها، بحيث يكسر أي تعديل لأي عقدة السلسلة. تصدر بصيغة JSON وكحزمة HTML قابلة للطباعة، مع حمل كل رقم لمدخلاته وحسابه وكل حكم لاستشهاده. تتحقق السلسلة في كل تشغيل ومقاومة التلاعب مُختبَرة وحدوياً.

Veriprajna لا توقّع على هذا. دور مدقق Local Law 144 المستقل يعود إلى شركات مثل DCI وORCAA وSecretariat، والهدف التصميمي الكامل للحزمة هو أن يستطيع أحدهم التوقيع عليها دون إعادة كتابتها أولاً. الاستعراض الكامل للتشغيل، بما في ذلك مذكرة التعارض، متاح في veriprajna.com/demos/ai-hiring-compliance.

وإن كنتَ تُفضّل مشاهدة البوابة ترفض على قراءتي أصفها، إليك التشغيل كاملاً من البداية إلى النهاية، بما في ذلك مذكرة التعارض.

مذكرة التعارض تترك صاحب العمل ممتثلاً تماماً كما كان في اليوم السابق. ما تضيفه هو مقايضة مقروءة ومُؤرَّخة وقابلة للإسناد، بحيث أنه بعد عامين، حين يسأل أحدهم من قرّر الاحتفاظ بحقل الرمز البريدي وما الذي كان يعرفه حين قرّر ذلك، ثمة وثيقة تجيب بدلاً من شارة خضراء تحتاج إلى تفسير.