بنينا تدقيق تحيّز واحدًا ليمتثل لستة قوانين للتوظيف بالذكاء الاصطناعي، فأخفق في الأسبوع نفسه الذي أطلقناه فيه

كان أول ما اضطررت إلى شرحه لمديرة الموارد البشرية التنفيذية في الشتاء الماضي هو أن شركتها باتت الآن تخالف القانون بطريقة لم يكن لدى أيّ فرد في فريقها المفردات اللازمة لوصفها.

كانت تدير التوظيف في نيويورك وشيكاغو ودنفر وأوستن ومكتب في لندن. كانت منظومتها التقنية عادية لا تلفت النظر — نظام لتتبّع المتقدّمين، وطبقة فرز بالذكاء الاصطناعي مركّبة فوقه، ومورّد لمقابلات الفيديو، وروبوت محادثة لجدولة المواعيد. مشتريات نمطية من عام 2024. المشكلة أنه بين أكتوبر 2025 وأغسطس 2026، قرّرت ست حكومات مختلفة، بشكل شبه مستقل، أن هذه المنظومة بالذات نشاطٌ عالي المخاطر خاضع للتنظيم. وكتب كلٌّ منها القواعد بطريقة مختلفة قليلًا.

هذا ما يبدو عليه امتثال التوظيف بالذكاء الاصطناعي فعليًا الآن: ليس قانونًا واحدًا يُتّبع، بل كومة من القوانين المتداخلة التي تتناقض فيما بينها أحيانًا، جاثمة فوق مسار توظيف لم يُبنَ قط ليخضع للتفتيش. حين بدأت أتعمّق في الأمر، افترضت أن المهمة هي إجراء تدقيق جيّد للتحيّز. كنت مخطئًا، والطريقة التي أخطأت بها هي القصة كلها.

مديرة الموارد البشرية التي خضعت لستة أنظمة تنظيمية قبل موعد الغداء

دعوني أوضّح ما كانت تواجهه فعليًا، لأن هذا التقارب هو الجزء الذي يستهين به الناس.

دخلت تعديلات قانون FEHA في كاليفورنيا بشأن أنظمة القرار الآلية حيّز التنفيذ في 1 أكتوبر 2025 — أربع سنوات من الاحتفاظ الإلزامي بكل مُدخَل ومُخرَج ونتيجة اختبار تحيّز، ومسؤولية تنشأ سواء كان التمييز متعمَّدًا أم لا، بالنسبة إلى أيّ صاحب عمل يوظّف في كاليفورنيا بغضّ النظر عن مقرّه الرئيسي. ودخل قانون إلينوي HB 3773 حيّز التنفيذ في 1 يناير 2026، وهو يحظر صراحةً استخدام الرموز البريدية كبدائل عن الفئات المحمية. ودخل قانون تكساس TRAIGA حيّز التنفيذ في اليوم نفسه — غير أن تكساس رفضت عمدًا الأثر التمييزي المتباين كنظرية، ولا تعاقب إلا على التمييز المتعمَّد، مع غرامات تتراوح بين 12,000 دولار عن مخالفة قابلة للتصحيح و200,000 دولار عن مخالفة غير قابلة له — مع مهلة 60 يومًا للتصحيح قبل أن تتصلّب العقوبة، وهي تفصيلة تغيّر كيفية فرزك لإشعار من تكساس مقابل إشعار من نيويورك. ويدخل قانون الذكاء الاصطناعي في كولورادو حيّز النفاذ في 30 يونيو 2026. ويعامل قانون الذكاء الاصطناعي الأوروبي التوظيف على أنه نشاط عالي المخاطر ضمن الملحق الثالث اعتبارًا من 2 أغسطس 2026، بعقوبات تصل إلى 35 مليون يورو أو 7% من إجمالي الإيرادات السنوية العالمية.

وهكذا فإن شركة واحدة لها مكاتب في تلك المدن الخمس ولندن تخضع لستة أنظمة تنظيمية، ثلاثة منها سارية بالفعل، وثلاثة تدخل حيّز التنفيذ قبل نهاية الصيف. قرار التوظيف نفسه. وستة تعريفات مختلفة لما يجعله غير قانوني.

الشركة التي توظّف في نيويورك وشيكاغو ودنفر وأوستن ولندن لا تدير عملية توظيف واحدة. إنها تدير عملية واحدة تعتقد ست حكومات أن كلًّا منها تملكها.

ثم جاء الجزء الذي أسكت الحاضرين في الغرفة: الشيء الذي كان معظمهم يعتمدون عليه للبقاء في مأمن قد توقّف للتو عن العمل.

هل «يقول مورّدنا إنها ليست أداة قرار توظيف آلية (AEDT)» لا يزال دفاعًا صالحًا؟

طوال عامين، كانت الاستراتيجية الصامتة في نيويورك شيئًا أطلق عليه الباحثون اسم الامتثال الصفري — وحالما تراه، تراه في كل مكان. يفوّض القانون المحلي رقم 144 في مدينة نيويورك صاحبَ العمل في تحديد ما إذا كانت أداته «تساعد إلى حدٍّ كبير» في قرار توظيف. لذا قرّر أصحاب العمل أنها لا تفعل. وقد استقصت دراسة أجرتها جامعة Cornell ومنظمة Data & Society ومجلة Consumer Reports وعُرضت في مؤتمر FAccT عام 2024 آراء 391 صاحب عمل في مدينة نيويورك يشغّلون هذه الأدوات، فوجدت أن 4.6% فقط نشروا تدقيق التحيّز الذي يتطلبه القانون. و3.3% فقط نشروا إشعار الشفافية. أما البقية فقد صنّفوا أنفسهم فعليًا خارج نطاق القانون.

كانت مجرّد مذكّرة. في مكانٍ ما داخل القسم القانوني، كانت هناك مذكّرة من صفحة واحدة تعود إلى عام 2024 تقول: أخبرنا مورّدنا أن هذه ليست أداة AEDT، لذا لا ينطبق عليها القانون المحلي 144. تلك المذكّرة كانت هي برنامج الامتثال بأكمله.

ثم جاء يوم 2 ديسمبر 2025. دقّق المراقب المالي لولاية نيويورك في إنفاذ المدينة للقانون فوجد 17 مخالفة محتملة للقانون المحلي 144 في العيّنة نفسها المؤلَّفة من 32 شركة، حيث لم تجد وكالة المدينة ذاتها سوى مخالفة واحدة. وكانت 75% من مكالمات الشكاوى قد وُجِّهت إلى الجهة الخطأ. واعترفت الوكالة رسميًا بأن موظفيها يفتقرون إلى الخبرة التقنية اللازمة لتقييم هذه الأدوات — ووافقت على التحوّل إلى إنفاذٍ استباقي قائم على البحث. ولم يتغيّر هيكل العقوبات: ما يصل إلى 1,500 دولار في اليوم عن كل مخالفة. شغّل أداة واحدة غير مُدقَّقة باستمرار في نيويورك وستجد نفسك أمام أكثر من نصف مليون دولار سنويًا قبل أن يرفع أحدٌ دعوى خاصة.

لم يكن «الامتثال الصفري» موقفًا قانونيًا قط. بل كان رهانًا على أن لا أحد يتحقّق. وفي 2 ديسمبر 2025، بدأ أحدهم يتحقّق.

أتذكّر أنني كنت أقرأ ملف PDF لتدقيق المراقب المالي في أحد أيام الأحد وأنا أفكّر: كل واحدة من مذكّرات التصنيف الذاتي لعام 2024 أصبحت للتوّ مستندًا ضمن أدلة الإفصاح القضائي. وهو أمرٌ تبيّن أنه ليس مجازًا.

الدعاوى القضائية التي تعيد بهدوء تعريف مَن يتحمّل المسؤولية

لأن الأمر الآخر الذي يجري بالتوازي هو أن المحاكم تفكّك فكرة أن رأي المورّد يحميك.

في قضية Mobley v. Workday، رفضت القاضية ريتا ف. لين ردّ الدعوى، إذ رأت أن مورّد أدوات التوظيف بالذكاء الاصطناعي يمكن أن يكون مسؤولًا مباشرةً بصفته «وكيلًا» عن صاحب العمل عندما توصي أداته بمرشحين أو تصفّيهم — بصرف النظر عمّا تزعم مذكّرة صاحب العمل أن الأداة تفعله. وقد منحت المحكمة اعتمادًا جماعيًا أوليًا في مايو 2025، وأُغلقت نافذة الانضمام أمام المتقدّمين الذين تجاوزوا الأربعين في 7 مارس 2026. ثم أمرت القاضية شركة Workday بتقديم قائمة شاملة بكل صاحب عمل فعّل منتجات الفرز HiredScore الخاصة بها، رافضةً محاولة إبقاء الأدوات المستحوَذ عليها لاحقًا خارج القضية. وبحسب تقدير المحكمة نفسها، أكثر من مليار متقدّم ربما مرّوا عبر ذلك المسار.

وفي 20 يناير 2026، انفتحت جبهة جديدة. Kistler v. Eightfold تطرح سؤالًا لم يرغب أحد في قطاع تقنيات الموارد البشرية في طرحه: هل هذه المنصّات وكالات إبلاغ عن المستهلك بموجب قانون الإبلاغ الائتماني العادل (Fair Credit Reporting Act)؟ تزعم الشكوى أن Eightfold جمعت بيانات من LinkedIn وGitHub وStack Overflow، وكوّنت ملفات عن المرشحين من «أكثر من 1.5 مليار نقطة بيانات عالمية»، وأنتجت درجة «احتمال النجاح» من 0 إلى 5 دون أي إشعار للمرشّح ولا إفصاح ولا آلية للاعتراض. وإذا وافقت محكمة على ذلك، فإن كل منصّة مماثلة مدينة لكل مرشّح جرى تسجيله بإشعار إجراء سلبي وبوسيلة للطعن فيه — وتتراوح التعويضات القانونية بموجب FCRA بين 100 و1,000 دولار لكل مستهلك عن كل مخالفة. اضرب ذلك في كل مرشّح سبق لمنصّة أن سجّلت درجته.

هذا إذن المشهد الذي كان يقف فيه عميلي. ستة أنظمة تنظيمية، ودعويان قضائيتان قائمتان تعيدان تعريف المسؤولية، وجهةٌ تنظيمية تعلّمت للتوّ كيف تدقّق. كان حدسي — وأتحمّل مسؤوليته، لأنه كلّفني شهرًا — أن الحل هو تدقيق تحيّز شامل جيّد بحق.

التدقيق الشامل الذي تعذّر وجوده

ما بنيته أولًا يستحق الوصف، لأنه بالضبط المكان الذي انهار فيه النهج بأكمله.

كانت الخطة أنيقة: تحليل واحد صارم للأثر السلبي، يُجرى وفق المنهجية التي يستخدمها مدقّقون مستقلّون مثل DCI Consulting وORCAA، ثم نُسقِطه على الولايات القضائية الست جميعها. اجتزه مرة واحدة، ووثّقه جيدًا، وأرضِ الجميع. بنينا المسار، وسحبنا بيانات التوظيف، وحسبنا نسب التأثير وفق قاعدة الأخماس الأربعة، بل أجرينا حتى التقسيمات التقاطعية للعِرق حسب الجنس التي تشترطها نيويورك تحديدًا.

ثم جلست لأُسقِط النتيجة الواحدة على الأنظمة التنظيمية الستة، فتهاوت أمام عينيّ.

تطالب نيويورك بنسب تأثير تقاطعية. وتطلب كولورادو «العناية المعقولة» دون أي اشتراط تقاطعي على الإطلاق. ولا تعترف تكساس أصلًا بالأثر التمييزي المتباين كنظرية، ومن ثمّ فإن التمرين الإحصائي برمّته لا صلة له قانونيًا بالموضوع هناك — القصد وحده هو المهم. ولا يتضمّن قانون الذكاء الاصطناعي الأوروبي قاعدة الأخماس الأربعة؛ بل يتضمّن إلزامًا بتمثيلية البيانات بموجب المادة 10. تدقيق واحد، يُجرى بطريقة واحدة، يُنتج مخرجًا صحيحًا لولاية قضائية واحدة وإما غير كافٍ وإما غير ذي صلة بالنسبة إلى الأخريات.

أما الأعمق — تلك التي أوقفتني حقًا — فكانت الرمز البريدي. يحظر قانون إلينوي HB 3773 صراحةً استخدام الرموز البريدية كبدائل عن الفئات المحمية؛ فإذا أزلتها، تصبح ممتثلًا. لكن المادة 10(3) من قانون الذكاء الاصطناعي الأوروبي تشترط أن تكون بيانات التدريب «ذات صلة، وتمثيلية، وخالية من الأخطاء»، والتغطية الجغرافية التي تجعل مجموعة البيانات تمثيلية هي غالبًا بالضبط ما تشفّره الرموز البريدية. أزِل الحقل فتسقط في اختبار التمثيلية الأوروبي. أبقِه فتخالف قانون إلينوي.

حقل البيانات نفسه سلعةٌ مهرّبة في إلينوي ودليلٌ إلزامي في بروكسل. لا توجد نسخة من مجموعة البيانات تكون نظيفة في المكانين في آنٍ واحد.

لا يمكنك أن تدقّق طريقك للخروج من تناقض في القانون نفسه. كنت قد أمضيت أسابيع في بناء أداة للإجابة عن سؤال، والمشكلة الحقيقية أن للسؤال ستة إجابات صحيحة مختلفة، اثنتان منها متنافيتان تمامًا. تلك كانت نقطة التحوّل. لم يكن المنتج محرّك تدقيق أفضل. كان المنتج الشيء الذي يقع فوق عمليات التدقيق ويوفّق بينها — ويخبرك بصدق أيّ التعارضات يتعذّر التوفيق بينها، حتى يتمكّن مستشارك القانوني العام من اتخاذ قرار استراتيجية قانونية بدلًا من التظاهر بأن التعارض غير موجود.

التعرّض للمخاطر الذي لم يكن أيّ تدقيق تحيّز يرصده

حالما توقّفت عن محاولة بناء تدقيق واحد، بدأت أرى الثغرات التي لم تغطّها عمليات التدقيق قط. اثنتان منها كبيرتان.

الأولى هي إمكانية الوصول، وهي عالَم قانوني قائم بذاته. في مارس 2025، رفع اتحاد الحريات المدنية الأمريكي (ACLU) شكوى نيابةً عن متقدّمة صمّاء من السكان الأصليين، «D.K.»، يزعم فيها أن عملية مقابلة فيديو مُدارة بالذكاء الاصطناعي مارست تمييزًا ضدها بموجب قانون ADA والباب السابع (Title VII) وقانون الحقوق المدنية في كولورادو. انزع القوانين جانبًا فيصبح الضرر واضحًا: مرشّحة مؤهّلة استُبعِدت لأن الآلة حرفيًا لم تستطع سماعها — ولم يرَ أحد في الموارد البشرية لحظة الرفض قط. الواقع التقني الكامن وراء هذا الادّعاء قاسٍ: لا يزال التعرّف الآلي على الكلام يؤدّي أداءً أسوأ بكثير مع كلام ذوي الإعاقة. ويعمل نموذج Whisper من OpenAI بنحو ثلاثة أضعاف معدّل الخطأ في الكلمات مع الكلام متعدّد اللغات وغير القياسي، بل إن الفريق الفائز في تحدّي Interspeech Speech Accessibility Project Challenge لعام 2025 — الذي دُرّب على أكثر من 400 ساعة من أكثر من 500 متحدّث من ذوي إعاقات النطق — بلغ معدّل خطأ في الكلمات قدره 8.11% على الكلام المعتلّ، وهو ما لا يزال أضعافًا مضاعفة للمعيار المرجعي للإنجليزية القياسية. إن تدقيق تحيّز يفحص نسب التأثير بحسب العِرق والجنس سيجيز أداة تعجز بشكل منهجي عن فهم مرشّح أصمّ، لأن ذلك نظرية قانونية مختلفة باختبار مختلف لا يكاد أحد يُجريه. وأنا الآن أتعامل مع اختبار إمكانية الوصول بوصفه تخصّصًا منفصلًا له مخرجه الخاص، لأنه كذلك بالفعل.

الثانية هي الأمن، وقد تعلّمت أن أضعه على الطاولة بعد حادثة McHire. في يونيو 2025، اكتشف الباحثان Ian Carroll وSam Curry أن منصّة التوظيف الخاصة بـ McDonald's، المبنية على Paradox.ai، كانت قد كشفت سجلات نحو 64 مليون متقدّم — الأسماء والبُرد الإلكترونية وأرقام الهواتف ونصوص مقابلات روبوت المحادثة كاملة. وكان السبب الجذري حساب مسؤول اختباري يعود إلى عام 2019 كان اسم المستخدم وكلمة المرور فيه كلاهما 123456، دون أي مصادقة متعدّدة العوامل، إضافةً إلى خللٍ في واجهة برمجة التطبيقات (API) سمح لأي شخص بالمرور تباعًا عبر معرّفات المتقدّمين. ومنظومة الامتثال لديك لا تكترث بأن الحلقة الأضعف كانت حساب اختبار منسيًّا لدى المورّد. فالتزام الإبلاغ عن الاختراق، والتعرّض لدعاوى جماعية، وفقدان الأساس القانوني لمواصلة معالجة تلك البيانات — كل ذلك يقع على عاتق صاحب العمل. وبعد ذلك الإفصاح، صار مسؤول أمن المعلومات (CISO) حاضرًا على الطاولة في كل عملية شراء لتقنيات الموارد البشرية، ولم تعد رسالة SOC 2 العامة مراجعةً أمنية واعية بالذكاء الاصطناعي.

لماذا لا يمكنك ببساطة شراء أداة لهذا الغرض؟

يسألني الناس دائمًا صيغةً ما من هذا السؤال: ألا يمكنني ببساطة شراء أداة لهذا؟ وأنا أتفهّم هذا الدافع، لأن السوق مليء بخيارات تبدو ذات مصداقية. الإجابة الصادقة هي لا، ويجدر بك أن تعرف السبب قبل أن تنفق.

منصّات الحوكمة المتخصّصة — FairNow وHolistic AI وCredo AI التي جمعت نحو 45 مليون دولار — جيّدة حقًا فيما تفعله. لكن كلًّا منها يقدّم منهجية واحدة في جوهرها ويعمل على بياناتك؛ ولا واحدة منها تقف بينك وبين Workday وتستخلص ما يحميه — وما لا يحميه — عقدُ مورّدك الفعلي. والمدقّقون المستقلّون مثل DCI وORCAA ينتجون عملًا ممتازًا مقابل 50,000 إلى 200,000 دولار لكل نظام سنويًا، لكنه لقطة على وتيرة سنوية، لا إجابة دائمة عن ستة أنظمة تنظيمية متحرّكة. أما شركات المحاسبة الأربع الكبرى فستقبل المهمة بلا شك — مقابل 500,000 دولار إلى عدة ملايين — بفرق استشارية لا تبني التكنولوجيا ولا تستطيع الخوض في التفاصيل التقنية لسبب تصرّف نموذج الفرز لديك على النحو الذي يتصرّف به.

الثغرة ليست مورّد تدقيق مفقودًا. بل هي أن لا أحد في قائمتك المختصرة يستطيع أن يقف في آنٍ واحد بين مديرة الموارد البشرية والمستشار العام ومسؤول أمن المعلومات وكل مورّد لتقنيات الموارد البشرية — ويكون مستعدًا لأن يخبرك أين يستحيل ببساطة استيفاء القانون.

ما بنيناه في Veriprajna هو الشيء الذي يسكن تلك الثغرة: ممارسة للتوفيق بين الولايات القضائية وللعناية الواجبة تجاه أدوات AEDT، تحصي كل أداة تلامس عملية التوظيف لديك، وتُجري التدقيق المناسب لكل نظام تخضع له بدلًا من تدقيق عام واحد، وتختبر إمكانية الوصول والأمن بوصفهما تخصّصين قائمين بذاتهما، وتمنح مستشارك القانوني العام أرقام التكاليف والجداول الزمنية للتقاضي للدفاع عن الميزانية أمام المدير المالي. ليست تأمينًا تأمل ألا تحتاجه أبدًا — بل توثيقًا ستكون سعيدًا جدًا بامتلاكه حين يأتي إنفاذ نيويورك الاستباقي، أو قائمة الإفصاح في قضية Mobley، باحثًا عنك.

الأيام الـ120 التي تحسم هذا الأمر

السبب في أنني أُبقي عدًّا تنازليًا لهذا الأمر ليس التهويل. بل أن الروزنامة قاسية بشكل غير معتاد في هذه اللحظة. فموعد كولورادو النهائي يبعد نحو اثني عشر أسبوعًا. والتزامات الاتحاد الأوروبي عالية المخاطر تحلّ بعد ذلك بنحو أربعة أسابيع. وقد انقلب موقف الإنفاذ في نيويورك بالفعل. وعملية الإفصاح في قضية Mobley تُنتج قائمة أصحاب العمل بينما تقرأ هذا.

ما غيّر تفكيري أنا، وما أودّ أن يستخلصه مدير موارد بشرية أو مستشار قانوني عام من كل هذا، ضيّقٌ ومحدّد: الحركة الوقائية القديمة — دع المورّد يعرّف الأداة على أنها خارج النطاق، وأجرِ تدقيقًا واحدًا، واحفظ المذكّرة — لم تكن قط برنامج امتثال. بل كانت رهانًا على أن لا أحد يملك مهارة تقنية يتفحّص الأمر. الجميع يتفحّص الآن، من ست جهات، واثنتان من تلك الجهات تختلفان حتى حول ما يُفترض بك أصلًا أن تفعله. لم يعد العمل هو اجتياز تدقيق. بل صار معرفة موقعك بالضبط، نظامًا تلو الآخر — بما في ذلك المواضع التي تكون فيها الإجابة الصادقة أن القانون يناقض نفسه وأن على أحدهم أن يقرّر إلى أي اتجاه يميل. هذا ليس أداةً تشتريها. بل حُكمٌ عليك أن تبذل العمل فعلًا لتستحقّه. يمكنك أن ترى كيف نفعل ذلك هنا.