تحيز الذكاء الاصطناعي في التوظيف: قد يكون مزود الخدمة مصدر مسؤوليتك القانونية

المشكلة

تقدّم أحد المتقدمين إلى أكثر من 100 وظيفة عبر منصة Workday. ورُفض في جميعها تقريباً — وغالباً في غضون دقائق، خارج ساعات العمل الرسمية. ولم يطّلع أي إنسان على سيرته الذاتية على الإطلاق. رفع ديريك موبلي (Derek Mobley)، وهو رجل أمريكي من أصل أفريقي تجاوز سن الأربعين ومن ذوي الإعاقة، دعوى قضائية أعادت تشكيل قانون العمل في الولايات المتحدة. وفي مايو 2025، صدّقت محكمة فيدرالية على دعوى جماعية على مستوى البلاد تشمل ملايين المتقدمين المحتملين ممن تجاوزوا سن الأربعين والذين حُرموا من توصيات التوظيف من خلال أدوات الفرز بالذكاء الاصطناعي التابعة لمنصة Workday.

إن الأرقام مذهلة؛ إذ أظهرت إفصاحات شركة Workday الرسمية خلال الفترة المعنية أن برنامجها عالج ما يقرب من 1.1 مليار حالة رفض لطلبات التوظيف. وهذا ليس خطأً مطبعياً، بل هي مليارات القرارات الآلية، التي اتُّخذ الكثير منها دون رقابة بشرية ذات مغزى.

إليك ما تغير بالنسبة لمؤسستك: في يوليو 2024، قضت القاضية ريتا لين (Rita Lin) من محكمة المقاطعة الشمالية في كاليفورنيا بأن مزودي برمجيات الذكاء الاصطناعي مثل Workday ليسوا مزودي برمجيات محايدين، بل هم "وكلاء" (agents) عن أصحاب العمل الذين يستخدمونهم. وهذا يعني أنهم يواجهون مسؤولية قانونية مباشرة بموجب الباب السابع (Title VII)، وقانون الأمريكيين ذوي الإعاقة (ADA)، وقانون مكافحة التمييز على أساس السن في التوظيف (ADEA) — وهي القوانين الفيدرالية نفسها لمكافحة التمييز التي تنطبق عليك. وإذا انطوت أداة التوظيف بالذكاء الاصطناعي لديك على تمييز، فيمكن تحميل المسؤولية لك ولمزود الخدمة معاً. لقد وضعت المحكمة حداً فاصلاً وواضحاً: نظام الذكاء الاصطناعي الذي يقيّم المرشحين ويرتبهم ويوصي بهم بنشاط يؤدي وظيفة توظيف جوهرية، ولا يقتصر عمله على مجرد فرز جدول بيانات.

لماذا يُعد هذا الأمر مهماً لمؤسستك

يغير هذا الحكم القضائي نمط المخاطر الخاص بك بثلاث طرق ملموسة.

التعرض المالي هائل ومتزايد. تغطي الدعوى الجماعية ضد Workday كل متقدم تجاوز سن الأربعين حُرم من التوصية منذ سبتمبر 2020. وقد وسّعت المحكمة نطاقها في يوليو 2025 ليشمل المتقدمين الذين خضعت طلباتهم للمعالجة عبر تقنية HiredScore AI التي استحوذت عليها Workday. وتتزايد مسؤوليتك القانونية المحتملة طردياً مع كل طلب ترفضه أدوات الذكاء الاصطناعي لديك.

العقوبات التنظيمية قائمة بالفعل. يتطلب القانون المحلي 144 لمدينة نيويورك (Local Law 144) إجراء عمليات تدقيق سنوية مستقلة للتحيز على أدوات اتخاذ قرارات التوظيف الآلية. وتبدأ العقوبات من 500 دولار للمخالفة الأولى وتتصاعد إلى 1,500 دولار لكل مخالفة يومياً في حالة تكرار المخالفات. وتسير مدن وولايات متعددة على خطى نيويورك.

الضرر بالسمعة هو التكلفة الخفية. يمكن للمحكمة أن تأمر الشركات بإخطار ملايين المتقدمين المتضررين. تخيل اسم شركتك مدرجاً في قائمة صادرة بأمر قضائي وتُرسل إلى كل شخص رفضه نظام الذكاء الاصطناعي لديك. وتوضح إرشادات لجنة تكافؤ فرص العمل (EEOC) الصادرة في مايو 2023 التزاماتك بصورة صريحة: أنت مسؤول عن نتائج الأدوات الخوارزمية، حتى لو كان طرف ثالث هو من صممها أو أدارها.

إليك خلاصة القول لميزانيتك:

• 500–1,500 دولار يومياً في صورة غرامات في مدينة نيويورك بسبب عدم إجراء تدقيقات التحيز
• 1.1 مليار حالة رفض تمت معالجتها عبر منصة واحدة خلال فترة التقاضي
• أكثر من 100 حالة رفض لمتقدم واحد، وغالباً في غضون دقائق — وهو النمط الذي أطلق شرارة كل شيء
• كل متقدم تجاوز سن الأربعين منذ سبتمبر 2020 هو مدّعٍ محتمل في هذه القضية

إذا كان مزود الخدمة لديك لا يستطيع تفسير سبب رفض المرشح — أو إذا كان يتنصل من أي مسؤولية قانونية عن التحيز — فإن شركتك تتحمل 100% من المخاطر.

ما يحدث فعلياً خلف الكواليس

تعتمد معظم أدوات التوظيف بالذكاء الاصطناعي على نماذج اللغة الكبيرة (LLMs) — وهي أنظمة مصممة للتنبؤ بالكلمة التالية الأكثر احتمالاً، وليس لاتخاذ قرارات عادلة. اعتبرها بمثابة محركات إكمال تلقائي تعمل على نطاق واسع جداً؛ فهي مبنية لتبدو منطقية ومقبولة، لا لتحقيق الدقة. وعندما تغلف أحد هذه النماذج بطبقة برمجية تطبيقية رقيقة وتطلق عليه اسم "حل توظيف"، فإنك تواجه ثلاثة أنماط فشل خطيرة.

أولاً، تفقد المعلومات في المنتصف. تُظهر الأبحاث أن نماذج الذكاء الاصطناعي القياسية تولي اهتماماً كبيراً لبداية المستندات ونهايتها، ولكنها تطور ما يسميه الباحثون "فجوة انتباه" (attention trough) في المنتصف. وفي سيرة ذاتية مؤلفة من 10 صفحات، تكون الشهادات الهامة أو الإنجازات الحديثة في الصفحات الوسطى أكثر عرضة للتجاهل من الناحية الإحصائية.

ثانياً، تختلق معلومات غير صحيحة. عندما لا يتمكن نموذج اللغة الكبير من العثور على مؤهل محدد، فإنه غالباً ما يولد افتراضاً يبدو معقولاً بناءً على النص المحيط. وقد يرفض نظامك مرشحاً مؤهلاً بناءً على "حقيقة" مفترضة لا وجود لها في أي مكان في ملفه الفعلي.

ثالثاً، تمارس التمييز من خلال المتغيرات البديلة. لا يحتاج نموذج الذكاء الاصطناعي إلى رؤية عمرك لتخمينه؛ فهو يتعلم أن عنوان بريد إلكتروني ينتهي بنطاق @aol.com، أو خبرة تزيد عن 15 عاماً، أو الإشارة إلى تقنيات قديمة مثل Lotus Notes، أو مسميات وظيفية في بدايات المسيرة المهنية تعود إلى التسعينيات، كلها ترتبط بتجاوز سن الأربعين. وعندما يُدرّب النموذج على "أصحاب الأداء العالي" في الشركة الذين يميلون إلى فئة عمرية أصغر، فإنه يعامل هذه الإشارات البديلة كمؤشرات سلبية. وهذا يخلق حلقة تغذية راجعة: إذ يكرر النظام ويضخم نفس أشكال الانحياز التي كان من المفترض أن يقضي عليها.

تستخدم لجنة تكافؤ فرص العمل (EEOC) "قاعدة الأخماس الأربعة" (Four-Fifths Rule) لاختبار التمييز. فإذا انخفض معدل الاختيار لفئة محمية عن 80% من معدل الفئة الأعلى، فإن ذلك يُعد أثراً سلبياً متبايناً (adverse impact). وفي قضية Workday، أثارت أنماط الرفض عبر الفئات العمرية هذه الإشارات التحذيرية بالضبط.

ما ينجح (وما يفشل)

لنبدأ بثلاثة أساليب شائعة تبوء بالفشل في بيئات التوظيف الخاضعة للوائح التنظيمية.

"أضفنا موجه نظام يوجه الذكاء الاصطناعي ليكون عادلاً." إن موجهات النظام (system prompts) هي مجرد اقتراحات وليست قواعد؛ ويمكن تجاوزها بسهولة ولا تقدم أي حماية قانونية. ولن يقبل القاضي حجة "أخبرنا الذكاء الاصطناعي بأن يكون لطيفاً" كاستراتيجية امتثال.

"نجري التدقيق مرة واحدة في العام." إن عمليات التدقيق السنوية ترصد المشكلات بعد وقوع الضرر بالفعل. وإذا انحرف نموذجك بين فترات التدقيق — والنماذج تنحرف بالفعل — فإنك تراكم مسؤوليات قانونية في كل يوم تتوقف فيه عن المراقبة.

"مزود الخدمة لدينا يتولى شؤون الامتثال." قضت المحكمة في قضية Mobley v. Workday بأن تفويض وظائف التوظيف لنظام آلي يوسع نطاق سلسلة المسؤولية القانونية ولا ينهيها؛ فامتثال مزود الخدمة لديك هو امتثالك أنت.

أما ما ينجح بالفعل فهو بنية هندسية تفصل معالجة اللغة عن اتخاذ القرارات. وإليك كيف تعمل عبر ثلاث خطوات:

1. المدخلات والترجمة. يقرأ نظام ذكاء اصطناعي متخصص السيرة الذاتية أو السجل الأكاديمي ويستخرج حقائق محددة: "يمتلك المرشح 5 سنوات من الخبرة في Python". وفي هذه المرحلة، تتحقق حواجز الحماية للمدخلات (input guardrails) من مشكلات جودة البيانات، وتسريبات معلومات الهوية الشخصية، ومحاولات التلاعب التنافسية. وبذلك يكون الذكاء الاصطناعي هو المترجم، وليس صانع القرار.

2. الاستدلال المنظم. تُربط تلك الحقائق المستخرجة برسم بياني للمعرفة (knowledge graph) — وهو خريطة منظمة تحدد كيفية ارتباط المهارات والأدوار والمتطلبات ببعضها البعض. بعد ذلك، يطبق محرك القواعد منطق الأعمال الخاص بك بشكل حتمي: إذا كانت الخبرة 5 سنوات على الأقل وكانت المهارة هي Python، فإن المؤهل يساوي صحيح (IF experience is at least 5 years AND skill equals Python, THEN eligible equals true). ولا يمكن للذكاء الاصطناعي أن "يهلوس" بسياسة ما لأن القواعد مكتوبة برمجياً، وليست مولدة بالتنبؤ.

3. مخرجات قابلة للتدقيق. تُنشئ كل توصية مساراً منطقياً واضحاً يوضح بدقة أي قاعدة تم تفعيلها، وبواسطة أي نقطة بيانات، وفي أي وثيقة. وتقوم حواجز الحماية للمخرجات (output guardrails) بفحص التحيز والأخطاء وانتهاكات السياسات قبل وصول أي نتيجة إلى مسؤول التوظيف. وتتيح لك تقنيات مثل SHAP — التي تحدد قيمة مساهمة محددة لكل عامل في القرار — أن تثبت للجهة التنظيمية أو القاضي أن "المهارة س ساهمت بـ +15 في درجة هذا المرشح" ولم يؤثر أي عامل آخر في النتيجة.

هذا هو الفارق الجوهري الذي يهم فريق الامتثال لديك؛ فعندما تسأل جهة تنظيمية "لماذا رُفض هذا الشخص؟"، يمكنك الإشارة إلى قاعدة محددة طبقت على حقيقة محددة، بدلاً من مطالبة الذكاء الاصطناعي بتخمين منطقه الخاص بعد فوات الأوان.

يجب على مؤسستك أيضاً تطبيق إزالة التحيز التنافسية (adversarial debiasing) أثناء تدريب النماذج. تُدرّب هذه التقنية نموذجاً ثانوياً لاكتشاف ما إذا كانت مخرجات النموذج الأساسي تكشف عن خصائص محمية مثل العرق أو العمر. وإذا نجح النموذج الثانوي، يُعاقب النموذج الأساسي ويُعاد تدريبه. والنتيجة هي نظام يزيل الأنماط التمييزية بشكل فعال ونشط بدلاً من مجرد الأمل في عدم ظهورها.

وأخيراً، قم ببناء نموذج الخطوط الثلاثة للدفاع لإدارة مخاطر الذكاء الاصطناعي. إذ تتولى وحدات الأعمال لديك مسؤولية مخاطر الذكاء الاصطناعي اليومية، بما في ذلك اختيار بيانات التدريب وإخفاء هوية المرشحين. وتحافظ وظيفة المخاطر والامتثال على سجلات النماذج وتراقب معدلات الاختيار بشكل مستمر. وتتحقق وظيفة التدقيق المستقلة من كل شيء — بما في ذلك عمليات تدقيق التحيز السنوية الإلزامية المطلوبة بموجب قوانين مثل القانون المحلي 144 لمدينة نيويورك (NYC Local Law 144).

إن التحول نحو نشر الذكاء الاصطناعي السيادي — تشغيل النماذج داخل بنيتك التحتية الخاصة بدلاً من استخدام واجهات برمجة التطبيقات (APIs) التابعة لجهات خارجية — يمنحك السيطرة على مصدر البيانات وقابلية تتبعها. حيث تظل بيانات التوظيف الخاصة بك ملكاً لك وحدك، ولا تتغير نماذجك بشكل غير متوقع بسبب قيام مزود الخدمة بإصدار تحديث.

إن قطاع تكنولوجيا الموارد البشرية والمواهب ينتقل من الأتمتة إلى التحقق. والشركات التي تدمج تدقيقات العدالة وتخفيف التحيز في صلب بنيتها الأساسية — وليس كمجرد فكرة ثانوية لاحقة — ستكون هي الشركات الصامدة عندما يصدر الحكم القضائي التالي. يمكنك قراءة التحليل الفني الكامل أو استكشاف النسخة التفاعلية للحصول على تفاصيل أعمق حول السوابق القضائية والبنية الفنية.