دعاوى انحياز التوظيف بالذكاء الاصطناعي: ماذا تعني قضية اتحاد الحريات المدنية لكم؟

المشكلة

في مارس 2025، قدم اتحاد الحريات المدنية الأمريكي في كولورادو (ACLU of Colorado) شكوى إدارية ضد شركة Intuit ومورد الذكاء الاصطناعي التابع لها HireVue. وتتمحور القضية حول D.K.، وهي امرأة صماء من السكان الأصليين حُرمت من ترقية بواسطة أداة مؤتمتة للمقابلات عبر الفيديو. كانت D.K. موظفة عالية الأداء وتتمتع بتقييمات إيجابية ومكافآت سنوية. وقد تقدمت لشغل منصب مدير موسمي (Seasonal Manager)، وطُلب منها إجراء مقابلة فيديو يتم تقييمها عبر الذكاء الاصطناعي.

وقد أبلغت فريق إمكانية الوصول في الشركة بأن المنصة تعاني من قيود بالنسبة للمستخدمين الصم، وطلبت توفير مدوّن نصوص بشري. ولكنها أُجبرت بدلاً من ذلك على الاعتماد على تسميات توضيحية مؤتمتة معرضة للأخطاء. ولم يتمكن نظام الذكاء الاصطناعي من تفسير كلامها بدقة بسبب «لكنتها الناتجة عن الصمم». ثم قدم لها ملاحظات تقييمية تقترح عليها «ممارسة الاستماع النشط» — وهو تعليق سخيف من الناحية التقنية ومهين في الوقت نفسه لشخص يعاني من ضعف السمع.

ولم يقتصر الأمر على خذلان النظام لها فحسب، بل إنه قيّم مهاراتها في التواصل استناداً إلى بيانات مشوهة. لم تتطابق أنماط كلامها مع بيانات التدريب المتمحورة حول السامعين التي بُني عليها الذكاء الاصطناعي، ولذلك صنفها النظام بأنها تفتقر إلى «الثقة» و«مهارة التواصل». ويمكن أن تواجه مؤسستكم الشكوى ذاتها غداً إذا نشرتم أدوات مماثلة دون ضمانات مناسبة. لم يكن هذا منتجاً هامشياً؛ إذ تُعد HireVue إحدى منصات المقابلات بالذكاء الاصطناعي الأكثر استخداماً في العالم.

لماذا يهم هذا أعمالكم

هذه ليست مجرد مشكلة علاقات عامة؛ إذ إن المخاطر القانونية والمالية الناجمة عن أدوات التوظيف المنحازة بالذكاء الاصطناعي باتت حقيقية وقابلة للقياس وتتنامى بسرعة. وإليكم ما ينبغي لفريقكم القيادي معرفته.

• تخلق قاعدة الأخماس الأربعة مسؤولية قانونية تلقائية. إذا انخفض معدل اختيار أداة الذكاء الاصطناعي لديكم لمجموعة محمية قانوناً عن 80% من معدل المجموعة الأكثر اختياراً، فإنكم تواجهون دعوى «أثر متباين» (disparate impact) بموجب الباب السابع (Title VII) وقانون الأمريكيين ذوي الإعاقة (ADA). لا يلزم وجود نية للتمييز؛ فالأرقام وحدها كفيلة بإطلاق دعوى قضائية.
• يدخل قانون الذكاء الاصطناعي في كولورادو (SB 24-205) حيز التنفيذ في أوائل عام 2026. ويتطلب إجراء تقييمات سنوية للأثر لأي نظام ذكاء اصطناعي يتخذ «قرارات ذات تبعات جوهرية» مثل التوظيف أو الترقية. ويفتح عدم الامتثال الباب أمام الدعاوى المدنية والغرامات التنظيمية.
• يفرض القانون المحلي رقم 144 لمدينة نيويورك بالفعل عمليات تدقيق مستقلة للانحياز على أدوات اتخاذ قرارات التوظيف المؤتمتة. وتُطبق غرامات يومية في حال عدم الامتثال، وتوجد مشاريع قوانين مماثلة قيد النظر في كاليفورنيا وإلينوي.
• يُصنف قانون الذكاء الاصطناعي للاتحاد الأوروبي الذكاء الاصطناعي في التوظيف ضمن الفئة عالية المخاطر. ويمكن أن تؤدي المخالفات إلى فرض غرامات تُحتسب كنسبة من إيراداتكم العالمية.
• في قضية موبلي ضد وورك داي (Mobley v. Workday)، قضت محكمة فيدرالية بإمكانية معاملة مورد الذكاء الاصطناعي بوصفه «وكيلاً» أو «صاحب عمل غير مباشر». وهذا يعني أن المسؤولية لا تنحصر عند المورد، بل تمتد مباشرة إلى شركتكم.

تُظهر الأبحاث أن أنظمة التعرف على الكلام القياسية تسجل معدل خطأ في الكلمات يصل إلى 78% عند معالجة كلام الأفراد الصم أو ضعاف السمع ذوي وضوح النطق المتوسط أو المنخفض. ويعني هذا أن الذكاء الاصطناعي لديكم يتخذ قرارات بناءً على بيانات خاطئة بنسبة 78%. وأي نموذج يحلل نصاً مفرغاً بمعدل الخطأ هذا يولد في الأساس نتائج مستمدة من التشويش. وإذا كان نظام التوظيف لديكم يعتمد على مقابلات الفيديو المقيمة بالذكاء الاصطناعي، فإن هذه الأرقام ينبغي أن تثير قلق مستشاركم القانوني العام.

ما الذي يحدث فعلياً خلف الكواليس

إليكم المشكلة التقنية الجوهرية بلغة واضحة: معظم أدوات التوظيف بالذكاء الاصطناعي في السوق هي ما يُطلق عليه المهندسون «أغلفة النماذج اللغوية الكبيرة» (LLM wrappers) — وهي واجهات رقيقة موضوعة كطبقة فوق نماذج ذكاء اصطناعي عامة الأغراض مثل GPT-4 أو Claude. فكروا في الأمر كوضع طلاء خارجي مخصص على سيارة مستأجرة؛ قد يبدو مظهرها مختلفاً، لكن المحرك بالداخل يظل هو نفسه دون تغيير.

وقد تم تدريب هذه النماذج العامة على مجموعات بيانات ضخمة مأخوذة من الإنترنت، وتعكس تلك البيانات انحيازات تاريخية. فإذا كانت بيانات التوظيف السابقة تفضل فئات ديموغرافية معينة، فإن النموذج يعامل ذلك النمط بوصفه هدفاً يجب تحسين الأداء لأجله. إنه لا يدرك الفرق بين المهارة الوظيفية الحقيقية وبين أثر إحصائي ناتج عن التمييز.

في قضية D.K.، عانى النظام مما يُسميه المهندسون «انهيار الوسائط» (Modality Collapse)؛ حيث أفرط الذكاء الاصطناعي في الاعتماد على قناة بيانات وحيدة — وهي الصوت — لتقييمها. ويسجل المتحدثون بالإنجليزية الأمريكية القياسية معدل خطأ في الكلمات يتراوح بين 10% و18%، بينما يواجه المتحدثون بالإنجليزية العامية للأمريكيين من أصل أفريقي معدلات خطأ بين 20% و35%. ويصل المعدل لدى المتحدثين الصم ذوي النطق عالي الوضوح إلى 53%، بينما يرتفع لدى المتحدثين الصم ذوي النطق المتوسط أو المنخفض إلى 77% و78%.

وعندما تكون البيانات التأسيسية للذكاء الاصطناعي فاسدة إلى هذا الحد، فإن كل تقييم لاحق يصبح غير موثوق. لقد أخبر النظام D.K. بضرورة «ممارسة الاستماع النشط» ليس لنقص في مهارتها، بل لعجز الآلة عن معالجة كلامها، حيث خلط النظام بين إخفاق التفريغ الصوتي وإخفاق المرشحة. ولن تتمكن أي علامة تجارية براقة موضوعة فوق محرك معطوب من إصلاح ذلك.

كما تفتقر هذه الأدوات القائمة على الأغلفة إلى ما يُعرف بـ «العدالة المضادة للواقع» (Counterfactual Fairness) — وهي القدرة على إثبات أن تقييم المرشح كان سيظل كما هو دون تغيير لو كان عرقه أو جنسه أو وضعه من حيث الإعاقة مختلفاً. ودون هذا الإثبات، لن تتمكنوا من الدفاع عن نظامكم أمام المحكمة.

ما الذي ينجح (وما الذي لا ينجح)

دعونا نبدأ بما يفشل.

أغلفة الذكاء الاصطناعي العامة الخالية من ضوابط الانحياز. ترث هذه الأدوات كل انحياز متجذر في بيانات تدريبها، ولا تقدم أي مقاييس للعدالة، ولا مسار تدقيق، ولا وسيلة لإثبات عدم التمييز.

المراجعات اليدوية اللاحقة. إن رصد الانحياز بعد اتخاذ القرار لا يحميكم قانونياً؛ فبحلول الوقت الذي يراجع فيه مدقق بشري النتائج، يكون الضرر — والمسؤولية القانونية — قد وقعا بالفعل.

إخلاء المسؤولية القانوني الذي يلقي بكامل المسؤولية عليكم كعملاء. يستخدم العديد من موردي الذكاء الاصطناعي شروطاً تعاقدية لتحويل المسؤولية بالكامل إلى مؤسستكم. لكن هذا لا يصمد أمام القضاء عندما تعامل المحكمة المورد بوصفه وكيلاً عنكم، كما حدث في قضية Mobley v. Workday.

وإليكم ما ينجح فعلياً — نظام مصمم للمساءلة وقابلية التدقيق من الأساس.

الخطوة 1: معالجة المدخلات بنزاهة خالية من الانحياز. يربط النظام كل سمة مدخلة مباشرة بجدارة وظيفية موثوقة ومرتبطة بالعمل. أما السمات مثل «نبرة الصوت وإيقاعه» (prosody) أو «تعبيرات الوجه الدقيقة» (facial micro-expressions) — التي لا ترتبط علمياً بالأداء الوظيفي إلا قليلاً ولكنها ترتبط ارتباطاً وثيقاً بالعرق أو الإعاقة — فيتم تمييزها واستبعادها. يجب أن تكون مدخلاتكم نقية قبل بدء أي تقييم.

الخطوة 2: إزالة الانحياز بالتدريب التنافسي أثناء التقييم. يقوم نموذج أساسي بتقييم المرشحين بينما يحاول نموذج «خصم» ثانٍ تخمين السمات المحمية من الدرجات. ويتم تطبيق عقوبة رياضية على النموذج الأساسي حتى يعجز الخصم عن التمييز بين المجموعات. ويخلق هذا ضماناً رياضياً بأن النتيجة النهائية محايدة تماماً ولا ترى العرق أو الجنس أو الإعاقة. وبذلك يحارب محرك التقييم انحيازاته ذاتياً في الوقت الفعلي.

الخطوة 3: محفزات التدخل البشري مع قابلية تفسير كاملة. عندما يكتشف النظام مستوى ثقة منخفضاً — كوجود لكنة غير معتادة أو قناة صوتية مشوشة على سبيل المثال — فإنه يحيل التقييم تلقائياً إلى مراجع بشري أو يقدم نمط تقييم بديلاً. ويتم تفسير كل قرار باستخدام تحليل شابلِي (SHAP analysis)، وهو أسلوب يوضح بدقة الميزات التي حددت كل نتيجة. وإذا تم رفض مرشح، يمكنك أن توضح للجهات التنظيمية السبب بدقة.

تمنح هذه البنية الهندسية فريق الامتثال لديكم ما يحتاجه بالفعل: مسار تدقيق كاملاً. فكل درجة قابلة للتتبع، وكل ميزة موثقة، وكل تجاوز بشري مسجل. ويتوافق نظامكم مع معايير ISO/IEC 42001 لإدارة الذكاء الاصطناعي وإطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتقنية (NIST). وعندما تطرق الجهات التنظيمية بابكم — وبموجب الموجة الجديدة من لوائح التوظيف بالذكاء الاصطناعي، فإنهم سيفعلون ذلك حتماً — ستتمكنون من فتح الصندوق وإظهار ما حدث بدقة.

لا ينبغي أن تكون بنية الحلول الهندسية لديكم صندوقاً أسود، بل يجب أن تكون صندوقاً زجاجياً شفافاً يستطيع أي مدقق أو قاضٍ أو عضو مجلس إدارة فحصه.

للحصول على التحليل التقني الكامل لإزالة الانحياز التنافسي والدمج متعدد الوسائط ومواءمة الامتثال، اقرأ التحليل التقني الكامل أو استكشف النسخة التفاعلية.