هل تمارس أدوات التوظيف بالذكاء الاصطناعي التمييز ضد المرشحين ذوي الإعاقة؟

المشكلة

منح أداة التوظيف بالذكاء الاصطناعي من Aon المرشحين المصابين بالتوحد درجات منخفضة في "الحيوية". في مايو 2024، تقدّم الاتحاد الأمريكي للحريات المدنية (ACLU) بشكوى رسمية إلى لجنة التجارة الفيدرالية ضد شركة Aon Consulting. زعم الاتحاد أن Aon سوّقت تقييماتها التوظيفية المدعومة بالذكاء الاصطناعي على أنها "خالية من التحيز" وادّعت أنها "تحسّن التنوع" مع "عدم وجود أثر سلبي". في الواقع، من المرجّح أن هذه الأدوات تستبعد مرشحين مؤهلين بناءً على العِرق والإعاقة.

إليك ما حدث. طوّرت Aon اختباراً للشخصية يُدعى ADEPT-15 يقيس 15 سمة، منها "الإيجابية" و"الوعي العاطفي" و"الحيوية". وجد الاتحاد الأمريكي للحريات المدنية أن هذه السمات تتطابق بشكل وثيق مع المعايير التشخيصية السريرية للتوحد وحالات الصحة النفسية. إذا حصلت على تقييم "متحفّظ" بدلاً من "منفتح"، فإن الخوارزمية تخفّض درجتك. إنها لا تسألك عن إعاقتك. وهي لا تحتاج إلى ذلك. فالحسابات تقوم بالتمييز تلقائياً.

كما نشرت Aon أداة مقابلة بالفيديو تُدعى vidAssess-AI. وهي تستخدم معالجة اللغة الطبيعية — برمجيات تفسّر الكلمات المنطوقة — لتقييم المرشحين وفق سمات الشخصية نفسها. فبالنسبة لشخص مصاب بالتوحد يتّسم كلامه بنبرة رتيبة أو فترات صمت غير معتادة، قد يفسّر الذكاء الاصطناعي هذه الأنماط على أنها "نقص في الثقة". أنشأت الأداة ما تصفه الشكوى بـ"الخطر المزدوج": حُكم على المرشحين بناءً على إجاباتهم و بناءً على نسخة مفسّرة آلياً من شخصيتهم مرشّحة عبر نماذج لغوية متحيزة.

حظيت هذه الشكوى بدعم شبكة المناصرة الذاتية للمصابين بالتوحد (Autistic Self-Advocacy Network) ومجموعات أخرى للحقوق المدنية. إنها ليست دعوى هامشية. إنها إشارة إلى أن عصر التوظيف الخوارزمي غير المُراقَب قد انتهى. إذا كانت شركتك تستخدم الذكاء الاصطناعي لفرز المتقدمين للوظائف، فأنت بحاجة إلى فهم ما الذي حدث خطأً هنا.

لماذا يهم هذا عملك

التعرّض المالي والقانوني الناجم عن أدوات التوظيف المتحيزة بالذكاء الاصطناعي كبير ومتنامٍ. تأمّل الأرقام:

• أمّنت لجنة تكافؤ فرص العمل (EEOC) مئات الملايين من الدولارات كتعويضات مالية لضحايا التمييز في السنة المالية 2024. وقد أصبح التحيز الخوارزمي الآن أولوية إنفاذ قصوى.
• غرّمت لجنة التجارة الفيدرالية (FTC) شركة DoNotPay مبلغ 193,000 دولار بسبب ادعاءات غير مثبتة حول قدرات الذكاء الاصطناعي لديها. وتملك الوكالة صلاحية حظر الشركات نهائياً من بيع البرمجيات عالية المخاطر.
• بحلول عام 2027، سيبلغ حجم اقتصاد المواهب العالمي 30 مليار دولار. والشركات التي لا تستطيع إثبات أن أدوات التوظيف لديها عادلة ستفقد الوصول إلى أفضل المرشحين.
• يعتمد اختبار ADEPT-15 من Aon على قاعدة بيانات تضم 350,000 عنصر فريد لتقييم الشخصية. ويجعل حجم النظام تدقيقه شبه مستحيل دون أدوات متخصصة.

لا يتوقف تعرّضك القانوني عند المورّد. فقد أوضحت لجنة تكافؤ فرص العمل أن أصحاب العمل مسؤولون قانونياً عن التمييز الناجم عن أدوات الذكاء الاصطناعي التي يشترونها من أطراف ثالثة. شراء أداة "خالية من التحيز" لا ينقل مسؤوليتك القانونية. بل يزيدها.

إليك ما يعنيه هذا لمؤسستك:

• مخاطر التقاضي: دعاوى قضائية جماعية وشكاوى إلى لجنة تكافؤ فرص العمل تستهدف عملية التوظيف لديك، وليس فقط منتج المورّد.
• الغرامات التنظيمية: تعمل مبادرة "Operation AI Comply" التابعة للجنة التجارة الفيدرالية بنشاط على إنفاذ متطلبات إثبات ادعاءات الذكاء الاصطناعي.
• الضرر بالسمعة: يمكن لشكوى علنية تربط شركتك بالتمييز ضد ذوي الإعاقة أن تقوّض العلامة التجارية لصاحب العمل بين عشية وضحاها.
• فقدان المواهب: غالباً ما يتفوّق الأفراد من ذوي التنوع العصبي في التعرّف على الأنماط والانتباه للتفاصيل وحل المشكلات بإبداع. والفرز المتحيز يستبعد الأشخاص أنفسهم الذين يقودون الابتكار.

إذا لم يستطع مورّد الذكاء الاصطناعي لديك تقديم دليل تجريبي على أن أدواته لا تمارس التمييز، فأنت تحمل مخاطرة غير محددة الكمية في ميزانيتك العمومية.

ما الذي يحدث فعلياً خلف الكواليس

تخيّل معظم أدوات التوظيف بالذكاء الاصطناعي كمرآة مقعّرة في مدينة ملاهٍ. إنها تعكس شيئاً حقيقياً — مؤهلاتك — لكن الانعكاس مشوّه بفعل شكل المرآة. و"الشكل" في هذه الحالة هو بيانات التدريب، التي تعكس بأغلبية ساحقة أنماط السلوك العصبي النمطي.

الفشل الجوهري هو ما يُسمّى "حلقة التحيز التكرارية". تتدرّب نماذج تعلّم الآلة على بيانات التوظيف التاريخية. وتعكس تلك البيانات عقوداً من تفضيل أساليب التواصل العصبية النمطية. وعندما يُنشَر الذكاء الاصطناعي، تعود قراراته لتغذّي مجموعات التدريب المستقبلية. فالمرشحون الذين "يشبهون" التعيينات الناجحة السابقة يُرقَّون في الخوارزمية. أما الجميع سواهم فيُستبعدون. ويتراكم التحيز بمرور الوقت.

وجد بحث في جامعة ديوك أن النماذج اللغوية الكبيرة — محركات الذكاء الاصطناعي وراء العديد من أدوات التوظيف — تربط بشكل منهجي المصطلحات المتعلقة بالتنوع العصبي بالمعنى السلبي. فعبارة "أنا مصاب بالتوحد" تنظر إليها هذه النماذج على أنها أكثر سلبية من عبارة "أنا سارق مصارف". وعندما تشغّل هذه النماذج اللغوية نفسها أدوات التوظيف عبر اتصال بواجهة برمجة التطبيقات (API)، فإنها تُضمّن ارتباطات تمييزية في عملية التوظيف لديك. لم يقصد المطوّر ذلك أبداً. بل فعلته البيانات تلقائياً.

يوضّح اختبار ADEPT-15 من Aon هذا الأمر بدقة. فهو يرسم 15 بنية شخصية على طول أقطاب مثل "متحفّظ مقابل منفتح" و"رزين مقابل رحيم". وقد قابل الاتحاد الأمريكي للحريات المدنية هذه البنى مع مقياس طيف التوحد (AQ)، وهو أداة فرز سريرية معيارية مكوّنة من 50 عنصراً. والتداخل لا يمكن إنكاره. فعندما تطرح خوارزمية توظيف أسئلة تعكس معايير سريرية — "أركّز بشدة على التفاصيل" أو "أفضّل العمل بمفردي" — فإنها تنشئ مساراً خفياً بين حالة الإعاقة ونتيجة التوظيف. الخوارزمية لا تسأل أبداً عن التشخيص. وهي لا تحتاج إلى ذلك.

إن مجرد "غلاف" — أداة تمرّر بياناتك عبر نموذج أساس مثل GPT-4 وتعرض المخرجات — لا يمكنه إصلاح هذا. فالأغلفة ترث تحيزات نماذجها الأساسية. وهي تفتقر إلى القدرة على التمييز بين المؤهلات الوظيفية الحقيقية والضوضاء المرتبطة بالخصائص المحمية.

ما الذي ينجح (وما الذي لا ينجح)

ثلاثة أساليب شائعة تفشل:

• "لقد تدرّبنا على بيانات ضخمة، لذا فهي عادلة." المزيد من البيانات لا يعني تحيزاً أقل. فإذا كانت بيانات التدريب لديك تعكس 30 عاماً من تفضيلات التوظيف العصبية النمطية، فإن نموذجك سيكرّر تلك التفضيلات على نطاق واسع.
• "أعطانا المورّد بطاقة نموذج." الوثائق المقدّمة من المورّد ليست تدقيقاً مستقلاً. وتُظهر قضية Aon أن الادعاءات التسويقية بـ"عدم وجود أثر سلبي" يمكن أن تتناقض مباشرة مع الأداء الفعلي للأداة.
• "لقد أزلنا الحقول المحمية من المدخلات." إزالة حالة الإعاقة من البيانات لا تفيد عندما تعمل سمات مثل "الحيوية" و"الوعي العاطفي" كبدائل. فالخوارزمية تجد الباب الخلفي.

ما الذي ينجح فعلاً هو نهج من ثلاث خطوات يكسر الرابط بين الخصائص المحمية وقرارات التوظيف:

1. ارسم المسارات الخفية (المدخلات). استخدم النمذجة السببية البنيوية — وهي طريقة ترسم كيف تؤثر نقاط البيانات المختلفة في بعضها البعض — لتحديد كل مسار يمكن أن تؤثر عبره حالة الإعاقة في نتيجة التوظيف. هذا ليس فحصاً إحصائياً. إنه خريطة سببية لخط أنابيب التقييم بأكمله لديك. وهدفك هو العثور على المتغيرات البديلة قبل أن يعثر عليها المنظّمون بدلاً عنك.

2. جرّد المعلومات المحمية من منطق النموذج (المعالجة). انشر إزالة التحيز التخاصمية — وهي تقنية يحاول فيها نموذج ذكاء اصطناعي ثانٍ تخمين الخاصية المحمية للمرشح من البيانات الداخلية للنموذج الأساسي. فإذا نجح النموذج الثاني، فإن النموذج الأساسي لا يزال يسرّب معلومات محمية. ويعاقب النظام النموذج الأساسي ويجبره على التخلّي عن تعلّم الأنماط المتحيزة. وهذا فعّال بوجه خاص لتقييمات الفيديو و تقييمات الشخصية حيث تعمل الإشارات السلوكية كبدائل للإعاقة.

3. اختبر كل قرار بمحاكاة افتراضية مضادة (المخرجات). أنشئ تنويعات اصطناعية لبيانات مرشح حقيقي. غيّر السمة الحساسة فقط — على سبيل المثال، انتقل من أنماط الكلام العصبية النمطية إلى أنماط الكلام العصبية المتنوعة — مع إبقاء جميع المتغيرات الأخرى ثابتة. فإذا تغيّرت توصية الذكاء الاصطناعي، فلديك خلل في الإنصاف. وهذا يمنح فريق الامتثال لديك مسار تدقيق ملموساً لكل قرار توظيف.

مسار التدقيق هو ما يهم أكثر من أي شيء لفريقي الشؤون القانونية والامتثال لديك. فالإحصاءات على مستوى المجموعة — "10% من تعييناتنا من ذوي الإعاقة" — ليست كافية. أنت بحاجة إلى دليل على المستوى الفردي على أن كل مرشح تلقّى معاملة متساوية. والمحاكاة الافتراضية المضادة توفّر هذا. فعندما تسأل لجنة تكافؤ فرص العمل أو لجنة التجارة الفيدرالية عن سبب رفض نظامك لمرشح بعينه، يمكنك أن تُظهر الحسابات.

بموجب إطار عمل إدارة مخاطر الذكاء الاصطناعي من المعهد الوطني للمعايير والتقنية (NIST)، المؤسسات في مجال الموارد البشرية وتكنولوجيا المواهب ينبغي أن تسعى إلى نضج "تكيّفي". ويعني هذا وجود عملية موثّقة لتتبّع انحراف التمييز — وهي الظاهرة التي تصبح فيها نماذج الذكاء الاصطناعي أكثر تحيزاً بمرور الوقت مع تفاعلها مع بيانات العالم الحقيقي. والتدقيقات المستقلة السنوية للتحيز، وليس التقارير الذاتية من المورّدين، أمر أساسي. وينبغي أن يتضمّن كل تقييم آلي خياراً واضحاً للمرشحين لطلب بديل بشري دون عقوبة.

يمكنك قراءة التحليل التقني الكامل لإلقاء نظرة أعمق على أساليب النمذجة السببية وإزالة التحيز التخاصمية. كما تتوفّر جولة تفاعلية لفريقك أيضاً.