هل يمكنك أن تثق بالذكاء الاصطناعي لتوظيف بعدالة؟ معظم الشركات لا تستطيع.

المشكلة

أنشأت أمازون أداة توظيف تعمل بالذكاء الاصطناعي علّمت نفسها بنفسها على معاقبة أي سيرة ذاتية تتضمن كلمة «نسائي». وإذا ذكرت في سيرتك الذاتية منصب «قائد نادي الشطرنج النسائي»، فإن النظام كان يخفض تقييمك. كما خفّض ترتيب خريجات كليتين نسائيتين بالكامل. وعمل هذا النظام لمدة 3 سنوات قبل أن يتخلى عنه أمازون تمامًا.

لم يكن هذا خللًا برمجيًا؛ بل كان رياضيات تعمل تمامًا كما صُمّمت. درّبت أمازون النموذج على 10 سنوات من السير الذاتية المقدمة إلى الشركة. ولأن قطاع التكنولوجيا هيمنت عليه الرجال تاريخيًا، كانت الغالبية العظمى من التعيينات الناجحة في تلك البيانات من الرجال. فتعلّم الذكاء الاصطناعي نمطًا بسيطًا: «كون المرء ذكرًا» كان يتنبأ بأن «يُوظَّف». وقد حسَّن النموذج وفق ذلك النمط وعاقب أي شيء يشير إلى عكسه.

حاول مهندسو أمازون إصلاح ذلك. فبرمجوا النظام ليتجاهل مصطلحات جندرية محددة، لكن ذلك لم ينفع. فنماذج التعلم العميق بارعة في العثور على متغيرات وكيلة — إشارات غير مباشرة ترتبط بالشيء الذي طلبتم منه تجاهله. تشبث النموذج باختيارات الأفعال وبُنى الجملة والأنشطة اللاصفية التي ارتبطت بالنوع الاجتماعي. وتُظهر الأبحاث أن السير الذاتية للرجال تميل إلى استخدام أفعال عدوانية مثل «نفّذ» أو «استحوذ على»، بينما تستخدم السير الذاتية للنساء لغة أكثر تعاونية. والتقط الذكاء الاصطناعي تلك الأنماط وأعاد بناء انحيازه الجندري بهدوء من الباب الخلفي.

لم تستطع أمازون ضمان ألا يعثر النظام على طرق جديدة للتمييز، فأنهته. وقد لا تكشف مؤسستكم المشكلة بهذه السرعة.

لماذا يهم هذا عملك التجاري

لقد تغيّر المشهد التنظيمي تغيرًا جذريًا. إذا كانت شركتك تستخدم الذكاء الاصطناعي في التوظيف، فأنت تواجه اليوم مسؤولية قانونية حقيقية — وليس في يومٍ ما.

يتطلب قانون مدينة نيويورك المحلي رقم 144 (الساري منذ يوليو 2023) من أي جهة عمل تستخدم أداة توظيف آلية في مدينة نيويورك أن تجري تدقيقًا سنويًا مستقلًا للتحقق من الانحياز. ويفرض القانون حسابات محددة: معدلات الاختيار ونسب الأثر مفصّلة حسب العرق والإثنية والجنس. وإذا انخفض معدل اختيار أي مجموعة محمية دون 80% من معدل المجموعة الأكثر اختيارًا (وهو «قاعدة أربعة أخماس»)، فهذا مؤشر ظاهري على وجود انحياز.

قانون الاتحاد الأوروبي للذكاء الاصطناعي — أول تنظيم واسع النطاق للذكاء الاصطناعي في العالم — يصنّف ذكاء التوظيف الاصطناعي ضمن الفئة عالية المخاطر. تنص المادة 13 على أن يكون نظامك شفافًا بما يكفي ليتمكن المستخدمون من تفسير مخرجاته. وتنص المادة 14 على رقابة بشرية هادفة، أي أن يكون بإمكان أخصائي التوظيف أن يفهم قرار الذكاء الاصطناعي أو يتجاوزه أو يتراجع عنه.

تمنح المادة 15(1)(h) من اللائحة العامة لحماية البيانات (GDPR) المتقدمين الحق في الحصول على «معلومات هادفة عن المنطق المتبع» في القرارات الآلية. ويذكر الاعتبار 71 صراحةً الحق في «الحصول على توضيح للقرار الصادر».

إليك ما يعنيه ذلك بالنسبة إلى نتائجك المالية:

• رسوب التدقيق: إذا أظهر الذكاء الاصطناعي لديك نسبة أثر قدرها 0.4 لمجموعة محمية ولم تستطع تفسير السبب، فأنت في أزمة امتثال بلا طريق إلى الحل.
• خطر التقاضي: رسالة بريد إلكتروني عامة بالرفض من دون تفسير تشكل مخاطرة قانونية بموجب اللائحة العامة لحماية البيانات. أنت بحاجة إلى مبررات محددة مدعومة بالبيانات لكل قرار آلي.
• الضرر بالسمعة: تحوّل إخفاق أمازون إلى خبر عالمي وأهدر سنوات من الاستثمار الهندسي. وقد تصلكم «لحظة أمازون» الخاصة بكم دون إنذار.
• فقدان المواهب: الأنظمة المعتمدة على الكلمات المفتاحية والذكاء الاصطناعي المنحاز ترفض مرشحين مؤهلين يستخدمون مصطلحات مختلفة أو يأتون من خلفيات غير تقليدية. أنتم تقلّصون مجموعة مواهبكم الخاصة.

ما الذي يحدث فعلًا تحت الغطاء

لكي تفهم لماذا يتعثر معظم أدوات التوظيف بالذكاء الاصطناعي، عليك أن تفهم ما تفعله هذه الأدوات فعلًا — وما لا تفعله.

تعمل نماذج التعلم العميق التقليدية على أساس الارتباط لا السببية. فالنموذج لا يعرف أن Python لغة برمجة مفيدة لعلم البيانات، بل يعرف فقط أن السلسلة النصية «Python» وردت في سير ذاتية لأشخاص جرى توظيفهم. وهنا الجزء الخطير: إذا وردت «Lacrosse» أيضًا بشكل متكرر في السير الذاتية الناجحة — ربما بسبب أنماط اجتماعية واقتصادية تتعلق بمن يحصل على الوظيفة — فقد يمنح النموذج «Lacrosse» الوزن نفسه الذي يمنحه لـ«Python». فهو لا يستطيع التمييز بين مؤهل حقيقي ومجرد مصادفة.

تخيّل الأمر كنظام تحديد مواقع (GPS) دُرِّب فقط على المسارات التي سلكها سائقو التوصيل لديكم العام الماضي. ليتعلّم تجنّب بعض الأحياء — ليس بسبب بيانات حركة المرور، بل لأن السائقين كانت لديهم انحيازات شخصية حول أماكن الذهاب إليها. وسيُدمج نظام الـ GPS تلك الانحيازات في كل توصية مسار مستقبلية. ولن تعرفوا أبدًا لماذا يعيد التوجيه باستمرار حول بعض الرموز البريدية.

تلتف الموجة الأحدث من أدوات التوظيف بالنماذج اللغوية الكبيرة (LLMs) حول المشكلة، وهي تجلب مخاطر جديدة. فالنماذج اللغوية الكبيرة تهلوس — إذ قد تستنتج أن مرشحًا ما يحمل شهادة لمجرد أن سيرته الذاتية تبدو احترافية. كما أنها غير حتمية: أدخِل السيرة الذاتية نفسها مرتين وقد تحصل على نتيجتين مختلفتين. وفي التدقيق، يكون هذا التضارب قاتلًا: إذا لم تستطع إعادة إنتاج منطق القرار وراء تعيين أو رفض، فسوف ترسب في التدقيق. وللنماذج اللغوية الكبيرة أيضًا حدود زمنية للمعرفة — فقد لا تتعرف على أطر عمل أو تقنيات جديدة ظهرت بعد جمع بيانات تدريبها.

المشكلة الجوهرية في كل هذه المقاربات واحدة: الذكاء الاصطناعي الذي يقرأ السيرة الذاتية هو الذاتي الذي يحكم على المرشح. فالقراءة والحكم متشابكان في نظام واحد معتم يضم ملايين أو مليارات المعاملات. ولا أحد — ولا حتى المهندسون — يستطيع أن يتتبع بدقة سبب اتخاذ قرارٍ بعينه.

ما الذي ينجح (وما الذي لا ينجح)

لنبدأ بما لا يحل هذه المشكلة:

أنظمة مطابقة الكلمات المفتاحية (أنظمة ATS القديمة): تعتمد هذه الأنظمة على منطق بسيط من نعم أو لا. هل تتضمن السيرة الذاتية كلمة «Java»؟ إذا كتب المرشح «J2EE» بدلًا منها، فحصل على صفر. تفشل هذه المقاربة في الوصول إلى أشخاص مؤهلين ولا تتعامل مع المرادفات.

نماذج التعلم العميق «المصلَحة»: جرّبت أمازون إزالة المصطلحات الجندرية من نموذجها، فعثر الذكاء الاصطناعي على متغيرات وكيلة وأعاد بناء الانحياز. لا يمكنك استئصال الانحياز جراحيًا من صندوق أسود دون كسر قدرة النموذج على العمل.

أغلفة النماذج اللغوية الكبيرة من غير تأصيل: إدخال السير الذاتية إلى نموذج لغوي كبير متعدد الأغراض وطلب تقييم المرشحين يعرّضكم لخطر الهلوسة ونتائج متضاربة وانعدام كامل لمسار تدقيق. هذه المقاربة تخفق في استيفاء المادة 13 من قانون الاتحاد الأوروبي للذكاء الاصطناعي وفي أي تدقيق جدي للانحياز.

أما ما ينجح فهو معمارية تفصل القراءة عن الحكم. وإليك كيف تعمل:

الخطوة 1 — الاستخراج («القارئ»): يقرأ نموذج لغوي كبير النص غير المنظم للسيرة الذاتية ويستخرج حقائق محددة: المهارات والأدوار والتواريخ والشهادات. والأهم أنه يزيل الإشارات الديموغرافية أو يحيد لها في هذه الخطوة. فعبارة «نادي الشطرنج النسائي» تصبح «نادي الشطرنج — قيادة». تُزال الصفة الجندرية قبل أن تصل البيانات قط إلى محرك القرار.

الخطوة 2 — الاستدلال المنظم («الحَكَم»): تدخل الحقائق المستخرجة في رسم معرفي قابل للتفسير — خريطة منظمة لكيفية ارتباط المهارات والأدوار والمؤهلات بعضها ببعض. لا يتنبأ النظام بمن سيوفق بناءً على أنماط خفية؛ وبدلًا من ذلك يحسب المسافة الدقيقة بين ما يملكه المرشح وما تتطلبه الوظيفة. ف«PyTorch» مرتبط بـ«التعلم العميق»، وهو بدوره مرتبط بـ«الذكاء الاصطناعي». إذا كانت وظيفة ما تتطلب خبرة في الذكاء الاصطناعي وذكر المرشح PyTorch، فسيتتبع الرسم تلك العلاقة. هذا المنطق حتمي — المدخلات نفسها تنتج دائمًا المخرجات نفسها.

الخطوة 3 — مخرجات قابلة للتفسير: يولّد النظام درجة (لتكن 92 من 100 مثلًا) ويوضح بدقة السبب. تطابقات مباشرة: Python وSQL. تطابقات مستنتجة: PyTorch، المرتبط عبر مشاريع التعلم العميق. فجوات: غياب Kubernetes، على بُعد ثلاث خطوات ارتباط من مهارات المرشح الحالية. ثم يترجم نموذج لغوي كبير هذه الحقائق المستخرجة من الرسم إلى ملخص بلغة واضحة لأخصائي التوظيف لديكم.

ميزة التدقيق هنا بنيوية. فبما أن العقد الديموغرافية مستبعدة فيزيائيًا من رسم الاستدلال، فإن النظام لا يمكنه استخدام النوع الاجتماعي أو العرق أو العمر في قراراته. لا يوجد مسار في البيانات من «المرشح» إلى «النوع الاجتماعي» إلى «الدور الوظيفي». فالانحياز مقطوع معماريًا، لا مجرد تجميل له. وفي الوقت نفسه، تستطيع طبقة تدقيق منفصلة أن تعيد ضم الدرجات مجهولة الهوية إلى البيانات الديموغرافية لحساب نسب الأثر للامتثال لقانون مدينة نيويورك المحلي رقم 144 وقانون الاتحاد الأوروبي للذكاء الاصطناعي في الوقت الفعلي. وإذا كان أحد متطلبات وظيفة معينة يستبعد مجموعة محمية بشكل غير متناسب، فإن النظام ينبّه إليه ليتحقق فريقكم ويعدّل.

وتستعيد هذه المقاربة أيضًا مرشحين ترفضهم أنظمة الصندوق الأسود ظلمًا. فالمرشح الذي لا يملك خبرة صريحة في SQL لكنه يمتلك مهارات عميقة في Pandas وDplyr بلغة R سيُوسَم بأنه «ذو قابلية نقل عالية» — لأن الرسم المعرفي يفهم أن مفاهيم معالجة البيانات تربط هذه المهارات ببعضها. وهذا تعيين كان نظامكم القديم سيفوته.

بالنسبة إلى مؤسسات الموارد البشرية وتكنولوجيا المواهب التي تواجه هذه التحديات، فإن التحول من التنبؤ إلى القياس يغيّر كل شيء. يمكنك قراءة التحليل التقني الكامل أو استكشاف النسخة التفاعلية من هذا البحث للحصول على تفاصيل معمارية أعمق.