خوارزمية التوظيف التي تحوّلت عن غير قصد إلى فحص طبي

أخبرني صديقٌ لي — مهندس برمجيات لامع، وأحد أفضل المفكّرين في استكشاف الأنماط الذين قابلتهم على الإطلاق — أنه رُفض من إحدى عشرة شركة على التوالي. ليس بعد الجولات التقنية، بل قبلها. لم يتجاوز قط "تقييم الشخصية" الأولي.

إنه مصاب بالتوحّد. وكل واحدة من تلك الشركات كانت تستخدم نسخةً ما من أداة الفرز نفسها المدعومة بالذكاء الاصطناعي.

ظللتُ أفكّر في تلك المحادثة عندما قدّم الاتحاد الأمريكي للحريات المدنية (ACLU)، في مايو 2024، شكوى رسمية إلى لجنة التجارة الفيدرالية ضد شركة Aon Consulting. كان الادعاء مذهلًا في دقّته: مجموعة أدوات التوظيف بالذكاء الاصطناعي لدى Aon — التي سُوّقت بوصفها "خالية من التحيّز" ومعزِّزة للتنوع — كانت على الأرجح تعمل كأداة فرز خفية لذوي الإعاقة. كانت الأدوات تقيس سماتٍ مثل "الحيوية" و"الإيجابية" و"الوعي العاطفي". سماتٌ ليست مجرد أبعاد شخصية غامضة، بل هي مرايا شبه مثالية للمعايير السريرية المستخدمة في تشخيص التوحّد.

حين قرأتُ الشكوى كاملةً، جالسًا إلى مكتبي في الحادية عشرة ليلًا مع كوب شاي بارد، اتّضح في ذهني شيء كان يؤرّقني منذ سنوات. صناعة التوظيف بالذكاء الاصطناعي لا تعاني من مشكلة تحيّز، بل من مشكلة بنية. ولن يُصلحها أيّ قدر من العلامات التجارية باسم "الذكاء الاصطناعي المسؤول".

الوعد الذي انهار

طَوال معظم عقد من الزمن، ظل عرض بائعي أدوات التوظيف بالذكاء الاصطناعي مغريًا وبسيطًا: البشر متحيّزون، أما الخوارزميات فلا. دع الآلة تقرّر، وستحصل على نتائج أكثر عدلًا.

صدّقتُ نسخةً من هذا في وقت مبكّر. حين أسّستُ VeriPrajna، آمنتُ حقًا أنك لو استطعت أن تُصوغ اتخاذ القرار صياغةً منهجية — بإزالة الحدس، وتخمينات "التوافق الثقافي"، والتفضيل اللاواعي لمن يذكّرونك بنفسك — لحصلت على شيء أقرب إلى الجدارة. كانت الرياضيات ستحرّرنا.

صناعة التوظيف بالذكاء الاصطناعي لا تعاني من مشكلة تحيّز، بل من مشكلة بنية.

ثم بدأتُ أنظر فيما تقيسه هذه الأدوات فعليًا. وأدركتُ أن الرياضيات كانت تُرمّز بالضبط تلك التحيّزات التي زعمت أنها تُزيلها — لكنها كانت تترجمها فحسب إلى لغة تبدو موضوعية.

أداة الشخصية الرائدة لدى Aon، وهي ADEPT-15، تُقيّم المرشحين وفق خمسة عشر بُعدًا. أشياء مثل "الحيوية" (هل أنت اجتماعي أم متحفّظ؟)، و"الوعي" (هل تستطيع القراءة بين السطور؟)، و"رباطة الجأش" (هل أنت هادئ تحت الضغط أم متحمّس؟)، و"المرونة" (هل تفضّل الروتين أم التغيير؟). تستخدم الأداة صيغة الاختيار الإجباري — تنتقي بين عبارتين — وتتكيّف آنيًا بناءً على إجاباتك السابقة.

على الورق، يبدو الأمر متطوّرًا. لكن عمليًا، فإنه يسأل: ما مدى كونك ذا نمط عصبي معتاد؟

ماذا يحدث حين تُطابق أداةُ توظيفٍ تشخيصًا سريريًا؟

هذا هو الجزء الذي أبقاني مستيقظًا تلك الليلة. استحضرتُ معامل طيف التوحّد (Autism Spectrum Quotient) — وهو أداة فرز سريرية معيارية — ووضعته بجوار تعريفات مقاييس ADEPT-15 من Aon. لم يكن التداخل خفيفًا، بل كان بنيويًا.

يقيس معامل طيف التوحّد المهاراتِ الاجتماعية، وتحويل الانتباه، والانتباه إلى التفاصيل، والتواصل، والخيال. ويقيس ADEPT-15 "الحيوية" و"المرونة" و"البنية" و"الوعي" و"الحزم". هذه ليست ابنة عمومة بعيدة، إنها المفاهيم ذاتها ترتدي ثيابًا مختلفة.

حين تعاقب خوارزمية شخصًا لكونه "متحفّظًا" بدلًا من "اجتماعي"، فهي لا تقيس الملاءمة للوظيفة، بل تقيس الأداء الاجتماعي. وبالنسبة لشخص يعالج دماغه المعلومات الاجتماعية بشكل مختلف — شخص مصاب بالتوحّد، أو شخص لديه اضطراب فرط الحركة وتشتّت الانتباه، أو شخص لديه قلق اجتماعي — فإن ذلك القياس فخٌّ متنكّر في هيئة اختبار.

تقول شكوى الاتحاد الأمريكي للحريات المدنية بصراحة: إن هذه التقييمات "تُطابق عن كثب تشخيصات التوحّد/الصحة النفسية". وبموجب قانون الأمريكيين ذوي الإعاقة، لا يجوز لأصحاب العمل إجراء فحوص طبية كجزء من عملية التوظيف ما لم تكن مرتبطة مباشرة بالوظيفة. فإذا كان اختبار الشخصية لا يمكن تمييزه وظيفيًا عن أداة فرز سريرية، فما هو بالضبط؟

أتذكّر أنني أثرتُ هذا الأمر مع زميل أمضى سنوات في علم النفس الصناعي والتنظيمي. كانت ردّة فعله الأولى دفاعية — "هذه أدوات قياس نفسي مُثبتة الصلاحية". فكان ردّي: مُثبتة الصلاحية مقابل ماذا؟ مقابل عيّنة معيارية كانت في غالبيتها الساحقة من ذوي النمط العصبي المعتاد؟ هذا ليس إثباتًا للصلاحية، بل استدلال دائري يرتدي معطف مختبر.

مشكلة مقابلة الفيديو أسوأ مما تظن

أداة Aon الثانية، وهي vidAssess-AI، تضع نموذج الشخصية فوق مقابلات فيديو غير متزامنة. يسجّل المرشحون أنفسهم وهم يجيبون عن الأسئلة، فيقوم محرّك معالجة اللغة الطبيعية بنسخ كلامهم، وتحليل المحتوى، وتقييمه وفق إطار شخصية ADEPT-15.

وهنا يصبح الأمر مقلقًا حقًا. تُدرَّب نماذج معالجة اللغة الطبيعية على مجموعات نصّية ضخمة تعكس في غالبيتها الساحقة أنماط التواصل لدى ذوي النمط العصبي المعتاد. إيقاع الكلام المعتاد. النبرات المتوقّعة للثقة. الطريقة "الطبيعية" لبناء السرد.

أمضى فريقي أسابيع في اختبار كيفية تفاعل أنماط الكلام المختلفة مع أنظمة معالجة اللغة الطبيعية التجارية. التنغيم المسطّح — الشائع لدى المتحدثين المصابين بالتوحّد — يُصنَّف على أنه "نقص في الحماس". والوقفات غير النمطية تُفسَّر على أنها "عدم يقين". والسرد غير الخطّي — الطريقة التي ينظّم بها كثير من ذوي اضطراب فرط الحركة وتشتّت الانتباه أفكارهم بشكل طبيعي، بالقفز بين أفكار مترابطة قبل العودة إليها — يُسجَّل على أنه "تفكير غير منظّم".

حين تعاقب خوارزمية شخصًا لكونه "متحفّظًا" بدلًا من "اجتماعي"، فهي لا تقيس الملاءمة للوظيفة، بل تقيس الأداء الاجتماعي.

لا شيء من هذا له علاقة بما إذا كان الشخص قادرًا على أداء الوظيفة. وكل هذا له كل العلاقة بما إذا كان الشخص يؤدّي دور النمط العصبي المعتاد بإقناع أمام الكاميرا.

وجد بحث من جامعة ديوك أن النماذج اللغوية الكبيرة تربط بشكل منهجي مصطلحات التنوع العصبي بدلالات سلبية. ففي بعض النماذج، تُسجَّل عبارة "لديّ توحّد" على أنها أكثر سلبية من "أنا سارق بنوك". وحين تُشغّل هذه النماذج نفسها أدوات التوظيف عبر تكاملات واجهات البرمجة، فإنها تنقل تلك الارتباطات مباشرةً إلى عملية الفرز. لم يقصد ذلك أي مطوّر، لكن البنية ضمنته.

كتبتُ بمزيد من التفصيل عن الآليات التقنية لهذا في النسخة التفاعلية من بحثنا، لكن الخلاصة المختصرة هي هذه: لا يمكنك إصلاح التمييز الناشئ ضد ذوي الإعاقة بوضع غلاف حول نموذج متحيّز. التحيّز ليس عطلًا، بل هو سمة من كيفية بناء النظام.

لماذا كففتُ عن الإيمان بـ"الخالي من التحيّز"

كانت هناك لحظة — وأستطيع تحديدها بدقة — انتقل فيها تفكيري من "نحتاج إلى اختبار أفضل للتحيّز" إلى "النموذج بأكمله خاطئ".

كنّا نُجري تدقيقًا داخليًا على خط أنابيب التوظيف لدى أحد العملاء. أشياء اعتيادية: فحوص التكافؤ الديموغرافي، ونسب الأثر السلبي، والمقاييس التي يستخدمها الجميع. بدت الأرقام نظيفة. كانت معدلات التوظيف عبر المجموعات الديموغرافية ضمن نطاقات مقبولة. كان العميل سعيدًا، وكان فريقه القانوني سعيدًا.

ثم طرحت إحدى مهندساتي، بريا، سؤالًا أوقف الغرفة بأكملها: "ماذا لو أن الأشخاص الذين كان سيتم استبعادهم لم يتقدّموا أصلًا من البداية؟"

كانت محقّة. كنّا نقيس الإنصاف بين الأشخاص الذين اجتازوا فرز الشخصية. لكن الفرز نفسه كان قد رشّح مسبقًا مجموعة المرشحين. كنّا ندقّق على الناجين ونسمّي ذلك مساواة.

عندها فهمتُ الخلل الجوهري في نهج "الغلاف" لعدالة الذكاء الاصطناعي. يأخذ الغلاف نموذجًا أساسيًا قائمًا — GPT-4 أو أيًّا كان — ويمرّر البيانات عبره، ثم يعرض المُخرَجات. يمكنك إضافة فحوص تحيّز فوقه. يمكنك معالجة النتائج لاحقًا. لكن التمثيلات الداخلية للنموذج تكون قد رمّزت بالفعل تحيّزات بيانات تدريبه. أنت تضع ملصق عدالة على آلة غير عادلة في جوهرها.

تعكس بيانات التوظيف التي تُدرَّب عليها هذه النماذج عقودًا من تفضيل النمط العصبي المعتاد. وحين يُنشَر النموذج، تعود قراراته لتغذية مجموعات التدريب المستقبلية. يُرفض المرشحون المتحفّظون، فيتعلّم النموذج أن "المتحفّظ" يتنبأ بالرفض، فيرفض المزيد من المرشحين المتحفّظين. تُحكَم الحلقة. يتراكم التحيّز. ولوحة المؤشرات تقول إن كل شيء على ما يُرام.

كيف تبني فعليًا ذكاءً اصطناعيًا للتوظيف لا يُميّز؟

هذا هو السؤال الذي أمضيتُ السنوات العديدة الماضية أحاول الإجابة عنه. ليس "كيف تجعل الذكاء الاصطناعي أقل تحيّزًا" — فهذا التأطير يقبل البنية الحالية ويحاول ترقيعها. السؤال الحقيقي هو: كيف تبني أنظمةً لا يستطيع فيها التحيّز أن يختبئ؟

يرتكز النهج الذي طوّرناه في VeriPrajna على رؤية جوهرية واحدة: الارتباط هو حيث يختبئ التمييز. يجد تعلّم الآلة التقليدي أنماطًا في البيانات. فإذا كان أسلوب التواصل لدى ذوي النمط العصبي المعتاد مرتبطًا بالحصول على وظيفة، فسيستخدم النموذج أسلوب التواصل كبديل عن الجدارة بالتوظيف. إنه لا يعلم أنه يُميّز، بل هو فقط يُحسّن.

لكسر هذا، تحتاج إلى استدلال سببي، لا مجرد مطابقة أنماط إحصائية.

نستخدم شيئًا يُسمّى تعلّم التمثيل السببي. فبدلًا من أن نسأل "ما السمات التي تتنبأ بنجاح التوظيف؟"، نسأل "ما السمات التي تتنبأ بنجاح التوظيف التي لا تقع سببيًا في مجرى خاصية محمية؟" إنه سؤال مختلف جوهريًا، ويتطلب بنية مختلفة جوهريًا.

فكّر في الأمر على هذا النحو. تخيّل ملف المرشح كشبكة من السمات المترابطة. بعض الروابط مشروعة — سنوات الخبرة ترتبط بمستوى المهارة. لكن بعض الروابط تمرّ عبر منطقة محمية — أسلوب التواصل يرتبط بالنمط العصبي، الذي يرتبط بكيفية تقييم اختبار الشخصية لك، الذي يرتبط بما إذا كنت ستحصل على مقابلة. يرسم تعلّم التمثيل السببي هذه المسارات ويقطع رياضيًا المسارات غير المشروعة.

نقرن هذا بالتدريب التخاصمي — وهو تقنية نُجابه فيها نموذجين ضد بعضهما البعض. يحاول أحد النموذجين التنبؤ بالأداء الوظيفي. ويحاول الآخر تخمين حالة الإعاقة للمرشح من التمثيلات الداخلية للنموذج الأول. فإذا نجح الخصم، فهذا يعني أن المتنبِّئ يُسرّب معلومات محمية، فيعاقبه النظام. وعبر دورات التدريب، يتعلّم المتنبِّئ اتخاذ قرارات لا يمكن حقًا هندستها عكسيًا للكشف عن النمط العصبي لأحد.

لا يمكنك إصلاح التمييز الناشئ ضد ذوي الإعاقة بوضع غلاف حول نموذج متحيّز. التحيّز ليس عطلًا، بل هو سمة من كيفية بناء النظام.

ثم هناك الاختبار الافتراضي المضاد — الجزء الذي أجده الأكثر أمانةً فكريًا. نأخذ بيانات مرشح حقيقي، ونولّد توأمًا اصطناعيًا تتغيّر فيه الخاصية المحمية وحدها، ونتحقّق مما إذا كانت توصية النموذج تبقى كما هي. ليس "هل الإحصاءات على مستوى المجموعة متوازنة؟" بل "هل سيحصل هذا الشخص المحدد على نتيجة مختلفة لو لم يكن مصابًا بالتوحّد؟" هذا هو السؤال الذي يطرحه قانون الأمريكيين ذوي الإعاقة فعلًا. وهو السؤال الذي لا تستطيع معظم أدوات التوظيف بالذكاء الاصطناعي الإجابة عنه.

للاطّلاع على التفصيل التقني الكامل لهذه الأساليب — الرياضيات وراء الثبات التدخّلي، ودوال الخسارة التخاصمية، والنماذج السببية البنيوية — راجع ورقة بحثنا التقنية.

المنظّمون لم يعودوا ينتظرون

أمر واحد أوضحته شكوى Aon بجلاء لا لبس فيه: انتهى عصر "تحرّك بسرعة ودقّق لاحقًا".

أسفرت مبادرة "عملية امتثال الذكاء الاصطناعي" (Operation AI Comply) التابعة للجنة التجارة الفيدرالية بالفعل عن إجراءات إنفاذ ضد شركات تُطلق ادعاءات غير مدعومة بشأن الذكاء الاصطناعي. تلقّت DoNotPay غرامة قدرها 193,000 دولار مقابل مبالغتها في الوعد بما يمكن أن تفعله أداتها القانونية بالذكاء الاصطناعي. واستُهدفت Rytr لتوليدها تقييمات مزيّفة. وكانت لجنة التجارة الفيدرالية صريحة: إذا ادّعيت أن أداتك "خالية من التحيّز"، فالأجدر بك أن تملك الدليل التجريبي لإثبات ذلك. أما "درّبناها على بيانات ضخمة" فليس دليلًا، بل اعتراف.

أما لجنة تكافؤ فرص العمل (EEOC)، فقد جعلت التمييز الخوارزمي أولوية إنفاذ قصوى. موقفها واضح ومباشر: أصحاب العمل مسؤولون قانونيًا عن التمييز الناجم عن أدوات الذكاء الاصطناعي التي يشترونها، حتى لو باعهم البائع وعودًا زائفة عن العدالة. لا يمكنك أن تُسنِد التزاماتك في مجال الحقوق المدنية إلى عقد برمجيات.

يسألني الناس أحيانًا عمّا إذا كان هذا الضغط التنظيمي سيُبطئ تبنّي الذكاء الاصطناعي في التوظيف. أعتقد أنه السؤال الخطأ. فالضغط سيُبطئ تبنّي الذكاء الاصطناعي السيّئ، وسيُسرّع سوق الأدوات التي تستطيع فعلًا إثبات العدالة — ليس بنصوص تسويقية، بل بدليل قابل للتدقيق. الشركات التي استثمرت في بنية صارمة ستحظى بميزة هائلة. والشركات التي اشترت أغلفةً ستحظى بفاتورة قانونية هائلة.

التصميم لأدمغة تعمل بشكل مختلف

هناك قضية أعمق تكمن تحت الحجج التقنية والقانونية، وهي التي تعنيني أكثر من غيرها.

تُبنى معظم أدوات التوظيف بالذكاء الاصطناعي على ما يسمّيه باحثو الإعاقة نموذج "العجز الطبي" — الافتراض بأن سمات التنوع العصبي هي انحرافات عن معيار يجب كشفها واستبعادها. تفترض البنية بأكملها مسبقًا أن هناك طريقة "صحيحة" لعمل الدماغ، وأن مهمة الخوارزمية هي إيجاد المرشحين الذين تعمل أدمغتهم بتلك الطريقة.

هذا ليس مفلسًا أخلاقيًا فحسب، بل هو غباء استراتيجي.

كثيرًا ما يتفوّق أصحاب التنوع العصبي في القدرات ذاتها التي تقول الشركات إنها في أمسّ الحاجة إليها: التعرّف العميق على الأنماط، والانتباه المستمر إلى التفاصيل، وحلّ المشكلات الإبداعي الذي يخرج عن الأطر التقليدية. فنظام توظيف يفرز بحثًا عن "الحيوية" و"الجرأة الاجتماعية" إنما يرشّح بشكل منهجي الأشخاص الأكثر احتمالًا لرؤية ما يفوت الجميع سواهم.

في VeriPrajna، بدأنا نبني ما أفكّر فيه كأنظمة تقييم مرنة زمنيًا. فبدلًا من مقارنة كل مرشح بخط أساس للنمط العصبي المعتاد — متوسط زمن الاستجابة، وإيقاع الكلام النمطي، والتعبير العاطفي المتوقّع — يُنشئ النظام خط أساس فرديًا خلال المراحل المبكرة من التفاعل. يتعلّم كيف يبدو "الطبيعي" بالنسبة إلى هذا الشخص، لا بالنسبة إلى متوسط مجرّد ما.

كما ندعو بقوة إلى ما ينبغي أن يكون بديهيًا: يجب أن يتضمّن كل تقييم آلي خيارًا واضحًا وخاليًا من العقوبة لطلب بديل بشري. يشترط قانون الأمريكيين ذوي الإعاقة تهيئة معقولة. لكن بعيدًا عن الامتثال القانوني، فإن ذلك مجرد هندسة جيدة. أيّ نظام يتعطّل حين يطلب المستخدم واجهة مختلفة هو نظام هشّ.

السؤال الذي لا يريد أحد الإجابة عنه

حين أعرض هذا العمل، تكون هناك دائمًا لحظة صمت محرِج. وعادةً ما تأتي بعد أن أشير إلى أن أدوات الذكاء الاصطناعي ذاتها التي تستخدمها شركات Fortune 500 "لتحسين التنوع" قد تكون تستبعد بشكل منهجي المرشحين ذوي الإعاقة. فيتحرّك أحدهم في الغرفة في مقعده — وعادةً هو من وقّع العقد مع البائع.

الحقيقة المزعجة هي أن معظم المؤسسات لم تُدقّق قط على أدوات التوظيف بالذكاء الاصطناعي بحثًا عن تحيّز ضد ذوي الإعاقة. لقد فحصت التفاوتات العرقية والجندرية لأن تلك هي المقاييس التي ركّز عليها المنظّمون تاريخيًا. أما التنوع العصبي؟ فليس حتى ضمن لوحة المؤشرات.

شكوى Aon تُغيّر هذا. ليس لأن Aon سيئة على نحو فريد — فهي ممثّلة لنهج سائد في القطاع بأكمله. إنها تُغيّر الأمور لأنها تُسمّي الآلية. تُظهر بالضبط كيف يصبح "تقييم الشخصية" فرزًا لذوي الإعاقة. وبمجرد أن تراه، لا يمكنك أن تُنكره بعد ذلك.

أيّ شركة تستخدم خوارزميات تعتمد على الشخصية كبديل لفرز المرشحين إنما ترشّح بشكل منهجي المواهب ذاتها التي تُحرّك الابتكار.

أفكّر في صديقي — المهندس اللامع الذي لم يستطع تجاوز فرز الشخصية. في النهاية وظّفته شركة أجرت له تقييمًا تقنيًا حيًّا بدلًا من ذلك. وفي غضون ستة أشهر، كان قد أعاد تصميم خط بياناتهم بأكمله. الشركات الإحدى عشرة التي رفضته لم تُفوّت فقط توظيفًا جيدًا، بل أخبرتها خوارزمية أنه لا يستحق حتى التحدّث إليه.

هذه ليست مشكلة تحيّز، بل نظام معطّل يُقنع نفسه بأنه يعمل.

إلى أين يمضي هذا بعد ذلك

شكوى Aon والاتحاد الأمريكي للحريات المدنية ليست نهاية شيء ما، بل هي بداية حساب سيُعيد تشكيل كيفية تفكير كل مؤسسة في الذكاء الاصطناعي ضمن قرارات رأس المال البشري.

بحلول الوقت الذي تبلغ فيه موجة الإنفاذ والتقاضي هذه ذروتها، ستكون الشركات الصامدة هي تلك التي عاملت حوكمة الذكاء الاصطناعي كتخصّص هندسي، لا كتمرين علاقات عامة. تلك التي طالبت بمنطق سببي بدلًا من الارتباط. تلك التي دقّقت بحثًا عن الإنصاف على مستوى الفرد، لا مجرد التكافؤ الديموغرافي. تلك التي صمّمت للطيف الكامل للإدراك البشري، لا مجرد الشريحة التي تصادف أن تُطابق بيانات التدريب.

لم أؤسّس VeriPrajna لبناء أدوات امتثال. أسّستها لأنني أؤمن أن الذكاء الاصطناعي يمكن أن يكون أقوى أداة لتحقيق المساواة في تاريخ التوظيف — لكن فقط إذا بنيناه على النحو الصحيح. لا أغلفة على نماذج متحيّزة. لا بدائل شخصية مموّهة بزيّ القياس النفسي. بل أنظمة عميقة تفهم الفرق بين ما يستطيع الشخص فعله وكيفية تكوّن دماغه.

الخوارزمية التي رفضت صديقي إحدى عشرة مرة لم تكن شرّيرة، بل كانت سطحية فحسب. وفي التوظيف، السطحية هي الشيء نفسه المُميِّز.

نستطيع أن نبني على نحو أعمق. علينا أن نفعل.