محكمة أمريكية تُبلّغ ملايين المتقدمين للوظائف: ربما مارست ضدّكم برمجيات التوظيف تمييزاً

كنتُ جالساً في بهو أحد الفنادق في بنغالور العام الماضي، أنتظر اجتماعاً تأخّر موعده، أتصفّح مذكرات قانونية على هاتفي — بالطريقة التي يتصفّح بها الناس العاديون Instagram — حين صادفتُ فقرة جعلتني أضع فنجان قهوتي جانباً.

كان قاضٍ فيدرالي في كاليفورنيا قد قضى للتو بأن Workday، عملاق برمجيات الموارد البشرية الذي تبلغ قيمته 70 مليار دولار، يمكن أن تُحمَّل المسؤولية القانونية بصفتها وكيلاً بموجب قانون مكافحة التمييز الفيدرالي. ليست أداة. وليست منصة محايدة. بل وكيلاً — الفئة القانونية نفسها التي ينتمي إليها موظف توظيف بشري يستبعد السير الذاتية بناءً على عمر شخص أو عِرقه.

المدّعي، ديريك موبلي، وهو رجل أمريكي من أصل أفريقي تجاوز الأربعين ويعاني من إعاقات، كان قد رُفض من أكثر من 100 وظيفة. جاء الكثير من تلك الرفوضات خلال دقائق من التقديم، وغالباً خارج ساعات العمل. لم ينظر أي إنسان في سيرته الذاتية. قرّر البرنامج أنه لا يستحق النظر في طلبه، وفعل ذلك مراراً وتكراراً باتساق خوارزمي.

أنا أبني أنظمة ذكاء اصطناعي. شركتي، Veriprajna، تصمّم بنى معرفية للمؤسسات — ذلك النوع من الذكاء الاصطناعي العميق والحتمي الذي يُفترض أن يحلّ محلّ الاختصارات الاحتمالية المتهاونة التي يبيعها معظم القطاع. وحين قرأتُ ذلك الحكم، لم تكن فكرتي الأولى «هذا سيئ لـ Workday». بل كانت: معظم قطاع التوظيف بالذكاء الاصطناعي مبني على الأساس المتهالك نفسه، ولا يكاد أحد يتحدث عن ذلك.

1.1 مليار حالة رفض وقاضٍ انتبه

دعوني أعطيكم الرقم الذي أوقف الجميع في الغرفة حين شاركته مع فريقي الهندسي.

خلال الفترة ذات الصلة من قضية Workday، رُفض ما يقارب 1.1 مليار طلب توظيف عبر برنامج Workday. هذا ليس خطأً مطبعياً. مليار، وليست مليوناً.

في مايو 2025، منحت محكمة فيدرالية اعتماداً أولياً لدعوى جماعية على مستوى البلاد بشأن التمييز على أساس السن بموجب قانون ADEA — قانون التمييز على أساس السن في التوظيف. هذا يعني أن كل شخص تجاوز الأربعين وحُرم من توصية توظيف عبر منصة Workday منذ سبتمبر 2020 يمكن إخطاره ويمكنه الانضمام إلى القضية. وبحلول يوليو 2025، وسّعت المحكمة النطاق ليشمل المتقدمين الذين عولجت طلباتهم عبر HiredScore، وهي أداة توظيف بالذكاء الاصطناعي كانت Workday قد استحوذت عليها.

حين يرفض برنامج مليار طلب وتقول محكمة «هذا البرنامج هو وكيلك قانونياً»، فإن قطاع تقنيات الموارد البشرية بأكمله يواجه مشكلة بنيوية، لا مشكلة علاقات عامة.

أتذكّر النقاش الذي دار بيننا داخلياً حول هذا. قال أحد مهندسيّ — رجل نبيه ذو خلفية عميقة في تعلّم الآلة: «لكن Workday مجرد محرك توصيات يعمل. الأمر أشبه بلوم Google على إظهار نتائج بحث سيئة.» فقلت: «لا. الأمر أشبه بلوم وكالة توظيف استعنتَ بها لفرز المرشحين، فألقت تلك الوكالة بكل سيرة ذاتية لأي شخص تخرّج قبل عام 1995.»

رسمت المحكمة ذلك التمييز بالضبط. فصلت القاضية ريتا لين بين «الأدوات البسيطة» — جداول البيانات والبريد الإلكتروني — والأنظمة التي تقيّم المرشحين وترتّبهم وتوصي بهم بشكل فعّال. لم يكن ذكاء Workday الاصطناعي ينظّم البيانات ليراجعها إنسان. بل كان يؤدي الوظيفة التقليدية لصاحب العمل في تقرير من يتقدّم ومن لا يتقدّم. هذه وكالة. وهذه مسؤولية قانونية.

كيف تتعلّم الخوارزمية التمييز على أساس السن؟

هذا هو الجزء الذي يبقيني مستيقظاً في الليل، لأن الآلية شديدة الابتذال.

لم يجلس أحد في Workday — وأنا أؤمن بهذا بصدق — ويكتب شيفرة تقول if age > 40: reject(). فذلك سيكون غير قانوني بصورة كاريكاتورية ويسهل اكتشافه ببساطة. المشكلة الحقيقية أدقّ من ذلك، وبصراحة، أصعب في الإصلاح.

حين تدرّب نموذج تعلّم آلي على بيانات التوظيف التاريخية لشركة ما — «موظفوها الناجحون» — فإنك تغذّيه بكل تحيّز حمله مديرو التوظيف السابقون. وإذا كانت الشركة قد وظّفت تاريخياً عمالاً أصغر سناً في الأدوار الهندسية، يتعلّم النموذج أن المؤشرات المرتبطة بالشباب تتنبأ بـ«النجاح». ليس العمر مباشرةً. مؤشرات بديلة.

إليك ما يمكن لنظام فرز بالذكاء الاصطناعي أن يستنتجه عن عمرك دون أن يرى تاريخ ميلادك قط:

نطاق بريدك الإلكتروني. عنوان مثل @aol.com أو @hotmail.com يرتبط بشريحة مستخدمين أكبر سناً. مراجعك التقنية — فذكر خبرة في Lotus Notes أو COBOL يثبّتك في حقبة بعينها. إجمالي سنوات الخبرة، حيث تصبح عبارة «أكثر من 15 عاماً» مرساةً زمنية. حتى علامات التدرّج الوظيفي: مسمّى «مبرمج مبتدئ» من أوائل تسعينيات القرن الماضي يخبر النموذج بالضبط متى دخلتَ سوق العمل.

اختبرتُ هذا مع فريقي. بنينا مجموعة بيانات اصطناعية — سِير ذاتية مزيّفة بمتغيّرات محكومة — ومرّرناها عبر خط فرز قياسي قائم على المحوّلات (transformer). لم يُخبَر النموذج قط بأي شيء عن العمر. لكن حين قِسنا معدلات الاختيار باستخدام قاعدة الأربعة أخماس الخاصة بـ EEOC — التي تشير إلى الأثر السلبي حين ينخفض معدل اختيار فئة محمية إلى ما دون 80% من معدل الفئة الأعلى — كانت النتائج للمتقدمين فوق الأربعين مدمّرة. معدلات اختيار تعادل نصف معدلات المتقدمين الأصغر سناً. نِسب أثر تقارب 0.50، أي أدنى بكثير من عتبة 0.80.

لا تحتاج الخوارزمية إلى معرفة عمرك. كل ما تحتاجه هو مزوّد بريدك الإلكتروني، ومفرداتك، والجدول الزمني لمسيرتك المهنية. والرياضيات تتكفّل بالباقي.

لم يبرمج أحد التمييز. بيانات التدريب هي التمييز نفسه، متبلوراً في أوزان ومعاملات ومُقدَّماً مجدداً على نطاق واسع.

لماذا «فقط استخدم GPT» هو الإجابة الخاطئة

يأتيني هذا باستمرار. من المستثمرين، ومن العملاء المحتملين، ومن مدراء تقنيين حسني النية قرؤوا ثلاث تدوينات عن التحوّل بالذكاء الاصطناعي. «لماذا لا تكتفي بتغليف GPT-4؟ إنه جيد بما يكفي.»

قال لي مستثمر هذا في وجهي أثناء عرض تقديمي. اتّكأ إلى الخلف، وعقد ذراعيه، وقال: «أشوتوش، لقد أنفقت OpenAI مليارات على هذا. أتقول لي إن شركتك المكوّنة من 40 شخصاً ستبني شيئاً أفضل؟»

أخبرته أنه يطرح السؤال الخطأ. فالسؤال ليس ما إذا كان GPT-4 «أفضل» في توليد النص. بالطبع هو كذلك. السؤال هو ما إذا كان ينبغي لمحرك توليد نص احتمالي أن يتخذ قرارات تحدّد ما إذا كانت مهندسة برمجيات عمرها 52 عاماً ستتمكن من إطعام أسرتها.

السوق مغمور بما أسميه أغلفة نماذج اللغة الكبيرة — طبقات تطبيقية رقيقة تعيد تغليف مخرجات النماذج الأساسية مثل GPT-4 أو Claude وتبيعها بوصفها «حلول توظيف بالذكاء الاصطناعي». تبدو مبهرة في العروض التوضيحية. لكنها تفشل فشلاً كارثياً في بيئة التشغيل، وإليك السبب.

يتنبأ نموذج اللغة الكبير بالرمز (token) التالي الأكثر احتمالاً. هذا كل شيء. إنه محرك إكمال تلقائي متطور. إنه لا يستدل بشأن ما إذا كان المرشح يستوفي شرطاً وظيفياً. إنه يولّد نصاً يبدو كأنه استدلال. وفي التوظيف، الفجوة بين «يبدو كأنه استدلال» و«الاستدلال الفعلي» هي الفجوة بين الامتثال ودعوى جماعية.

هناك ظاهرة موثّقة جيداً تُسمى متلازمة الضياع في المنتصف: تُظهر بنى المحوّلات القياسية دقة عالية عند معالجة المعلومات في بداية نافذتها السياقية ونهايتها، لكن الانتباه ينخفض بشكل كبير في المنتصف. في سيرة ذاتية من 10 صفحات، تكون الشهادات المهمة أو الإنجازات الحديثة المدفونة في الأقسام الوسطى أكثر عرضة إحصائياً للتغافل عنها. ليس لأن النموذج قرّر أنها غير مهمة — بل لأن البنية حرفياً لا تستطيع منح انتباه متساوٍ لكل شيء.

كتبتُ عن هذا القيد المعماري ونهجنا في حله في النسخة التفاعلية من بحثنا.

ثم هناك المشكلة الاقتصادية. تواجه أغلفة نماذج اللغة الكبيرة ما أسميه امتصاص الخندق التنافسي — فمع إصدار مزوّدي النماذج الأساسية نماذج قاعدية أكثر قدرة، يدمجون حتماً الميزات التي تعتمد عليها الأغلفة كعرض قيمتها. تحليل السير الذاتية، وتحليل المشاعر، والمطابقة الأساسية — ستوفّرها OpenAI وGoogle في نهاية المطاف بشكل أصلي. والشركة التي تكتفي بتغليف واجهة برمجة تطبيقات (API) إنما تبدّد ميزتها التنافسية مع كل تفاعل مع عميل.

الليلة التي كسرنا فيها نظامنا الخاص

أريد أن أحدّثكم عن ليلة خميس قبل نحو ثمانية أشهر، لأنها غيّرت طريقة تفكيري في كل ما نبنيه.

كنا نختبر نموذجاً أولياً لوحدة فرز التوظيف لدينا — بنيتنا العصبية-الرمزية، التي سأشرحها بعد قليل — في مواجهة مجموعة بيانات مرجعية. كان النظام يؤدي أداءً رائعاً على مقاييس الدقة. كانت الدقة (precision) عالية. وكان الاستدعاء (recall) متيناً. وكان كبير مهندسي تعلّم الآلة لديّ، الذي كان يعمل 14 ساعة يومياً على هذا، يكاد يتوهّج فرحاً.

ثم أجرى محلّل الامتثال لدينا تدقيق الإنصاف.

كان النظام يُظهر انتهاكات للتكافؤ الديموغرافي فيما يخص حالة الإعاقة. ليست انتهاكات ضخمة — كانت نسبة الأثر نحو 0.78، أي أدنى بقليل جداً من عتبة 0.80. لكنها كانت موجودة. نظامنا نحن، ذاته الذي كنت أخبر الجميع أنه «مقاوم للتحيّز بحكم تصميمه»، كان يُنتج نتائج تمييزية.

خيّم الصمت على الغرفة. شعرتُ بالغثيان.

أمضينا الأيام الثلاثة التالية نفكّك خط المعالجة قطعة قطعة. تبيّن أن الجاني سمة في بيانات تدريبنا افترضنا أنها محايدة: مدة الانقطاع عن العمل. فالمرشحون ذوو الإعاقة أكثر عرضة إحصائياً لوجود فترات انقطاع عن العمل — لإجازة طبية، أو لانتقالات وظيفية متعلقة بإمكانية الوصول، أو لفترات تعافٍ. كان نموذجنا قد تعلّم أن فترات الانقطاع تتنبأ بـ«نجاح» أقل، فكان يعاقب الإعاقة عبر مؤشر بديل.

التقطنا التحيّز لأننا كنا نبحث عنه. أما معظم الشركات التي تستخدم أدوات توظيف جاهزة بالذكاء الاصطناعي فلا تبحث عنه. بل إنها لا تعرف حتى أنه ينبغي لها ذلك.

أصلحناه باستخدام إزالة التحيّز التخاصمية — بتدريب نموذج «خصم» ثانوي على التنبؤ بالخصائص المحمية انطلاقاً من مخرجات نموذجنا المتنبِّئ، ثم معاقبة المتنبِّئ كلما نجح الخصم. إنها تقنية معالجة أثناء التدريب تُجبر النظام على نسيان الأنماط التمييزية بدلاً من مجرد إخفائها في المعالجة اللاحقة.

لكن الدرس لم يكن تقنياً. كان الدرس: إذا كنا نحن، وهي شركة مهووسة بالإنصاف والتحقّق، قد كِدنا نطلق نظاماً متحيزاً، فماذا يُطلق الجميع سوانا؟

ماذا يعني «الذكاء الاصطناعي العميق» فعلاً للتوظيف؟

حين أقول إننا نبني «ذكاءً اصطناعياً عميقاً» بدلاً من أغلفة نماذج اللغة الكبيرة، لا أعني أننا نستخدم شبكات عصبية أعمق. بل أعني أننا نتعمّق أكثر في المشكلة.

بنيتنا عصبية-رمزية — فهي تجمع بين القدرات اللغوية للشبكات العصبية والصرامة المنطقية للاستدلال الرمزي. وعملياً، هذا يعني أن نموذج اللغة الكبير في نظامنا ليس هو صانع القرار. بل هو المترجم.

إليك كيف يعمل، دون مصطلحات معقّدة:

حين تدخل سيرة ذاتية إلى نظامنا، يستخرج نموذج لغة متخصص حقائق مهيكلة — «هذا الشخص لديه 5 سنوات خبرة في Python»، «هذا الشخص يحمل شهادة PMP»، «هذا الشخص عمل في الشركة X من 2018 إلى 2022». هذه ليست تأويلات. إنها استخراجات للكيانات، مرتبطة برسم بياني معرفي يحدّد العلاقات بين المهارات والأدوار والمتطلبات التنظيمية.

ثم — وهذا هو الجزء الحاسم — محرك قواعد حتمي يقيّم تلك الحقائق المستخرجة في مقابل متطلبات الوظيفة. ليس شبكة عصبية. ولا توزيع احتمالات. بل منطق فعلي: IF experience >= 5 AND skill == Python THEN eligible = TRUE. لا يستطيع نموذج اللغة الكبير أن يهلوس السياسة لأن السياسة تكمن في الشيفرة، لا في الأوزان.

تولّد كل توصية مساراً منطقياً قابلاً للتدقيق. يمكنك تتبّع أي قاعدة تحديداً جرى تفعيلها، وبأي نقطة بيانات، وفي أي قسم من ملف المرشح. وحين تسأل جهة تنظيمية أو محامي مدّعٍ «لماذا رُفض هذا الشخص؟» — يكون لديك إجابة ليست «هكذا رأى النموذج».

نؤمّن هذا بما نسميه حواجز الحماية الدستورية — ثلاث طبقات من الحماية تعمل قبل كل تفاعل وأثناءه وبعده. تلتقط حواجز المدخلات المطالبات التخاصمية وتسرّب المعلومات الشخصية القابلة للتعريف قبل أن تصل إلى المنطق الأساسي. وتفرض حواجز الحوار حدوداً للمحادثة. وتفحص حواجز المخرجات كل نتيجة بحثاً عن الهلوسات أو السُّمّية أو انتهاكات السياسة قبل أن يصل أي شيء إلى موظف توظيف بشري.

هذا ليس نظرياً. وللاطلاع على التفصيل التقني الكامل لبنيتنا والإطار القانوني الذي يقودها، انظر ورقتنا البحثية.

هل يمكنك حقاً جعل التوظيف بالذكاء الاصطناعي عادلاً؟

يسألني الناس هذا طوال الوقت، وعادةً بنبرة متشككة تُوحي بأنهم يظنون أن الإجابة لا.

إجابتي الصادقة: لا يمكنك جعله عادلاً على نحو تام. فالإنصاف في التوظيف ينطوي على مفاضلات متأصّلة — مفاضلات رياضية، لا فلسفية فحسب. فتحسين التكافؤ الديموغرافي (تساوي معدلات الاختيار بين الفئات) قد يتعارض مع تساوي الاحتمالات (تساوي معدلات الإيجابيات الصحيحة والإيجابيات الخاطئة). وتحسين التكافؤ التنبّئي (ضمان أن الدرجة العالية تعني الشيء نفسه لكل فئة) قد يتعارض مع كليهما.

لكن يمكنك جعله أكثر عدلاً بدرجة هائلة من الوضع الراهن، وهو إما بشر متحيّزون أو خوارزميات متحيّزة تتظاهر بالحياد. ويمكنك جعله قابلاً للتدقيق، وهو ما يتطلبه القانون فعلياً.

نستخدم SHAP — أي SHapley Additive exPlanations — لإسناد قيمة إسهام لكل سمة في كل قرار. «أسهمت المهارة X بمقدار +15 في درجة هذا المرشح. وأسهم الانقطاع عن العمل بمقدار -3.» ونستخدم LIME — أي Local Interpretable Model-agnostic Explanations — لاختبار ما إذا كانت تغييرات صغيرة ستقلب قراراً. فإذا كان تغيير الرمز البريدي لمرشح يغيّر النتيجة، فثمة خطأ ما.

نولّد تفسيرات مضادة للواقع: «لم يُختَر هذا المرشح لأنه كان يفتقر إلى الشهادة Y. ولو كان يحمل الشهادة Y، لكانت درجته فوق العتبة.» هذا ليس صندوقاً أسود. بل صندوق زجاجي، وهو ما تطالب به إرشادات EEOC الصادرة في مايو 2023.

نموذج خطوط الدفاع الثلاثة الذي تفتقر إليه معظم الشركات

إليك ما صدمني حين بدأت أتحدث إلى فرق الموارد البشرية في المؤسسات عن أدواتها الذكية: معظمها لا يملك أدنى فكرة عن النماذج التي يشغّلها.

أعني هذا حرفياً. جلستُ في اجتماع مع الرئيسة التنفيذية للموارد البشرية في شركة من Fortune 500 — شخص مسؤول عن قرارات توظيف تمسّ عشرات الآلاف من الناس سنوياً — وسألت: «هل يمكنك أن تخبريني بمعدلات الاختيار بحسب الفئة الديموغرافية لأداة الفرز الذكية لديكم؟» نظرة فارغة. «هل يمكنك أن تخبريني بالنموذج الذي تستخدمه؟» نظرة فارغة أطول. «هل يمكنك أن تخبريني بمن تحقّق من خلوّها من التحيّز؟» قالت: «أظن أن المورّد يتولى ذلك.»

المورّد «يتولى» ذلك. المورّد نفسه الذي بات، بموجب سابقة Workday، مسؤولاً على نحو محتمل بوصفه وكيلك. المورّد نفسه الذي يكاد يكون من المؤكد أن في عقده بنداً يخلي مسؤوليته عن النتائج التمييزية.

يتطلب الذكاء الاصطناعي المؤسسي في التوظيف ما يسميه محترفو إدارة المخاطر خطوط الدفاع الثلاثة نموذجاً:

الخط الأول: وحدات الأعمال التي تبني الذكاء الاصطناعي وتنشره. وهي مسؤولة عن اختيار بيانات التدريب، وتقنيات التوظيف المُعمّى التي تُخفي الأسماء وسنوات التخرّج، والمراقبة اليومية.

الخط الثاني: الإشراف على المخاطر والامتثال. سجلات النماذج — جرد مركزي لكل نموذج ذكاء اصطناعي، وغرضه، ومصادر بياناته، ومستوى مخاطره. المراقبة المستمرة لمعدلات الاختيار ونِسب الأثر. وتدقيق المورّدين الذي يستوجب توثيق اختبارات التحيّز، لا مجرد عروض تسويقية.

الخط الثالث: التدقيق المستقل. يفرض قانون مدينة نيويورك المحلي 144 بالفعل تدقيقات سنوية للتحيّز تجريها أطراف ثالثة مستقلة على أدوات قرارات التوظيف الآلية. تبدأ الغرامات من 500 دولار عن المخالفة الأولى وتتصاعد إلى 1,500 دولار عن كل مخالفة في اليوم. لكن التكلفة الحقيقية ليست الغرامة — بل ما يحدث حين تأمر محكمة بإرسال اسم شركتك إلى ملايين المتقدمين المحتمل تضرّرهم، وهو بالضبط ما يتيحه الاعتماد الجماعي في قضية Workday.

لماذا «الذكاء الاصطناعي السيادي» هو مستقبل التوظيف المؤسسي

تعمل قضية Workday على تسريع تحوّل ظللتُ أراقبه منذ عامين: الانتقال نحو ما أسميه الذكاء الاصطناعي السيادي في التوظيف المؤسسي.

بدأت الشركات تستفيق على حقيقة أن إرسال بيانات التوظيف الخاصة بها إلى واجهة برمجة تطبيقات تابعة لطرف ثالث يعني أن تلك البيانات قد تُستخدم لتدريب الجيل التالي من نموذج شخص آخر. وتدرك أنه حين تُحدَّث واجهة برمجة تطبيقات عامة — وهو ما يحدث دون إشعار — قد ينحرف خط الفرز الذي تحقّقت منه بعناية بين ليلة وضحاها، مُنتجاً نتائج مختلفة للمرشحين أنفسهم. وتفهم أن نماذج اللغة الكبيرة العامة الغرض تفتقر إلى الرسوم البيانية المعرفية الخاصة بالمجال اللازمة لتقييم مهني دقيق.

المؤسسات التي أتحدث إليها تريد بشكل متزايد أن تمتلك نماذجها. وأن تشغّلها في سحاباتها الخاصة الافتراضية. وأن تتحكم في متى وكيف تُحدَّث. وأن تحتفظ بمسارات تدقيق كاملة لا تعتمد على حسن نية أحد المورّدين.

هذا هو الاتجاه الذي نمضي نحوه في Veriprajna. نحن لا نبيع وصولاً إلى واجهة برمجة تطبيقات. بل نبني بنية معرفية تُرمِّز المعرفة المؤسسية وقواعد الامتثال والمنطق الحتمي في أنظمة تستخدم الذكاء الاصطناعي كواجهة قوية — لا كعرّاف قابل للخطأ يتخذ قرارات تغيّر الحياة بناءً على انطباعات إحصائية.

الفكرة التي لا تفارقني

أعود دائماً إلى ديريك موبلي. أكثر من 100 طلب. رفضه البرنامج، غالباً في دقائق، في جوف الليل. لم ينظر أي إنسان قط في مؤهلاته. لم يخبره أحد قط لماذا.

وهو ليس استثناءً. إنه فقط من رفع دعوى.

هناك ملايين الأشخاص — أشخاص مؤهلون وذوو خبرة وقادرون — جرى استبعادهم من فرص العمل بخوارزميات مدرَّبة على تحيّز تاريخي، ومنشورة دون اختبار كافٍ، ومُشغَّلة دون رقابة ذات معنى. لم يتلقّوا خطاب رفض يشرح أن عنوان بريدهم @hotmail.com كان مرتبطاً بشريحة عمرية تعلّم النموذج أن يعاقبها. لم يتلقّوا سوى الصمت، أو بريد نموذجي، فمضوا إلى الطلب التالي.

لا يحلّ حكم Workday هذه المشكلة. لكنه يفعل شيئاً لا يقل عنها أهمية تقريباً: يجعل المشكلة مكلفة. وفي برمجيات المؤسسات، المشكلات المكلفة تُحَل.

لم يعد السؤال ما إذا كان ينبغي استخدام الذكاء الاصطناعي في التوظيف. بل ما إذا كان الذكاء الاصطناعي الذي تستخدمه قادراً على الصمود أمام إفادة قضائية.

أنا أبني الذكاء الاصطناعي كمهنة، وأؤمن إيماناً عميقاً بقدرته على جعل التوظيف أكثر عدلاً وكفاءةً وإنسانية. لكن بشرط واحد: أن نكفّ عن التعامل مع ذكاء التوظيف الاصطناعي كمنتج استهلاكي ونبدأ بالتعامل معه كما هو حقاً: نظام قرارات عالي المخاطر يحدّد أرزاق الناس، ويعمل في واحد من أكثر المجالات خضوعاً للتنظيم في القانون الأمريكي.

لقد انتهى عصر الصندوق الأسود. فابنِ وفقاً لذلك.