95% من الشركات تنتهك قانوناً للذكاء الاصطناعي لا يعلم معظم الناس بوجوده

كنت أتحدث في مكالمة هاتفية مع مديرة الموارد البشرية (CHRO) في إحدى شركات Fortune 500 في أوائل شهر يناير، عندما قالت شيئاً جعلني أتوقف في منتصف حديثي.

«أخبرنا فريقنا القانوني أن عدم الامتثال ببساطة هو الخيار الأكثر أماناً».

لم تكن تتهور، بل كانت تتصرف بعقلانية تامة. تستخدم شركتها أداة فرز مدعومة بالذكاء الاصطناعي للتوظيف في مدينة نيويورك، مما يعني خضوعها للقانون المحلي 144 (Local Law 144) — وهو تنظيم يُلزم الشركات بنشر عمليات تدقيق الانحياز علناً لأي أداة مؤتمتة تسهم في اتخاذ قرارات التوظيف. أجرى محاموها الحسابات بدقة: عقوبة عدم الامتثال هي غرامة تتراوح بين 500 و1,500 دولار لكل مخالفة، بينما كانت عقوبة الامتثال — أي نشر تدقيق الانحياز فعلياً — تقديم خارطة طريق إحصائية لمحامي المدعين لرفع دعوى تمييز قضائية.

بلورت تلك المحادثة فكرة كنت أبحث حولها لعدة أشهر. نحن لا نواجه مشكلة في أخلاقيات الذكاء الاصطناعي، بل لدينا مشكلة في بنية وهندسة الذكاء الاصطناعي. وجاء التدقيق الصادر في ديسمبر 2025 عن مراقب حسابات ولاية نيويورك ليثبت ذلك تماماً.

التدقيق الذي حطم الوهم

في 2 ديسمبر 2025، أصدر مراقب حسابات ولاية نيويورك توم دي نابولي تدقيقاً حول كيفية إنفاذ إدارة حماية المستهلك والعمال في مدينة نيويورك (DCWP) للقانون المحلي 144. وكانت النتائج مدمرة.

فحص مراجعو المدينة أنفسهم 32 جهة توظيف ووجدوا حالة محتملة لعدم الامتثال واحدة فقط. بينما فحص مدققو الولاية الشركات الـ 32 نفسها باستخدام أساليب فنية أكثر صرامة، واكتشفوا 17 مخالفة.

هذا ليس خطأ تقريب حسابي، بل فجوة بنسبة 1,600% بين ما رصدته المدينة وما كان يحدث على أرض الواقع.

أتذكر قراءة تقرير التدقيق على حاسوبي المحمول عند الساعة 11 مساءً، وأنا أتصفح النتائج بشعور يمزج بين الشعور بصحة موقفي والرهبة. الشعور بصحة الموقف لأن هذا هو تحديداً نوع الفشل الذي كنا نحذر عملاءنا منه — انهيار الامتثال الشكلي للذكاء الاصطناعي تحت التدقيق الحقيقي. والرهبة لأن حجم المشكلة كان أسوأ مما توقعت حتى أنا.

عندما تجد المدينة مخالفة واحدة وتجد الولاية 17 مخالفة في العينة نفسها، فهذه ليست فجوة إنفاذ — بل إنفاذ وهمي.

كشف التدقيق عن خلل يكاد يكون هزلياً: 75% من المكالمات التجريبية الواردة إلى الخط الساخن 311 في المدينة بشأن قضايا التوظيف بالذكاء الاصطناعي تم تحويلها بالخطأ ولم تصل أبداً إلى إدارة DCWP. واعترفت الوكالة بافتقارها إلى الخبرة الفنية لتقييم ما إذا كانت الشركات تستخدم بالفعل أدوات اتخاذ القرار المؤتمتة. ولم تستشر قط مكتب التكنولوجيا والابتكار التابع للمدينة. كان جهاز الإنفاذ بأكمله، من الناحية الوظيفية، مجرد واجهة زائفة.

لماذا اختارت معظم الشركات الصمت

وهنا يزداد الأمر سوءاً. فحصت دراسة أجرتها جامعة كورنيل ومؤسسة Data & Society ومجلة تقارير المستهلك (Consumer Reports) نحو 391 جهة توظيف خاضعة للقانون المحلي 144. ومن بين هؤلاء، قامت 18 شركة فقط بنشر عمليات تدقيق الانحياز المطلوبة، ونشرت 13 شركة فقط إشعارات الشفافية.

وهذا يعني أن قرابة 95% من أصحاب العمل المشمولين بالقانون كانوا يتجاهلونه ببساطة.

أمضيت أنا وفريقي أسبوعاً في دراسة هذا التقرير ومطابقة نتائجه مع معرفتنا بأدوات الذكاء الاصطناعي التي تستخدمها هذه الشركات. وكان لدينا نقاش مستمر في مكتبنا حول ما إذا كان هذا إهمالاً جماعياً أم تصرفاً محسوباً بدقة. اعتقد كبير مسؤولي التكنولوجيا لدي أنه كسل — فالشركات لم تجد وقتاً بعد. لكني خالفته الرأي.

أعتقد أن معظم هذه الشركات أجرت عمليات التدقيق داخلياً، ورأت الأرقام، وأصيبت بالذعر.

السبب هيكلي بحت. يتطلب القانون المحلي 144 نشر «نسب التأثير» (impact ratios) — وهي في الأساس مقارنة معدلات الاختيار للمجموعات الديموغرافية المختلفة والتحقق مما إذا كانت تلبي قاعدة الأخماس الأربعة الصادرة عن لجنة تكافؤ فرص العمل (EEOC). فإذا كانت أداتك تختار الرجال بمعدل 60% والنساء بمعدل 40%، فإن النسبة تكون 0.67 — وهي أقل من عتبة 0.80 التي تشير إلى أثر متباين محتمل.

المشكلة؟ معظم أدوات التوظيف القائمة على الذكاء الاصطناعي والمبنية على نماذج لغوية للأغراض العامة ستفشل في هذا الاختبار. ليس لأنها منحازة بشكل خبيث، بل لأنها مدربة على بيانات بحجم شبكة الإنترنت تعكس عقوداً من التحيز المجتمعي. وعندما تحسب الأرقام بنزاهة، يظهر الانحياز جلياً؛ وحين تنشر تلك الأرقام، تكون قد قدمت دليلاً قانونياً يدينك.

لم تكن مديرة الموارد البشرية التي تحدثت إليها ساخرة، بل كانت تصف الاستجابة العقلانية لنظام تولد فيه الأدوات نفسها أدلة على التمييز بمجرد تدقيقها.

ماذا يحدث عندما تبني الذكاء الاصطناعي على «الانطباعات العابرة»

أحتاج إلى شرح جانب من طريقة عمل معظم أنظمة الذكاء الاصطناعي في المؤسسات اليوم، لأنها جذر هذه الأزمة بأكملها.

النموذج السائد في السوق حالياً هو ما أسميه «اقتصاد الطبقات المغلفة» (Wrapper Economy). تأخذ شركة استشارية نموذجاً تأسيسياً — مثل GPT-4 أو Claude أو Gemini — وتغلفه بطبقة رقيقة من المطالبات المخصصة واستدعاءات واجهة برمجة التطبيقات (API)، وتبيعه للمؤسسات كحل متكامل. فرز السير الذاتية، معالجة المطالبات، تقييم المخاطر — تتولى الطبقة المغلفة الواجهة، لكن التفكير الفعلي يحدث داخل نموذج لا يتحكم فيه أحد في المؤسسة، ولا يدققه، ولا يفهمه بالكامل.

تعمل هذه النماذج عبر التنبؤ بالكلمة التالية الأكثر احتمالاً من الناحية الإحصائية في تسلسل معين. وهي تعمل بناءً على ما أسميه المعقولية الدلالية — أي ما يبدو صحيحاً في الظاهر — وليس الواقع الجنائي الدقيق — أي ما هو صحيح بالفعل.

تعلمت هذا الدرس بالطريقة الصعبة. في المراحل الأولى لتأسيس Veriprajna، وقبل التزامنا الكامل ببنيتنا الحالية، أجرينا اختباراً طلبنا فيه من نموذج لغوي رائد تقييم مجموعة من السير الذاتية مع «تجاهل الجنس». ومع ذلك، مارس النموذج التمييز. ليس بشكل صريح — فلم يصنف كلمة «أنثى» كعامل سلبي — لكنه فضل بشكل منهجي السير الذاتية التي تذكر جامعات معينة، وتستخدم أنماط صياغة محددة، وتدرج أنشطة غير صفية معينة — وجميعها ترتبط إحصائياً بالجنس في بيانات تدريب النموذج.

إن مطالبة نموذج لغوي كبير بـ «تجاهل الجنس» تشبه مطالبة شخص ما بألا يفكر في الأفيال. فالارتباطات مدمجة ومحفورة في الأوزان العصبية. لا يمكنك التخلص من الانحياز الهيكلي بمجرد هندسة المطالبات.

عندما تطلب منك كولورادو أو الاتحاد الأوروبي أن تفسر سبب اتخاذ نظام الذكاء الاصطناعي لقرار سلبي، لا تستطيع أنظمة الطبقات المغلفة سوى تزويدك برواية لاحقة للأحداث — سرد يبدو معقولاً لما يظن أنه كان سبب اتخاذه للقرار. هذا ليس تفسيراً، بل هلوسة حول منطقه الخاص في الاستدلال. وقد كتبت عن هذه المشكلة بتفصيل وافٍ في النسخة التفاعلية من بحثنا، حيث استعرضنا تداعيات «فجوة قابلية التدقيق» هذه عبر مختلف الأنظمة الرقابية.

معضلة الامتثال الثلاثية التي لا يتحدث عنها أحد

إليكم ما يؤرقني حقاً: لم يعد الأمر مقتصراً على نيويورك وحدها.

بحلول منتصف عام 2026، ستواجه الشركات العاملة عبر ولايات متعددة وفي أوروبا ما لا يقل عن أربع لوائح تنظيمية متداخلة للذكاء الاصطناعي — ومتضاربة من الناحية الفنية — في الوقت نفسه:

القانون المحلي 144 لمدينة نيويورك يُلزم بنشر إحصاءات الانحياز التقاطعي مفصلة حسب العرق والجنس. وقانون كولورادو SB 24-205، الساري اعتباراً من يونيو 2026، يفرض معياراً أوسع لـ «العناية المعقولة» وإفصاحاً إلزامياً للمدعي العام في حال اكتشاف تمييز خوارزمي. وقانون إلينوي HB 3773 يحظر استخدام الرموز البريدية كبدائل للفئات المحمية — وهي تقنية تعتمد عليها فعلياً العديد من أدوات تخفيف الانحياز. كما يفرض قانون الذكاء الاصطناعي الأوروبي توثيقاً مفصلاً لمصدر بيانات التدريب و«تقييمات المطابقة» للأنظمة عالية المخاطر.

هذه ليست مجرد قواعد متباينة، بل إنها غير متوافقة هندسياً في العديد من جوانبها.

فإن تقنية حجب البيانات التي تستخدمها للامتثال لحظر الرموز البريدية في إلينوي قد تدمر تمثيل البيانات الذي يطلبه الاتحاد الأوروبي؛ وتدقيق الانحياز الذي يلبي إطار العمل الخاص بالعرق والجنس في نيويورك قد يفشل في معيار كولورادو إذا لم يأخذ في الحسبان العمر والإعاقة أيضاً. ولا يقبل أي من هذه الأطر التنظيمية عبارة «استخدمنا GPT-4 وأضفنا بعض حواجز الحماية» كتقييم للمطابقة.

أخبرني أحد المستثمرين العام الماضي: «فقط استخدم GPT وأضف طبقة امتثال فوقه». فسألته: أي طبقة امتثال؟ ولأي اختصاص قضائي؟ ومختبرة وفق أي مقاييس؟ لم يكن لديه جواب، لأنه لا يوجد حل كهذا. لا يمكنك تثبيت الامتثال كملحق خارجي بنظام لم يُصمم أساساً ليكون قابلاً للتدقيق.

ما نقوم ببنائه فعلياً كبديل

في Veriprajna، اتخذنا رهاناً مبكراً أعترف بأنه كان يبدو منعزلاً في ذلك الوقت: رفضنا نموذج الطبقات المغلفة بالكامل. لا واجهات برمجة تطبيقات رقيقة، ولا تقديم هندسة المطالبات كمنتج. وبدلاً من ذلك، نقوم ببناء ما أسميه الذكاء الاصطناعي العميق (Deep AI) — أنظمة مصممة هندسياً من الأساس لتحقيق الحتمية وقابلية التتبع والتحكم السيادي المستقل.

الفكرة الجوهرية تكمن في البنية العصبية الرمزية (neuro-symbolic architecture) — وهو نظام يفصل «الصوت» عن «العقل». تتولى الشبكة العصبية التعرف على الأنماط: قراءة السير الذاتية، وتحليل المستندات، وتحديد السمات ذات الصلة؛ لكن كل قرار يمر عبر طبقة منطق رمزي — قواعد صلبة مستمدة من القوانين الفعلية، وأنطولوجيات الصناعة، والقيود التخصصية — قبل أن يصل إلى المستخدم.

عندما تنص إلينوي على عدم جواز استخدام الرموز البريدية كبديل للعرق، فإن طبقتنا الرمزية لا «تحاول» تجنب ذلك، بل تحظره تماماً، وبشكل حتمي قطعي، وتسجل بدقة القاعدة التي تم تفعيلها وسبب ذلك. وعندما تطلب جهة تنظيمية تفسيراً، فإننا لا نولد قصة معقولة الظاهر، بل نقدم سلسلة استدلال منطقي كاملة وقابلة للتتبع من المدخلات إلى المخرجات.

الفرق بين الطبقة المغلفة والذكاء الاصطناعي العميق هو الفرق بين «النموذج قال ذلك» وبين «إليك القاعدة المحددة، والمدخلات الدقيقة، والمسار المنطقي المؤكد الذي أنتج هذا القرار».

نحن نصر أيضاً على ما نطلق عليه البنية التحتية السيادية — نشر النماذج على السحابة الخاصة بالعميل، وعدم توجيه البيانات الحساسة عبر واجهات برمجة التطبيقات العامة. فعندما ترسل سجلات الموظفين أو معلومات المرشحين إلى واجهة برمجة تطبيقات تابعة لجهة خارجية، يمكن تسجيل تلك البيانات، أو تضمينها في تدريبات مستقبلية، أو كشفها عبر ثغرات أمنية لا تملك أي رؤية حولها. وبالنسبة لشركة تخضع للائحة GDPR وقانون CCPA وهذه اللوائح الجديدة الخاصة بالذكاء الاصطناعي، فإن ذلك يمثل خطراً غير مقبول.

للحصول على تفصيل تقني شامل لكيفية عمل هذه البنى الهندسية — التتبع القائم على الرسوم البيانية المعرفية، وطبقات التحقق المستندة إلى قوانين الفيزياء، ونماذج النشر على الحافة — أحيلكم إلى ورقتنا البحثية المفصلة. الهندسة عميقة ومعقدة، لكن المبدأ بسيط: يجب أن يكون كل مخرج صحيحاً بشكل مثبت، وليس صحيحاً بشكل محتمل.

«ولكن أليس هذا مبالغة غير ضرورية؟»

يسألني الناس هذا السؤال باستمرار. وعادة ما يكون السائل شخصاً اقتنع بنموذج الطبقات المغلفة ويعتقد أنني أعقد الأمور أكثر من اللازم.

وهذا هو جوابي: لقد أثبت مراقب حسابات ولاية نيويورك للتو أنه حتى المراجعة التنظيمية الودية والمتساهلة — التي أجرتها وكالة تابعة للمدينة نفسها — كانت تعمل بمعدل خطأ بلغ 1,600%. فقد رصد مدققو الولاية 17 مخالفة في حين لم ترصد المدينة سوى مخالفة واحدة، وذلك في عينة مكونة من 32 شركة فقط.

فماذا سيحدث عندما يبدأ المدعي العام في كولورادو تحقيقاته؟ وماذا سيحدث عندما يبدأ الاتحاد الأوروبي تقييمات المطابقة الخاصة به؟ وماذا سيحدث عندما يستدعي محامي المدعي سجلات قرارات نموذجك ويكتشف أن «تخفيف الانحياز» لديك لم يكن سوى مطالبة نظام تقول «يرجى التزام العدالة»؟

هذا ليس افتراضاً نظرياً. فقد أوصى تدقيق مراقب الحسابات صراحة بالانتقال من الإنفاذ السلبي القائم على تلقي الشكاوى إلى التحقيق الاستباقي القائم على البحث الميداني. ووافقت إدارة DCWP على اعتماد هذه التوصية. لقد انتهى عصر «لا أحد يدقق».

وهناك اعتراض آخر أسمعه كثيراً: «سننتظر حتى تستقر اللوائح التنظيمية قبل الاستثمار». إنني أفهم هذا الدافع، لكن دراسة كورنيل كشفت أن الشركات التي انتظرت — وهي نسبة الـ 95% التي لم تمتثل — تجلس الآن على جبل متزايد من المخاطر والمسؤوليات القانونية دون بنية تحتية لمعالجتها. وحين يتسارع الإنفاذ، لن يكون لديهم أشهر لبناء أنظمة ممتثلة، بل سيكون لديهم أسابيع معدودة فقط.

الليلة التي غيرت فيها الأرقام قناعتي

أود أن أشارككم لحظة غيرت بشكل جذري طريقة تفكيري في هذه القضية.

منذ حوالي ثمانية أشهر، كنا ننفذ إثبات مفهوم (PoC) لأحد عملاء الخدمات المالية. وكانوا يريدون اختبار ما إذا كانت أداة الفرز الحالية لديهم القائمة على الذكاء الاصطناعي — وهي منتج لشركة معروفة مبني على نموذج لغوي كبير رائد — قادرة على اجتياز تدقيق محاكاة للقانون المحلي 144. أعد فريقي الاختبار وحسب نسب التأثير وأرسل لي النتائج في حوالي الساعة 9 مساءً.

كنت أتوقع حالات فشل طفيفة على الحافة — نسباً مثل 0.75 أو 0.78، قريبة بما يكفي لإصلاحها ببعض إعادة المعايرة. وبدلاً من ذلك، وجدنا نسب تأثير منخفضة وصلت إلى 0.58 لفئات تقاطعية معينة. لم تكن قريبة من العتبة على الإطلاق، ولا يمكن إصلاحها بضبط المطالبات. كان انحيازاً هيكلياً وجذرياً بطرق كانت خفية تماماً على الأشخاص الذين يستخدمون الأداة يومياً.

جلست في مكتبي المنزلي أحدق في تلك الأرقام وأدركت حقيقة أعتقد أن القطاع بأكمله بحاجة إلى مواجهتها: الأدوات التي تستخدمها معظم الشركات الآن ستفشل في تدقيقات الانحياز الخاصة بها. إن نسبة عدم الامتثال البالغة 95% لا تتعلق فقط بتجاهل الشركات للقانون، بل تتعلق بشركات اطلعت على ما سيكشفه الامتثال وفضلت ألا تعرف الحقيقة.

هذه ليست مشكلة تنظيمية، بل فشل هندسي ذريع.

إلى أين يتجه المسار بعد ذلك

تدقيق ديسمبر 2025 ليس نهاية لآلام نمو تنظيم الذكاء الاصطناعي، بل هو بداية مرحلة النضج. يتعلم المنظمون من أخطائهم. ولن يعتمد الجيل القادم من الإنفاذ على الخطوط الساخنة 311 والإفصاحات الذاتية، بل سيستخدم أدوات تحقيق جنائية رقمية لفحص ما يفعله الذكاء الاصطناعي فعلياً — وليس ما يدعي فريق الامتثال لديك أنه يفعله.

بالنسبة للمؤسسات، هذا يعني أن نافذة اتخاذ القرارات الهندسية آخذة في الانغلاق. لا يمكنك تعديل الحتمية بأثر رجعي على نظام احتمالي، ولا يمكنك تثبيت قابلية التدقيق كملحق على صندوق أسود، ولا يمكنك الامتثال لأربعة اختصاصات قضائية متضاربة باستخدام قالب مطالبات واحد.

الشركات التي ستزدهر في عام 2026 وما بعده هي التي تتخذ الخيار الأصعب الآن: بناء أنظمة يتمتع فيها كل قرار بسلسلة منطقية قابلة للتتبع والتدقيق والدفاع القانوني. ليس لأن ذلك سهل، وليس لأنه رخيص، بل لأنه البنية الهندسية الوحيدة التي تصمد أمام جهة تنظيمية تعرف بالضبط ما تبحث عنه.

لقد انتهى عصر بناء الذكاء الاصطناعي على مجرد الانطباعات. وما سيحل محله ستحدده الشركات المستعدة لهندسة اليقين القطعي في أنظمة بناها بقية القطاع على الاحتمالات.

مديرة الموارد البشرية التي تحدثت معها في يناير عاودت الاتصال بي الأسبوع الماضي. كان فريقها القانوني قد قرأ تدقيق مراقب الحسابات. لم يعودوا ينصحون بعدم الامتثال، بل كانوا يسألون عن مدى السرعة التي يمكننا بها نشر النظام.