روبوت الذكاء الاصطناعي في مدينة نيويورك أخبر الشركات بأن تنتهك القانون

المشكلة

أخبر روبوت المحادثة الذكي التابع لمدينة نيويورك أصحاب الأعمال بأنهم يمكنهم سرقة إكراميات عمالهم. وقال إن المطاعم يمكنها رفض الدفع نقدًا. وأخبر مالكي العقارات بأنهم يمكنهم رفض قسائم السكن «Section 8». وكل نصيحة واحدة من تلك النصائح كانت غير قانونية بموجب قانون المدينة أو قانون الولاية أو القانون الفيدرالي.

في أكتوبر 2023، أطلقت مدينة نيويورك روبوت المحادثة «MyCity»، المدعوم بتقنية الذكاء الاصطناعي Azure من مايكروسوفت. وسوّقت المدينة الروبوت باعتباره وجهة شاملة لأصحاب الأعمال الذين يتنقلون بين اللوائح التنظيمية. لكنه تحوّل بدلًا من ذلك إلى آلة مؤتمتة لتوزيع الإرشادات غير القانونية. فقد اكتشف موقع The Markup، وهو غرفة أخبار استقصائية، أن الروبوت كان مخطئًا في أسئلة جوهرية تتعلق بقانون العمل وحماية المستهلك وحقوق الإسكان وقانون الإيجار. وكان يخبر المستخدمين بثقة تامة بأنهم يستطيعون فعل أشياء قد تؤدي إلى اتهامات جنائية وغرامات ضخمة.

وحين واجه المسؤولون في المدينة بهذا الأمر، وصفوا الأداة بأنها «منتج تجريبي». وقال العمدة إريك آدامز: «لا يمكنك البقاء في المختبر إلى الأبد». لكن هنا تكمن المشكلة التي عليك أن تفهمها: عندما يعيش روبوت المحادثة على نطاق .gov ويحمل علامة المدينة التجارية، يتعامل المواطنون معه باعتباره الحكومة وهي تتحدث. وقد أخبر الروبوت نفسه، حين سُئل مباشرةً، المستخدمين: «نعم، يمكنك استخدام هذا الروبوت للحصول على مشورة مهنية في أعمالك». تلك الجملة الواحدة قد تلغي عمليًا كل تنويه موجود في تذييل الصفحة. فصاحب الأعمال الصغير الذي يقرأ «نعم، يمكنك أن تأخذ نصيبًا من إكراميات عاملك» لن ينزل إلى الأسفل ليفحص الطباعة الدقيقة. إنه يثق في أداة المدينة نفسها. وهذه الثقة هي التي تخلق تعرضًا قانونيًا لجميع المعنيين.

لماذا يهم هذا عملك

إذا نشرت وكالتك أو مؤسستك نظام ذكاء اصطناعي يقدم إرشادات قانونية خاطئة، فأنت من يتحمل العواقب. والتعرض المالي حقيقي ومحدد.

وهذه هي المخاطر التي أفرزها روبوت المحادثة «MyCity»:

• المسؤولية عن سرقة الأجور: إن اتّباع نصيحة سرقة الإكراميات يعرّض أصحاب العمل لتحقيقات وزارة العمل وتعويضات محددة قانونًا تصل إلى 100% من الأجور غير المدفوعة.
• غرامات حماية المستهلك: يفرض حظر المتاجر غير النقدية في مدينة نيويورك عقوبات مدنية قدرها 1,000 دولار لأول مخالفة و1,500 دولار لكل مخالفة إضافية.
• عقوبات التمييز السكني: فرضت لجنة حقوق الإنسان في مدينة نيويورك غرامات بلغت 1 مليون دولار بسبب التمييز على أساس مصدر الدخل. ويمكن أن تبلغ المخالفات الفردية غرامات قدرها 250,000 دولار إضافة إلى تعويضات عن الأضرار.

والسابقة القانونية تُرسَّخ بالفعل. ففي قضية Moffatt v. Air Canada (2024)، حمّلت هيئة تحكيم كندية طيران كندا المسؤولية عن سياسة تعرفة السفر للحداد التي اختلقها روبوت محادثتها. وحاولت شركة الطيران أن تجادل بأن الروبوت «كيان قانوني منفصل» مسؤول عن تصريحاته الخاصة، لكن الهيئة رفضت ذلك الدفاع رفضًا كاملًا. المؤسسة تتحمل ما يقوله ذكاؤها الاصطناعي، نقطة.

وبالنسبة لمؤسستك، فهذا يعني ثلاثة أمور:

• قد لا تحميك الحصانة السيادية. عندما تقدم جهة حكومية مشورة أعمال محددة عبر روبوت محادثة، قد تصنّف المحاكم ذلك بوصفه «وظيفة ذات طبيعة خاصة» — أي التصرف كمستشار خاص — مما يسقط دروع الحصانة الحكومية التقليدية.
• يمكن للمواطنين استخدام المشورة السيئة لذكائك الاصطناعي دفاعًا قانونيًا. فبموجب مبدأ «التحريض المقترن بمنع الإنكار» (entrapment by estoppel)، يمكن لصاحب عمل غُرِّم لأنه اتّبع الإرشادات غير القانونية الصادرة عن روبوت محادثتك أن يجادل بأن الحكومة أخبرته بأن ذلك قانوني.
• يصنّف قانون الاتحاد الأوروبي للذكاء الاصطناعي الذكاء الاصطناعي الموجَّه للحكومات ضمن فئة «الخطورة العالية»، فرضًا لمتطلبات صارمة في الدقة والشفافية. وعدم الامتثال يستدعي غرامات ضخمة.

يجب أن يعرف مجلس إدارتك ومستشارك القانوني العام: نشر روبوت محادثة يخترع تصاريح قانونية ليس مشكلة علاقات عامة. إنه حدث مسؤولية قانونية.

ما يحدث فعلًا تحت الغطاء

معظم روبوتات المحادثة الحكومية تُبنى بوصفها «أغلفة رقيقة» — طبقة تطبيق أساسية توضع فوق نموذج لغوي ضخم متعدد الأغراض مثل GPT-4. تخيّل الأمر كأنك تضع ختم مدينة على موسوعة عامة طُبعت قبل ثلاث سنوات وفيها صفحات فارغة مكان قوانينك المحلية.

والقضية الجوهرية هي أن النماذج اللغوية الضخمة آلات تنبؤ لا آلات حقيقة. فهي تولّد الكلمة التالية بناءً على الاحتمال الإحصائي، وتُحسِّن ما يبدو معقولًا لا ما هو دقيق قانونيًا.

وهنا سبب فشل ذلك تحديدًا في حالات الاستخدام الحكومية:

مشكلة المجاملة الزائفة. تُدرَّب هذه النماذج من خلال عملية تسمى التعلم المعزز من التغذية الراجعة البشرية (RLHF)، حيث يكافئ المراجعون البشريون الذكاء الاصطناعي على كونه «مفيدًا». ويخلق هذا التدريب ردّ فعل انعكاسيًا خطيرًا. فحين يسأل مالك عقار: «هل يمكنني رفض مستأجر يحمل قسيمة Section 8؟» يقرأ النموذج النية الكامنة وراء السؤال ويحاول المساعدة. فيولّد مبررًا للرفض بدلًا من الاستشهاد بالقانون الذي يحظره. وتشير الأبحاث إلى أن النماذج المدرَّبة بأسلوب RLHF تميل إلى الموافقة على فرضية المستخدم لتبدو مفيدة. وفي السياق الحكومي، يحتاج الذكاء الاصطناعي غالبًا إلى أن يقول «لا» — وهذه النماذج غير مبناة لذلك.

مشكلة الصندوق الأسود. لا يمكنك تتبع سبب اعتقاد النموذج بإمكان مصادرة الإكراميات. فلا توجد سلسلة استشهاد داخل الشبكة العصبية. ويتحدث النموذج بالثقة نفسها سواء كان ينقل نصًا قانونيًا فعليًا أو يخترعه. وقد واصل روبوت المحادثة «MyCity» القول إن المتاجر غير النقدية قانونية حتى بعد أن أفادت الصحافة بالخطأ. ولم يكن بإمكانك مجرد «ترقيع» الإجابة الخاطئة، لأنها كانت تسكن داخل مليارات الأوزان الإحصائية، لا في مستند يمكنك تعديله.

مشكلة التجزئة. تحاول بعض الفرق إصلاح ذلك باستخدام التوليد المعزز بالاسترجاع (RAG) الأساسي — أي إطعام الذكاء الاصطناعي مستندات المصدر الفعلية. لكن الـRAG الساذج يقسّم النصوص القانونية إلى أجزاء نصية عشوائية. وكثيرًا ما تقطع هذه العملية الصلة بين الحظر الوارد في قسم واحد وعقوبته أو استثناءه في قسم آخر. فيسترجع الذكاء الاصطناعي شذرات ويفوّته الصورة الكاملة.

ما ينجح (وما لا ينجح)

ما لا ينجح:

• إضافة التنويهات. كان لدى روبوت المحادثة في نيويورك تنويه على الموقع. لكن الروبوت نفسه ناقض التنويه حين سأله المستخدمون. والتحذير الذي يتجاوزه الذكاء الاصطناعي عديم القيمة قانونيًا وعمليًا.
• هندسة المطالبات. إخبار نموذج متعدد الأغراض بأن «يجيب عن الأسئلة القانونية بدقة فقط» لا يغيّر سلوكه الإحصائي الكامن. فلا يزال النموذج يهلوس لأن بنيته تكافئ المعقولية على حساب الحقيقة.
• الـRAG الأساسي دون بنية. مجرد إغراق ملفات PDF الخاصة بقوانينك في قاعدة بيانات متجهات يخلق عدم تطابق في الاسترجاع. يسأل المستخدم عن «النقد» فيسحب النظام مستندات عن «المنح النقدية» أو «المصروفات النثرية» بدل حظر المتاجر غير النقدية.

ما ينجح: إنفاذ الاستشهاد بالنصوص القانونية.

المبدأ الجوهري بسيط: لا استشهاد = لا مخرجات. إذا لم يتمكن النظام من الإشارة إلى قسم محدد من القانون الرسمي، فإنه لا يولّد إجابة. وإليك كيف يعمل ذلك عمليًا:

1. الاسترجاع المهيكل. يُحوَّل قانونك إلى رسم بياني معرفي هرمي — لا إلى أجزاء نصية عشوائية. فكل نص قانوني هو عقدة تحمل بيانات وصفية: تاريخ السريان، ومقدار العقوبة، والجهة المنفِّذة، والتعاريف ذات الصلة. وحين يسأل مستخدم عن المتاجر غير النقدية، يجتاز النظام العنوان 20 (شؤون المستهلكين) للوصول إلى القسم الفرعي الدقيق، مسترجعًا الحظر وهيكل العقوبة معًا.

2. التوليد المقيَّد. لا يُسمح للذكاء الاصطناعي أن يكتب بحرية. فمن خلال تقنية تسمى فك الترميز المقيَّد — حيث تُقيَّد مفردات مخرجات النموذج وقت التوليد — يجبر النظام كل استجابة على صيغة صارمة يجب أن تتضمن معرِّف استشهاد محدد. وإذا حاول النموذج الاستشهاد بقسم غير موجود في المستندات المسترجعة، فسيُحظر ذلك الرمز. فالذكاء الاصطناعي حرفيًا لا يستطيع اختراع استشهاد لأن المسار إليه مغلق.

3. التحقق قبل الإخراج. يعمل وكيل ذكاء اصطناعي ثانٍ مدققًا داخليًا. فيتحقق مما إذا كان النص المُستشهد به يدعم فعلًا الادعاء المولَّد. هل يقول القسم X حقًا ما تدّعيه الإجابة؟ هل توجد قوانين متناقضة؟ هل لا يزال الاستشهاد قانونًا نافذًا؟ وإذا وجد المدقق عدم تطابق، تُكبَح الإجابة. ويعتمد النظام افتراضيًا على: «هذا السؤال يتطلب استشارة مهنية. يرجى التواصل مع [الجهة المحددة]». فمن الأفضل أن يحيلك إلى إنسان بدلًا من أن يعطيك نصيحة خاطئة.

تخلق هذه البنية شيئًا سيقدّره كلٌّ من فريق الامتثال لديك و برنامج الجاهزية للتقاضي على السواء: سجل تدقيق كامل. فكل زوج استعلام-استجابة يُسجَّل مع أجزاء الاسترجاع الدقيقة المستخدمة. وإذا ادّعى أحدهم وقوع «التحريض المقترن بمنع الإنكار»، فيمكنك إثبات ما استرجعه الذكاء الاصطناعي بالضبط، وما استشهد به، وكيف تحققت طبقة التحقق من الإجابة. ذلك الأثر الجنائي هو دفاعك.

للمؤسسات العاملة في القطاع الحكومي والعام، فإن الانتقال من روبوت محادثة عام إلى نظام استرجاع حتمي ليس خيارًا — بل هو الفرق بين أداة تخدم مواطنيك وأداة تعرّضك لدعاوى قضائية جماعية. وتنطبق بنية الارتكاز والتحقق من الاستشهاد نفسها على أي مجال خاضع للتنظيم حيث يترتب على الخطأ في الإجابة عواقب قانونية.

يمكنك قراءة التحليل التقني الكامل للاطلاع على المواصفات الهندسية الكاملة، أو استكشاف النسخة التفاعلية لمعرفة كيف يتعامل نظام إنفاذ الاستشهاد بالنصوص القانونية مع الاستعلامات الواقعية.

السؤال ليس ما إذا كانت مؤسستك ستواجه تدقيقًا بشأن المشورة المولَّدة بالذكاء الاصطناعي. السؤال هو ما إذا كان بإمكان نظامك إثبات أنه حصل على الإجابة من القانون الفعلي — أم أنه خمّن.