أعطيتُ روبوت محادثة حكومياً نصّ القانون بالضبط. ومع ذلك نصح الملّاك بانتهاكه.

في مارس 2024، طرح صحفي في The Markup على روبوت المحادثة الرسمي لمدينة نيويورك سؤالاً بسيطاً: هل يحقّ لمالك عقار أن يرفض مستأجراً يحمل قسيمة القسم 8 (Section 8)؟

الروبوت — MyCity، العامل على نطاق .gov، والمُدرَّب على أكثر من 2,000 صفحة ويب تابعة للمدينة، والمُشغَّل على Azure AI من Microsoft — قال نعم. أوضح، بروح خدومة، أن الملّاك ليسوا مُلزَمين بقبول القسائم.

هذه الإجابة غير قانونية. فقانون حقوق الإنسان في مدينة نيويورك يحظر التمييز على أساس مصدر الدخل منذ عام 2008، بغرامات تصل إلى 250,000 دولار. لم يتحفّظ روبوت المحادثة، ولم يُبدِ إخلاء مسؤولية، ولم يقل "استشر محامياً." لقد قدّم إجابة واثقة وطليقة وخاطئة، وفعل ذلك وهو يحمل خَتم مدينة نيويورك.

أمضيتُ يوم سبتٍ في ذلك الربيع أقرأ تحقيق The Markup مع فتح المدوّنة الإدارية الفعلية لمدينة نيويورك في علامة تبويب أخرى، أقارن ما قاله الروبوت بما نصّ عليه القانون، سطراً بسطر. وهنا، الفكرة الكامنة وراء ذكاء اصطناعي حكومي يستشهد بالقانون بدلاً من اختلاقه بدأت تتشكّل عندي — لا في عرضٍ تقديميّ استراتيجيّ، بل في الفجوة بين لقطة شاشة ونصّ قانوني. لم يكن الروبوت مرتبكاً. كان يعمل تماماً كما صُمِّم. والتصميم نفسه كان هو المشكلة.

روبوت المحادثة الذي طلب من سكان نيويورك انتهاك أربعة قوانين مختلفة

لم يُخطئ MyCity في أمرٍ واحد فقط. فقد وثّقت The Markup نمطاً يمتدّ عبر الآليات الأساسية للحياة في المدينة.

أخبر أصحاب الأعمال أن بإمكانهم اقتطاع جزء من إكراميات عمّالهم — وهو أمر غير قانوني بموجب قانون معايير العمل العادلة (Fair Labor Standards Act) وقانون العمل في نيويورك، من النوع الذي ينتهي بدعاوى سرقة أجور وتعويضات مقطوعة. وأخبر المتاجر أن بإمكانها التحوّل إلى نظام بلا نقد ورفض العملة الورقية، وهو ما يحظره القسم § 20-840 من المدوّنة الإدارية لمدينة نيويورك تحديداً لحماية السكان غير المتعاملين مع البنوك. وأخبر الملّاك أن بإمكانهم إغلاق الأبواب في وجه المستأجرين، وهو جريمة جنائية بعد ثلاثين يوماً من الإشغال.

كل إجابة كانت غير قانونية. وكل إجابة كانت تحمل موافقة المدينة الرسمية.

كان ردّ المدينة هو إضافة إخلاءات مسؤولية. لكن الروبوت ظلّ يتجاوزها بمرح في نصّه هو — إذ قال لأحد المستخدمين في إحدى المرات: "نعم، يمكنك استخدام هذا الروبوت للحصول على مشورة تجارية احترافية." وفي وقت لاحق وصف رئيس البلدية المنتخب زُهران ممداني الأداة بأنها "غير قابلة للاستخدام عملياً" وسعى إلى إيقافها نهائياً. وبحلول ذلك الوقت كان البرنامج قد كلّف المدينة نحو 500,000 دولار، وهو بند يبدو قاتماً بشكل خاص أمام عجز في الموازنة قدره 12 مليار دولار.

وإليك الجزء الذي أرّقني. لم يشرع أحد في بناء آلة تنتهك القانون. فريق كفؤ درّب نموذجاً معقولاً على بيانات حقيقية للمدينة وأطلقه. كان الفشل متأصّلاً في البنية المعمارية التي اختاروها، وتكاد كل حكومة تطلق روبوت محادثة اليوم تختار البنية نفسها.

لماذا يميل النموذج اللغوي تلقائياً إلى انتهاك القانون؟

عليك أن تفهم ما الذي يُحسّنه نموذج اللغة الكبير فعلياً. إنه محرّك احتمالات. اطرح عليه سؤالاً فيُنتج التكملة الأكثر ترجيحاً إحصائياً — الإجابة التي تبدو أشبه بنوع الإجابة التي تتبع عادةً ذلك النوع من الأسئلة.

فكّر الآن فيما تحتويه بيانات تدريبه. حين يسأل مالكُ عقار: "هل يمكنني رفض هذا المستأجر؟"، فإن النمط المهيمن عبر الإنترنت بأكمله هو قانون العقود العام: مُلّاك العقارات يحقّ لهم اختيار من يؤجّرون له. وهذا صحيح في كل مكان تقريباً. أما نصّ نيويورك المحدّد الذي يحظر التمييز على أساس مصدر الدخل فهو استثناء محلي ضيّق، إشارة خافتة تطغى عليها الإشارة العريضة. النموذج يمدّ يده نحو النمط الذي رآه عشرة آلاف مرة، لا نحو القانون الذي ينطبق على هذا الحيّ تحديداً.

ثم يزيد التعلّم المعزَّز الأمر سوءاً. فروبوتات المحادثة الحديثة مضبوطة لتكون خدومة، وهو ما يعني عملياً أن تكون مُوافِقة — فهي تميل إلى منح المستخدم ما يبدو أنه يريده. سؤال مالك عقار عن كيفية رفض مستأجر يُقرأ، بالنسبة للنموذج، على أنه "ساعدني في رفض هذا المستأجر." فيُساعِد. ويقول نعم.

على روبوت المحادثة الحكومي أن يكون مستعداً لأن يكون غير خدوم لما تريده كي يكون صادقاً بشأن ما يقوله القانون. وهذه الغريزة هي النقيض التام لما دُرِّبت هذه النماذج على امتلاكه.

هذا هو الفخّ. فالصفات التي تجعل روبوت المحادثة الاستهلاكي مبهجاً — الطلاقة، والموافقة، والثقة بامتلاك إجابة دائماً — هي الصفات نفسها التي تجعل روبوت المحادثة القانوني الحكومي خطيراً.

لماذا لم يُصلح RAG هذا؟

لمدة أسبوع تقريباً، كنت متأكداً من أنني أعرف الإجابة، وكنت مخطئاً بطريقة علّمتني المشكلة برمّتها.

الحلّ البديهي هو التوليد المعزَّز بالاسترجاع — RAG. فبدلاً من ترك النموذج يجيب من ذاكرته، تسترجع أولاً المستندات ذات الصلة الفعلية وتُسلّمها للنموذج كسياق. أعطِه القانون الحقيقي، هكذا يجري التفكير، وسيتوقف عن اختلاق الأمور. بنينا نموذجاً تجريبياً لإثبات ذلك.

استرجع بشكل رائع. كنت أطرح سؤال القسم 8 وأراقب النظام وهو يسحب نصّ مصدر الدخل بالضبط إلى السياق — القانون الصحيح، ماثلٌ هناك تماماً في المُوجّه. ثم يقرؤه النموذج ومع ذلك يُجيب: "نعم، يمكنك رفض القسيمة." أتذكّر أنني حدّقت في ذلك، لأنه كان أسوأ مما توقّعت. الاسترجاع نجح. أما الاستدلال فلم ينجح. كان النموذج يملك القانون الصحيح أمامه واختار مع ذلك ما سبق أن تدرّب عليه، أو أساء قراءة النصّ، أو حاك إجابة معقولة من مزيج خاطئ من المقاطع المسترجَعة.

هذا ليس خللاً أدخلناه نحن. إنه أحدث ما وصل إليه الفن موثَّقاً. اختبر باحثون في ستانفورد أدوات الذكاء الاصطناعي القانونية التجارية المبنية لهذا الغرض بالتحديد — معزَّزة بالاسترجاع، ومهندَسة باحتراف — وحتى أفضلها، Lexis+ AI من LexisNexis، ظلّ يهلوس 17% من الوقت. وبلغت أداة البحث المدعومة بالذكاء الاصطناعي من Westlaw 33%. هذه أدوات تُباع للمحامين بمئات الدولارات شهرياً، ومع ذلك فإن واحدة من كل خمس إلى واحدة من كل ثلاث إجابات مُختلَقة.

الاسترجاع يُدخل المستند الصحيح إلى الغرفة. لكنه لا يفعل شيئاً لمنع النموذج من تجاهله.

لذا كان عليّ أن أتخلّى عن الافتراض الذي بدأت به. فـ RAG ليس البنية المعمارية. RAG مكوّن واحد، وهو بمفرده ينقل الفشل من "النموذج لا يعرف القانون" إلى "النموذج يعرف القانون ويناقضه" — وهو، على نطاق حكومي، الفشل الأخطر على الأرجح، لأنه الآن يوجد استشهاد بجوار الإجابة الخاطئة مباشرة يجعلها تبدو موثوقة.

المسؤولية القانونية التي لا يقرأ أحد بنودها الدقيقة

روبوت محادثة استهلاكي يُخطئ 17% من الوقت يُزعج الناس. أما الروبوت الحكومي فيُراكم تعرّضاً قانونياً مع كل إجابة.

ثمة مبدأ قانوني لم يسمع به معظم التقنيين قطّ لكنه بالغ الأهمية هنا. فالحكومات محميّة عموماً من الدعاوى القضائية بشأن الوظائف "التقديرية" — أي قرارات التقدير في الحُكم. لكن حين تقدّم حكومة مشورة محدّدة وقابلة للتنفيذ لمواطن، تعامل المحاكم ذلك على أنه وظيفة خاصّة، مثلها تماماً مثل ما قد يؤدّيه مستشار خاص. والوظائف الخاصة لا تتمتع بالحصانة السيادية. لذا حين أخبر MyCity صاحب عمل بأن بإمكانه أن يجني إكراميات موظفيه لنفسه، كانت المدينة، من الناحية القانونية، تتصرّف كمستشار غير مرخّص يقدّم مشورة سيئة بمستوى سوء الممارسة المهنية — دون الحصانة التي كانت ستتمتع بها مقابل قرار حكومي فعلي.

والقانون يتسابق لجعل هذا صريحاً. فمشروع قانون مجلس الشيوخ في نيويورك S7263، الذي وصل إلى قاعة مجلس الشيوخ في 26 فبراير 2026، سيحظر على روبوتات المحادثة تقديم مشورة مهنية جوهرية ويُنشئ حقاً خاصاً في التقاضي — أي أن المواطن المتضرّر من مشورة روبوت محادثة يمكنه رفع دعوى للمطالبة بأضرار فعلية إضافة إلى أتعاب المحاماة. وعلى مستوى البلاد، أحصت أدوات تتبّع التشريعات 78 مشروع قانون لسلامة روبوتات المحادثة في 27 ولاية مع دخول عام 2026. وبالنسبة لأي حكومة تخدم سكاناً في أوروبا، يصنّف قانون الذكاء الاصطناعي للاتحاد الأوروبي (EU AI Act) الذكاء الاصطناعي في الخدمة العامة الموجَّه للمواطنين على أنه عالي المخاطر، بعقوبات تصل إلى 15 مليون يورو أو 3% من إجمالي الإيرادات العالمية مع دخول الالتزامات حيّز التنفيذ في أغسطس 2026.

حين نصحني أحد المستشارين في وقت مبكر بأن أكتفي بضبط GPT بدقّة وأطلقه لمشروع حكومي تجريبي، كان هذا هو الحوار الذي دار بيننا. "صحيح في الغالب" معيار جيد لمحرّك توصية بالأفلام. أما على نطاق .gov، في هذه البيئة التنظيمية، فإن نظاماً يُخطئ بثقة سُدس الوقت ليس ميزة منتَج تُطوَّر تدريجياً. إنه حقّ خاص في التقاضي ينتظر مُدّعياً.

الجزء الذي يستهين به الجميع: المدوّنة القانونية نفسها فوضى

قبل أن تكون لأي من أسئلة النموذج أهمية أصلاً، ثمة مشكلة لا تظهر في العروض التوضيحية وتُغرق بهدوء عمليات النشر الحقيقية: القانون ليس موجوداً في قاعدة بيانات.

أدركتُ هذا إدراكاً عميقاً أول مرة جلستُ فيها مع مدوّنة بلدية فعلية — ملف PDF بتعديلات فصول مرقّمة يدوياً في الهوامش، لأن النسخة المعتمدة من مرسوم المدينة هي وثيقة ظلّ كاتبٌ يحرّرها على مدى عقود. توجد المدوّنات البلدية في عشرات الصيغ غير المتوافقة عبر البلاد — ملفات PDF، وHTML قديم، وأنظمة نشر مملوكة — وداخل المدينة الواحدة تُدار بشكل غير متزامن من قِبَل إدارات لا تنسّق فيما بينها. تحديثات تقسيم المناطق تجري وفق جدول، وقانون الصحة وفق جدول آخر. أما "المصدر الوحيد للحقيقة" فمحض وهم.

لا يمكنك بناء ذكاء اصطناعي حكومي جدير بالثقة فوق مُدوّنة قانونية لم تُعِد أولاً تشكيلها إلى شيء يمكن لآلة أن تستدلّ عليه بموثوقية. "استيعاب المدوّنة" هو رُبع عمل تنقيب في البيانات قبل أن يرى النموذج أي رمز أصلاً.

وهذا أيضاً سبب عدم ملاءمة السوق القائمة. فـ Microsoft Azure Government، وAWS GovCloud، وسحابة القطاع العام من Google تمنحك بنية تحتية معتمدة ونموذجاً عام الأغراض — لكن Azure هو ما شغّل MyCity. مشكلة الهلوسة تقبع فوق طبقة المنصّة؛ والسحابة لا تمسّها. أما أدوات الذكاء الاصطناعي القانونية القوية، CoCounsel من Thomson Reuters وLexis+ AI، فمبنية للمحامين بأسعار مكاتب المحاماة، لا لساكن يطرح سؤالاً في الحادية عشرة ليلاً. وكبار مُدمِجي الأنظمة — Deloitte، بمليارات مرصودة للذكاء الاصطناعي التوليدي، وAccenture Federal، بمليارات في حجوزات الذكاء الاصطناعي — ينفّذون منصّات هؤلاء المورّدين؛ لا يبنون بُنى فكّ ترميز مقيَّدة مخصّصة. والشركات الناشئة الواعدة في مجال ذكاء المدوّنات البلدية هي كذلك بالضبط: واعدة، غير مُثبَتة على نطاق واسع، وبلا سجلّ في المشتريات الحكومية. ثمة فجوة في المنتصف، والفجوة هي حيث يتأذّى المواطنون.

ما نجح في النهاية: اجعل النظام يستحقّ حقّ الكلام

إعادة التأطير التي غيّرت كل شيء كانت في تقرير أن الحالة الافتراضية للنظام هي الصمت، لا الإجابة.

بدلاً من مطالبة النموذج بأن يكون أكثر دقة، بنيناه بحيث يستحيل عليه مادياً أن يُصدر ادّعاءً قانونياً ما لم يكن ذلك الادّعاء مرتبطاً بنصّ تشريعي محدّد ومُسترجَع. خطوة التوليد مقيَّدة: حين يُنتج النظام جملة عمّا يسمح به القانون، يجب أن تحمل تلك الجملة استشهاداً قابلاً للتتبّع إلى قسم المدوّنة الدقيق الذي جاءت منه، مُتحقَّقاً منه مقابل المصدر بعد التوليد. وإذا أراد النموذج أن يقول "يمكنك رفض قسيمة" ولم يوجد نصّ يدعم ذلك — أو الأسوأ، نصّ يناقضه — فإن الادّعاء لا يمرّ. يقول النظام إنه لا يستطيع الإجابة عن ذلك ويحوّل الشخص إلى إنسان.

هذه هي الفلسفة الكاملة لما بنيناه في Veriprajna، ويمكنك الاطّلاع على البنية المعمارية الكاملة على veriprajna.com/solutions/government-municipal-ai: كل استجابة تتتبّع إلى قانون محدّد، وإلا فإن النظام يلزم الصمت. نفضّل أن يجيب عن أسئلة أقل ويعجز عن انتهاك القانون على أن يجيب عن كل شيء ويُلزم المدينة بين الحين والآخر بغرامة تمييز قدرها ربع مليون دولار.

ترتيب العمليات مهمّ. أولاً، أعِد تشكيل المُدوّنة البلدية الفوضوية إلى قاعدة معرفة منظَّمة وهرمية تعرف أي النصوص يَجُبّ أيّها — وهي مشكلة ليست هيّنة تحديداً لأن تلك النصوص تُعدَّل وفق جداول إدارية غير منسّقة، بحيث يظلّ رسمُ بيان الإلغاء نفسه ينجرف. ثم استرجِع مقابلها. ثم — وهذه هي الخطوة التي يتخطّاها الجميع — قيّد التوليد بحيث يكون الناتج مربوطاً آلياً بما جرى استرجاعه، مع تمريرة تحقّق ترفض أي ادّعاء لا يصمد. ثم احتفظ بسجلّ تدقيق، بحيث حين تسأل جهة تنظيمية أو محامي مُدّعٍ عن سبب قول النظام ما قاله، يكون هناك سجلّ يشير إلى قانون بدلاً من هزّة كتفين حيال أوزان النموذج.

أثر جانبي مفيد: النظام القادر على إظهار استشهاده لكل إجابة هو نظام يمكنك الدفاع عنه فعلاً. سجلّ التدقيق ليس مسرحية امتثال. إنه الفرق بين "الذكاء الاصطناعي قال ذلك" و"ها هو القسم § الذي جاءت منه الإجابة."

"لكن ألا يجعله ذلك أقل فائدة؟"

يسألني الناس هذا باستمرار، وهو السؤال الصحيح. نعم — النظام المُلزَم بالاستشهاد يجيب عن أسئلة أقل مما فعل MyCity. سيقول أحياناً "لا أستطيع تقديم مشورة بشأن ذلك" حيث كان روبوت أكثر ثرثرة سيختلق شيئاً بسرور. يبدو ذلك تراجعاً حتى تتذكّر أن كل إجابة إضافية من إجابات MyCity كانت مسؤولية قانونية، لا خدمة.

الأمر الآخر الذي أسمعه يتعلق بساعة المشتريات، وهو أكثر المخاطر بخساً للتقدير في هذا المجال برمّته. الذكاء الاصطناعي الحكومي لا يحيا أو يموت بجودة النموذج؛ بل يحيا أو يموت بتجاوز الاعتماد. عمليات الحصول على تصريح التشغيل في FedRAMP وStateRAMP تستغرق 12 إلى 18 شهراً، ومعظم الشركات الناشئة في الذكاء الاصطناعي لا تصمد أمام ملفّ ATO مدة كافية للنشر. البناء للحكومة يعني التصميم لتلك الحقيقة منذ اليوم الأول — ضوابط الوصول، وضمانات فصل البيانات، والبنية التحتية للتدقيق — لا تركيبها لاحقاً بعد مشروع تجريبي. النموذج البارع في عرض توضيحي والعاجز عن اجتياز الاعتماد لا يخدم مواطناً واحداً أبداً.

ثم يأتي سؤال ما إذا كان هذا يستحقّ العناء أصلاً، بالنظر إلى أن الحكومة الفيدرالية أشارت إلى أنها قد تُبطل الترقيع المتنافر لقوانين الذكاء الاصطناعي في الولايات. ربما تفعل. لكن ليس للمدينة أن تقامر بدخل الإكراميات لسكانها وحقوقهم السكنية على ما سيفعله أمر تنفيذي مستقبلي. المشورة التي قدّمها MyCity كانت غير قانونية بموجب قوانين لا علاقة لها بتنظيم الذكاء الاصطناعي — قانون العمل، وقانون الإسكان، وقانون حماية المستهلك التي تسبق ChatGPT بعقود. ولا إبطال يُصلح ذلك.

الأمر الذي أعود إليه دائماً هو تلك اللقطة من The Markup: "نعم" الواثقة من روبوت المحادثة بجوار القانون الذي يقول لا. الكاتب البشري الذي لا يعرف إجابة كان سيقول "دعني أتحقّق" أو "ينبغي أن تسأل محامياً." لقد بنينا آلات لا تقول ذلك أبداً، ثم وضعناها على مواقع حكومية وتظاهرنا بالدهشة حين جرّت الناس بمشورتها إلى دعاوى قضائية.

وظيفة الحكومة، حين يسأل ساكنٌ عمّا يسمح به القانون، هي أن تكون مُحقّة أو أن تكون صادقة بشأن عدم معرفتها. هذان هما المخرجان المقبولان الوحيدان. أما النظام الذي يُنتج خياراً ثالثاً طليقاً وموثوقاً — خاطئاً بثقة — فلا حقّ له في أن يحمل خَتم مدينة. لم يكن الحلّ يوماً نموذجاً ذا وقعٍ أفضل. بل كان بناء نموذج يعرف متى يُطبق فمه — وهو ما يمثّل الفكرة الكاملة لـ ما بنيناه للذكاء الاصطناعي الحكومي والبلدي.