هل يمكن الوثوق بالذكاء الاصطناعي في الفصل في المسؤولية القانونية؟

المشكلة

وجد باحثو جامعة ستانفورد أن نماذج الذكاء الاصطناعي الرائدة تهلو — أي تختلق الوقائع أو تخترع مراجع قانونية — في 69% إلى 88% من الاستفسارات القانونية. والآن تخيَّل هذه التقنية نفسها وهي تقرر من تسبب في حادث سيارة، ومن يدفع المطالبة، ومن يواجه دعوى قضائية. هذا هو بالضبط ما يحدث الآن عبر قطاعي التأمين والقانون.

تتسابق الشركات إلى نشر نماذج اللغة واسعة النطاق بوصفها قضاة آليين. تقرأ هذه الأنظمة تقارير الشرطة وأقوال الشهود وملاحظات خبراء تسوية المطالبات، ثم تُسند اللوم. الافتراض هو أنه إذا كان بإمكان الذكاء الاصطناعي أن يكتب كمحامٍ، فإنه يستطيع التفكير كمحامٍ. هذا الافتراض خاطئ. فنماذج اللغة واسعة النطاق تتنبأ بالكلمة التالية في الجملة؛ إنها لا تفهم الفيزياء ولا قانون المرور ولا علاقة السبب بالنتيجة. تولّد نصوصًا تبدو موثوقة، لكن الاستدلال وراءها قد يكون خيالًا محضًا.

تقول الورقة البيضاء من Veriprajna ذلك بصراحة: مطالبة نموذج لغة واسع النطاق بالفصل في المسؤولية أشبه بمطالبة شاعر بمزاولة الفيزياء. ستحصل على إجابة جميلة، لكنها على الأرجح ستكون خيالًا. وإذا كانت مؤسستك تتعامل مع المطالبات أو الامتثال أو القرارات القانونية، فهذه الفجوة بين الطلاقة والدقة هي المشكلة التي عليك حلها.

لماذا يهمّ هذا أعمالك

التعرض المالي والتنظيمي هنا ليس نظريًا؛ إنه قابل للقياس، وهو كبير.

تُدخل نماذج اللغة واسعة النطاق تحيزات محددة وموثقة في كل قرار تتخذه. وعندما تنطوي تلك القرارات على المال والمسؤولية والحقوق القانونية، فإن العواقب تصيب صافي أرباحك مباشرة.

• نسبة هلوسة تبلغ 69% إلى 88% في الاستفسارات القانونية. تُظهر أبحاث ستانفورد أن أفضل نماذج الذكاء الاصطناعي تختلق التشريعات وتخترع السوابق القضائية وتسيء عرض القواعد القانونية بمعدلات مقلقة. إذا استشهد نظامك الآلي بقانون غير موجود، فإنك تواجه دعاوى قضائية بحجة سوء النية وعقوبات تنظيمية.
• تحيز الإطناب يفضّل البليغ لا الصادق. تُظهر الأبحاث حول أنظمة «نموذج اللغة قاضيًا» أن نماذج مثل GPT-4 تمنح درجات ثقة أعلى باستمرار للإجابات الأطول والأكثر تفصيلًا — حتى عندما تكون الإجابة الأقصر أقوى من حيث الوقائع. في نزاع حول المطالبات، يعني هذا أن رواية من 500 كلمة مليئة بالتفاصيل الانفعالية يمكن أن تتفوق على عبارة من 50 كلمة صحيحة وقائيًا. قد يحكم نظامك ضد حاملي وثائق التأمين الصادقين لمصلحة مدّعين بليغين لكنهم مهملين.
• خطر عدم الاتساق بنسبة 100%. مرِّر نفس تقرير الشرطة عبر نموذج لغة عشر مرات وقد تحصل على عشرة قرارات مختلفة بشأن المسؤولية. التوليد الاحتمالي للنص لا يمكنه ضمان أن الوقائع نفسها تنتج الحكم نفسه. وهذا عدم الاتساق كابوس امتثالي.
• تسرّب المطالبات بسبب تقسيمات خطأ غير دقيقة. قد يلتزم النظام الاحتمالي افتراضيًا بتقسيم مسؤولية 50/50 لأن الروايات فوضوية، بينما قد يكشف النظام القائم على القواعد عن تقسيم واضح 100/0 استنادًا إلى انتهاك محدد لأحكام قانون المرور. كل تقسيم خاطئ يكلفك مالًا.

بالنسبة للمستشار العام لديك، هذا خطر تقاضٍ. وبالنسبة للمدير المالي، هذا تسرّب مطالبات خارج السيطرة. وبالنسبة لمسؤول المخاطر، هذا نظام لا يمكن تدقيقه أو شرحه لجهة تنظيمية.

ما الذي يحدث فعلًا تحت الغطاء

لفهم سبب فشل الذكاء الاصطناعي في الحكم القانوني، عليك أن تفهم ما يفعله حقًا. نموذج اللغة واسع النطاق لا يستدل؛ بل يتنبأ. أمام سلسلة من الكلمات، يحسب الكلمة التالية الأكثر احتمالًا إحصائيًا. هذا كل شيء.

فكر فيه كالإكمال التلقائي في هاتفك — لكن بمقياس يكفي لكتابة فقرات. هاتفك لا يفهم ما تقصده؛ إنه يخمّن بناءً على أنماط. نماذج اللغة تفعل الشيء نفسه، وإن كان ببيانات أكبر ومخرجات أطول. حين تكون المهمة كتابة رسالة بريد إلكتروني، يعمل هذا جيدًا. وحين تكون المهمة تحديد من تسبب في حادث مروري، ينهار الأمر.

تحدد الورقة البيضاء أربعة أنماط فشل محددة:

تحيز الإطناب يعني أن النموذج يتعامل مع الطول بوصفه دليلًا. السائق الذي يكتب رواية حية من 500 كلمة تصف الطقس ومشاعره و«عدوانية» السائق الآخر يحصل على وزن أكبر من سائق يكتفي بكتابة: «توقفت. تأكدت. تابعت الطريق. صدموني.» النموذج يخلط بين كثافة الرموز وكثافة الأدلة.

التملق يعني أن النموذج يوافق على ما يقوله من يطرح السؤال. إذا وجّه خبير تسوية المطالبات النظام بعبارة «حلِّل هذا لترى إن كان المدّعي كان يتجاوز السرعة»، فمن المرجح إحصائيًا أن يجد النموذج أدلة على التجاوز في السرعة — حتى لو لم تكن موجودة. هذا تحيز تأكيدي يُقدَّم كخدمة.

الهلوسة تعني أن النموذج يختلق الوقائع والقانون. قد يقرأ أن سيارة تعرضت لـ«أضرار جسيمة في مقدمتها» ثم يذكر كأنها حقيقة أن المركبة كانت تتجاوز السرعة — دون أي بيانات عن آثار الفرملة أو القياس عن بعد. إنه يملأ الفجوات السردية بخيال يبدو مقنعًا.

فشل الاستدلال الاقتضائي يعني أن النموذج لا يستطيع العمل عكسيًا من الأدلة للوصول إلى أفضل تفسير. لا يستطيع إجراء محاكاة ذهنية: «لو كان هذا السائق قد توقف، هل كان الحادث سيقع رغم ذلك؟» إنه فقط يتنبأ بالجملة التالية في رواية حادث. هذه ليست عدالة؛ هذا إكمال تلقائي بعواقب.

ما الذي ينجح (وما الذي لا ينجح)

قبل شرح ما ينجح، إليك ما لا ينجح:

«استخدم مجرد موجّهًا أفضل». هندسة الموجّهات لا تصلح التحيز البنيوي. فتحيز الإطناب والتملق راسخان في طريقة تدريب النماذج. ولا يستطيع موجّه أفضل أن يحوّل نظامًا احتماليًا إلى نظام حتمي.

«أضِف إنسانًا في حلقة المراجعة». إذا كان المراجع البشري لديك يفحص مخرجات ذكاء اصطناعي تبدو أصلًا موثوقة ومحكمة الصياغة، فمن المرجح أن يوافق عليها. المشكلة كلها هي أن مخرجات نماذج اللغة تبدو مقنعة حتى عندما تكون خاطئة.

«اضبط النموذج بدقة على بيانات قانونية». الضبط الدقيق يمكن أن يحسّن مفردات المجال، لكنه لا يعالج الهلوسة ولا يمنح النموذج فهمًا للفيزياء أو السببية أو المنطق التشريعي. النموذج المضبوط بدقة يبقى يتنبأ بالكلمات، لا بالحقيقة.

ما ينجح فعلًا هو فصل المهام التي يجيدها الذكاء الاصطناعي عن المهام التي يرسب فيها. وتسميه Veriprajna مقاربة عصبية رمزية. وإليك كيف تعمل هذه البنية في ثلاث خطوات:

الخطوة 1: الاستخراج (الذكاء الاصطناعي يؤدي ما يجيده). يقرأ نموذج اللغة تقارير الشرطة غير المهيكلة وأقوال الشهود وملاحظات خبراء التسوية، ومهمته الوحيدة سحب وقائع مهيكلة: مركبات وسائقين وإشارات مرورية وأفعال وظروف. ثم يربط هذه العناصر بمخطط صارم محدد مسبقًا — مفردة رسمية تضم أكثر من 110 نوعًا من الكيانات والعلاقات. وإذا حاول النموذج إخراج شيء ينتهك المخطط (مثل وضع إشارة توقف في موقع لا توجد فيه على الخريطة)، يرفع النظام إشارة التعارض. الذكاء الاصطناعي هنا كاتب محاضر، لا قاضٍ.

الخطوة 2: إعادة البناء (بناء توأم رقمي للحدث). تُحمَّل هذه الوقائع المستخرجة في رسم بياني معرفي — خريطة مهيكلة لكل ما حدث. المركبات تصبح عقدًا، والأفعال تصبح حواف، وقوانين المرور تصبح قواعد منطق قابلة للتنفيذ لا نصوصًا تلخيصية. يستخدم النظام المنطق الواجبي الصوري لتشفير الالتزامات والممنوعات والإذن مباشرة من تشريعات مثل § 21802 من قانون مركبات كاليفورنيا. «هل توقف السائق؟» يصبح تحققًا بنعم أو لا مقابل الرسم البياني، لا مسألة رأي.

الخطوة 3: التحديد (المنطق يقرر الخطأ، لا اللغة). يشغّل النظام قواعد المرور المصاغة صياغة صورية مقابل الرسم البياني للحدث المعاد بناؤه. يتحقق من أفعال كل طرف مقابل القوانين المنطبقة على موقعه المحدد، ويجري محاكاة مضادة للوقائع: «هل كان هذا الاصطدام سيقع لو أن السائق توقف؟» إذا اختفت عقدة الاصطدام في البديل المحاكى، فالانتهاك هو السبب. الناتج هو تقرير مسؤولية مهيكل يمكن تتبع كل استنتاج فيه إلى واقعة محددة وقاعدة محددة.

هنا ينبغي لفريق الامتثال لديك أن ينتبه جيدًا. كل قرار يمكن تتبعه حتى عقدة محددة في الرسم البياني وقاعدة محددة في محرك المنطق. يمكنك تصور سلسلة الاستدلال بأكملها. يمكنك أن تُري جهة تنظيمية أو قاضيًا أو هيئة محلفين بالضبط لماذا وصل النظام إلى استنتاجه. مرِّر الوقائع نفسها عبر النظام 100 مرة وستحصل على الإجابة نفسها 100 مرة. هذا هو مسار التدقيق الذي لا يستطيع الذكاء الاصطناعي ذو الصندوق الأسود تقديمه.

بالنسبة للمؤسسات العاملة في الخدمات القانونية والمهنية، فهذا النوع من قابلية التتبع ليس اختياريًا — بل هو الحد الأدنى المتوقع. كما أن المقاربة الأساسية — وهي بنية حلول قائمة على مبادئ عصبية رمزية — مصممة خصيصًا لبلوغ هذا المعيار. وإذا كانت مؤسستك تحتاج أيضًا إلى إثبات أن ذكاءها الاصطناعي يعامل جميع الأطراف بإنصاف بصرف النظر عن مدى جودة كتابتهم، فإن أعمال Veriprajna في تدقيق الإنصاف والتخفيف من التحيز تعالج مباشرة تحيزَي الإطناب والتملق الموثَّقين في هذا البحث.

للاطلاع على التفصيل التقني الكامل، يمكنك قراءة التحليل التقني الكامل أو استكشاف النسخة التفاعلية.