هل يمكنك الوثوق بالذكاء الاصطناعي في البحث القانوني؟ ليس بعد.

المشكلة

في يونيو 2023، قدّم محامٍ مذكرة قانونية إلى محكمة فيدرالية في نيويورك. استشهدت المذكرة بعدة قضايا — Varghese v. China Southern Airlines وShaboon v. Egyptair وPetersen v. Iran Air — مع أرقام القضايا والتواريخ والاقتباسات كاملة. وكانت كل هذه القضايا مزيّفة؛ فقد اخترعها ChatGPT جميعًا.

لاحظ القاضي في قضية Mata v. Avianca, Inc. أن الاستشهادات كانت مزيّفة، ووصف ملخصات الآراء التي ولّدها الذكاء الاصطناعي بأنها «كلام غير مفهوم» في مواضع منها، رغم تنسيقها القانوني المُقنع. فرضت المحكمة غرامة قدرها $5,000 وألزمت المحامين بإبلاغ موكلهم. لكن الغرامة المالية كانت أصغر جزء من الضرر؛ فالضجيج السمعي الذي أثارته حطّت عناوين الصحف الدولية.

وما يجعل هذه القصة أسوأ هو ما يلي: عندما طعن محامو الخصم في صحة تلك القضايا المزيّفة، عاد المحامي إلى ChatGPT وسأله إن كانت حقيقية. فأكّد الذكاء الاصطناعي أكاذيبَه هو نفسه، وقال إن القضايا «موجودة فعلًا» ويمكن العثور عليها في «قواعد بيانات قانونية موثوقة». وهذا ما أوجد ما يسميه الكتاب الأبيض «حلقة الهلوسة» — إذ كانت الأداة المستخدمة للتحقق تعاني من العطل نفسه الذي تعاني منه الأداة المستخدمة للتوليد.

رفضت المحكمة حجة الدفاع بأن المحامي لم يكن يعلم أن الذكاء الاصطناعي قد يختلق معلومات. فقد أكد القضاة الآن أن المحامين هم الضامنون النهائيون لدقة تقنياتهم. إذا كانت شركتك تستخدم الذكاء الاصطناعي في العمل القانوني، فإن المسؤولية تقع عليك — لا على مورد البرامج.

لماذا يهم هذا أعمالك

لم تكن قضية Mata حادثة معزولة؛ بل كشفت مشكلة هيكلية تمس كل مؤسسة تستخدم الذكاء الاصطناعي في البحث القانوني أو الامتثال أو العمل التنظيمي.

ينبغي لهذه الأرقام أن تقلقك:

• 58% إلى 82%: وجد باحثو جامعة ستانفورد أن روبوتات المحادثة ذات الأغراض العامة تعاني من الهلوسة بهذه المعدلات عند الاستعلامات القانونية المعقدة — حتى الأدوات المزودة بإمكانية الوصول إلى الإنترنت أو بميزات استرجاع أساسية.
• $5,000: الغرامة المباشرة في قضية Mata v. Avianca. لكن التكلفة الحقيقية كانت التشويه السمعي والتعرض المحتمل لعقوبة الشطب من مهنة المحاماة للمحامين المعنيين.
• ما يصل إلى 30-35%: فجوة الأداء بين أنظمة الاسترجاع المتقدمة القائمة على الرسم البياني والأنظمة القياسية القائمة على المتجهات في مهام الاستدلال القانوني متعددة الخطوات.

تضرب هذه المخاطر أعمالك في ثلاث نقاط:

• المسؤولية عن الأخطاء المهنية. تتحمل شركتك المسؤولية القانونية عن كل استشهاد يولّده الذكاء الاصطناعي في أي مذكرة مقدَّمة. ومن المرجح أن ترتفع أقساط تأمين الأخطاء المهنية للشركات التي لا تستطيع إثبات امتلاكها حوكمة صارمة للذكاء الاصطناعي.
• التعرض التنظيمي. تصدر المحاكم أوامر دائمة تلزم بالإفصاح الإلزامي عن استخدام الذكاء الاصطناعي. وإذا لم تستطع أدواتك تفسير منطقها، فستواجه إخفاقات في الامتثال قبل أن تصل حتى إلى موضوع القضية.
• ثقة العملاء. سيطرح عملاؤك هذا السؤال بصورة متزايدة: «ما الذكاء الاصطناعي الذي تستخدمونه؟» والإجابة بـ«ChatGPT» — أو بأي غلاف سطحي يلف نموذجًا ذا أغراض عامة — إشارة إلى أنك لم تفكر بجدية في مسألة الدقة. وتصبح هذه الإجابة غير مقبولة في العمل القانوني المؤسسي.

الخلاصة بالنسبة لحسابات الأرباح والخسائر لديك: إذا اضطر المحامي إلى التحقق يدويًا من كل استشهاد يولّده الذكاء الاصطناعي، فستخسر مكاسب الكفاءة التي برّرت الاستثمار في الذكاء الاصطناعي منذ البداية أصلًا.

ما الذي يحدث فعلًا في الكواليس

لفهم سبب حدوث قضية Mata، يلزمك أن تفهم أمرًا واحدًا عن طريقة عمل النماذج اللغوية الكبيرة (LLMs). فهي تتنبأ بالكلمة التالية في تسلسل ما. لا تبحث في مكتبة، ولا تفحص قاعدة بيانات، بل تولّد نصًا يبدو صحيحًا استنادًا إلى أنماط إحصائية.

فكّر فيه باعتباره خاصية الإكمال التلقائي في هاتفك — لكن لفقرات كاملة. قد يقترح هاتفك كلمة «اجتماع» بعد أن تكتب «نراكم في». يفعل النموذج اللغوي الكبير الشيء نفسه على نطاق هائل. فعندما يُطلب منه قضية إصابة متعلقة بشركة طيران، لا يبحث عن قضايا حقيقية، بل يجمّع إجابة تتبع النمط الذي تبدو عليه الاستشهادات القانونية. كان «Varghese» اسم مدَّعٍ يبدو معقولًا إحصائيًا، وكانت «China Southern Airlines» مدَّعى عليه معقولًا. أما العلاقة بينهما فكانت خيالًا رياضيًا، لا حقيقة قانونية.

كان أول حل في هذا القطاع ما يسمى التوليد المعزز بالاسترجاع (RAG) — وهي طريقة تُغذّي فيها الذكاء الاصطناعي بمستندات مصدرية فعلية قبل أن يولّد إجابة. يخزّن RAG القياسي المستندات القانونية على شكل متجهات رقمية ويسترجع مقاطع نصية تشبه سؤالك دلاليًا. وهذا يساعد، لكنه يقدّم مشكلات جديدة.

يعامل البحث القائم على المتجهات الرأي المخالف معاملة الرأي الأغلبية إذا تشابهت الكلمات. ولا يستطيع تمييز ما إذا كانت القضية قد نُقضت بحكم لاحق. كما يسترجع المستندات بمعزل عن بعضها، فيفوّت الروابط بين القانون النصي واللائحة التي تفسر ذلك القانون والقضية التي تطبّق تلك اللائحة. وتظهر الدراسات أنه عندما تتلقى النماذج اللغوية الكبيرة قوائم طويلة من النصوص المسترجعة، فإنها تركّز على المعلومات الواردة في البداية والنهاية وتتجاهل المادة في المنتصف. وفي العمل القانوني، غالبًا ما يكون الاستثناء الحاسم مدفونًا في المقطع الخامس عشر من سوابق القانون المسترجعة.

النظام الذي يسترجع القضية الصحيحة في 80% من الحالات يمثل خطر أخطاء مهنية في الـ20% الباقية.

ما الذي ينجح (وما الذي يفشل)

ثلاثة مقاربات شائعة تفشل في الذكاء الاصطناعي القانوني عالي المخاطر:

• تحسين الأوامر النصية. يمكن لهندسة الأوامر أن تغيّر أسلوب مخرجات الذكاء الاصطناعي أو تنسيقها، لكنها لا تستطيع ضخ معرفة يفتقر إليها النموذج، ولا إجباره على التحقق من الوقائع مقابل قاعدة بيانات لا يستطيع الوصول إليها.
• التطبيقات المغلَّفة. وهي واجهات سطحية تُبنى فوق واجهات برمجة تطبيقات مثل OpenAI. وقد تضيف أمرًا نظاميًا يقول «أنت محامٍ مفيد»، لكن ذلك لا يمنحها إمكانية الوصول إلى قواعد بيانات موثقة للسوابق القضائية، ولا يمنع الذكاء الاصطناعي من اختلاق الاستشهادات.
• RAG القياسي القائم على المتجهات وحده. فهو يقلّل من الاختلاق الصريح لكنه لا يستطيع التقاط التسلسل القانوني الهرمي. لا يعلم أن قضية ما تنقض أخرى، ولا يفهم الاختصاص القضائي، ويعامل القانون النصي الملغى معاملة القانون الساري إذا تطابق نصه مع استفسارك.

أما ما ينجح فهو طريقة تسمى Citation-Enforced GraphRAG — نظام يحوّل السلطات القانونية إلى رسم بياني معرفي موثَّق ويمنع الذكاء الاصطناعي منعًا فعليًا من توليد استشهادات مزيفة. وإليك كيف يعمل في ثلاث خطوات:

1. الإدخال: بناء الخريطة. يصبح كل قانون نصي ولائحة وقضية عقدة محددة في رسم بياني معرفي — شبكة منظمة من الكيانات القانونية وعلاقاتها. وتحمل الحواف بين العقد معنى: «تنقض» و«تفسر» و«تؤكد» و«تميّز». هذه ليست كومة من المستندات، بل خريطة موثَّقة لكيفية ترابط القانون.

2. المعالجة: تقييد الذكاء الاصطناعي. أثناء توليد النص، تفحص آلية قيود كل استشهاد يحاول الذكاء الاصطناعي إنتاجه مقابل الرسم البياني المعرفي. وإذا حاول الذكاء الاصطناعي إخراج «Varghese v. China Southern»، يفحص النظام الرسم البياني، وبما أنه لا يجد هذه القضية موجودة، يحجب الناتج بالكامل. فلا يمكن للذكاء الاصطناعي ماديًا أن ينتج تسلسل رموز لقضية غير موجودة في قاعدة البيانات الموثقة. وهذا ينقل نظامك من الدقة الاحتمالية إلى الإنفاذ البنيوي.

3. الإخراج: اعرض عملك. عندما يستشهد النظام فعليًا بقضية ما، يقدّم مسار العبور الدقيق — من أي قانون نصي بدأ، وأي القضايا تفسره، وهل ما زالت تلك القضايا سارية المفعول. وإذا كانت هناك قضية قد نُقضت، يضع لها الرسم البياني «علامة حمراء» ويزيلها من سياق الذكاء الاصطناعي قبل أن يبدأ التوليد أصلًا.

وهنا ينبغي لفريق الامتثال لديك أن ينتبه. فكل استشهاد يأتي مصحوبًا بسجل تدقيق. يستطيع محاموك أن يروا لماذا اختار الذكاء الاصطناعي قضية معينة، لا مجرد أنه اختار واحدة. ويمكن للنظام أن يبين أنه تحقق من وجود معاملة سلبية للسلطة — وهو المكافئ الرقمي لما يعرف بـ«Shepardizing» — وأنه أكّد صحة هذه السلطة. إنّ التأسيس والاستشهاد والتحقق طبقة تجعل كل ناتج قابلًا للتتبع وقابلًا للدفاع عنه.

وبالنسبة للمؤسسات العاملة في المجال القانوني والخدمات المهنية، تتيح هذه البنية أيضًا ربط السياسات الداخلية باللوائح الخارجية. إذ يمكن للرسم البياني أن يربط فقرة معينة في دليل الامتثال لديك بالقسم الدقيق من اللائحة الذي تتناوله. وهذا يخلق مصفوفات امتثال مؤتمتة وقابلة للتحقق تصمد أمام التدقيق.

يمنحك النهج الهجين — الذي يجمع بين البحث المتجهي للعثور على النص ذي الصلة والتحقق القائم على الرسم البياني لتأكيد الصلاحية القانونية — الاتساع والدقة معًا. وتحصل هندسة الحلول لديك على طلاقة الذكاء الاصطناعي دون ميله إلى الاختلاق.

ومع تحرك الذكاء الاصطناعي القانوني نحو وكلاء مستقلين يستطيعون تخطيط مهام البحث متعددة الخطوات وتنفيذها، تصبح البنية القائمة على الرسم البياني بنية تحتية جوهرية. فالوكلاء يحتاجون إلى خريطة للعالم القانوني ليستدلوا عبر الأسئلة المعقدة. قاعدة البيانات المتجهية تمنحهم كومة من المستندات، أما الرسم البياني المعرفي فيمنحهم الخريطة.

وللتعمق أكثر في البنية التقنية، اقرأ التحليل التقني الكامل أو استكشف النسخة التفاعلية.