ذكاء اصطناعي «أصلح» سيارة محطّمة ورفض المطالبة. عندها أدركتُ أن الصناعة تعاني مشكلة

حدّقتُ في صورتين للسيارة نفسها.

التُقطت الأولى على يد حامل وثيقة تأمين بعد اصطدام خلفي. معدنٌ مهشّم، وطلاءٌ مقشور حتى الفولاذ العاري، ومصدٌّ يبدو وكأنه استُخدم مطبًّا للسرعة. أما الصورة الثانية — التي يُفترض أنها المركبة نفسها، بعد معالجتها عبر أداة الذكاء الاصطناعي الجديدة اللامعة لدى شركة التأمين — فأظهرت مؤخرة سيارة سليمة تمامًا. خطوطٌ ناعمة، وطلاءٌ مثالي، دون أي خدش. نظر محرّك المطالبات الآلي إلى تلك الصورة الثانية وفعل تمامًا ما تتوقعه: رفض المطالبة. لا تلف مرئي على الإطلاق.

أما حامل الوثيقة، الواقف في ممرّ منزله إلى جوار سيارة من الواضح تمامًا أن مصدّها مدمَّر، فقد رفع دعوى سوء نية. وبقيت شركة التأمين ممسكةً بدليل مُلفَّق رقميًا يناقض الواقع المادي.

هذه هي حادثة «المصدّ السليم»، وحين قرأتُ تفاصيلها للمرة الأولى، انتابني مزيج من الرعب والشعور بصحة موقفي. الرعب لأن ذكاءً اصطناعيًا ارتكب فعليًا إتلافًا للأدلة — إذ عدّل سجلًا قانونيًا على نحوٍ أضرّ بشخص حقيقي. والشعور بصحة موقفي لأن هذا كان بالضبط نمط الفشل الذي حذّرتُ منه أنا وفريقي طوال أشهر، والسبب الذي دفعنا إلى بناء VeriPrajna بالطريقة التي بنيناها بها.

لا تعاني صناعة التأمين من مشكلة في الذكاء الاصطناعي. إنها تعاني من مشكلة حقيقة. والأدوات التي يتسارع معظم شركات التأمين إلى تبنّيها تزيد الأمر سوءًا.

الليلة التي اختفى فيها الانبعاج

دعوني أشرح ما حدث فعلًا في قضية المصدّ تلك، لأن الآلية التقنية مهمة.

كانت شركة التأمين قد دمجت أداة ذكاء اصطناعي توليدي في تطبيق المطالبات على الهاتف المحمول. وكان الهدف المعلن بريئًا بما يكفي: «تحسين» جودة الصور التي يرفعها العملاء كي يتمكن خبراء تسوية المطالبات من رؤية التلف بوضوح أكبر. إضاءة أفضل، وتفاصيل أحدّ، وما إلى ذلك.

لكن إليك ما تفعله نماذج توليد الصور فعليًا. إنها مُدرَّبة على مليارات الصور كي تتعلّم كيف ينبغي أن تبدو الأشياء. ففي الكون الرياضي للنموذج — فضائه الكامن — تُمثَّل «السيارة» في الغالب الأعظم بوصفها جسمًا ناعمًا متماثلًا ذا أسطح غير مكسورة. فهكذا تبدو السيارات في الغالبية العظمى من الصور على الإنترنت.

لذا حين واجه هذا النموذج انبعاجًا، لم يرَ تلفًا. رأى تشويشًا. شذوذًا إحصائيًا. انحرافًا عن النمط المتوقع لـ«السيارة». وفعل ما صُمِّم لفعله: أزال التشويش. استخدم النموذج عملية تُسمى الطلاء الداخلي (inpainting) ليُنعّم المعدن المهشّم رقميًا ويعيده رفرفًا مثاليًا، بكسلًا تلو الآخر.

الانبعاج، بالنسبة إلى نموذج انتشار، يبدو كالتشويش. فيزيله النموذج. في الفن، هذه ميزة. أما في التأمين، فهي إتلاف آلي للأدلة.

لم يكن هذا خللًا. عمل النموذج تمامًا كما صُمِّم. وهذا هو الجزء الذي يُقلق نومي.

لماذا يستمر الذكاء الاصطناعي التوليدي في الخطأ في هذا؟

أتذكر محادثة مع مستثمر محتمل في وقت مبكر — ربما بعد ستة أشهر من بدء بناء VeriPrajna. كان قد خرج للتوّ من عرضٍ توضيحي لشركة تأمين تقنية ناشئة أخرى، تستخدم GPT-4 Vision لتصنيف تلف المركبات من الصور. سألني: «لماذا لا تكتفي بتغليف GPT؟ إنه أسرع. وأرخص. وقد بدا العرض التوضيحي رائعًا.»

فتحتُ صورتين على حاسوبي المحمول. كانت إحداهما صورة حقيقية لتلف بَرَد على سيارة سيدان سوداء — نقرٌ دقيقة غير مرئية للعين غير المدرَّبة، لكنها تشوّه بوضوح الانعكاسات على غطاء المحرك. أما الأخرى فكانت تزييفًا عميقًا ولّدتُه في نحو أربع دقائق باستخدام أداة صور موجّهة للمستهلكين: سيارة سليمة تمامًا مع شرخ مرسوم رقميًا يمتد عبر الزجاج الأمامي.

سألته: «أيّهما فيها تلف حقيقي؟»

أشار إلى التزييف العميق.

تلك هي المشكلة. نماذج الذكاء الاصطناعي التوليدي — تلك التي تُشغّل الغالبية العظمى من الشركات الناشئة في «مطالبات الذكاء الاصطناعي» حاليًا — تعمل وفق المعقولية الدلالية، لا الواقع الجنائي. فهي مُدرَّبة على فهم شكل الأشياء، لا ما هي عليه في حقيقتها. فالنموذج البارع في توليد صور واقعية للسيارات هو، بالآلية نفسها بالضبط، سيّئ في تحديد ما إذا كان التلف في صورة ما حقيقيًا أم اصطناعيًا أم مُزالًا رقميًا.

أما الشركات التي تبني فوق هذه النماذج؟ معظمها هو ما تسمّيه الصناعة أغلفة — طبقات واجهة رقيقة فوق واجهة برمجة تطبيقات (API) يملكها شخص آخر. فهي لا تملك النموذج. ولا تتحكم في بيانات التدريب. ولا تستطيع تفسير سبب اتخاذ قرار ما. فإذا حدّثت OpenAI أوزان نموذجها غدًا ليكون أكثر «جمالًا»، فقد تبدأ أداة تقييم التلف في أحد الأغلفة بإصلاح السيارات بحماسة أكبر، دون أن تدري شركة التأمين التقنية حتى بحدوث ذلك.

وفي هذه الأثناء، تحتفظ شركة التأمين بنسبة 100% من المسؤولية.

لقد كتبتُ عن مشكلة الاعتماد هذه بمزيد من التفصيل في النسخة التفاعلية من بحثنا، لكن باختصار: إن لم تكن تملك العقل الذي يتّخذ القرارات بشأن مطالباتك، فأنت لا تتحكم في مخاطرك.

ماذا يحدث حين يحصل المحتالون على الأدوات نفسها؟

إليك المفارقة التي تجعل الأمر أسوأ.

فبينما تستخدم شركات التأمين الذكاء الاصطناعي عن غير قصد لِحذف التلف، يستخدم المحتالون التقنية نفسها لِتصنيعه. لقد انهار عمليًا حاجز الدخول إلى الاحتيال التأميني.

يمكن لأي شخص الآن أن يصوّر مركبة سليمة تمامًا، ويفتح أداة توليد صور موجّهة للمستهلكين، ويطلب منها «إضافة مصدّ أمامي محطّم» أو «محاكاة أضرار حريق». يتعامل الطلاء الداخلي الحديث مع الإضاءة والظلال والانعكاسات بواقعية مرعبة. وسينظر مصنّف صور الذكاء الاصطناعي القياسي — من النوع الذي تستخدمه معظم شركات التأمين — إلى ذلك التزييف العميق ويؤكّد: نعم، هذه سيارة محطّمة. إنه يفشل لأنه يقيّم المحتوى، لا البصمة البنيوية لكيفية توليد الصورة.

بل يزداد الأمر قتامة. تستخدم العصابات الإجرامية الذكاء الاصطناعي التوليدي لإنشاء هويات اصطناعية — وجوهٍ شديدة الواقعية لأشخاص لا وجود لهم، ورخص قيادة مزيّفة، وسجلات طبية ملفّقة. تشتري هذه الأشباح الرقمية وثائق تأمين، وتدفع أقساطًا لبضعة أشهر لبناء مصداقية، ثم تقدّم مطالبات كارثية. في التأمين على الحياة، نعواتٌ وتقارير طبيب شرعي مولّدة بالذكاء الاصطناعي. وفي التأمين الصحي، صور أشعة سينية تُظهر كسورًا لم تحدث قط.

والدفاعات التقليدية تفشل. فالصور المولّدة بالذكاء الاصطناعي كثيرًا ما تكون بياناتها الوصفية ممسوحة أو مُصطنَعة. أما المراجعون البشر؟ فتُظهر الأبحاث أن أداءهم بالكاد يتفوق على رمي عملة معدنية في كشف التزييف العميق عالي الجودة.

التقنية نفسها التي تتيح لشركة تأمين «تحسين» صورة تتيح لمحتال تلفيق صورة. ومعظم أدوات الذكاء الاصطناعي في السوق لا تستطيع التمييز بينهما.

هذا هو سباق التسلّح الذي لا يريد أحد في قطاع التأمين التقني أن يتحدث عنه بصدق.

العدسة المكبّرة، لا فرشاة الرسم

كانت هناك لحظة محددة تبلورت فيها الفلسفة الكامنة وراء VeriPrajna بالنسبة إليّ. كنتُ أنا وفريقي نتجادل — نتجادل بحق، بأصوات مرتفعة — حول نهجنا التقني.

أراد أحد مهندسينا أن يضبط نموذج رؤية-لغة كبيرًا بدقة لتصنيف التلف. كان بناؤه سيكون أسرع، وعرضه التوضيحي أسهل، وبصراحة، كان سيبدو أكثر إبهارًا للمستثمرين. قال: «السوق يريد التوليدي. فهناك حيث يوجد التمويل.»

عرضتُ قضية المصدّ السليم على شاشة قاعة الاجتماعات. وقلت: «إلى هنا يوصلك التوليدي. دعوى قضائية وسجل ملفَّق.»

ساد الصمت الغرفة. ثم قال كبير باحثي الرؤية الحاسوبية لدينا — الذي أمضى سنوات في الفحص الصناعي قبل انضمامه إلينا — شيئًا لم أنسَه قط: «خبير التسوية لا يحتاج إلى فرشاة رسم. إنه يحتاج إلى عدسة مكبّرة.»

أصبح ذلك مبدأنا التصميمي. نحن لا نولّد أي شيء. لا نعدّل بكسلًا واحدًا. نحن نقيس.

بنيتنا المعمارية مؤلَّفة من ثلاث طبقات، وكل واحدة تتعامل مع الصورة بوصفها دليلًا، لا مادة خامًا:

التجزئة الدلالية تحدّد التلف على مستوى البكسل. ليس «هذه السيارة متضررة» — فهذا عديم الفائدة. تصنّف نماذجنا كل بكسل على حدة: هذا البكسل طلاء سليم، وهذا البكسل خدش، وهذا البكسل انبعاج، وهذا البكسل صدأ. والمخرَج قناع دقيق موضوع فوق الصورة الأصلية غير المعدَّلة. ولأننا نعرف الأبعاد المادية لأجزاء سيارة بعينها — مصدّ تويوتا كامري 2024 عرضه 180 سم — يمكننا حساب مساحة التلف بالسنتيمتر المربع بدقة. وتغذّي تلك القيمة مباشرةً برنامج تقدير تكاليف الإصلاح.

تقدير العمق أحادي العين يحل المشكلة التي قتلت قضية المصدّ: فهم الهندسة ثلاثية الأبعاد من صورة مسطحة. من خلال التدريب على مجموعات بيانات ضخمة لهندسات السيارات مع بيانات مرجعية من الليدار (LiDAR)، تتعلّم نماذجنا كيف ينبغي أن يبدو انحناء قوس العجلة، وماذا يعني استواء لوح الباب. يظهر الانبعاج كحفرة غائرة في خريطة العمق. نحسب التدرّجات — فالتدرّج الحاد يعني ثنية حادة تحتاج على الأرجح إلى استبدال اللوح؛ والتدرّج الطفيف يعني انبعاجًا ناعمًا قابلًا للإصلاح بتقنية إصلاح الانبعاج دون طلاء. ويمكننا تقدير حجم المعدن المُزاح. ليس تخمينًا. بل قياسًا.

تحليل الانعكاس المرآوي هو الطبقة التي أفخر بها أكثر من غيرها، لأنها تلتقط ما يفوت كل شيء آخر. فالسيارات الحديثة لامعة. وأسطحها تعمل كمرايا. قد لا يغيّر انبعاجٌ في سيارة سوداء لامعة لون البكسلات على الإطلاق — لكنه يشوّه الانعكاس. فالخطوط المستقيمة في البيئة (الآفاق، وخطوط الكهرباء، وحواف المباني) ينبغي أن تتبع انحناء هيكل السيارة حين تنعكس. أما الانبعاج فيعمل كمرآة مشوِّهة، مسبّبًا انقباض تلك الخطوط أو التفافها أو انكسارها. درّبنا نماذجنا على فصل لون الطلاء عن أنماط الانعكاس وإعادة بناء خريطة متجهات السطح العمودية (surface normal map) — وهي متجه ثلاثي الأبعاد يمثّل زاوية السطح عند كل بكسل. يكشف هذا تلف البَرَد غير المرئي للعين المجردة، والالتواء البنيوي البعيد عن موقع الصدمة، وحتى الإصلاحات السابقة حيث تعطّل علامات الصنفرة لمعان الطلاء الشفاف.

للاطّلاع على التفصيل التقني الكامل للطبقات الثلاث، راجع ورقتنا البحثية.

لماذا لا تستطيع شركات التأمين ببساطة تفسير قرارات ذكائها الاصطناعي؟

هذا هو السؤال الذي تطرحه الجهات التنظيمية الآن، وبصوت عالٍ، ومعظم شركات التأمين لا تملك إجابة جيدة عنه.

أصدرت الجمعية الوطنية لمفوّضي التأمين (NAIC) نشرة نموذجية غيّرت جذريًا مشهد الامتثال. فهي تضع مسؤولية نتائج الذكاء الاصطناعي على عاتق شركة التأمين مباشرةً، حتى عندما يكون الذكاء الاصطناعي أداة طرف ثالث. لا يمكنك الاختباء وراء ذريعة الغلاف. فإذا هلوس نموذج مورّدك أو مارس التمييز، فَأنتَ المسؤول قانونًا. تُلزم النشرة ببرامج حوكمة مكتوبة، وبذل العناية الواجبة بشأن سلالة بيانات المورّد وبنية نموذجه، والأهم — القدرة على تفسير أي قرار مدفوع بالذكاء الاصطناعي لحامل الوثيقة.

حاول أن تفسّر رفض مطالبة مدفوعًا بنموذج توليدي. عبارة «فضّل التوزيع الاحتمالي للنموذج مصدًّا ناعمًا» لن تصمد في قاعة محكمة.

قارن ذلك الآن بما ينتجه نظامنا: «عُولجت المطالبة بناءً على كشف تلف في اللوح الربعي الخلفي الأيسر. حدّد النظام خدشًا بطول 14 سم وانبعاجًا بمساحة سطح 45 سم²، تم التحقق منه عبر تحليل خريطة العمق.» هذا قابل للتحقق تجريبيًا. وهذا مقبول كدليل.

ويذهب قانون الذكاء الاصطناعي في الاتحاد الأوروبي إلى أبعد من ذلك. فالذكاء الاصطناعي المُستخدَم في تقييم مخاطر التأمين المتعلق بأشخاص طبيعيين يُصنَّف على أنه عالي الخطورة، مما يستوجب حوكمة إلزامية للبيانات، وتسجيلًا تلقائيًا للأحداث، ومتطلبات إشراف بشري. وتقنية القناع الطبقي لدينا — حيث يرى خبير التسوية الصورة الأصلية مع طبقة تحليل قابلة للتبديل — مصمَّمة خصيصًا لهذا. نحن لا نستبدل الإنسان. بل نعزّزه. فيبقى هو صاحب القرار، وهو ملاذ آمن حاسم بموجب القانون.

ثم هناك إتلاف الأدلة. ففي النظام القانوني الأمريكي، يمكن أن يؤدي تغيير الأدلة ذات الصلة بإجراء قانوني — حتى دون قصد — إلى عقوبات، أو توجيهات باستنتاج عكسي (حيث يُقال لهيئة المحلفين أن تفترض أن الدليل المفقود كان ضارًا بك)، أو حكم مستعجل. وحين تُدخل أداة ذكاء اصطناعي توليدي بكسلات اصطناعية في صورة مطالبة، فذلك من الناحية التقنية تغيير. وإذا كُتب فوق الأصل، فتلك إتلاف للأدلة.

نحن نجزّئ (hash) كل صورة أصلية بخوارزمية SHA-256 في اللحظة التي تصل فيها. يقرأ ذكاؤنا الاصطناعي مخزن الصورة لكنه لا يكتب فيه أبدًا. ويُحفَظ كل تحليل — الأقنعة، وخرائط العمق، والتقارير — كملفات جانبية منفصلة مرتبطة بتجزئة الأصل. ويُسجَّل كل وصول. فيبقى الدليل سليمًا.

إذا لم يستطع ذكاؤك الاصطناعي أن يثبت أنه لم يغيّر الدليل، فقد خسرت القضية سلفًا قبل أن تبدأ.

سباق التسلّح الذي لم يستعد له أحد

يسألني الناس أحيانًا عمّا إذا كانت الرؤية الحاسوبية الحتمية «كافية» — عمّا إذا كنا متحفّظين أكثر من اللازم برفضنا استخدام النماذج التوليدية.

أعتقد أنهم يطرحون السؤال الخطأ.

السؤال الصحيح هو: ماذا يحدث حين لا يستطيع نظام مطالباتك التمييز بين صورة حقيقية وأخرى اصطناعية؟ ماذا يحدث حين يجتاز تزييف محتالٍ العميق مصنّف ذكائك الاصطناعي بثقة أعلى من مطالبة مشروعة؟ ماذا يحدث حين تلفّق أداة «التحسين» لديك دليلًا بهدوء في قضية تنتهي في محكمة اتحادية؟

هذه ليست فرضيات. إنها تحدث الآن. وشركات التأمين التي تستخدم نماذج توليدية عامة الغرض بوصفها خط دفاعها الأول تُحضِر فرشاة رسم إلى تحقيق جنائي.

نماذجنا حتمية. لا يمكنك حقن الأوامر (prompt-injection) في شبكة تجزئة دلالية. ولا يمكنك استمالة نموذج تقدير عمق ليتجاهل انبعاجًا. فهذه الأنظمة تعمل على تدرّجات شدة البكسل وتحليل النسيج — إنها تستخرج السمات من الخصائص الفيزيائية للضوء الساقط على مستشعر الكاميرا. لا توجد آلية لاتّباع التعليمات يمكن استغلالها.

هذا ليس تحفّظًا. بل هندسةٌ لعالمٍ يملك فيه الخصم الوصول إلى الأدوات التوليدية نفسها التي تملكها أنت.

شاشة خبير التسوية

أريد أن أختم بصورة — ليست فوتوغرافية، بل صورة لما أعتقد أن المستقبل سيبدو عليه.

يفتح خبير التسوية لوحة تحكّمه. لا يرى سيارة «مُصلَحة». ولا يرى أفضل تخمين للذكاء الاصطناعي عمّا كانت عليه السيارة قبل الحادث. إنه يرى الصورة الفعلية، التي التقطها حامل الوثيقة، مع قناع تلف قابل للتبديل يُظهر بالضبط أين كشف الذكاء الاصطناعي الخدوش والانبعاجات والصدأ. ويرى خريطة حرارية للعمق تكشف أن الانبعاج في اللوح الربعي الخلفي عمقه 12 مم بتدرّج حاد — ثنية حادة، تحتاج على الأرجح إلى استبدال. ويرى تحليل الانعكاس ينبّه إلى التواء طفيف على بُعد ثلاث بوصات من موقع الصدمة لن تلتقطه أي عين بشرية.

يرى مسارًا تدقيقيًا يفسّر كل استنتاج. وهو يتّخذ القرار.

الذكاء الاصطناعي لم يقرّر. بل أنار. والدليل لم يُغيَّر. بل كُشف.

ذلك هو الفرق بين نظام يصنع خيالات معقولة وآخر يقيس حقائق مزعجة. لقد بُنيت صناعة التأمين على مبدأ أنك تدفع مقابل ما حدث فعلًا — لا مقابل ما يعتقد نموذجٌ أنه ربما حدث. كل بكسل في صورة مطالبة هو قطعة دليل. وفي اللحظة التي تسمح فيها لذكاء اصطناعي بتغيير حتى واحد منها، تكون قد غادرت مجال الحقيقة ودخلت مجال الاحتمال.

والاحتمال، في قاعة المحكمة، ليس إلا كلمة أخرى للشك المعقول.