لماذا يمكن لذكاء اصطناعي دقيق بنسبة 99% أن يتسبب مع ذلك في فشل كارثي

المشكلة

نموذج ذكاء اصطناعي دُرِّب على ملايين كتب الكيمياء اقترح للتو بنيةً جزيئيةً جديدةً للإلكتروليت الخاص ببطاريتكم. يبدو صحيحًا. ويُقرأ وكأنه صحيح. لكنه ينتهك قواعد التكافؤ الأساسية — القوانين الجوهرية التي تحكم كيفية ترابط الذرات. هذا الخطأ الوحيد، المدفون تحت طبقات من المصداقية الظاهرية، قد يؤدي إلى حدث انفلات حراري: تفاعل متسلسل ذاتي الانتشار يحوّل حزمة البطارية إلى نار في غضون أجزاء من الثانية. وفي الوقت نفسه، أنتجت أداة توليد صوتي في قسم الوسائط لديكم موسيقى تصاحبية تشبه إحصائيًا لحنًا محميًا بحقوق النشر لفرقة البيتلز. فريقكم لم يلاحظ ذلك. لكن محامي المدّعي سيلاحظه.

هذه هي الخطر الجوهري لذكاء الاصطناعي التوليدي اليوم. هذه الأنظمة لا تحسب الإجابات — بل تتنبأ بأكثر كلمة أو بكسل أو موجة صوتية تالية احتمالًا. إنها محركات للمصداقية الظاهرية، لا محركات للحقيقة. الناتج مقنع بنسبة 99%، بينما 1% منه مستحيل فيزيائيًا أو يشكّل انتهاكًا قانونيًا. بالنسبة لأعمالكم، تلك الـ1% ليست خطأ تقريب يمكن تجاهله؛ إنها الفجوة التي تسكنها الكوارث. نماذج اللغة الضخمة القياسية تتنبأ بالرموز (tokens)، لا بكثافات الإلكترونات. ونماذج الانتشار تنتج صوتًا دون أي مفهوم للملكية أو المصدر. تخفي الواجهة سهلة الاستخدام تخمينات النموذج خلف لوحة تحكم أنيقة، فلا ترون الخطر قط — حتى تشتعل بطارية أو يصل إلى مكتبكم ادعاء بانتهاك حقوق النشر.

لماذا يهم هذا أعمالكم

التعرض المالي والقانوني هنا ليس نظريًا. فهو ينعكس مباشرة على ميزانيتكم العمومية، والتزاماتكم المتعلقة بالامتثال، وشهية مجلس إدارتكم للمخاطر.

خذوا الجانب الفيزيقي أولًا. تفشل بطاريات الليثيوم أيون عبر سلسلة متتالية حتمية من ثلاث مراحل. تبدأ المرحلة الأولى عند 80°C فقط حين تتفكك الطبقة الواقية على الأنود. وعند المرحلة الثانية، عند 110°C–135°C، ينصهر الفاصل وتتكوّن غازات قابلة للاشتعال. وفوق 200°C ينهار الكاثود ويطلق الأكسجين ويبدأ الاحتراق. وإلكتروليتكم هو الوقود في تلك المرحلة الأخيرة. إذا اقترح الذكاء الاصطناعي مادة إلكتروليتية غير مستقرة ترموديناميكيًا — مادة تتحلل بدلًا من أن تحافظ على تماسكها — فإنكم تكونون قد صممتم قنبلة، لا بطارية.

والآن فكِّروا في الجانب القانوني:

• الانتحال غير المقصود مسؤوليتكم. إذا احتوى مقطع صوتي مولَّد على حلقة من أربع مقاطع موسيقية مطابقة لأغنية محمية بحقوق النشر، فإن شركتكم مسؤولة عن الانتهاك — حتى لو لم يقصد أحدٌ ذلك.
• ادعاءات «البيانات النظيفة» لن تحميكم. الوضع القانوني لتدريب الذكاء الاصطناعي على مواد محمية بحقوق النشر محل تقاضٍ نشط في قضايا مثل Andersen v. Stability AI وNew York Times v. OpenAI. وإذا حكمت المحاكم ضد مزودي النماذج، فقد تُبطل أصولكم المولَّدة بين ليلة وضحاها.
• فضاء البحث الكيميائي ضخم إلى حدٍّ مستحيل. هناك ما يقدَّر بـ10^100 من التركيبات البلورية غير العضوية المحتملة. والبحث التجريبي العشوائي له معدل إصابة أقل من 1%. الخطأ هنا لا يهدر أموال البحث والتطوير فحسب — بل يؤخر وصول منتجكم إلى السوق بشهور عن كل مرشحٍ فاشل.

مديركم المالي يرى إنفاقًا مهدرًا على البحث والتطوير. ومستشاركم القانوني العام يرى مخاطر ملكية فكرية لا يمكن تحديد كميتها. ومسؤول السلامة لديكم يرى مسؤولية الاستدعاء. المشكلات الثلاث كلها تعود إلى السبب الجذري نفسه: ذكاء اصطناعي يولّد تخمينات تبدو معقولة بدلًا من إجابات مُتحقق منها.

ما الذي يحدث فعلًا تحت الغطاء

إليكم أبسط طريقة لفهم سبب فشل الذكاء الاصطناعي التوليدي القياسي في البيئات عالية المخاطر. تخيلوه كببغاء موهوب جدًا. استمع الببغاء إلى ملايين المحادثات عن الكيمياء أو الموسيقى. يستطيع أن ينسج كلمات تبدو تمامًا ككلام الخبراء. لكنه لا يفهم ما تعنيه الكلمات. لا يعلم أن الذرات تخضع لقواعد الترابط. ولا يعلم أن للألحان أصحابًا.

نماذج اللغة الضخمة تعمل بالطريقة نفسها. تتنبأ بالرمز التالي الأكثر احتمالًا إحصائيًا في تسلسل ما. عندما تطلب منها تصميم بنية جزيئية، تركّب شيئًا «يشبه» الكيمياء استنادًا إلى أنماط في بيانات تدريبها. لكنها لا تتحقق أبدًا مما إذا كانت البنية المقترحة تخضع لقوانين الديناميكا الحرارية. لا يوجد محرك فيزياء داخلي. ولا يوجد فحص للامتثال القانوني.

هذا يخلق ما يسميه البحث تعمية المصدر. في توليد الصوت، يكون الناتج مزيجًا رياضيًا من بيانات التدريب. لا يمكنكم تتبع الأعمال المحمية التي أسهمت في النتيجة. يجتاز النموذج فضاءً عالي الأبعاد لإنتاج شيء جديد — لكن «الجديد» لا يعني «النظيف». وقد يبالغ في التوافق مع بياناته ويعيد إنتاج لحنٍ يمكن التعرف عليه أو صفة صوتية من مجموعة تدريبه. وليس لديكم سجل تدقيق يثبت العكس.

بالنسبة لعلوم المواد، نمط الفشل مختلف لكنه خطير بالقدر نفسه. قد تتنبأ شبكة عصبية بأن الإلكتروليت المرشّح طاقة تكوينه منخفضة — أي أنه ينبغي أن يكون مستقرًا. لكن انخفاض طاقة التكوين وحده لا يكفي. المادة لا تكون مستقرة حقًا إلا إذا وقعت على ما يسميه الفيزيائيون الغلاف المحدب — أي أدنى حدود طاقة ممكنة لتركيب كيميائي معيّن. والمواد الواقعة فوق هذا الحد ستتحلل تلقائيًا. والنموذج القياسي للذكاء الاصطناعي ليس لديه آلية للتحقق من الموقع بالنسبة إلى الغلاف. هو يخمّن، وأنتم تثقون.

ما ينجح (وما لا ينجح)

لنبدأ بثلاثة مقاربات تبدو معقولة لكنها تفشل عمليًا:

«سنستخدم مجرد موجّهًا أفضل.» هندسة الموجّهات لا تضيف معرفة فيزيائية إلى نموذج لغوي. يمكنك أن تطلب منه أن «يكون حذرًا» — لكنه سيستمر في التنبؤ بالرموز، لا بالاستقرار الترموديناميكي.

«درّبنا على بيانات نظيفة.» حتى النماذج المدرَّبة على مجموعات بيانات مرخّصة قد تُبالغ في التوافق وتعيد إنتاج أنماط يمكن التعرف عليها. كما أن التعريف القانوني لكلمة «نظيفة» يُحسم حاليًا في دعاوى قضائية جارية. خطركم لم يُزل قائمًا.

«أضفنا إخلاء مسؤولية.» إخلاءات المسؤولية لا توقف الانفلات الحراري. ولا تمنع دعاوى حقوق النشر. الجهات التنظيمية والمحاكم تهتم بما فعله نظامكم فعلًا، لا بما كتبته في تذييل موقعكم.

وإليكم ما ينجح فعلًا — معمارية من ثلاث خطوات تتعامل مع الذكاء الاصطناعي بوصفه محرك اقتراحات، لا محرك إجابات:

1. يقترح الذكاء الاصطناعي مرشحين من فضاء بحث شاسع. بالنسبة للمواد، تستخدم شبكة عصبية رسومية تُسمى GNoME البنى البلورية بوصفها رسومًا بيانية — الذرات عُقد والأواصر حواف. فهي تولّد آلاف البنى المرشحة وتتنبأ باستقرارها. وبالنسبة للصوت، يقسّم نموذج فصل المصادر المسمى Demucs الصوت المرخَّص القائم إلى مسارات معزولة — غناء وطبول وباص — مكوِّنًا مكتبة من لبنات بناء تم التحقق منها. يبدأ ذكاؤكم الاصطناعي بمكونات معروفة ومصرَّح بها.

2. تتحقق طبقة تحقق حتمية من كل اقتراح مقابل الحقيقة المرجعية. بالنسبة للمواد، يعني ذلك نظرية الدالة الكثيفية (DFT) — حساب كمومي يحسب كثافة الإلكترونات والطاقة الفعلية لبلورة ما. نظرية الدالة الكثيفية هي «الحَكَم» الذي يلتقط البنى التي أخطأت فيها الشبكة العصبية. ومن خلال حلقة تعلّم نشط، يقترح الذكاء الاصطناعي، وتتحقق DFT، وتعود الإجابات الصحيحة لتعيد تدريب النموذج. يدفع هذا التدوير معدل الإصابة من أقل من 1% في البحث العشوائي إلى أكثر من 80%. وبالنسبة للصوت، يبحث نظام استرجاع يُسمى FAISS في قاعدة بيانات من تسجيلات أصوات مرخَّصة. كل تفصيلة صوتية في الناتج — همس النَفَس، والرنين — تُسحب من نقطة بيانات محددة مصرَّح بها، لا تُولَّد من ضجيج.

3. يسجِّل مسار تدقيق تشفيري كل ناتج. معيار C2PA — بروتوكول مفتوح لإثبات مصدر المحتوى — يدمج بيانًا يكشف أي عبث مباشرةً في كل ملف وسائط. يسجِّل هذا البيان المادة المصدرية، ونموذج الصوت المرخَّص المستخدم، وكل خطوة معالجة نُفِّذت، وتوقيعًا رقميًا من مؤسستكم. وأي مستخدم لاحق — محطة بث، أو خدمة بث، أو فريقكم القانوني نفسه — يستطيع التحقق من أن الناتج بُني بالكامل من أصول مصرَّح بها.

وبالنسبة للمواد، يوجد مسار تدقيق مماثل عبر تسلسل التحقق بنظرية الدالة الكثيفية. كل مرشح يجتاز الفحص يحمل معه طاقة تحلله المحسوبة وموقعه بالنسبة إلى الغلاف المحدب. يمكنكم أن تروا أمام جهة تنظيمية بالضبط لماذا اعتُمدت مادة ما: طاقتها فوق الغلاف 0 meV/atom (مستقرة) أو أقل من 50 meV/atom (شبه مستقرة وقابلة للتخليق)، وقد تم التحقق منها بحساب كمومي — لا بتخمين شبكة عصبية.

هذا هو الفرق بين صندوق أسود وصندوق أبيض. فريق الامتثال لديكم يستطيع تتبع كل ناتج حتى مصدره. وفريقكم القانوني يستطيع الدفاع عن كل أصل أمام المحكمة. ومهندسو السلامة لديكم يستطيعون التحقق من كل مادة مقابل الفيزياء.

السؤال ليس ما إذا كان ذكاؤكم الاصطناعي مثيرًا للإعجاب. السؤال هو ما إذا كان ذكاؤكم الاصطناعي خاضعًا للمساءلة.