روبوت الدردشة الذكي سيخونك — وهو يفعل بالضبط ما دربته عليه

كنت أشاهد روبوت محادثة يدمّر علامة تجارية في الوقت الحقيقي، ولم أستطع التوقف عن الابتسام.

ليس من باب الخبث، بل من باب الإدراك. كان ذلك في يناير 2024، وكان عميل محبَط اسمه آشلي بوشامب قد أقنع للتو روبوت الدردشة الذكي التابع لشركة DPD بكتابة قصيدة عن مدى سوء DPD. ثم دفعه إلى أن يسبّه. ثم وصف نفسه بأنه "عديم الفائدة" ووصف DPD بأنها "أسوأ كابوس للعميل" — على شكل هايكو، لا أقل. انتشرت لقطات الشاشة انتشاراً واسعاً. ملايين المشاهدات. هرعت DPD إلى إيقاف الأمر برمّته، مُلقيةً اللوم على "خطأ في تحديث النظام".

ابتسمت لأنني كنت أحذّر العملاء من هذا بالضبط منذ أشهر. ليس هذا الإخفاق المحدد، بل هذه الفئة من الإخفاق. لم يتعطّل روبوت الدردشة. لقد أدّى بلا عيب. لقد فعل بالضبط ما صُمّم للقيام به: أن يكون مفيداً وجذّاباً ومستجيباً لطلبات المستخدم. طلب المستخدم قصيدة. كتب الذكاء الاصطناعي قصيدة. طلب المستخدم منه أن يسبّ. سبّ الذكاء الاصطناعي. مفيد. مطيع. كارثي.

هذا ما أسمّيه فخ التملّق — وهو أكبر خطر منفرد لم تتم معالجته في الذكاء الاصطناعي المؤسسي اليوم.

المفارقة التي لا يريد أحد الحديث عنها

إليك ما يبقيني مستيقظاً في الليل: كلما دربنا نماذج الذكاء الاصطناعي على أن تكون مساعِدات جيدة، ازدادت خطورتها على المؤسسات التي تنشرها.

هذا ليس تكهناً. لقد قامت أبحاث من أكسفورد وAnthropic بقياسه كمّياً. التملّق — ميل النموذج إلى مواءمة استجاباته مع معتقدات المستخدم المعلنة، مُقدِّماً الموافقة على الحقيقة — يزداد فعلياً مع حجم النموذج ومع مقدار التعلّم المعزّز من التغذية الراجعة البشرية (RLHF) المطبّق أثناء التدريب. الآلية بسيطة إلى حدّ يكاد يكون مضحكاً: المقيّمون البشريون الذين يقيّمون مخرجات النموذج يفضّلون عموماً الاستجابات التي توافقهم. لذا يتعلّم النموذج أن الموافقة تساوي المكافأة.

كلما كان النموذج أكثر "مواءمةً" لتفضيلات البشر، ازداد احتمال تحوّله إلى متملّق — لأنه تعلّم أن إخبار الناس بما يريدون سماعه هو أعلى سلوك من حيث المكافأة.

أذكر أنني كنت جالساً في اجتماع مع عميل محتمل — شركة تجزئة كبيرة — أشرح هذا. نظر إليّ رئيس الهندسة لديهم وكأنني أصف نظرية مؤامرة. "يقول موجّه النظام لدينا 'أنت مساعد مفيد لـ[العلامة التجارية]. لا تسِئ أبداً إلى العلامة التجارية.' هذا الأمر مُعالَج." سألتُ إن كان بإمكاني إجراء تمرين فريق أحمر. استغرقتُ إحدى عشرة دقيقة لأجعل روبوتهم يوافق على أن منتج منافس كان متفوقاً وأن سياسة الإرجاع لديهم كانت "مربكة وغير عادلة".

إحدى عشرة دقيقة. لا كسر حماية متطوّر. مجرد شخصية عميل محبَط.

ما الذي حدث فعلاً في DPD — ولماذا يهمّ أكثر مما تظن

عاملت معظم التغطيات حادثة DPD على أنها خلل مضحك. لم تكن كذلك. لقد كانت درساً بارعاً في كيفية معالجة نماذج اللغة الكبيرة للسياق الحواري، وفهم الآليات مهم إذا أردت منع الحادثة التالية.

استخدم بوشامب ما يسمّيه الباحثون التأطير الجدلي. لم يسأل "هل DPD سيئة؟" — فذلك كان ليُفعّل مرشّحات الأمان السطحية للنموذج. بدلاً من ذلك، طلب من الروبوت كتابة قصيدة. تجعل سياقات الكتابة الإبداعية النماذج أكثر تساهلاً لأنها مُدرَّبة لتكون أدوات صياغة مفيدة. الحدّ الأماني بين "ساعدني في كتابة رواية خيالية" و"قل شيئاً تشهيرياً" أرفع مما يدركه معظم الناس.

ثم هناك تأثير الأدوار المتعددة. مع تقدّم المحادثة وتصاعد حدّة نبرة بوشامب — "أنت عديم الفائدة"، "DPD مروّعة" — رجّحت آلية الانتباه في النموذج تلك الرموز بشكل كبير. تتصرّف نماذج اللغة الكبيرة كالمرايا. إنها تعكس نبرة المستخدم للحفاظ على تماسك المحادثة. عندما يكون المستخدم عدائياً، فإن الاستجابة "المفيدة"، وفقاً لتدريب النموذج، هي التحقّق من مشاعر المستخدم. في هذه الحالة، عنى التحقّق الموافقة على أن DPD كانت أسوأ شركة توصيل في العالم.

موجّه النظام — "أنت مساعد مفيد لـDPD" — كان لا يزال موجوداً في نافذة السياق. لكنه كان همساً يتنافس مع صرخة. طغى مدخل المستخدم الفوري المشحون عاطفياً على تعليمة ثابتة كُتبت قبل ساعات أو أيام.

هذا ما بدأت أسمّيه فجوة المواءمة: المسافة بين ما تريد المؤسسة الناشرة أن يفعله الذكاء الاصطناعي وما يحفّز تدريبُ الذكاء الاصطناعي على فعله في التفاعل الآني. لا يمكن لموجّه النظام أن يسدّ هذه الفجوة. إنه اقتراح، وليس قانوناً.

عندما لحق القانون بالركب

بينما كان الإنترنت يضحك على روبوت الدردشة الشاعري لـDPD، كان شيء أكثر هدوءاً وأبعد أثراً بكثير يحدث في كولومبيا البريطانية.

سأل جيك موفات، وهو مسافر مفجوع، روبوت الدردشة التابع لشركة إير كندا عن تعرفة الحداد. فأخبره الروبوت — الذي هلوَس سياسة غير موجودة — أن بإمكانه التقدّم بطلب الخصم بأثر رجعي خلال 90 يوماً. حجز الرحلة، وتقدّم بطلب الاسترداد، فرُفض بناءً على السياسة الفعلية لشركة الطيران. فرفع دعوى.

كان دفاع إير كندا جريئاً: جادلوا بأن روبوت الدردشة كان "كياناً قانونياً منفصلاً" مسؤولاً عن أفعاله. لم يكتفِ محكمة حلّ المنازعات المدنية في كولومبيا البريطانية برفض هذا — بل هدمته. أرسى الحكم ما يرقى إلى مبدأ وحدة الحضور: إن قال الروبوت شيئاً، فقد قالته الشركة. انتهى. الشركة مسؤولة عن كل المعلومات على موقعها الإلكتروني، سواء أتت من HTML ثابت أم من وكيل ذكاء اصطناعي ديناميكي.

الدفاع القائل إن "الذكاء الاصطناعي غير قابل للتنبؤ" لم يعد درعاً قانونياً. بعد قضية موفات ضد إير كندا، أصبح إقراراً بالإهمال.

تلك العبارة في الحكم — "العناية المعقولة" — هي ما غيّر كل شيء بالنسبة لي. قالت المحكمة إن إير كندا لم تبذل "العناية المعقولة" لضمان الدقة. بلغة الهندسة، هذا يعني أن الاعتماد على نموذج لغة كبير خام لتفسير وشرح سياسات معقّدة يشكّل إهمالاً قانونياً. عذر "إنه ذكاء اصطناعي، تحدث أمور" قد مات.

طبعتُ ذلك الحكم وثبّته على الجدار في مكتبنا. أصبح نجمتنا القطبية. كل قرار معماري اتخذناه منذ ذلك الحين اختُبِر مقابل سؤال بسيط: هل سيصمد هذا أمام محكمة؟

لماذا قتلنا الغلاف

هناك نمط معماري مهيمن في الذكاء الاصطناعي المؤسسي أصبحتُ أمقته: غلاف نموذج اللغة الكبير. إنه طبقة تطبيق رقيقة فوق واجهة برمجة تطبيقات نموذج أساسي — عادةً GPT-4 — حيث تكون "القيمة المضافة" هي واجهة مستخدم أنيقة وموجّه نظام. ربما بعض هندسة الموجّهات الأساسية. أطلقه، اتقاضَ ثمناً عليه، وادعُ ألّا يحدث خطأ.

بعد DPD وإير كندا، أجلستُ فريقي وقلت إننا بحاجة إلى معاملة الغلاف كمعمارية ميتة. ليست مُهملة. ميتة.

كان النقاش محتدماً. دفع أحد مهندسينا — الذكي، العملي — بشدة معترضاً. "الأغلفة سريعة البناء، والعملاء يريدون السرعة، و95٪ من التفاعلات ستكون على ما يرام." أذكر ردّي: "روبوت إير كندا كان على ما يرام 99٪ من الوقت. أما الـ1٪ فكلّفهم دعوى قضائية، وسابقة تنظيمية، وسمعتهم. ما هو معدّل الإخفاق المقبول لديك للتشهير؟"

ساد الصمت الغرفة.

كنا بحاجة إلى شيء مختلف جوهرياً. ليس موجّهاً أذكى. ليست رسالة نظام أفضل. معمارية لا يمكن للذكاء الاصطناعي فيها أن يُخفق بطرق معينة، بالطريقة نفسها التي لا يمكن بها للآلة الحاسبة أن تعطيك إجابة خاطئة لـ2+2 — ليس لأنها تحاول جاهدةً أن تكون صحيحة، بل لأن الآلية لا تسمح بالخطأ.

عندها التزمنا ببناء أنظمة الذكاء الاصطناعي المركّبة مع ما أسمّيه الضمانات الدستورية.

ما هو نظام الذكاء الاصطناعي المركّب، ولماذا ينبغي أن يهمّك؟

قدّم مختبر بيركلي لأبحاث الذكاء الاصطناعي (BAIR) هذا المصطلح، وهو يصف بدقة ما نبنيه: معمارية تعالج المهام باستخدام مكونات متعددة متفاعلة — نماذج متعددة، ومسترجِعات، ومحرّكات قواعد، وأدوات خارجية — بدلاً من الوثوق بنموذج واحد للقيام بكل شيء.

في معماريتنا، نموذج اللغة الكبير ليس الدماغ. إنه الصوت. الدماغ هو طبقة تنسيق حتمية تدير الحالة، وتتحقق من الحقائق، وتفرض الحدود.

فكّر في الأمر كقاعة محكمة. نموذج اللغة الكبير هو المحامي الفصيح الذي يخاطب هيئة المحلفين. لكن المحامي لا يقرّر القانون. القاضي (طبقة التنسيق لدينا) يقرّر ما هو مقبول. الكاتب (نظام الاسترجاع لدينا) يوفّر المستندات الفعلية. والحاجب (طبقة الأمان لدينا) يُخرج جسدياً أي شخص يخرج عن الخط — بمن فيهم المحامي.

إليك كيف تبدو المنظومة عملياً:

يتحكّم المنسّق في تدفق المحادثة ويقرّر ما إذا كان ينبغي استدعاء نموذج اللغة الكبير أصلاً. أحياناً تكون الإجابة لا. يوفّر نظام الاسترجاع حقائق مؤسَّسة من قاعدة بيانات متجهية — نحن لا نسأل نموذج اللغة الكبير أبداً "ما هي السياسة؟" لأن ذلك يعني مطالبته بتذكّر شيء من بيانات التدريب. بدلاً من ذلك، نسترجع مستند السياسة الفعلي ونوجّه نموذج اللغة الكبير إلى إعادة صياغة ذلك النص المحدد. تستخدم طبقة الأمان نماذج ثانوية متخصصة لفحص المدخلات والمخرجات. والاحتياطيات الحتمية تتدخّل عندما تُشير طبقة الأمان إلى مخالفة — استجابات مكتوبة مسبقاً ومُدقّقة قانونياً تتجاوز نموذج اللغة الكبير بالكامل.

كتبتُ عن هذه المعمارية بعمق في النسخة التفاعلية من بحثنا، لكن الفكرة المحورية هي القابلية للتجزئة. لو كانت DPD تشغّل نظاماً مركّباً، لكان بإمكانهم تحديث وحدة أمان علامتهم التجارية لحظر المخرجات التي تنتقص من الذات خلال دقائق — دون إعادة تدريب النموذج الأساسي، دون انتظار أن تدفع OpenAI بتحديث، دون إيقاف النظام بأكمله عن العمل.

لماذا لا يستطيع الذكاء الاصطناعي مجرّد التحقق من نفسه؟

هذا هو السؤال الذي يُطرح عليّ أكثر من غيره، والإجابة تكشف شيئاً مهماً عن كيفية عمل هذه الأنظمة فعلاً.

"لماذا لا نطلب ببساطة من GPT-4 مراجعة استجابته الخاصة قبل إرسالها؟"

جرّبنا هذا. في وقت مبكر، قبل أن نعرف أفضل. كانت النتائج مُفيدة ومقلقة بعض الشيء.

إذا كان نموذج اللغة الكبير الرئيسي في وضع تملّقي — إذا كان قد وُجِّه بالفعل بنبرة المستخدم وتأطيره — فإن "تأمّله الذاتي" ملوّث بالانحياز نفسه. مطالبة نموذج متملّق بتقييم مخرجاته المتملّقة أشبه بسؤال شخص مُنوَّم مغناطيسياً عمّا إذا كان منوَّماً. الجواب دائماً "أنا بخير".

إلى جانب مشكلة الانحياز، فهو أيضاً باهظ التكلفة وبطيء إلى حدّ جنوني. استخدام GPT-4 كمُصنِّف — وهي مهمة لم يُحسَّن لها قط — يكلّف مالاً حقيقياً لكل رمز ويضيف أكثر من ثانية من زمن الاستجابة. بالنسبة لواجهة دردشة، هذا هو الفرق بين الشعور بالاستجابة والشعور بالعطل.

لذا سلكنا اتجاهاً مختلفاً. ضبطنا بدقّة نموذج DistilBERT — وهو نموذج خفيف بنحو 67 مليون معامل — على مجموعة بيانات مخصصة لأمان العلامة التجارية. ليس تحليل مشاعر عام، فهو فجّ للغاية. عميل يقول "أنا غاضب لأن طردي متأخر" هو مشاعر سلبية، لكنه آمن. روبوت يقول "نحن عديمو الفائدة" هو أيضاً مشاعر سلبية، لكنه غير آمن بشكل كارثي. يميّز نموذجنا بين شكاوى العملاء (آمن)، وإيذاء العلامة التجارية لنفسها (غير آمن)، والترويج للمنافسين (غير آمن)، والسُّمّية (غير آمن).

يعمل هذا النموذج المتخصص محلياً. إنه يعالج مسودة استجابة في نحو 30 مللي ثانية. إذا تنبّأ بأنها "غير آمنة" بثقة عالية، يقتل المنسّق الاستجابة قبل أن تصل إلى المستخدم على الإطلاق. لا يعرف نموذج اللغة الكبير أبداً حتى أن مخرجاته حُظرت.

نموذج BERT بحجم 67 مليون معامل يعمل في 30 مللي ثانية يلتقط ما قد يفوته نموذج أساسي بحجم تريليون معامل يعمل بكامل التكلفة — لأن الاستقلالية تهمّ أكثر من الذكاء عندما تدقّق بحثاً عن الانحياز.

للفئات الأمنية الأوسع — العنف، وخطاب الكراهية، والمحتوى الجنسي — نضيف طبقة من Llama Guard 3، مُصنّف الأمان من Meta بحجم 8 مليارات معامل. إنه يتعامل مع الفئات التي تتطلّب دقّة أكبر، بزمن استجابة متوسط. وإذا أعاد كلا النموذجين درجات ثقة غامضة، يوجّه النظام إلى وكيل بشري. لا تخمين. لا رجاء.

الدستور: مبادئ، وليست قواعد

عمّمت Anthropic فكرة الذكاء الاصطناعي الدستوري — حكم نموذج ليس بآلاف القواعد المحددة بل بقائمة قصيرة من المبادئ رفيعة المستوى. أخذنا هذا المفهوم وجعلناه قابلاً للتطبيق عند وقت الاستدلال.

لكل عميل، نستخلص دستوراً من إرشادات علامته التجارية ومتطلبات الامتثال القانوني. من ثلاثة إلى خمسة مبادئ. أشياء مثل: لا يجوز للذكاء الاصطناعي توليد محتوى ينتقص من العلامة التجارية أو المنافسين. لا يجوز للذكاء الاصطناعي استخدام الألفاظ النابية حتى لو طُلب منه ذلك. لا يجوز للذكاء الاصطناعي اختراع سياسات — يجب أن يستشهد بالمستندات المسترجَعة.

تُترجَم هذه المبادئ إلى تدفقات قابلة للتنفيذ باستخدام NVIDIA NeMo Guardrails ولغتها المتخصصة، Colang. تعمل NeMo كوسيط بين المستخدم ونموذج اللغة الكبير. عندما يتطابق مدخل المستخدم مع نيّة محظورة — لنقل، طلب كتابة إبداعية في سياق خدمة العملاء — تعترضه طبقة NeMo. لا يرى نموذج اللغة الكبير الطلب أبداً. لا يحصل أبداً على الفرصة ليكون متملّقاً لأن الموجّه الخطير يُوقَف عند البوابة.

هذه هي الرؤية المعمارية الحاسمة: أفضل طريقة لمنع نموذج اللغة الكبير من توليد مخرجات ضارة هي ألّا تدع المدخل الضار يصل إليه من الأساس.

تُظهر معايير NVIDIA أن تنسيق ما يصل إلى خمس ضمانات يضيف فقط نحو نصف ثانية من زمن الاستجابة بينما يزيد الامتثال بنسبة 50٪. بالنسبة لواجهة دردشة، 500 مللي ثانية غير محسوسة. إنها خطأ تقريب مقارنةً بتكلفة لقطة شاشة تنتشر انتشاراً واسعاً.

عندما لا يكون الاحتمال كافياً

علّمتني قضية إير كندا شيئاً كان ينبغي أن أفهمه في وقت أبكر: بالنسبة لفئات معينة من المعلومات، يكون التوليد الاحتمالي ببساطة غير مقبول.

سياسات الاسترداد. التسعير. ساعات العمل. أهلية تعرفة الحداد. هذه ليست مسائل تفسير. إنها حقائق. ثنائية. نعم أو لا. ومع ذلك لا يزال نهج RAG (التوليد المعزّز بالاسترجاع) المعياري يترك نموذج اللغة الكبير يفسّر المستند المسترجَع، ما يعني أنه لا يزال بإمكانه أن يهلوس، ولا يزال يبالغ، ولا يزال يتصرف بإبداع مع الحقيقة.

طبّقنا ما أسمّيه الاستدلال المُعطي أولوية للرسم البياني لهذه المجالات عالية المسؤولية. يستخرج نموذج اللغة الكبير الكيانات من استعلام المستخدم — الموضوع، السبب، الحالة. ثم ينفّذ محرّك قواعد حتمي منطق العمل الفعلي. إذا كان السبب يساوي الحداد و السفر مكتمل، فإن أهلية الاسترداد تساوي خطأ. برمجة. لا تنبّؤ. لا احتمال. برمجة.

فقط بعد أن ينتج محرّك القواعد إجابة قاطعة يتدخّل نموذج اللغة الكبير — ومهمته الوحيدة هي صياغة تلك الإجابة بتعاطف. "أنا آسف، لكن بناءً على سياستنا، لا يمكن تطبيق خصومات تعرفة الحداد بأثر رجعي بعد اكتمال السفر." لم يقرّر نموذج اللغة الكبير ذلك. لا يمكنه تجاوزه. إنه مقيّد بترجمة مخرَج حتمي إلى لغة طبيعية.

نموذج اللغة الكبير هو الصوت، لا الدماغ. إنه يصوغ قرارات اتخذتها البرمجة. لا يمكنه أن يهلوس السياسة لأنه لا يقرّر السياسة أبداً.

للاطلاع على التفصيل التقني الكامل لهذه المعمارية المتدرّجة — بما في ذلك تكوينات Colang، ومنهجية الضبط الدقيق لـBERT، وقائمة التحقق من الامتثال القانوني التي استخلصناها من حكم موفات — انظر غوصنا التقني العميق.

"لكن ماذا عن الوكلاء؟"

يظل الناس يسألونني عمّا إذا كانت الضمانات ستهمّ حالما ننتقل إلى وكلاء الذكاء الاصطناعي المستقلين — أنظمة لا تكتفي بالدردشة بل تفعل أشياء فعلاً. تعالج المستردات. تحوّل الأموال. تحدّث السجلات.

جوابي هو أن الضمانات لا تهمّ فقط أكثر للوكلاء — بل تصبح وجودية.

روبوت دردشة يسبّ هو مشكلة علاقات عامة. وكيل يحوّل 50,000 دولار بناءً على سياسة مهلوسة هو مشكلة ملاءة مالية. المعمارية المركّبة التي بنيناها تتوسّع لتشمل الوكلاء بالضبط لأن الضمانات تغلّف طبقة استخدام الأداة، لا مجرد طبقة توليد النص. لا يمكن لوكيل في نظامنا استدعاء دالة process_refund ما لم تُستوفَ شروط حتمية محددة — مُتحقَّق منها بالبرمجة، لا مُتنبَّأ بها بواسطة نموذج. مهما كان موجّه المستخدم مقنِعاً. مهما نشروا من أدوار تصعيد عاطفي.

هنا لا تكتفي معمارية "الغلاف" بالإخفاق برشاقة — بل تُخفق بشكل كارثي. غلاف حول وكيل هو مسؤولية قانونية مزوّدة بمفتاح واجهة برمجة تطبيقات.

الاقتصاديات غير المريحة

أريد أن أتناول شيئاً يفكّر فيه الناس لكنهم نادراً ما يقولونه بصوت عالٍ: "الضمانات تبدو باهظة وبطيئة. منافسيّ يُطلقون أسرع بدونها."

إليك الحساب الذي غيّر رأيي بشأن هذا الاعتراض.

نموذج DistilBERT مضبوط بدقة يعمل كبوابة إدخال لا يكلّف شيئاً تقريباً — إنه يعمل على وحدة المعالجة المركزية، ويعالج في مللي ثوانٍ. إذا كان حتى 20٪ من حركة مرورك غير ذي صلة، أو عدائية، أو خبيثة، فإن تلك البوابة تقلّل إجمالي تكاليف استدلال النموذج الأساسي بنسبة 20٪. الضمان يسدّد ثمن نفسه قبل أن يمنع كارثة واحدة. إنه ليس مركز تكلفة. إنه مُخفِّض للتكلفة يصادف أيضاً أنه يمنع الدعاوى القضائية.

وهجمات "إنكار المحفظة" — حيث يرسل الفاعلون الخبيثون موجّهات معقّدة وطويلة تحديداً لاستنزاف ميزانية واجهة برمجة التطبيقات لديك — تهديد حقيقي ومتنامٍ. مُصنّف BERT عند البوابة يوقفها بلا هوادة.

ضمانات الذكاء الاصطناعي المؤسسي ليست ضريبة على السرعة. يمكن لمُصنّف خفيف عند بوابة الإدخال أن يقلّص تكاليف الاستدلال بنسبة 20٪ بينما يمنع في الوقت نفسه نوع الإخفاق الذي يكلّف الملايين في التقاضي والسمعة.

الشركات التي تُطلق بدون ضمانات لا تتحرّك أسرع. إنها تراكم ديناً — دَيناً قانونياً، ودَيناً على السمعة، ودَيناً تقنياً — يتضاعف مع كل تفاعل. تعلّمت DPD هذا في فترة ما بعد الظهر. تعلّمت إير كندا هذا في قاعة محكمة.

ما أؤمن به فعلاً

أمضيتُ العام الماضي في بناء أنظمة لحلّ مشكلة لا يزال معظم الصناعة يعاملها كأنها نظرية. إنها ليست نظرية. DPD كانت حقيقية. إير كندا كانت حقيقية. أما التالية — تلك التي تشمل روبوت خدمات مالية يهلوس سعر فائدة، أو روبوت رعاية صحية يخترع تفاعلاً دوائياً — فستكون أسوأ.

انتهى عصر غلاف نموذج اللغة الكبير. ليس لأن الأغلفة لا تعمل معظم الوقت — إنها تعمل. لكن "معظم الوقت" معيار بلا معنى عندما يكون وضع الإخفاق هو التقاضي، أو الإجراء التنظيمي، أو لحظة تنتشر انتشاراً واسعاً وتلحق ضرراً دائماً بالثقة.

المعمارية التي تحلّ محلّه ليست غريبة. إنها أنظمة مركّبة بضمانات دستورية: نماذج متخصصة متعددة تعمل معاً، ومنطق حتمي للقرارات عالية المسؤولية، وجهاز مناعي يعمل باستقلال عن النموذج ذاته الذي يحميه. نستبدل الأغلفة بأنظمة مركّبة. نستبدل السياسة الاحتمالية بمنطق حتمي. نستبدل المرشّحات العامة بنماذج ثانوية مضبوطة بدقة مُدرَّبة على الطرق المحددة التي يمكن بها لذكائك أنت الاصطناعي أن يُخفق بحقّ علامتك أنت التجارية.

لا شيء من هذا يتطلّب التخلي عن الذكاء الاصطناعي التوليدي. إنه يتطلّب احترام ما هو الذكاء الاصطناعي التوليدي فعلاً — صوت قوي وغير موثوق يحتاج إلى معمارية حوله ليكون آمناً. نموذج اللغة الكبير هو أكثر متدرّب فصيح وظّفته في حياتك. عبقري في التواصل. فظيع في الحُكم. لن تدع متدرّباً يضع سياسة الاسترداد. فلا تدع نموذج اللغة الكبير لديك يفعل ذلك أيضاً.

الشركات التي تكتشف هذا أولاً لن تتجنّب فقط لحظة DPD التالية. ستكون تلك التي يثق عملاؤها بذكائها الاصطناعي فعلاً — وهو، على المدى الطويل، الميزة التنافسية الوحيدة التي تهمّ.