Klarna استبدلت 700 شخص بالذكاء الاصطناعي. ثم أعادت توظيفهم جميعاً. إليك ما ينبغي أن تتعلّمه كل مؤسسة.

كنت في مكالمة مع عميل مصرفي محتمل عندما انفجر خبر Klarna. منتصف عام 2025. اهتزّ هاتفي — كان زميل قد أعاد توجيه المقال إليّ مع سطر واحد: "هذا حرفياً ما ظللت تقوله."

كان العميل في منتصف جملته، يشرح كيف بنوا روبوت محادثة لخدمة العملاء فوق GPT-4، وكيف أنه "يعمل بشكل رائع". سألته كيف تبدو درجات رضا العملاء (CSAT) لديه. وقفة طويلة. "نحن لا نتتبّع ذلك بعد."

تلك الوقفة أخبرتني بكل شيء. لأن Klarna فعلاً تتبّعت ذلك. وما وجدوه كان مدمّراً بما يكفي لعكس واحدة من أكثر عمليات نشر الذكاء الاصطناعي التي حظيت بدعاية في تاريخ التكنولوجيا المالية.

إليك النسخة المختصرة: قامت Klarna، عملاق "اشترِ الآن وادفع لاحقاً" السويدي البالغ قيمته 14.6 مليار دولار، باستبدال نحو 700 موظف خدمة عملاء بمساعد ذكاء اصطناعي مبني على OpenAI. أعلنوا عن ذلك وكأنه جولة انتصار — كان الذكاء الاصطناعي يتعامل مع 75% من جميع محادثات العملاء عبر 35 لغة. وانخفضت تكلفة المعاملة الواحدة بنسبة 40%. أحبّت وول ستريت ذلك. ثم هبطت درجات رضا العملاء بنسبة 22%. وسجّلت الشركة خسارة صافية قدرها 99 مليون دولار في الربع الأول من 2025. واعترف الرئيس التنفيذي سيباستيان سيمياتكوفسكي علناً بأن السعي وراء الكفاءة قد أفرغ جودة الخدمة من مضمونها، وأنتج مخرجات وصفها بأنها "عامّة" وغير قادرة على التعامل مع أي شيء يتطلب حكماً حقيقياً.

بدأوا بإعادة التوظيف. بل أعادوا تكليف مهندسي برمجيات ومسوّقين بالردّ على الهواتف.

أبني أنظمة ذكاء اصطناعي عصبية-رمزية في Veriprajna منذ سنوات الآن، وقد شاهدت شركة تلو الأخرى تقع في الفخ نفسه. ليس لأن التقنية سيئة — فنماذج اللغة الكبيرة مذهلة حقاً. بل لأن هناك خلطاً جوهرياً بين أن تبدو على حق وأن تكون على حق، وفي القطاعات الخاضعة للتنظيم، سيكلّفك هذا الخلط كل شيء في نهاية المطاف.

الليلة التي أدركت فيها أن "الجيد بما يكفي" ليس كذلك

قبل أن أخوض في البنية المعمارية، أريد أن أحدّثك عن لحظة غيّرت طريقة تفكيري في هذه المشكلة.

كنا نجري تجربة تجريبية لنظام امتثال قانوني — ليست خدمة عملاء، بل تحليل مستندات. ذلك النوع من العمل الذي تحلّل فيه الإيداعات التنظيمية وتطابق السياسات الداخلية مع المتطلبات الخارجية. كان لدينا نموذج أولي يستخدم إعداداً قياسياً للتوليد المعزّز بالاسترجاع. بحث متجهي، واسترجاع top-k، وGPT يولّد الملخّص. كان سريعاً. وكانت المخرجات تُقرأ بشكل رائع.

بقيت إحدى مهندساتنا — بريا — حتى وقت متأخر تختبر الحالات الحدّية. حوالي الساعة 11 مساءً راسلتنا على قناة Slack بلقطة شاشة. كان النظام قد ولّد فقرة سلسة تماماً تستشهد ببند تنظيمي محدد. البند لم يكن موجوداً. ليس اقتباساً خاطئاً، ولا إعادة صياغة — بل اختلاقاً كاملاً. وكان يُقرأ بإقناع شديد لدرجة أنك لو لم تكن خبيراً في تلك اللائحة تحديداً، لما اكتشفته أبداً.

أتذكّر أنني جلست إلى مكتبي أحدّق في تلك اللقطة وأنا أفكّر: هذا هو المنتج الذي نوشك على إطلاقه. نظام يكذب بثقة شريك أول في مكتب محاماة.

أوقفنا التجربة. وأعدنا بناء البنية من الصفر. خسرنا ثلاثة أشهر. وكان أفضل قرار اتخذناه على الإطلاق.

عندما يختلق نظام ذكاء اصطناعي استشهاداً قانونياً بثقة تامة، فالمشكلة ليست خللاً — إنها البنية المعمارية. لا يمكن لهندسة المطالبات أن تنتشلك من أساس احتمالي في جوهره.

ما هو "فخ الغلاف" ولماذا يستمر في إيقاع الشركات الذكية؟

دعني أشرح ما حدث فعلاً لـKlarna بمصطلحات تقنية، لأن الصحافة الاقتصادية أخطأت الفهم في معظمها. لقد أطّرت الأمر على أنه "الذكاء الاصطناعي ليس جاهزاً بعد". ليست هذه هي القضية. القضية هي أيّ نوع من الذكاء الاصطناعي وكيف تم نشره.

"الغلاف" (wrapper) هو طبقة برمجية رقيقة تجلس فوق نموذج لغوي كبير تابع لطرف ثالث. تتولى التنسيق، وتدير استدعاءات الـAPI، وربما تضيف بعض تحليل المخرجات المهيكلة. لكن التفكير الفعلي — الاستدلال والحكم واتخاذ القرار — يُسنَد بالكامل إلى النموذج اللغوي الكبير. غلافك يرسل مطالبة، فيتنبأ النموذج بالرموز (tokens) التالية الأكثر احتمالاً، وتستعيد أنت شيئاً يبدو كإجابة.

هذا يعمل بشكل رائع في عرض توضيحي. ويعمل بشكل مقبول في المهام منخفضة المخاطر. ويفشل فشلاً ذريعاً في أي شيء يتطلب اليقين.

تستخدم بنية Transformer التي تشغّل هذه النماذج آلية انتباه ذاتي لترجيح مدى صلة الرموز في تسلسل ما والتنبؤ بما يأتي لاحقاً. هذا مطابقة أنماط — مطابقة أنماط متطورة إلى حد استثنائي، لكنها مطابقة أنماط رغم ذلك. لا توجد آلية داخلية للتحقق من الحقائق مقابل مصدر خارجي للحقيقة. النموذج لا يعرف الأشياء. إنه يتنبأ بما قد يبدو عليه ردٌّ مطّلع.

كان بإمكان الذكاء الاصطناعي لدى Klarna إعادة تعيين كلمات المرور بلا أخطاء. لكن حين يواجه عميل نزاعاً معقداً يشمل استرداداً جزئياً، وخلافاً مع تاجر، ولوائح حماية المستهلك عبر ولايتين قضائيتين؟ كان النموذج يلجأ إلى ما أسمّيه "غزل الحشو" (slop-spinning) — توليد ردود تبدو معقولة لكنها تدور في حلقات، دون أن تحلّ شيئاً أبداً، وتُحبِط العملاء إلى ما وصفه أحد المحللين بأنه "حلقة كافكاوية".

وإليك الجزء الذي ينبغي أن يرعب كل قائد مؤسسي: مقاييس التكلفة كانت تبدو رائعة طوال الوقت الذي كانت فيه التجربة تتدهور. انخفضت تكلفة المعاملة الواحدة من 0.32 دولار إلى 0.19 دولار. وانخفض زمن حلّ المحادثة من 11 دقيقة إلى أقل من دقيقتين. لو كنت تراقب لوحة المؤشرات فقط، لظننت أنك تفوز — إلى أن تأتي اللحظة التي يبدأ فيها عملاؤك بالرحيل.

لماذا لا تستطيع ببساطة إضافة حواجز حماية أفضل إلى نموذج لغوي كبير؟

هذا هو السؤال الذي يُطرح عليّ أكثر من غيره، وهو يكشف سوء الفهم الجوهري. يظن الناس أن الحل هو مطالبات أفضل، وأمثلة قليلة اللقطات أكثر، وتعليمات نظام أكثر إحكاماً. "فقط أخبر النموذج ألّا يهلوس."

هذا أشبه بأن تطلب من نموذج للتنبؤ بالطقس ألّا يخطئ. الطبيعة الاحتمالية ليست عيباً يُرقَّع — إنها الآلية الأساسية لكيفية عمل النظام.

قال لي مستثمر ذات مرة، بصراحة تامة: "استخدم GPT فقط وأضف بعض القواعد فوقه." سألته إن كان سيثق بآلة حاسبة تكون صحيحة 95% من الوقت. ضحك. قلت: "هذا ما تقترحه للامتثال المصرفي." توقّف عن الضحك.

أنماط الفشل التقنية تمتد أعمق من الهلوسة. تفتقر الأغلفة إلى ما أسمّيه استمرارية مخطط الحالة (state-schema persistence). فمع تقدّم المحادثة، تمتلئ نافذة السياق. وتُضغط المعلومات الواردة في بداية المحادثة أو تُسقَط. ويمكن للنموذج أن يناقض نفسه داخل الجلسة الواحدة دون أي إدراك بأنه فعل ذلك. في خدمة العملاء، يعني هذا أن الوكيل قد يتحقق من هويتك عند الدور الثالث ثم يطلب منك التحقق مجدداً عند الدور الخامس عشر — أو الأسوأ، أن يتخطى التحقق كلياً لأن مجرى المحادثة "أقنعه" بأن التحقق قد حدث بالفعل.

هذه هي الثغرة التي أسمّيها مغالطة الحرية اللانهائية (Infinite Freedom Fallacy). لأن النموذج اللغوي الكبير لا يخضع لقيود بنيوية صارمة على ما يمكنه قوله أو فعله، فإن مستخدماً بارعاً بما يكفي — أو موقفاً معقداً بما يكفي — يستطيع دفعه إلى حالات تنتهك قواعد العمل أو المتطلبات التنظيمية أو المنطق الأساسي. لا يمكنك حلّ هذا بالمطالبات. أنت بحاجة إلى نوع مختلف تماماً من البنية المعمارية.

لقد كتبت عن هذه المشكلة بتعمّق في النسخة التفاعلية من بحثنا، لكن الفكرة الجوهرية بسيطة: عليك أن تفصل الصوت عن العقل.

الـ20% التي تُفسِد كل شيء

هناك نمط رأيته في كل قطاع نعمل فيه، وأعتقد أنه يفسّر لماذا تسلك عمليات نشر كثيرة للذكاء الاصطناعي مسار Klarna نفسه.

يستطيع الذكاء الاصطناعي في 2025 أن يتعامل بكفاءة مع نحو 80% من التفاعلات الروتينية عالية التكرار. إعادة تعيين كلمات المرور، والتحقق من حالة الطلبات، والردود الأساسية على الأسئلة الشائعة — هذه مشكلات محلولة. أما الـ20% المتبقية من التفاعلات فهي التي تهمّ فعلاً. إنها النزاعات المعقدة، والحالات الحدّية، واللحظات التي يكون فيها العميل محبَطاً أو مرتبكاً أو خائفاً. وهي المحرّك الأساسي لسمعة العلامة التجارية والمسؤولية المالية.

حسّنت Klarna أداءها للـ80% وتجاهلت الـ20%. بدت الحسبة بديهية: أتمِت الأمور السهلة، ووفّر الملايين. لكن الـ20% هي المكان الذي تُبنى فيه الثقة أو تُدمَّر. العميل الذي تمرّ إعادة تعيين كلمة مروره بسلاسة لا يخبر أحداً. أما العميل الذي يقضي 45 دقيقة محاصراً في حلقة ذكاء اصطناعي محاولاً حلّ خطأ في الفاتورة فيخبر الجميع.

الـ80% من التفاعلات التي يتقنها الذكاء الاصطناعي غير مرئية لعلامتك التجارية. أما الـ20% التي يُخفق فيها فهي الوحيدة التي يتذكّرها أي أحد.

المفارقة أن وفورات Klarna الأولية البالغة 10 ملايين دولار من خفض عدد الموظفين قد تضاءلت، على الأرجح شبه المؤكد، أمام قيمة العملاء مدى الحياة التي دمّرتها عبر تجارب متدهورة. حين تكون شركة قيمتها 14.6 مليار دولار وتستعد لطرح عام أولي، فإن هبوطاً بنسبة 22% في رضا العملاء ليس مشكلة مقياس — إنه مشكلة وجودية.

ماذا يعني "الذكاء الاصطناعي الحتمي" فعلاً؟

إذن إن كانت الأغلفة هي المشكلة، فما الحل؟ هنا أحتاج أن أدخل في تفاصيل تقنية قليلاً، لكنني أعدك بأن أبقيها ملموسة.

في Veriprajna، نبني ما يُسمى الذكاء الاصطناعي العصبي-الرمزي. الاسم يبدو أكاديمياً، لكن المفهوم بديهي: تأخذ الطلاقة اللغوية لشبكة عصبية وتقيّدها داخل المنطق الصارم لمحرّك استدلال رمزي. تتولى الشبكة العصبية العمل "اللين" — فهم اللغة الطبيعية، وتوليد ردود مقروءة للبشر، وتفسير الاستعلامات الغامضة. ويتولى المحرّك الرمزي العمل "الصلب" — فرض القواعد، والتحقق من المنطق، وضمان أن كل مخرَج قابل للتتبّع إلى مصدر موثّق.

نسمّي هذا الشطيرة العصبية-الرمزية (Neuro-Symbolic Sandwich). قبل أن يصل الاستعلام إلى النموذج اللغوي الكبير، تفحصه طبقة للتحقق من النية مقابل قيود السياسات وتفرزه بحثاً عن مدخلات عدائية. وبعد أن يولّد النموذج اللغوي الكبير رداً، يقوم محرّك تحقق — عادةً آلة حالات منتهية أو حلّال منطقي — بفحص كل ادّعاء مقابل الرسم البياني المعرفي وكل إجراء مقابل قواعد العمل. وإذا انتهك الردّ أي قيد، فإنه لا يمرّ. وانتهى الأمر.

هناك تقنية نستخدمها تُسمى فكّ الترميز المقيَّد (constrained decoding) — تُعرف أيضاً بإخفاء الرموز (token masking) — أجدها أنيقة بشكل خاص. فبدلاً من ترك النموذج يولّد بحرية ثم فحص المخرَج، نمنع فيزيائياً توليد رموز معيّنة من الأساس. فإذا كان النموذج ينتج تقرير امتثال ضريبي، تضمن الطبقة الرمزية أن كل رقم يقابل عملية حسابية موثّقة. النموذج حرفياً لا يستطيع أن يهلوس رقماً لأن الرموز المهلوسة تُخفى من توزيع الاحتمالات قبل حدوث التوليد.

هذا ليس "إضافة حواجز حماية". هذه بنية معمارية مختلفة جوهرياً، يكون فيها النموذج اللغوي الكبير هو الصوت والمحرّك الرمزي هو العقل، ولا يُسمح للصوت أبداً بأن يتكلّم دون موافقة العقل.

عندما أنقذنا الرسم البياني المعرفي من خطأ بقيمة 2 مليون دولار

لدى RAG القياسي — التوليد المعزّز بالاسترجاع — مشكلة لا يتحدث عنها معظم الناس. فهو يعتمد على التشابه المتجهي للعثور على المستندات ذات الصلة. لكن التشابه المتجهي لا يفهم الاتجاهية. فعبارة "الشركة أ قاضت الشركة ب" وعبارة "الشركة ب قاضت الشركة أ" قد يكون لهما تضمينان متجهيان متطابقان تقريباً، لكنهما يصفان وضعين قانونيين متعاكسين تماماً.

اكتشفنا هذا بالطريقة الصعبة خلال تجربة قانونية. كان نظامنا يحلّل تاريخ التقاضي لعميل مؤسسي، وظل إعداد RAG القياسي يخلط بين دوري المدّعي والمدّعى عليه. كانت المخرجات سلسة وحسنة البنية وخاطئة بشكل خطير.

عندها انتقلنا إلى ما نسمّيه GraphRAG المفروض بالاستشهاد (Citation-Enforced GraphRAG). فبدلاً من إلقاء المستندات في مخزن متجهات، نحلّلها إلى رسم بياني معرفي — كيانات متصلة بعلاقات مصنّفة واتجاهية. وحين يطرح النظام ادّعاءً، عليه أن يتتبّعه رجوعاً إلى عقد وحواف محددة في الرسم البياني. وإذا لم يستطع الرسم البياني دعم الادّعاء، فلن يطرحه النظام.

كان التحسّن في الدقة هائلاً — أعلى بنسبة 30-35% من RAG القياسي في مهام الاستدلال متعدد القفزات المعقدة. لكن الأهم أنه منحنا شيئاً لم تكن هندسة المطالبات لتمنحه مهما بلغت: مسار تدقيق. كل مخرَج يمكن تتبّعه رجوعاً عبر مسار الاستدلال الدقيق، من كيان إلى كيان، ومن علاقة إلى علاقة. يستطيع مسؤول الامتثال أن يرى لماذا توصّل النظام إلى استنتاج ما، وليس فقط ما استنتجه.

للاطلاع على الشرح التقني الكامل لكيفية عمل هذه البنية عبر مجالات مختلفة — المصرفية، والقانونية، والتصنيع — راجع دراستنا التقنية المعمّقة.

الجدال الذي كاد يشقّ فريقي

أريد أن أكون صادقاً بشأن شيء ما. البناء بهذه الطريقة أصعب. أصعب بكثير. وكانت هناك لحظة، ربما قبل ثمانية عشر شهراً، دار فيها جدال حقيقي في فريقي حول ما إذا كنا نبالغ في الهندسة.

كنا في قاعة اجتماعات — والألواح البيضاء مغطاة بمخططات معمارية — وطرح أحد كبار مهندسينا حجة مفادها أن علينا إطلاق منتج أولي قابل للتطبيق قائم على غلاف لعميل في قطاع التصنيع. "أدخِل الإيرادات، وأثبِت المفهوم، وقوِّ البنية لاحقاً." كانت حجة معقولة. كان العميل متلهفاً. وكان الجدول الزمني ضيقاً. وكان كل منافس في مجالنا يطلق منتجات قائمة على الأغلفة ويظفر بالصفقات.

أتذكّر الصمت بعد أن أنهى كلامه. ثم سحبت بريا — المهندسة نفسها التي التقطت الاستشهاد الوهمي — شريحة كانت تحتفظ بها. كانت تعرض ثلاث حالات واقعية من الربع السابق ولّدت فيها أنظمة ذكاء اصطناعي قائمة على الأغلفة مخرجات كانت، لو جرى العمل بها، ستنتهك متطلبات تنظيمية. ليست انتهاكات افتراضية. بل حقيقية، لم تُكتشف إلا لأن البشر صادف وجودهم ضمن الحلقة.

اتخذت قرار الثبات على المسار. خسرنا تلك الصفقة لصالح منافس أطلق منتجه أسرع. وبعد ستة أشهر، أنتج نظام ذلك المنافس انتهاكاً للامتثال كلّف عميله معالجة بسبعة أرقام. وجاء ذلك العميل إلينا.

السرعة دون صحّة ليست ميزة تنافسية. إنها مسؤولية قانونية بفتيل مؤجّل.

لا أروي هذه القصة لأبدو بعيد النظر. أرويها لأن الضغط للإطلاق السريع والتكرار لاحقاً ضغط هائل، وفي معظم سياقات البرمجيات يكون هو الحدس الصحيح. لكن في القطاعات الخاضعة للتنظيم — المصرفية، والرعاية الصحية، والقانونية، والتصنيع — "التكرار لاحقاً" يعني "إصلاحه بعد الانتهاك". والانتهاكات في هذه المجالات لا تأتي بفترة سماح.

لماذا 2026 هو عام استحقاق الفاتورة

إليك الصورة الكلية. وجدت McKinsey أنه بينما تستخدم 88% من المؤسسات الذكاء الاصطناعي، فإن 39% فقط تستطيع الإشارة إلى أثر إيجابي على الأرباح على مستوى المؤسسة. هذه الفجوة على وشك أن تصبح غير محتملة.

انتهت مرحلة "الاستثمار والتعلّم" في تبنّي الذكاء الاصطناعي. لم يعد المديرون الماليون يسألون "هل نستخدم الذكاء الاصطناعي؟" صاروا يسألون "ما أثره على الأرباح قبل الفوائد والضرائب (EBIT)؟". وبالنسبة لمعظم المؤسسات، الإجابة الصادقة هي: "وفّرنا بعض الوقت في المهام الإدارية."

هذا لا يكفي. توفير الوقت في رسائل البريد الإلكتروني والعروض التقديمية هو "ذكاء اصطناعي للإنتاجية" — مفيد لكنه تدريجي. ما تحتاجه المؤسسات فعلاً هو "ذكاء اصطناعي تشغيلي" — أنظمة تُزيل الاحتكاك الذي يكلّف نقداً حقيقياً في الاقتصاد المادي. منع نفاد المخزون. اكتشاف انتهاكات الامتثال قبل وقوعها. خفض التكلفة السنوية لمرتجعات التجزئة البالغة 890 مليار دولار عبر توفير تجربة قياس افتراضية دقيقة بدلاً من صور خيالية مولّدة بالذكاء الاصطناعي تبدو رائعة لكنها لا تعكس كيف ينسدل القماش فعلاً على جسم بشري.

قصة Klarna مفيدة هنا لأن مقاييسهم كانت تبدو مثل عائد على الاستثمار. تكلفة المعاملة الواحدة انخفضت 40%! لكنهم كانوا يقيسون الشيء الخطأ. قاسوا الوقت الموفَّر وعدد الوظائف المخفَّضة. ولم يقيسوا الثقة المتآكلة والعملاء المفقودين. وحين تحتسب تكاليف إعادة التوظيف، والضرر بالعلامة التجارية، وخسارة الربع الأول البالغة 99 مليون دولار، تتبخّر "الوفورات".

المؤسسات التي ستفوز في 2026 هي تلك التي تقيس الخسائر التشغيلية التي جرى منعها، لا الساعات الموفَّرة. تلك التي تنشر ذكاءً اصطناعياً قادراً على محاكاة 10,000 سيناريو لاضطراب سلاسل التوريد بين عشية وضحاها وبناء أدلة تعافٍ من الأزمات لم يكن أي فريق بشري لينتجها في عقد كامل. تلك التي تستطيع أنظمتها الذكية إثبات استدلالها أمام جهة تنظيمية، لا مجرد إنتاج فقرة مقنعة.

ماذا عن البشر؟

يعترض الناس دائماً على هذا التأطير. "إذا بلغ الذكاء الاصطناعي هذه الجودة، فماذا يحدث للناس؟"

أعتقد أن الإجابة هي عكس ما يتوقعه معظم الناس. فالمؤسسات التي تنشر ذكاءً اصطناعياً عميقاً وسليماً معمارياً لا تحتاج إلى عدد أقل من البشر — بل تحتاج إلى بشر مختلفين. الهرم الاستشاري التقليدي، بقاعدته الضخمة من المحللين المبتدئين الذين يقومون بتوليف البيانات وبناء العروض التقديمية، ينهار. الذكاء الاصطناعي يؤدي ذلك العمل أسرع وأفضل. لكن الحاجة إلى حكم كبار الخبراء، والتفكير الاستراتيجي، والإشراف الأخلاقي، والتعاطف الإنساني الحقيقي لا تنجو فحسب — بل تتكثّف.

ما يبرز الآن هو ما تسمّيه الصناعة نموذج "المسلّة" (Obelisk): فرق أنحف وأكثر تركيزاً على الخبراء، حيث يكون المحترفون في بداية مسيرتهم "ميسّري ذكاء اصطناعي" يصمّمون سير عمل الذكاء الاصطناعي ويديرونه، ويكون المحترفون في منتصف مسيرتهم "معماريي التكليفات" (engagement architects) يحدّدون المشكلات الجديرة بالحل، ويركّز كبار القادة على العمل الإنساني العميق المتمثل في بناء الثقة والتعامل مع الغموض.

مساعد McKinsey الداخلي للذكاء الاصطناعي "Lilli" يستخدمه 72% من موظفيها وقد خفّض وقت البحث بنسبة 30%. و"Deckster" من BCG يؤتمت إنشاء العروض التقديمية. لكن أياً من الشركتين لا يتقلّص. إنهما يعيدان الهيكلة — يستعيضان عن الحجم بالدقة، وعن الساعات المفوترة بالنتائج المحقّقة.

لم يكن خطأ Klarna هو استخدام الذكاء الاصطناعي. بل كان استخدامه بوصفه بديلاً عن البشر بدلاً من أن يكون مضخِّماً لقدرة الإنسان. يبدو هذا التمييز دقيقاً. لكنه ليس كذلك. إنه الفرق بين وفورات بقيمة 10 ملايين دولار وخسارة بقيمة 99 مليون دولار.

بنية الثقة

أريد أن أختم بشيء ظل يشغل بالي منذ تلك الليلة المتأخرة التي وجدت فيها بريا الاستشهاد الوهمي.

نحن نعيش لحظة تستطيع فيها أنظمة الذكاء الاصطناعي إنتاج مخرجات لا يمكن تمييزها عن عمل خبير بشري — ومع ذلك تكون خاطئة تماماً وبثقة كاملة. هذا ليس قيداً مؤقتاً سيحلّه GPT-6 أو GPT-7. إنه خاصية متأصلة في كيفية عمل نماذج اللغة الاحتمالية. إنها تُحسِّن للمعقولية، لا للحقيقة. وفي المجالات التي تهمّ فيها الحقيقة — حيث تعني الإجابة الخاطئة انتهاكاً للامتثال، أو تشخيصاً خاطئاً، أو سابقة قضائية مختلقة — تكون المعقولية أخطر شيء في العالم.

الحل ليس التخلّي عن الذكاء الاصطناعي. الحل هو بناء أنظمة ذكاء اصطناعي تُفرَض فيها الحقيقة معمارياً، لا يُؤمَل بها احتمالياً. حيث يعود كل ادّعاء إلى مصدر موثّق. حيث لا يستطيع النظام حرفياً توليد مخرَج ينتهك قواعد المجال الذي يعمل فيه. حيث لا يكون مسار التدقيق ميزة — بل يكون الأساس.

هذا ما نبنيه في Veriprajna. ليس لأن الذكاء الاصطناعي الحتمي أسهل — فهو أصعب بكثير. وليس لأنه يبدو أفضل في العروض التوضيحية — فالأغلفة تبدو رائعة في العروض التوضيحية. بل لأنه في القطاعات التي لا تحتمل التخمين، البنية الوحيدة المستدامة هي تلك التي تجعل التخمين مستحيلاً.

تعلّمت Klarna هذا الدرس بثمن 700 وظيفة، وانخفاض بنسبة 22% في رضا العملاء، وخسارة ربع سنوية بقيمة 99 مليون دولار. والسؤال لكل قائد مؤسسي يقرأ هذا بسيط: هل تريد أن تتعلّمه من قصتهم، أم من قصتك أنت؟

مستقبل الذكاء الاصطناعي المؤسسي لا يتعلق بجعل نماذج اللغة أذكى. بل بجعلها خاضعة للمساءلة — معمارياً، وبشكل قابل للإثبات، وبشكل غير قابل للتغيير.

انتهى عصر الأغلفة. وما سيأتي بعده سيكون أصعب في البناء، وأبطأ في الإطلاق، ويستحق كل شهر إضافي من الهندسة. لأنه في نهاية المطاف، نظام الذكاء الاصطناعي الوحيد الجدير بالنشر هو النظام الذي تراهن عليه بشركتك. ولا ينبغي أبداً أن تراهن بشركتك على نظام لا يستطيع أن يُظهر عمله.