لماذا فشلت تجربة Klarna لخدمة العملاء بالذكاء الاصطناعي

المشكلة

استبدلت Klarna نحو 700 موظف في خدمة العملاء بروبوت محادثة مدعوم بالذكاء الاصطناعي، ثم خسرت 99 مليون دولار في ربع سنوي واحد.

أعلنت الشركة السويدية العملاقة في مجال التكنولوجيا المالية في أواخر عام 2023 أن مساعدها المدعوم بالذكاء الاصطناعي كان يتولى 75% من جميع محادثات العملاء عبر 35 لغة. بدا الأمر وكأنه انتصار كبير؛ إذ انخفضت تكاليف خدمة العملاء بنسبة 40% — من 0.32 دولار لكل معاملة إلى 0.19 دولار. لكن الشركة كانت تنظر إلى جانب واحد فقط من دفتر الحسابات؛ فعلى الجانب الآخر، تراجعت درجات رضا العملاء بنسبة 22%. كان الذكاء الاصطناعي قادراً على التعامل مع إعادة تعيين كلمات المرور بكفاءة، ولكن عندما واجه العملاء نزاعات معقدة، أو طلبات استرداد أموال، أو أسئلة مالية حساسة، لجأ روبوت المحادثة إلى ردود عامة تلقائية. واعترف الرئيس التنفيذي لشركة Klarna، سيباستيان سيمياتكوفسكي، بأن السعي وراء الكفاءة أدى إلى تراجع حاد في جودة الخدمة، واصفاً مخرجات الذكاء الاصطناعي بأنها عامة وعاجزة عن التعامل مع الفروق الدقيقة في المحادثات المالية عالية المخاطر.

بحلول منتصف عام 2025، عكست Klarna مسارها؛ حيث استأنفت الشركة التوظيف بل وأعادت تكليف مهندسي برمجيات ومسوقين للعمل في مراكز الاتصال. وأصبحت "اللمسة البشرية" التي أزالتها الأتمتة فجأةً الحاجة الأكثر إلحاحاً للشركة من جديد. وبالنسبة لشركة تبلغ قيمتها 14.6 مليار دولار وتستعد للاكتتاب العام الأولي (IPO)، فإن الضرر الذي لحق بالسمعة فاق كل ما وفره الذكاء الاصطناعي. وإذا كانت مؤسستك تستكشف الذكاء الاصطناعي للعمليات المالية الموجهة للعملاء، فهذه هي القصة التحذيرية التي يتعين عليك دراستها قبل اتخاذ القرار.

لماذا يهم هذا أعمالك

لم يكن إخفاق Klarna مجرد خلل تقني، بل كان خطأً استراتيجياً ذا عواقب مالية مباشرة، والأرقام تروي القصة كاملة.

• تبخرت وفورات التكلفة. قلصت Klarna عدد موظفيها من قرابة 7,400 إلى نحو 3,000 موظف، وبلغت وفورات التسويق وجداول الرواتب الأولية نحو 10 ملايين دولار، لكن صافي الخسارة في الربع الأول من عام 2025 وصل إلى 99 مليون دولار — قبل الاكتتاب العام الأولي المخطط له مباشرةً.
• تآكلت القيمة الدائمة للعميل. لا يقتصر هذا الانخفاض بنسبة 22% في رضا العملاء على الإضرار بنتائج الاستطلاعات فحسب؛ إذ تُظهر الأبحاث المستشهد بها في ورقة العمل أن زيادة بنسبة 5% في الاحتفاظ بالعملاء يمكن أن تدفع بزيادة في الأرباح تتراوح بين 25 و95%. وكانت Klarna تسير في الاتجاه المعاكس تماماً.
• دخلت "قاعدة الـ 20%" حيز التأثير. يستطيع الذكاء الاصطناعي أتمتة ما يقرب من 80% من مهام العملاء الروتينية والمتكررة، لكن النسبة المتبقية البالغة 20% من التفاعلات — كالنزاعات المعقدة، والأسئلة التنظيمية، والمواقف المشحونة بالعواطف — هي التي تحدد سمعة علامتك التجارية ومسؤوليتك المالية. وقد أخفقت Klarna في تلك النسبة البالغة 20%.

بالنسبة لفريقك المالي، فإن الدرس واضح: وفورات تكلفة الذكاء الاصطناعي التي تتجاهل تجربة العملاء ليست سوى سراب؛ فهي تظهر في بند النفقات اليوم وتدمر بند الإيرادات غداً. وبالنسبة لفرق الامتثال وإدارة المخاطر لديك، فإن الدرس حاسم بالقدر نفسه: لا يمكن الوثوق بأنظمة الذكاء الاصطناعي الاحتمالية — من النوع الذي يخمن الإجابة الأكثر ترجيحاً — في التفاعلات المالية الخاضعة للتنظيم. وبالنسبة لمجلس إدارتك، فإن تراجع Klarna يثبت أن استراتيجية الذكاء الاصطناعي أصبحت الآن عامل خطر جوهرياً يجب إدراجه في التقارير الربع سنوية.

إذا كنت تعمل في مجال الخدمات المالية، أو التأمين، أو أي قطاع خاضع للتنظيم، فإن هذا النمط ينبغي أن يثير قلقك.

ما يحدث فعلياً وراء الكواليس

السبب الجذري لإخفاق Klarna يحمل اسماً محدداً: "فخ الغلاف البرمجي" (Wrapper Trap). وإليك ما يعنيه ذلك بلغة بسيطة.

معظم روبوتات المحادثة بالذكاء الاصطناعي للمؤسسات اليوم هي مجرد "أغلفة برمجية رقيقة" (thin wrappers). والغلاف البرمجي هو طبقة برمجية أساسية تأخذ سؤال عميلك وترسله إلى نموذج ذكاء اصطناعي تابع لجهة خارجية مثل GPT ثم تنسق الرد. تخيل الأمر كمركز اتصال يحيل كل سؤال إلى شخص واحد في غرفة خلفية قرأ الكثير من الكتب لكنه لم يعمل قط في شركتك؛ يمكن لهذا الشخص أن يبدو مقنعاً للغاية، لكنه يخمن — ولا يستنتج منطقياً.

تعمل التقنية الأساسية، المسماة المحول (Transformer)، عن طريق التنبؤ بالكلمة التالية الأكثر ترجيحاً في تسلسل لغوي. يُعد هذا ممتازاً لكتابة رسائل البريد الإلكتروني، لكنه محفوف بالمخاطر لتقديم الاستشارات المالية؛ إذ يُحسّن النموذج مخرجاته لتحقيق المعقولية الظاهرية — أي أن يبدو كلامه صحيحاً — بدلاً من الصحة الفعلية — أي أن يكون صحيحاً في الواقع. كما أنه لا يملك أي آلية للتحقق من إجاباته مقابل سياساتك الفعلية، أو اللوائح التنظيمية، أو سجلات العملاء لديك.

يؤدي هذا إلى نمطين حرجين من الإخفاق: أولاً، "الهلوسة" — حيث يولد النموذج معلومات تبدو معقولة ولكنها مفبركة بالكامل؛ فقد يستشهد بسياسة غير موجودة أصلاً أو يحسب مبلغ الاسترداد بشكل خاطئ. ثانياً، انهيار السياق؛ فمع ازدياد طول المحادثة، يفقد الذكاء الاصطناعي تتبع ما قيل في البداية، ويمكنه أن يناقض نفسه أو يتخطى خطوات إلزامية مثل التحقق من الهوية لأن حوار العميل "أقنعه" بالمضي قدماً. وتطلق ورقة العمل على ذلك اسم "مغالطة الحرية المطلقة" (Infinite Freedom Fallacy) — حيث لا يمتلك الذكاء الاصطناعي حدوداً صارمة، مما يتيح لمستخدم ذكي دفعه لتجاوز قواعد عملك.

هذه ليست حالات هامشية نادرة، بل هي عيوب معمارية متأصلة في التصميم ذاته، ولن يفلح أي قدر من ضبط الأوامر (prompt tuning) في إصلاحها.

ما الذي ينجح (وما الذي لا ينجح)

دعنا نبدأ بثلاثة أساليب لا تحل المشكلة:

إضافة المزيد من الأوامر والتعليمات. القواعد القائمة على الأوامر هي "قواعد مرنة" يمكن للذكاء الاصطناعي تجاهلها عندما ينحرف مسار المحادثة. لا يمكنك ضمان الامتثال من خلال تقديم اقتراحات لنظام احتمالي.

إلحاق طبقة للتحقق من الحقائق بعد فوات الأوان. إذا كان الذكاء الاصطناعي قد ولد بالفعل إجابة خاطئة وعرضها على عميلك، فإن اكتشاف الخطأ بعد صدور المخرجات يأتي متأخراً جداً، ويكون الضرر قد وقع بالفعل.

التبديل إلى مزود نماذج لغوية كبيرة مختلف. الانتقال من نموذج احتمالي إلى آخر لا يغير البنية الأساسية؛ فأنت لا تزال تخمن — مجرد تخمين بمحرك مختلف.

وإليك ما ينجح فعلياً: يُطلق على هذا النهج اسم الذكاء الاصطناعي الرمزي العصبي (Neuro-Symbolic AI) — وهو نظام يجمع بين قدرة الذكاء الاصطناعي على معالجة اللغة الطبيعية والمنطق الصارم للأنظمة القائمة على القواعد. تخيل الأمر كمنح الذكاء الاصطناعي صوتاً ودليلاً للقواعد يستحيل عليه مادياً تجاوزه.

تعمل هذه البنية المعمارية في ثلاث خطوات:

1. التحقق من المدخلات. قبل أن يصل سؤال عميلك إلى نموذج الذكاء الاصطناعي، تفحصه طبقة منطق رمزية مقابل سياساتك وترصد محاولات التلاعب. وإذا خالف الطلب إحدى قواعد العمل، فإنه يُحجب هنا — وليس بعد أن يبدأ الذكاء الاصطناعي بالفعل في صياغة الإجابة.

2. التوليد المقيد. يولد الذكاء الاصطناعي رده ولكن مع حواجز حماية تمنع مخرجات معينة مادياً. وتمنع تقنية تسمى "فك الترميز المقيد" (constrained decoding) — أو قناع الرموز — النموذج من إنتاج كلمات أو أرقام قد تؤدي إلى خطأ منطقي أو واقعي. وإذا كان الذكاء الاصطناعي يولد تقريراً للامتثال الضريبي، فيجب أن يأتي كل رقم من عملية حسابية تم التحقق منها، وليس من تخمين احتمالي.

3. إنفاذ المخرجات. بعد التوليد، يؤكد محرك تحقق — مثل آلة الحالات المحدودة (Finite State Machine)، وهي نظام يفرض قواعد صارمة للعمليات خطوة بخطوة — أن الرد يتبع مسار العمل المطلوب لديك. هل تحقق الوكيل من الهوية قبل معالجة استرداد الأموال؟ هل استشهد بلائحة تنظيمية فعلية؟ إذا لم يكن الأمر كذلك، يتم حظر المخرجات.

الميزة الحاسمة لفرق الامتثال والفرق القانونية لديك هي مسار التدقيق؛ حيث يمكن تتبع كل إجابة عبر رسم بياني معرفي (knowledge graph) — وهو خريطة منظمة لحقائق شركتك والعلاقات بينها. وإذا لم يتمكن الرسم البياني من توفير مصدر موثوق لأي ادعاء، فإن النظام يُحظر معمارياً من إخراجه. ويمكن للجهات التنظيمية لديك رؤية مسار الاستدلال الدقيق الذي أدى إلى أي قرار. هذا ليس مجرد ملحق لإعداد التقارير، بل هو مدمج في صلب الأساس.

بالنسبة إلى مؤسسات الخدمات المالية التي تستكشف عمليات خدمة العملاء المدعومة بالذكاء الاصطناعي، فإن السؤال ليس ما إذا كان ينبغي استخدام الذكاء الاصطناعي، بل ما إذا كانت بنية الذكاء الاصطناعي لديك قادرة على إثبات صحة إجاباتها. فالأنظمة المبنية على البنية الرمزية العصبية وأنظمة القيود تمنحك ذلك الإثبات. وعندما تأتي الجهات التنظيمية لتسأل كيف اتخذ الذكاء الاصطناعي لديك قراراً محدداً، فإن إمكانات الإسناد والاستشهاد والتحقق تتيح لك إظهار ذلك لهم — خطوة بخطوة.

يمكنك قراءة التحليل التقني الكامل للحصول على المواصفات المعمارية الكاملة، أو استكشاف النسخة التفاعلية لمعرفة كيفية تعامل هذه الأنظمة مع السيناريوهات المالية الواقعية.