لماذا يفشل وكلاء الذكاء الاصطناعي في 99% من مهام الأعمال المعقدة

المشكلة

GPT-4، المتقدّم نموذج لغوي كبير متاح اليوم، نجح بنسبة 0.6% فقط من الوقت عند اختباره على معيار مرجعي معقّد لتخطيط السفر متعدد الخطوات. وهذا يعني أنه أخفق في 99.4% من الحالات. ليس في أسئلة خادعة أو ألغاز غامضة — بل في نوع سير العمل المنظَّم متعدد الخطوات الذي تديره شركتك كل يوم: التحقق من التوافر، والتصديق على القيود، ومعالجة المعاملات، وتأكيد النتائج.

طلب معيار TravelPlanner المرجعي من وكلاء الذكاء الاصطناعي تخطيط رحلات عبر الولايات المتحدة. كان عليهم حجز الرحلات الجوية، وإيجاد الفنادق، واختيار المطاعم، والبقاء ضمن الميزانية. فهم GPT-4 الطلبات بشكل تام. اللغة لم تكن المشكلة. كانت المشكلة أن الذكاء الاصطناعي عجز عن الاحتفاظ بجميع القواعد في ذاكرته دفعة واحدة. نسي حدود الميزانية في منتصف الطريق. وخلط بين أوقات الوصول. وحجز بثقة معاملات كانت تنتهك قيودًا كان قد حددها بشكل صحيح قبل لحظات.

هذه ليست نتيجة بحثية هامشية. إنها تكشف خللًا بنيويًا في الطريقة التي تبني بها معظم الشركات أنظمة الذكاء الاصطناعي اليوم. إذا كانت مؤسستك تغلّف نموذجًا لغويًا كبيرًا بطبقة رقيقة من الشيفرة البرمجية وتسميه "وكيل ذكاء اصطناعي"، فمن المرجح أنك تجلس فوق معدل الإخفاق نفسه. لقد خلط القطاع بين القدرة على الحديث عن العمل والقدرة على إنجاز العمل. وهذا الخلط مكلف، وهو على وشك أن يتحول إلى مسؤولية امتثال.

لماذا يهم هذا أعمالك

المخاطر المالية والتشغيلية هنا ملموسة، لا نظرية. تأمّل ما يعنيه معدل إخفاق بنسبة 99.4% عندما تربط الذكاء الاصطناعي بأنظمتك الحقيقية — معالجات الدفع لديك، ونظام ERP لديك، ومحرّكات الحجز لديك.

• التكلفة المباشرة للإخفاقات: عندما يعلق وكيل ذكاء اصطناعي داخل حلقة أخطاء — يعيد إرسال الطلب المعطوب نفسه مرارًا وتكرارًا — يمكن لجلسة واحدة أن تستنزف $5 إلى $10 من تكاليف API قبل أن تنتهي مهلتها. اضرب ذلك في آلاف التفاعلات اليومية.
• حساب الأخطاء المتراكمة: حتى لو أصاب ذكاؤك الاصطناعي كل خطوة منفردة بدقة 90% من الوقت، فإن سير عمل من عشر خطوات يهبط إلى نحو 34% كنجاح إجمالي. معظم العمليات المؤسسية تتجاوز عشر خطوات. سقفك النظري يقع بالفعل دون ما يقبله أي فريق تشغيل.
• التعرّض التنظيمي: يطالب قانون الاتحاد الأوروبي للذكاء الاصطناعي واللوائح الأمريكية الناشئة بالشفافية لأنظمة الذكاء الاصطناعي عالية المخاطر التي تمس المعاملات المالية. غلاف الذكاء الاصطناعي القياسي ينتج سجلًا فوضويًا من الرموز النصية. ولا يستطيع إثبات لماذا اتخذ قرارًا معينًا. فريق الامتثال لديك لا يستطيع تدقيق ما لا يستطيع ذكاؤك الاصطناعي شرحه.
• الأضرار بالسمعة نتيجة الإخفاقات الصامتة: هذه الأنظمة لا تفشل بصوت عالٍ دائمًا. توثّق الورقة البيضاء وكلاء يتخيلون معاملات ناجحة لم تحدث قط. قد يعتقد فريقك أن حجزًا ما تم تأكيده بينما لم يتم. ويكتشف العميل الأمر عند المطار.

الفجوة بين العرض التوضيحي ونظام الإنتاج هائلة. معظم إخفاقات وكلاء الذكاء الاصطناعي لا تُشهَر قط، مما يخلق انحياز الناجين في طريقة إدراك مجلس إدارتك لقدرات الذكاء الاصطناعي. أنت ترى العروض التوضيحية المصقولة. ولا ترى واقع 0.6%.

ما الذي يحدث فعلًا تحت الغطاء

لفهم سبب إخفاق وكلاء الذكاء الاصطناعي في سير عمل الأعمال، عليك فهم تمييز رئيسي واحد: النماذج اللغوية تتنبأ بالكلمة التالية الأكثر احتمالًا. إنها محركات مطابقة أنماط، لا محركات منطق.

تخيّل الأمر هكذا. افترض أنك طلبت من شاعر عبقري إدارة عملية الإقفال في نهاية الشهر لدى شركتك. الشاعر يفهم كل كلمة تقولها. ويمكنه وصف العملية بلغة بليغة. لكن عندما يتعلق الأمر بفرض القاعدة التي تقول "لا يمكن أن تحدث الخطوة 7 قبل اكتمال الخطوة 5"، فهو يخمّن بناءً على ما قرأه، ولا يتبع قائمة تحقق.

تحدد الورقة البيضاء ثلاثة أنماط إخفاق محددة تدمر الأداء في العالم الحقيقي:

انسياب السياق هو القاتل الأول. بينما يعمل الذكاء الاصطناعي عبر سير عمل طويل، تمتلئ ذاكرته ببيانات وسيطة. وبحلول الخطوة العاشرة، يكون النموذج قد "نسى" فعليًا قيد الميزانية الذي لاحظه بشكل صحيح في الخطوة الرابعة. آلية الانتباه — الجزء من الذكاء الاصطناعي الذي يقرر ما يجب التركيز عليه — تتوزع بشكل ضئيل للغاية على تفاصيل كثيرة أكثر من اللازم.

شلال الهلوسة هو الثاني. عندما يرتكب الذكاء الاصطناعي خطأ صغيرًا في الخطوة الثانية — كأن يقرأ وقت رحلة 2:00 PM خطأً بدلًا من 2:00 AM — فإن كل خطوة لاحقة تُبنى على تلك البيانات الخاطئة. واجهة API اللاحقة لا تعرف نية الذكاء الاصطناعي، بل مدخلاته فقط. فتعالج الطلب الخاطئ بنجاح، ويتعامل الذكاء الاصطناعي مع ذلك النجاح بوصفه تأكيدًا لصوابه.

عدم التوافق بين الاستدلال والفعل هو الثالث. يحدد استدلال الذكاء الاصطناعي الداخلي قيدًا بشكل صحيح — "أحتاج رحلة جوية بأقل من $500" — ثم يستدعي API لرحلة بقيمة $600 لأن ذلك الخيار ظهر ببروز أكبر في سياقه. كان التفكير صائبًا. وكان الفعل خاطئًا. هذا الانفصام لا يمكن إصلاحه بمطالبات أفضل. إنه عدم توافق بنيوي بين أداة بُنيت للغة ومهمة تتطلب المنطق.

ما الذي ينجح (وما لا ينجح)

لنبدأ بما يُخفق، لأن فريقك قد يكون يستثمر بالفعل في هذه الطرق المسدودة.

"المطالبات الأفضل" لن تنقذك. الاعتقاد بأن بإمكانك فرض سلوك حتمي على نموذج احتمالي من خلال هندسة مطالبات ذكية هو ما تسميه الورقة البيضاء "وهم الغلاف". فبينما يزداد تعقيد المهمة خطيًا، يزداد احتمال الإخفاق تصاعدًا أسّيًا.

النماذج الأكبر لن تنقذك. اختبر معيار TravelPlanner المرجعي GPT-4، النموذج الأكثر قدرة المتاح. وسجل 0.6%. الاختناق ليس في الذكاء. إنه في البنية.

نوافذ السياق الأطول لن تنقذك. المزيد من الذاكرة لا يحل مشكلة انسياب السياق. بل قد يجعلها أسوأ من خلال منح آلية الانتباه مزيدًا أكبر من الرموز غير ذات الصلة لتتوزع عليها.

إليك ما ينجح فعلًا — نهج تصميمي يسمى التنسيق العصبي الرمزي (neuro-symbolic orchestration)، يقسّم العمل بين الذكاء الاصطناعي والبرمجيات التقليدية بناءً على ما يتفوق فيه كل منهما:

1. الذكاء الاصطناعي يتولى اللغة. يقرأ طلب مستخدمك ويرجم مدخلات اللغة الطبيعية الفوضوية إلى بيانات منظمة — JSON نظيف بحقول مصدّقة. "أريد السفر بالطائرة من لندن يوم الثلاثاء القادم" يصبح {origin: "LHR", date: "2024-01-15"}. الذكاء الاصطناعي هو المترجم، لا صانع القرار.

2. مخطط مبرمج مسبقًا يتولى المنطق. آلة حالة حتمية — تخيّلها مخططًا انسيابيًا رقميًا صارمًا — تتحكم فيما يحدث بعد ذلك. وهي تتحقق: "هل لديّ نقطة انطلاق ووجهة معًا؟ إن نعم، انتقل إلى البحث. إن لا، اطلب من المستخدم التوضيح." هذا المنطق يعمل بشيفرة برمجية عادية. لا يمكن هلوسته. ولا يمكنه تخطي خطوات. من المستحيل ماديًا أن يحاول النظام إجراء حجز قبل وجود جميع الحقول المطلوبة.

3. الحالة المهيكلة تحل محل ذاكرة المحادثة. بدلًا من الاعتماد على الذكاء الاصطناعي لتذكر كل شيء من محادثة طويلة، يخزّن النظام كل متغير رئيسي — معرفات الجلسات، والعروض المختارة، والميزانية المتبقية — في سجل قاعدة بيانات مكتوب النوع. وحتى لو هلوس الذكاء الاصطناعي، لا يمكنه الكتابة فوق رمز جلستك ما لم يأذن وحدة شيفرة برمجية محددة بذلك التغيير.

النظام الذي طبّق هذه البنية على معيار TravelPlanner المرجعي نفسه سجل 97% — مقابل 0.6% لـ GPT-4.

بالنسبة لفرق الامتثال وإدارة المخاطر لديك، الميزة الحاسمة هي مسار التدقيق. كل نقطة قرار تنتج قيد سجل مهيكل: Node: Gatekeeper | Input: Price=1200 | Rule: Policy_Limit=1000 | Output: REJECT_NEED_APPROVAL. يستطيع المدققون لديك قراءة ذلك. ويمكنهم إثبات أن نظامك اتبع سياسة الحوكمة. ويمكنهم تتبع أي نتيجة إلى القاعدة الدقيقة التي أنتجتها. غلاف الذكاء الاصطناعي القياسي يمنحك جدارًا من الرموز النصية. أما هذا فيمنحك دليلًا.

يمكن لسير عملك أيضًا أن يتوقف مؤقتًا بانتظار موافقة بشرية. إذا تجاوزت معاملة حدًا ماليًا معينًا، يجمد النظام حالته، ويبلغ مديرًا، وينتظر. وعندما يوافق المدير، يستأنف من النقطة نفسها التي توقف عندها تمامًا. لا إعادة قراءة للمحادثة. ولا إعادة استنتاج للسياق. الحالة كانت محفوظة، لا ملخصة.

يقلل هذا النهج أيضًا تكاليف الحوسبة الخاصة بالذكاء الاصطناعي لديك. بدلًا من تغذية الذكاء الاصطناعي باستجابة API حجمها 50 كيلوبايت، تستخرج طبقة الشيفرة الحقول الخمسة ذات الصلة فقط وتمرر تلك الحقول وحدها إلى الذكاء الاصطناعي للتلخيص. وهذا يقلص استخدامك للرموز بنحو 90%، مما يخفض مباشرة تكاليف الاستدلال لديك ويسرّع أوقات استجابتك.