لماذا فشلت خدمة طلبات السيارات بالذكاء الاصطناعي في McDonald's وما يعنيه ذلك لمؤسستك

المشكلة

أضاف روبوت الذكاء الاصطناعي لخدمة طلبات السيارات في McDonald's نحو 260 قطعة Chicken McNuggets لطلب عميل واحد. ووضع لحم الخنزير المقدد على آيس كريم الفانيليا. وخلط بين طلب الماء وعبوات الزبدة. وبعد ثلاث سنوات وتطبيقه في أكثر من 100 موقع في الولايات المتحدة، أنهت McDonald's شراكتها مع IBM وأوقفت المنظومة بأكملها في يوليو 2024.

لم يكن هذا خللاً عارضاً؛ إذ استقرت دقة النظام عند حدود 80–85% تقريباً في دقة الطلبات. يبدو هذا الرقم مقبولاً حتى تدرك أن الموظفين البشريين يحققون بشكل روتيني 90% أو أعلى. لقد كان الذكاء الاصطناعي يثير مشاكل أكثر مما يحل بالفعل؛ إذ تطلب نحو 20% من إجمالي الطلبات تدخلاً بشرياً لتصحيح الأخطاء. هذه ليست أتمتة — بل هي عمل إضافي بتكلفة تكنولوجية باهظة.

انتشرت هذه الإخفاقات على نطاق واسع عبر وسائل التواصل الاجتماعي. فقد حولت مقاطع الفيديو التي توثق دهشة العملاء وهم يشاهدون فواتيرهم ترتفع إلى $222 لقطع الدجاج استثمار McDonald's التقني إلى مادة للسخرية العالمية. وبالنسبة لعلامة تجارية تأسست على السرعة والراحة، فإن كل طلب غير دقيق كان يقتطع من رصيد ثقة العملاء.

إذا كانت مؤسستك تقيّم استخدام الذكاء الاصطناعي في العمليات الموجهة للعملاء، فهذه القصة ينبغي أن تدعو للقلق الجدي. فقد استعانت McDonald's بشركة IBM — إحدى كبرى شركات التكنولوجيا في العالم — وأمضت ثلاث سنوات كاملة لإنجاح التجربة، ورغم ذلك فشلت. السؤال ليس ما إذا كان الذكاء الاصطناعي قادراً على العمل في العالم الحقيقي، بل ما إذا كانت البنية المعمارية الكامنة وراء نظامك مصممة لتحمل ظروفه الصعبة.

لماذا يهم هذا الأمر أعمالك

تكشف حالة McDonald's عن ثلاث فئات من المخاطر التي تؤثر سلباً على أرباحك الصافية، وامتثالك التنظيمي، وعلامتك التجارية — دفعة واحدة.

الضرر المالي مباشر وقابل للقياس. في صناعة مطاعم الخدمة السريعة، يتم الدفاع عن هوامش الربح على مستوى السنتات والثواني. وعندما تتطلب 20% من الطلبات إعادة معالجة بشرية، ترتفع تكاليف العمالة لديك بدلاً من أن تنخفض. كان من المفترض أن يرفع الذكاء الاصطناعي معدل الإنتاجية بنسبة 10–15%، لكنه بدلاً من ذلك حقق مكاسب سلبية إلى محايدة، مع زيادة أوقات الانتظار في ساعات الذروة. وفي الوقت نفسه، سجل المنافسون الذين يعتمدون على الذكاء الاصطناعي مثل Wendy's انخفاضاً قدره 22 ثانية في زمن الخدمة بدقة بلغت 99% تقريباً. وكل سيارة إضافية تزيدها إلى سعة المسار في الساعة يمكن أن تحقق $185,600 إضافية من الإيرادات السنوية عبر سلسلة تضم 50 فرعاً.

المخاطر التنظيمية حقيقية ومتنامية. تواجه McDonald's بالفعل دعاوى قضائية بموجب قانون خصوصية المعلومات البيومترية في إلينوي (BIPA). وتتمثل الدعوى في: جمع البصمات الصوتية للعملاء دون موافقة صريحة. وإذا كان نظام الذكاء الاصطناعي لديك يعالج الصوت أو بيانات الوجه أو الأنماط السلوكية، فإنك تواجه مخاطر مماثلة.

أضرار العلامة التجارية تتفاقم بسرعة. مقطع فيديو واحد واسع الانتشار يُظهر نظام الذكاء الاصطناعي لديك وهو يرتكب خطأً سخيفاً يمكن أن يصل إلى ملايين الأشخاص بين عشية وضحاها. إن تكلفة هذا الضرر الذي يلحق بالسمعة لا تظهر في فاتورة المورد الربع سنوية، ولكنها تظهر بوضوح في خسارة العملاء.

إليك ما تكشفه الأرقام:

• دقة بنسبة 80–85% مقابل المعدل المستهدف في الصناعة البالغ 95–99% تعني أن نظامك يخفق في طلب واحد من بين كل خمسة طلبات تقريباً.
• رسوم خاطئة بقيمة $222 في فاتورة سيارة واحدة — هذا هو نوع الحوادث الذي يتصدر التريند على TikTok.
• 50% من العاملين في مجال المعرفة يستخدمون بالفعل أدوات ذكاء اصطناعي غير مصرح بها، مع معدل تحدٍّ يبلغ 46% — مما يعني أنهم سيواصلون استخدامها حتى لو حظرتها.

يحتاج مجلس إدارتك إلى معرفة التالي: إن نشر بنية معمارية خاطئة للذكاء الاصطناعي لا يقتصر على إهدار الأموال فحسب، بل يخلق مسؤولية قانونية ومخاطر على السمعة على نطاق واسع.

ما يحدث بالفعل خلف الكواليس

فشل نظام McDonald's لسبب نادراً ما تذكره العروض الترويجية للموردين: العالم الحقيقي صاخب، وفوضوي، وغير متوقع.

فكر في الأمر على هذا النحو: يتم تدريب معظم نماذج الذكاء الاصطناعي اللغوية في بيئة تماثل مكتبة هادئة. ثم تضعها فجأة في مسار طلبات السيارات — مع هدير المحركات، وصوت مذياع السيارات المرتفع، وضربات الرياح على الميكروفون، وصراخ الركاب في المقاعد الخلفية. يسمع الذكاء الاصطناعي كل ذلك ويعجز عن التمييز بين صوت العميل والأصوات الأخرى.

هذا هو ما حدث تماماً؛ فقد "التقط" نظام IBM طلبات من المسارات المجاورة لأنه كان يفتقر إلى التصفية الصوتية المكانية — وهي تقنية تُعرف باسم تشكيل الحزم الصوتية (beamforming) تستخدم مصفوفات ميكروفونات للتركيز على متحدث واحد. ودونها، التقط النظام طلباً من سيارة مجاورة وأضافه إلى الفاتورة الخاطئة. وهكذا انتهى الأمر بعميل يحصل على تسعة أكواب من الشاي المحلى لم يطلبها قط.

لكن الضوضاء لم تكن صوتية فحسب، بل كانت لغوية أيضاً. عجز النظام عن التعامل مع اللهجات الإقليمية، أو التعديلات في منتصف الجملة ("أعطني Coke، لا، اجعلها Dr. Pepper")، أو تحدث عدة ركاب في الوقت نفسه. وعندما لم يتمكن الذكاء الاصطناعي من تحليل ما سمعه، لم يطلب توضيحاً، بل لجأ إلى التخمين — بمطابقة المقاطع الصوتية مع عناصر القائمة ذات الاحتمالية الإحصائية العالية بصرف النظر عما إذا كانت منطقية. وهكذا تحول طلب "ماء وآيس كريم فانيليا" إلى "صنداي كراميل مع زبدة وكاتشب".

المشكلة الأساسية: كان محرك اتخاذ القرار في النظام يعتمد بالكامل على الاحتمالات. فقد اختار الكلمة التالية الأكثر ترجيحاً إحصائياً، وليس الكلمة الصحيحة منطقياً. ولم تكن هناك طبقة من قواعد العمل لرصد هذه المفارقات غير المعقولة قبل وصولها إلى العميل. لم يكن لدى الذكاء الاصطناعي أي إدراك بأن وضع لحم الخنزير المقدد على الآيس كريم ليس طلباً حقيقياً. ولم تكن لديه أي حدود قصوى للكميات تمنع ظهور 260 قطعة ناجتس في الفاتورة. كان يجري حسابات رياضية، لا عمليات استنتاج منطقي.

ما ينجح (وما يفشل)

أولاً، دعنا نحدد ثلاثة مناهج شائعة تفشل باستمرار في عمليات نشر الذكاء الاصطناعي الواقعية ذات المخاطر العالية.

الواجهات البرمجية السطحية (Thin API wrappers). هي طبقات برمجية تتوسط بين المستخدمين ونموذج ذكاء اصطناعي تابع لطرف ثالث، وتقتصر على تنسيق المدخلات والمخرجات فحسب. تنجح هذه الطبقات في النماذج الأولية، لكنها تفشل فشلاً ذريعاً عندما تحتاج إلى الأمان والدقة وإمكانية التدقيق في بيئات الإنتاج الفعلية.

هندسة الأوامر وحدها (Prompt engineering). إن تعديل التعليمات المرسلة إلى نموذج ذكاء اصطناعي للأغراض العامة لا يعد بنية معمارية، بل هو مجرد أمل في أن يتصرف النموذج على النحو المطلوب. وعندما يواجه نظامك حالة حدية غير معتادة — وهو أمر واقع حتماً — لن تجد شبكة أمان لحمايته.

بيانات التدريب المتجانسة. إذا تم تدريب الذكاء الاصطناعي على مجموعة ضيقة من التفاعلات "القياسية"، فسوف ينهار في اللحظة التي يواجه فيها عميلاً حقيقياً لا يتبع السيناريو المحدد. لقد تم تدريب نظام McDonald's على مجموعة بيانات متجانسة نسبياً لم تعكس التنوع الديموغرافي لقاعدتها الفعلية من العملاء.

إليك ما ينجح بالفعل — مبدأ النواة الحتمية مع الأطراف الاحتمالية. وبتعبير مبسط: دع الذكاء الاصطناعي يتعامل مع مرونة اللغة، ولكن طبّق قواعد عمل صارمة عبر نظام منفصل قائم على المنطق لا يمكن للذكاء الاصطناعي تجاوزه.

1. المدخلات: تنقية الإشارة قبل أن تصل إلى الذكاء الاصطناعي. استخدم مصفوفات الميكروفونات المتعددة والتصفية المكانية لعزل المتحدث الرئيسي. وطبّق تقنيات تقليل الضوضاء المعتمدة على الذكاء الاصطناعي والمدربة على أصوات العالم الحقيقي — مثل المحركات والرياح والأمطار — لإزالة التشويش من البث الصوتي. وتُظهر الأبحاث أن دمج الصوت مع تتبع حركة الشفاه عبر الكاميرا يمكن أن يقلل معدل الخطأ في الكلمات من 28.8% إلى 12.2% في البيئات الصاخبة. يجب ألا يعالج الذكاء الاصطناعي أبداً صوتاً خاماً غير مصفى.

2. المعالجة: فصل ما يفسره الذكاء الاصطناعي عما يقرره النظام. يتولى نموذج الذكاء الاصطناعي معالجة اللغة الطبيعية — فهم اللهجات واللغة الدارجة وتصحيحات منتصف الجملة. لكن محركاً قائماً على القواعد هو ما يحكم منطق العمل الفعلي. يفرض هذا المحرك حدوداً قصوى للكميات، ويضع علامات تحذير على التركيبات المستحيلة من العناصر (آيس كريم مع لحم مقدد يساوي الرفض التلقائي)، ويحيل المعاملات ذات القيمة المالية العالية إلى عنصر بشري. وإذا انخفضت درجة ثقة الذكاء الاصطناعي عن حد معين، يتوقف النظام مؤقتاً ويوجه الطلب إلى مشغل بشري بدلاً من التخمين.

3. المخرجات: إنشاء سجل قرارات قابل للتحقق. يتم تسجيل كل طلب، وكل تصحيح، وكل إحالة مع توثيق الأسباب المنطقية الكامنة وراءها. وبذلك يستطيع فريق الامتثال لديك تدقيق سبب اتخاذ النظام لقرار محدد بدقة. هذا ليس صندوقاً أسود — بل هو تسلسل منطقي شفاف يمكنك تقديمه للجهات التنظيمية أو المدققين أو المحامين الخصوم.

يُعد سجل التدقيق هذا الميزة الفارقة التي تفصل بين البنية المعمارية الجادة للذكاء الاصطناعي والعروض الترويجية للموردين. فعندما يسأل المستشار القانوني العام لمؤسستك: "هل يمكننا إثبات أن النظام اتبع قواعدنا؟" يجب أن تكون الإجابة نعم — مع تقديم التوثيق اللازم.

يجب أن تظل بياناتك أيضاً تحت سيطرتك الكاملة. فقد أرسلت التجربة التجريبية لـ McDonald's بيانات صوت العملاء إلى بنية تحتية سحابية تابعة لطرف ثالث، مما فتح الباب أمام دعاوى BIPA القضائية والتعرض المحتمل لمخاطر قانون CLOUD الأمريكي (US CLOUD Act). إن نشر الذكاء الاصطناعي ضمن بنيتك التحتية الآمنة يحافظ على البيانات الحساسة داخل نطاقك الأمني. الهندسة المعمارية القوية للحلول تضمن بناء النظام بما يلائم بيئتك التشغيلية الخاصة، وليس مجرد تكييف لعرض توضيحي عام.

إن قطاع التجزئة والسلع الاستهلاكية يشهد تحولاً سريعاً. لقد عالجت Taco Bell أكثر من 2 مليون طلب ناجح مدعوم بالذكاء الاصطناعي عبر أكثر من 500 موقع. وتفيد Wendy's بتحقيق دقة تقارب 99% مع تكامل عميق في أنظمة نقاط البيع والمطابخ. إن الفجوة بين المؤسسات التي تصمم البنية المعمارية بشكل صحيح وتلك التي تعتمد على مجرد واجهات برمجية سطحية أصبحت بالفعل فاصلاً تنافسياً دائماً.

للاطلاع على التحليل الفني الكامل لمعالجة الإشارات، وحواجز الحماية الحتمية، وأنماط النشر السيادي، اقرأ التحليل الفني الكامل أو استكشف النسخة التفاعلية.