مساعد التسوق بالذكاء الاصطناعي يضاعف تحويلك أربع مرات — حتى يختلق معلومة واحدة

كان العرض التوضيحي مثاليًا. طلب أحد المتسوقين من مساعد التسوق بالذكاء الاصطناعي لدينا أن يقارن بين حاسوبين محمولين لتحرير الفيديو، فأجاب كبائع صبور استخدم كليهما فعليًا — ذاكرة الوصول العشوائي، ودقة الألوان، والأداء الحراري، وكل التفاصيل. أومأ الجميع في الغرفة موافقين. ثم، بعد بضعة أسابيع من تجربة تشغيل هادئة، كنت أتصفح سجل محادثات ورأيت المساعد نفسه يخبر أحد العملاء أن حاسوبًا محمولًا يأتي بذاكرة سعتها 32 غيغابايت. لكنه كان يأتي بـ16.

لم يرصد أي شيء في النظام ذلك. كانت الجملة سليمة نحويًا وواثقة وتبدو مفيدة. كما كانت خاطئة على نحو، لو أن ذلك العميل اشترى الجهاز للتصيير وتعثّر، لعاد إلينا مباشرةً على هيئة إرجاع، وتقييم بنجمة واحدة، وجملة في شكوى تبدأ بـ«ذكاؤهم الاصطناعي أخبرني». في ذلك المساء أدركت المشكلة الحقيقية فيذكاء التجارة الإلكترونية: الخطر ليس نموذجًا يبدو غبيًا. بل نموذج يبدو صحيحًا وهو خاطئ، لأن لا شيء في المنظومة يتحقق يومًا من إجابته مقارنةً بالحقيقة.

تلك الفجوة — بين إجابة تُقرأ جيدًا وإجابة صحيحة فعلًا — هي ما يعمل فريقي الآن على سدّه كسبًا للرزق. وقبل أن أشرح كيف، دعني أخبرك لماذا لم يكن نموذج أذكى لينقذنا يومًا.

العرض التوضيحي الذي كذب عليّ

دخلت مجال الذكاء الاصطناعي للتجزئة مؤمنًا بما يؤمن به معظم قادة الهندسة: أن الهلوسة مشكلة تتعلق بجودة النموذج، وأن جودة النماذج في تصاعد مستمر، وبالتالي فإن المشكلة تحل نفسها بنفسها إذا انتظرت ربعين ماليين واستبدلت النموذج بنقطة التحقق التالية.

تبدو الأرقام داعمة لذلك التفاؤل، إلى أن تكفّ عن ذلك. يهلوس أفضل نماذج Google في نحو0.7% من إجابات المعرفة العامة. وتتراوح معظم النماذج بين 1 و3%. لكنالمتوسط عبر المعرفة العامة يبلغ9.2%، ووجد أحد تحليلات القطاع أن82% من إخفاقات الذكاء الاصطناعي هي هلوسات أو معلومات مضللة وليست أعطالًا أو انتهاء مهلات. لذا فحتى مع نموذج جيد، فإن واحدًا تقريبًا من كل مئة ادعاء واثق عن منتج يكون مُختلَقًا — وأنت تطلق آلاف تلك الادعاءات يوميًا.

يبدو معدل هلوسة بنسبة 1% كدرجة امتياز. لكن عند مليون إجابة عن منتجات أسبوعيًا — وهو حجم كتالوج متوسط الحجم — يعني ذلك عشرة آلاف جملة خاطئة بثقة تحمل اسم علامتك التجارية.

وإليك الجزء الذي تغفله رواية جودة النموذج تمامًا: الإجابة الخاطئة والإجابة الصحيحة تخرجان من الآلة نفسها، بالطلاقة نفسها، والنبرة نفسها، والثقة نفسها. النموذج لا يدرك مطلقًا أنه يكذب. لا توجد إشارة داخلية تفصل بين «16 غيغابايت، مُتحقَّق منها مقابل الكتالوج» و«32 غيغابايت، مُطابَقة نمطيًا من منشور في منتدى». إذا أردت تلك الإشارة، فعليك بناؤها خارج النموذج. انتظار نقطة تحقق أذكى لا يمنحك تلك الإشارة؛ بل يجعل الإجابات الخاطئة أكثر بلاغة فحسب.

لماذا لم تُصلحها حواجز حماية أفضل؟

لذا حاولنا بناء الإشارة بالطريقة البديهية، وأريد أن أكون صريحًا بأنني أنا من دفع نحو الطريقة البديهية.

كانت غريزتي الأولى هي الأمان المعتمد على التوجيه بالإضافة إلى تصفية الكلمات المفتاحية. أخبر النظام في تعليماته: اذكر فقط المواصفات التي يمكنك تأكيدها، ولا تقدم أبدًا نصائح طبية أو تتعلق بالسلامة، وارفض أي شيء خطير. أضف مرشِّحًا يلتقط المصطلحات الضارة الواضحة. إنه رخيص وسريع، وبدا في الاختبار محكمًا تمامًا. دافعت عن إطلاقه. وأطلقناه.

وقد صمد إلى أن غذّته طبقة الاسترجاع بشيء يبدو موثوقًا. والطريقة التي تعمل بها معظم هذه الأنظمة هيالتوليد المعزَّز بالاسترجاع — إذ يجلب المساعد المستندات ذات الصلة (كتالوجك، وأحيانًا الويب المفتوح) ويكتب إجابته منها. والفخ الذي لا يحذرك منه أحد هو أنعندما تجلب طبقة الاسترجاع محتوى جديدًا، يتعامل النموذج مع ذلك المحتوى باعتباره أكثر موثوقية من تعليمات الأمان الخاصة به. ومساعد Rufus من Amazon هو القصة التحذيرية المعروفة: فقد أخبر المتسوقين أن مباراة Super Bowl في المدينة الخطأ لأن الاسترجاع أظهر مصادر ويب متضاربة وتجاوز تدريب النموذج الكتالوج. والأسوأ أنه أرشد المستخدمين خطوة بخطوة إلى صنع قنبلة مولوتوف عبر استفسارات عادية عن المنتجات — دون اختراق للقيود، ودون توجيه ذكي، بل مجرد محتوى ويب مُسترجَع قرر النموذج الوثوق به بدلًا من حاجز الحماية الخاص به.

لقد حطّم ذلك تصوري الذهني. فحاجز الحماية الذي أيدته لم يكن جدارًا؛ بل كان اقتراحًا يتجاهله النظام برحابة صدر لحظة قراءته شيئًا يناقضه. التقطت تصفية الكلمات المفتاحية الحالات الفجّة وتجاوزت مباشرةً نظائرها الدلالية. لقد أطلقت قفلًا ينفتح كلما أدخل أحدهم ورقة أكثر ثقة تحت الباب.

الأمان المعتمد على التوجيه هو مذكرة لاصقة على خزنة. يعمل إلى أن يقرأ النموذج مذكرة لاصقة تبدو أكثر موثوقية.

ثلاث طرق يتعطل بها الذكاء الاصطناعي للتجزئة — ورابعة لا يسجلها أحد

بمجرد أن توقفت عن التعامل مع هذا باعتباره مشكلة نموذج، فرزت الإخفاقات نفسها في عدد صغير من الأشكال البنيوية، وكل كارثة علنية كبرى ليست سوى واحدة منها على نطاق واسع.

الشكل الأكثر شيوعًا هومعلومات المنتجات المهلوسة — مشكلة الـ32 غيغابايت التي كانت 16. تحدث لأن النظام يولّد مواصفة معقولة ولا شيء يقارن تلك المواصفة بسجل حقيقة مرجعي قبل أن يراها المتسوق. والتكلفة ليست مجردة: فـ46% فقط من المتسوقين يقولون إنهم يثقون تمامًا بتوصيات الذكاء الاصطناعي، و89% يتحققون مما يخبرهم به المساعد قبل أن يشتروا. كل تفصيل مُختلَق يؤكد شكوك المتشكك ويعيده إلى البحث اليدوي أو إلى منافس.

ثم هناك تجاوز الأمان الذي وصفته للتو — الاسترجاع الذي يتجاوز حاجز الحماية. في التجارة يكون هذا أحدّ من الإشراف العام على المحتوى، لأن سؤال «هل يتفاعل هذا المكمّل مع مميّع الدم الذي أتناوله؟» ليس سؤالًا عن المحتوى، بل هو سؤالمسؤولية عن المنتج. فالمساعد الذي يجيب عن ذلك بثقة وبشكل خاطئ يكون قد أنشأ تعرضًا قانونيًا يقزّم أي زيادة في التحويل.

الشكل الثالث أسمّيه العجز عن إتمام المعاملات: إذ يستطيع الذكاء الاصطناعي أنيصف سياسة الإرجاع لديك لكنه لا يستطيع أنيعالج عملية إرجاع؛ يمكنه التحدث عن طلب لا يستطيع فعليًا البحث عنه. كان Rufus قادرًا على شرح عمليات الإرجاع في Amazon دون تنفيذ أي منها. وتعلمت Klarna الدرس نفسه بفاتورة أكبر بكثير. فقد استبدلت نحو700 وكيل خدمة بالذكاء الاصطناعي، وشغّلته عبر2.3 مليون محادثة، وادعت في البداية أنه تحمّل العبء — ثم تراجعت جودة الخدمة في الحالات المهمة بالضبط (الحلول متعددة الخطوات، والنزاعات العاطفية، وأي شيء يتطلب تغييرًا فعليًا في الحساب)، واعترف الرئيس التنفيذي علنًا بالضرر، وبحلول عام 2026 كانوا يعيدون توظيف البشر. وهم ليسوا وحدهم في الندم:55% من الشركات التي أجرت تسريحات مدفوعة بالذكاء الاصطناعي تقول الآن إنها أخطأت.

ثم هناك الإخفاق الذي لا يظهر مطلقًا في أي سجل أخطاء. اختبرت Cornell Tech مساعد Rufus عبر لهجات الإنجليزية ووجدت إجابات أسوأ بشكل منهجي للإنجليزية الأمريكية الأفريقية، والإنجليزية الشيكانية، والإنجليزية الهندية. فالمتسوق الذي يسأل «this jacket machine washable؟» — وهي بنية قياسية تمامًا في الإنجليزية الأمريكية الأفريقية تُسقِط فعل الربط — حصل على لا إجابة أو على إحالة إلى منتجات غير ذات صلة. لوحات معلوماتك لن تلتقط هذا أبدًا، لأن النظام لم يُخطئ؛ بل قدّم بهدوء متجرًا أسوأ لشريحة كبيرة من عملائك. أحتفظ الآن بشبكة تقييم تُقيّم إجابات المساعد في تلك اللهجات جنبًا إلى جنب مع الإنجليزية القياسية، وذلك تحديدًا لأن لا شيء آخر يُظهر تلك الفجوة.

إذن كيف تجعل الإجابة صحيحة؟

المحور، بعد فشل حاجز الحماية، كان بسيطًا إلى حد محرج في صياغته وصعبًا حقًا في بنائه:لا تطلب من النموذج أن يكون جديرًا بالثقة — ضع طبقة تحقق بين النموذج والعميل تفحص كل إجابة مقابل الحقيقة المرجعية قبل إطلاقها.

وبشكل ملموس، يعني ذلك رسمًا بيانيًا معرفيًا للمنتجات يحتفظ بالمواصفات والأسعار والمخزون والسياسات المُتحقَّق منها كسجلات موثوقة، وطبقة برمجيات وسيطة تعترض إجابة النموذج، وتستخرج الادعاءات القابلة للفحص فيها، وتؤكد كل واحد منها مقابل ذلك الرسم البياني. وهذه ليست فكرة هامشية — فقد بنت WalmartRetail Graph، وهو رسم بياني معرفي للمنتجات، تحديدًا كي يكون لدى ذكائها الاصطناعي حقيقة مرجعية يجيب منها بدلًا من تخمين يولّده. الجزء الصعب حقًا ليس البحث؛ بل هو إزالة التباس الكيانات — إذ تظهر وحدة التخزين (SKU) نفسها بأشكال ظاهرية مختلفة عبر كتالوجك وعبر النطاقات المحلية، لذا يتعين على الطبقة أولًا أن تحددأيّ سجل يشير إليه ادعاء النموذج فعليًا قبل أن تتمكن من فحصه. أخطئ في ذلك وستتحقق مقابل المنتج الخطأ، وهو أسوأ من عدم التحقق إطلاقًا. لكن بمجرد أن يكون صحيحًا: إذا قال النموذج 32 غيغابايت وقال الرسم البياني 16، فإن الادعاء لا يصل أبدًا إلى المتسوق. وإذا لم يستطع النموذج إسناد ادعاء إلى مصدر مُتحقَّق منه، فإن المساعد يقول أقل بدلًا من أن يختلق أكثر. وتتلاشى مشكلة تجاوز الاسترجاع لأن الويب المفتوح لم يعد له صوت في حقيقة يعرفها الكتالوج بالفعل.

الشرط المسبق غير البرّاق هو البيانات. تتوقع Gartner أنه حتى عام 2026، ستتخلى المؤسسات عن 60% من مشاريع الذكاء الاصطناعي التي لا تدعمها بيانات جاهزة للذكاء الاصطناعي — ومعظم بيانات التجزئة ليست جاهزة. وأنظمة إدارة معلومات المنتجات التي فتحتها تُظهر عادةًاكتمال سمات بنسبة 30–40% لوحدات التخزين (SKUs) طويلة الذيل. لا يمكنك إسناد مساعد إلى كتالوج تنقصه حقلان من كل خمسة حقول؛ فسيملأ الثغرات بالتخمين، وهو بالضبط السلوك الذي تحاول القضاء عليه. لذا فإن جزءًا حقيقيًا من العمل هو هيكلة تلك البيانات لاستهلاك الآلةقبل أن يتم التحقق من إجابة واحدة. هذه هي الطبقة التي نبنيها — أنابيب التحقق والإسناد والامتثال التي تقع بين نموذج لغوي كبير وواجهة متجرك — ويمكنك الاطلاع على البنية الكاملة علىveriprajna.com/solutions/ecommerce-ai-accuracy.

مهمة النموذج أن يكون طليقًا. ومهمة طبقة التحقق أن تكون صحيحة. والخلط بين الاثنين هو الطريقة التي يفشل بها كل نظام من هذه الأنظمة.

أنت تملك كل كلمة يقولها

السبب في أنني أصبح متشددًا بشأن هذا هو أن القانون قرر بالفعل من صاحب مشكلة أخطاء روبوت المحادثة، والجواب هو أنت.

اخترع روبوت محادثة Air Canada سياسة استرداد للحداد لم تكن موجودة. وعندما جادلت شركة الطيران أمام المحكمة بأن روبوت المحادثةكيان قانوني منفصل مسؤول عن تصريحاته الخاصة، رفضت المحكمة ذلك رفضًا قاطعًا وحمّلت الشركة المسؤولية عن الأضرار. إنه مبلغ صغير بالدولار —$812 CAD — وسابقة هائلة: فقد قالت محكمة الآن بلغة واضحة إنك تملك كل كلمة يقولها ذكاؤك الاصطناعي لعميل. رأيت فريقًا قانونيًا يتداول ذلك الحكم بعنوان من سطر واحد ودون أي تعليق، لأن المغزى لا يحتاج إلى أي منها. وأفادت التقارير بأن أحد التجار على Shopify خسرأكثر من 8,000 دولار عندما وعد مساعد بمرح بشحن مجاني إلى هاواي لم يكن مخوَّلًا بتقديمه. وكان ذلك الوعد، قانونيًا، وعد التاجر.

الأرضية التنظيمية آخذة في الارتفاع تحت كل هذا. قانون الاتحاد الأوروبي للذكاء الاصطناعي يصبح قابلًا للتطبيق بالكامل في 2 أغسطس 2026، ويطال أي شركة تخدم عملاء في الاتحاد الأوروبي — فلا يمكنك أن تكون معفى لمجرد أن مقرك في مكان آخر. إذ يشترط تصنيف المحتوى المُولَّد بالذكاء الاصطناعي وإخبار المستخدمين بأنهم يتفاعلون مع ذكاء اصطناعي، ويحمل غرامات تصل إلى35 مليون يورو أو 7% من حجم الأعمال السنوي العالمي. وفي الولايات المتحدة، كانت لجنة التجارة الفيدرالية (FTC) صريحة في أن استخدام الذكاء الاصطناعي للتضليل أو الاحتيال غير قانوني بالفعل دون أي استثناء للذكاء الاصطناعي، وتحظر قاعدة مراجعات المستهلكين الخاصة بها المراجعات المُولَّدة بالذكاء الاصطناعي والمضلِّلة. الامتثال هنا ليس مربع اختيار تركّبه في النهاية؛ فالشفافية والتصنيف قيدان تصميميان ينتميان إلى طبقة التحقق منذ أول التزام برمجي.

الاعتراضات التي أسمعها أكثر من غيرها

يسألني الناس عمّا إذا كانت بروتوكولات التجارة الوكيلية الجديدة تجعل كل هذا بلا معنى — وهو سؤال وجيه، لأن الوكلاء موجودون بالفعل على نطاق واسع:واحدة من كل خمس عمليات شراء رقمية تتم الآن عبر وكيل ذكاء اصطناعي، وحرّك أسبوع Cyber Week 2025 وحده نحو$67 billion بتلك الطريقة. أطلقت GoogleUniversal Commerce Protocol في مؤتمر NRF في يناير 2026 مع Shopify وEtsy وWayfair وTarget وWalmart؛ ولدى OpenAIAgentic Commerce Protocol بعد أن تلاشى مسعاها Instant Checkout إلى نحو اثني عشر تاجرًا مُفعَّلًا. وهذه بروتوكولات حقيقية وتستحق التكامل معها. لكن اقرأها عن كثب وستجدهاقائمة على الاكتشاف أولًا — فهي بارعة في جعل الوكيل يعثر على منتجك ويوصي به، ولا تقول شيئًا تقريبًا عن ذيل المعاملات الفوضوي: الإرجاعات، والاستبدالات، ومطالبات الضمان، والحلول متعددة الخطوات التي أعطبت Klarna. البروتوكولات تنقل الباب الأمامي؛ لكنها لا تؤثث البيت.

السؤال الآخر هو البناء مقابل الشراء، وجوابي الصادق هو «على الأرجح بعضٌ من الاثنين، وليس ما أخبرك به المورّد». أدوات الاكتشاف — Loomi من Bloomreach، وAlgolia، واكتشاف المنتجات المُسنَد إلى الكتالوج من Coveo — جيدة حقًا في الاكتشاف وتفترض أنك تُحضر بيانات نظيفة ولا تتحقق عبر الأدوات. يشغّل معظم تجار التجزئة من ثلاثة إلى خمسة من أنظمة الذكاء الاصطناعي هذه في وقت واحد ولا أحد يتحقق من الاتساق بينها. وذلك الفاصل — تنسيق متعدد المورّدين بالإضافة إلى طبقة تحقق مستقلة لن يبيعها لك أي من المورّدين، لأن كل واحد يبيع حزمته الخاصة — هو بالضبط حيث تكمن الإخفاقات.

ونعم، يقلق الناس من أن خطوة التحقق تضيف زمن استجابة، وهم محقّون في ذلك: فقد قاست Amazon أنكل 100 مللي ثانية من التأخير تكلّف نحو 1% من المبيعات. ذلك القيد حقيقي، وهو مشكلة هندسية لها حلول هندسية — تحقق من المجموعة الصغيرة من الادعاءات القابلة للفحص، لا من التوليد بأكمله؛ وخزّن عمليات البحث في الرسم البياني مؤقتًا؛ واجعل الإخفاق ينحاز نحو قول أقل، بسرعة. وهذا ليس سببًا لتخطي التحقق. فإجابة خاطئة تستغرق 100 مللي ثانية تكلّف أكثر بكثير من إجابة صحيحة تستغرق 200 مللي ثانية.

ما الذي يستحق فعلًا مضاعفة التحويل أربع مرات؟

الإحصائية التي بدأت كل هذا بالنسبة لي هي تلك التي على لوحة معلومات التحويل والتي ما زلت أفكر فيها: المتسوقون الذين يتفاعلون مع الذكاء الاصطناعي يحققون تحويلًا بنسبة12.3% مقابل3.1% لمن لا يفعلون. أربعة أضعاف. ذلك الرقم حقيقي، وهو سبب تسابق كل تاجر تجزئة إلى النشر. لكنه أيضًا فخ، لأن التباين نفسه يجري في الاتجاه المعاكس — مواصفة واحدة مهلوسة، وسياسة واحدة مختلَقة، وإجابة واحدة غير آمنة تُلتقط صورتها وتُشارَك، وتتبخر الثقة التي أنتجت مضاعفة الأربعة أضعاف أسرع مما بُنيت.

النموذج سلعة الآن — الجميع يستأجرون الذكاء من الحفنة نفسها من المزودين، وسيستمر في أن يصبح أكثر طلاقة كل ربع. الطلاقة لم تكن يومًا ما يحقق مضاعفة الأربعة أضعاف؛ بل الثقة هي التي فعلت. والثقة هي بالضبط ما تنفقه مواصفة واحدة مختلَقة. إذا كنت تنشر مساعدك الأول، أو تراقب بهدوء واحدًا يهلوس في الإنتاج الآن، فإن طبقة التحقق هي الجزء الذي لا يمكنك تخطيه — إنهاالشيء الذي نبنيه، وهي الفرق بين مساعد يبدو خبيرًا ومساعد تسمح له بالتحدث إلى عملائك دون إشراف.

المتجر الذي يفوز بالسنوات القليلة المقبلة من التجارة هو ذاك الذي يقوم ذكاؤه الاصطناعي، حين يُسأل عمّا إذا كان حاسوب محمول يحوي 32 غيغابايت من الذاكرة، بالتحقق — ويقول 16.