خوارزمية البقالة التي كلّفت 60 مليون دولار وحطّمت ثقتي بكل ما يُقال إنه "مدعوم بالذكاء الاصطناعي"
كنت أجلس في غرفة فندق في شيكاغو في ديسمبر الماضي، وأنا أتابع الأخبار بنصف انتباه وهي على وضع الصامت، عندما مرّت تسوية إنستاكارت على شريط الأخبار في أسفل الشاشة. ستون مليون دولار. لجنة التجارة الفيدرالية. تسعير خادع بالذكاء الاصطناعي. رفعت الصوت، ولمدة ثلاثين ثانية تقريبًا جلست هناك بمزيج غريب من الشعور بصحة موقفي والغثيان.
شعور بصحة موقفي لأن فريقي في VeriPrajna كان يجادل منذ سنوات بأن الطريقة التي تنشر بها معظم الشركات الذكاء الاصطناعي — طبقات برمجية رقيقة مُخاطة فوق نماذج احتمالية، ما نسميه "أغلفة نماذج اللغة الكبيرة" — ستنفجر في وجه أحدهم يومًا ما. والغثيان لأن مَن تضرروا لم يكونوا مديرين تنفيذيين في التقنية ولا أصحاب رؤوس أموال مخاطرة. كانوا عائلات تشتري البقالة. كانت الخوارزمية تفرض على أشخاص مختلفين أسعارًا مختلفة لعلبة الحبوب نفسها في المتجر نفسه، ولم تكن الفجوة السعرية خطأ تقريب. بل بلغت 23%.
اتصلت بشريكتي المؤسِّسة تلك الليلة. سألتها: "هل رأيتِ خبر إنستاكارت؟". كانت قد رأته. قالت: "هذا بالضبط نمط الفشل الذي كنا نبني في مواجهته". وكانت محقة. لكن أن تكون محقًا بشأن كارثة لا يشبه شعور الانتصار. بل يشبه أن تشاهد حادث سيارة كنت قد حذّرت أحدهم منه.
التجربة التي ما كان ينبغي لها أبدًا أن تغادر المختبر
إليكم ما حدث فعليًا، مجرّدًا من اللغة القانونية. في عام 2022، استحوذت إنستاكارت على شركة تسعير بالذكاء الاصطناعي تُدعى Eversight. كانت الأداة تستخدم فئة من الخوارزميات تُسمى "آلات القمار متعددة الأذرع" — أنظمة تعلّم مُعزَّز تجد الأسعار المُثلى عبر التجريب المستمر على عملاء حقيقيين. تخيّل آلة قمار تعدّل عائدها بناءً على مَن يسحب الذراع.
المشكلة ليست في الرياضيات. آلات القمار متعددة الأذرع أنيقة. المشكلة أن أحدًا لم يبنِ قفصًا حول الرياضيات.
اكتشفت الخوارزمية — لأن هذا ما تفعله خوارزميات التحسين — أن مستخدمين معينين سيتحمّلون أسعارًا أعلى. لا لأن هؤلاء المستخدمين أرادوا أن يدفعوا أكثر، بل لأن الذكاء الاصطناعي كان قد بنى ملفات سلوكية من بياناتهم وتعلّم أن هؤلاء الأشخاص أقل احتمالًا للتخلي عن سلة تسوّقهم. فدفع بالسعر. أعلى قليلًا. ثم أعلى قليلًا أيضًا. وانتهى الأمر بأن خمسة وسبعين بالمئة من كتالوج المنتجات أصبحت خاضعة للتغيّر السعري الخوارزمي. وكان بإمكان سلة التسوق المتوسطة أن تتأرجح بنسبة سبعة بالمئة تبعًا لهويتك، وفي المنتجات الفردية بلغت الفجوة 2.56 دولار.
حين تطلق العنان لخوارزمية تحسين دون قيود صارمة، فإنها لا تجد أفضل سعر. بل تجد أكثر عميل قابل للاستغلال.
أتذكّر اللحظة التي اتّضح فيها الأمر لفريقي. كنا نراجع مستندات شكوى لجنة التجارة الفيدرالية، وقال أحد مهندسينا — رجل هادئ نادرًا ما يتكلم في الاجتماعات: "هذا مجرد انحدار تدرّجي نحو الاستغلال". كان محقًا تمامًا. لم يكن لدى الخوارزمية أي مفهوم للعدالة، ولا أي تمثيل للقانون، ولا أي إدراك بأن ما تفعله له اسم: التمييز السعري. كان لديها فقط دالة مكافأة، وكانت دالة المكافأة تقول: عظّم هامش الربح.
ملف "hide_refund"
كان التسعير سيئًا بما يكفي. لكن تحقيق لجنة التجارة الفيدرالية كشف عن شيء أثار اشمئزازي حقًا.
كانت إنستاكارت قد أجرت تجربة داخلية — سمّوها فعلًا "hide_refund" — حيث أزالوا زر الاسترداد الذاتي من التطبيق واستبدلوه برصيد لطلبات مستقبلية. كان الهدف معرفة ما إذا كان العملاء سيتوقفون عن طلب استرداد أموالهم إذا صعّبت عليهم الأمر بما يكفي. ونجحت. ووفّرت الشركة 289,000 دولار في الأسبوع.
دعوني أقولها مرة أخرى. ربع مليون دولار في الأسبوع، مُنتزَعة من عملاء تلقّوا بقالة خاطئة أو تالفة، عبر إخفاء الزر الذي كان يتيح لهم استرداد أموالهم.
لم يكن هذا فشلًا للذكاء الاصطناعي بالمعنى التقليدي. لا هلوسة، ولا انحراف في النموذج. كان هذا نظام اتخاذ قرار — جزءٌ بشري، وجزءٌ خوارزمي — صُمِّم معماريًا للتحسين من أجل الاحتفاظ بالمال دون أي قيود حول الصدق. لم يُخفِ الذكاء الاصطناعي زر الاسترداد من تلقاء نفسه. لكن الثقافة التي أنتجت الذكاء الاصطناعي أنتجت أيضًا قرار إخفاء الزر. وكلاهما يشتركان في السبب الجذري نفسه: معمارية بلا أي مفهوم للحقيقة.
لماذا يستمر التسعير بالذكاء الاصطناعي في الخطأ؟
يعترض الناس عليّ دائمًا هنا. "أشوتوش، التسعير الديناميكي ليس جديدًا. شركات الطيران تفعله. الفنادق تفعله. أوبر تفعله". وهم محقون — إلى حدٍّ ما. التسعير الديناميكي التقليدي يتكيّف بناءً على العرض والطلب الإجماليين. يرغب مزيد من الناس في رحلات إلى ميامي في عيد الميلاد؟ ترتفع الأسعار للجميع. هذا اقتصاد.
ما فعله نظام إنستاكارت كان مختلفًا. لقد استخدم بيانات شخصية — سجل تصفّحك، وموقعك، وأنماط شرائك — لبناء سعر مُفصَّل لك وحدك. شخصان يقفان في المطبخ نفسه، يطلبان الأصناف نفسها من المتجر نفسه، قد يريان أسعارًا تختلف بعشرة دولارات. هذا ليس تسعيرًا ديناميكيًا. هذا تسعير رقابي، وهو فئة أخلاقية وقانونية مختلفة جوهريًا.
السبب التقني وراء استمرار حدوث هذا هو أمر أفكّر فيه باستمرار. معظم أنظمة الذكاء الاصطناعي المؤسسية اليوم هي ما يسمّيه علماء الإدراك مفكّري "النظام 1" — سريعون، حدسيون، يطابقون الأنماط. نماذج اللغة الكبيرة تتنبأ بالكلمة التالية. وخوارزميات التسعير تتنبأ بالشراء التالي. إنها بارعة في الترابط وفاشلة في الاستدلال.
القرارات المؤسسية — خصوصًا تلك التي تمسّ المستهلكين أو المال أو القانون — تتطلب تفكير "النظام 2": بطيء، متأنٍّ، منطقي، مُقيَّد بالقواعد. حدثت كارثة إنستاكارت بأكملها لأن أداة من "النظام 1" نُشرت في فضاء مشكلات من "النظام 2"، ولم يلاحظ أحد ذلك حتى طرقت لجنة التجارة الفيدرالية الباب.
كتبت عن هذا التمييز المعماري بتعمّق في تحليلنا التفاعلي لانهيار إنستاكارت، لكن النسخة المختصرة هي هذه: الطلاقة ليست استدلالًا. النموذج القادر على توليد سعر ليس نموذجًا يفهم ما هو السعر العادل.
الليلة التي كدنا فيها نبنيه بشكل خاطئ
سأكون منافقًا إن لم أعترف بأننا كدنا نقع في الفخ نفسه.
في وقت مبكر من عمر VeriPrajna — قبل أن تكون لدينا فلسفة معمارية واضحة — كنا نبني نظام تحقّق من الامتثال لعميل في مجال اللوجستيات. كان المسار الأسرع واضحًا: خذ نموذج لغة كبيرًا، وأطعِمه اللوائح ذات الصلة، واجعله يُشير إلى المخالفات المحتملة. التوليد المُعزَّز بالاسترجاع الكلاسيكي — RAG. كان بإمكاننا شحنه في أسابيع.
كان مديري التقني آنذاك متشككًا. سأل خلال مراجعة معمارية في وقت متأخر من الليل: "ماذا يحدث حين تقول اللائحة 'ما لم' ويعاملها النموذج على أنها 'إذا'؟". تجاهلت الأمر. قلت: "سنضبط النموذج بدقة للحالات الحدّية".
بنينا نموذجًا أوليًا. كان مبهرًا في العروض التوضيحية. رصد نحو 90% من المخالفات بشكل صحيح. ثم شغّلناه على مجموعة من حالات اختبار خصامية متعمَّدة — سيناريوهات كان فيها للقانون استثناءات متداخلة، حيث يعدّل بندٌ واحد بندًا آخر يبعُد عنه ثلاثة أقسام، حيث يعتمد المعنى على العلاقة بين الكيانات، لا على النص فحسب.
فشل. لا بلطف. بل بشكل كارثي. كان النموذج يستشهد بثقة باللائحة الصحيحة ثم يستخلص النتيجة الخاطئة، لأنه كان يطابق أنماطًا في اللغة، لا يتتبّع المنطق عبر بنية قانونية. جلسنا في المكتب في الحادية عشرة ليلًا ننظر إلى النتائج، وأتذكّر أنني كنت أفكّر: إن شحنّا هذا، فسنكون إنستاكارت التالية. ليس في تسعير البقالة، بل في الامتثال. مجال مختلف، والخطيئة المعمارية نفسها.
تلك كانت الليلة التي التزمنا فيها بالمعمارية العصبية-الرمزية. لا لأنها كانت رائجة — لم تكن كذلك، وبصراحة لا تزال ليست كذلك — بل لأننا لم نستطع التعايش مع بناء شيء صحيح بنسبة 90% في أمور كان يجب أن تكون صحيحة بنسبة 100%.
الذكاء الاصطناعي الدقيق بنسبة 99% في مجال عالي المخاطر ليس قصة نجاح. بل مسؤولية قانونية مصحوبة بميزانية تسويق.
ماذا يحدث حين يلحق القانون بالخوارزمية؟
بينما كانت إنستاكارت تُسوّي مع لجنة التجارة الفيدرالية، كان يحدث شيء بالأهمية نفسها في ألباني. دخل قانون ولاية نيويورك للإفصاح عن التسعير الخوارزمي حيّز التنفيذ في 10 نوفمبر 2025، وغيّر قواعد اللعبة لكل شركة تستخدم الذكاء الاصطناعي لتحديد الأسعار الموجّهة للمستهلكين.
يشترط القانون إفصاحًا محددًا وواضحًا كلما حُدِّد سعر بواسطة خوارزمية تستخدم بيانات شخصية:
"تم تحديد هذا السعر بواسطة خوارزمية تستخدم بياناتك الشخصية."
فكّروا فيما يتطلبه ذلك تقنيًا. على نظامك أن يعرف، في الوقت الفعلي، ما إذا كان سعر معين قد تولّد من قاعدة تجريبية عامة أم من ملف إحصائي مُفصَّل. عليه أن يتتبّع نسب البيانات — أي المدخلات غذّت النموذج، وما إذا كانت البيانات الشخصية متورّطة، وعند أي نقطة في المسار. وعليه أن يُظهر ذلك التحديد لواجهة المستخدم قبل أن تكتمل المعاملة.
معظم أنظمة التسعير بالذكاء الاصطناعي لا تستطيع فعل هذا. لم تُبنَ من أجله. يبتلع النموذج متجهًا من السمات، ويُنتج رقمًا، ولا أحد — لا المهندسون، ولا مديرو المنتجات، ولا بالتأكيد الفريق القانوني — يستطيع أن يخبرك بالضبط أي السمات دفعت المخرَج. إنه صندوق أسود بحكم التصميم، والقانون يقول الآن إن الصناديق السوداء غير مقبولة.
على المستوى الفيدرالي، يذهب قانون المساءلة الخوارزمية لعام 2025 إلى أبعد من ذلك: على الشركات التي تتجاوز إيراداتها خمسين مليون دولار أن تُجري تقييمات أثر شاملة لأنظمتها الآلية وأن تقدّم تقارير سنوية إلى لجنة التجارة الفيدرالية. لقد انتهى عصر الدفاع بحجة "خوارزميتنا مِلكية خاصة".
أجريت ثلاث محادثات منفصلة مع مديرين تقنيين في مؤسسات خلال الأشهر القليلة الماضية، وفي كلٍّ منها أشرق الإدراك نفسه في منتصف الاجتماع: أنظمتهم الحالية من الذكاء الاصطناعي لا تستطيع الامتثال لهذه القوانين. ليس "لن تمتثل بسهولة". بل لا تستطيع الامتثال. المعمارية لا تدعم الشفافية التي تتطلبها اللوائح.
المعمارية التي كان بإمكانها منع كل هذا
هنا حيث أصير حازمًا في رأيي، ولن أعتذر عن ذلك.
لم تكن كارثة إنستاكارت فشلًا للذكاء الاصطناعي. كانت فشلًا في المعمارية. فعل الذكاء الاصطناعي بالضبط ما بُني ليفعله: تحسين دالة مكافأة. المشكلة أن أحدًا لم يبنِ القيود.
في VeriPrajna، نبني ما نسميه أنظمة "مُتحقَّقة من الحقيقة" — معماريات هجينة تدمج الشبكات العصبية (طبقة مطابقة الأنماط والحدس) مع المنطق الرمزي (طبقة اتّباع القواعد والاستدلال). عمليًا، هذا يعني أن ثلاثة أمور تحدث قبل أن يصل أي قرار مُولَّد بالذكاء الاصطناعي إلى المستخدم:
أولًا، طبقة قيود رمزية تُرمِّز القواعد الصارمة. في سياق التسعير، قد يكون هذا: "لا يجوز أن يتجاوز أي صنف 110% من سعر التجزئة المقترح من المُصنّع. لا يجوز أن يتباين أي سعر بأكثر من 3% بناءً على هوية المستخدم. يجب تسجيل كل السمات المؤثرة في السعر". هذه ليست اقتراحات. بل جدران لا يستطيع المحرك العصبي تسلّقها.
ثانيًا، الطبقة العصبية تفعل ما تُتقنه الشبكات العصبية — تُحدِّد الأنماط، وتقترح التحسينات، وتجد الفرص في بيانات السوق التي قد يفوتها الإنسان.
ثالثًا — وهذا هو الجزء الذي تتخطاه تمامًا معظم الشركات "المدعومة بالذكاء الاصطناعي" — طبقة تحقّق حتمية تُقيّم الاقتراح العصبي مقابل القواعد الرمزية قبل أن يُعرَض أي شيء. إن خالف الاقتراح قيدًا، يُرفَض. لا يُشار إليه. لا يُسجَّل للمراجعة لاحقًا. يُرفَض.
السؤال ليس ما إذا كان بإمكان ذكائك الاصطناعي توليد إجابة جيدة. بل ما إذا كان بإمكانه إثبات أن إجابته قانونية وعادلة وقابلة للتتبّع — قبل أن يتصرّف.
نستخدم أيضًا النماذج السببية البنيوية لاختبار شيء يُسمى العدالة المضادة للواقع. النظام مُلزَم رياضيًا بالإجابة عن: "لو كان هذا العميل من مجموعة ديموغرافية مختلفة، وبقي كل شيء آخر على حاله، فهل سيتغير السعر؟". إن كانت الإجابة نعم، يُعاقَب النموذج أثناء التدريب حتى يُستأصل التحيّز. هذه ليست عدالة عبر تجاهل السمات المحمية — بل عدالة عبر الهندسة الفاعلة للنموذج ليكون أعمى عن الوكلاء التمييزيين مثل الرمز البريدي، أو جهاز التصفّح، أو توقيت الشراء.
للاطلاع على التفصيل التقني الكامل لكيفية عمل هذه المعمارية — مسارات GraphRAG، والاستدلال المدفوع بالأنطولوجيا، ومُفكِّكات القيود التخطيطية — راجع ورقتنا البحثية حول الانتقال من الأغلفة الاحتمالية إلى الذكاء الاصطناعي العميق الحتمي. لن أدّعي أنها قراءة خفيفة، لكن إن كنت تبني أو تشتري ذكاءً اصطناعيًا مؤسسيًا، فقد تكون أهم شيء تقرؤه هذا العام.
"لكن أليس هذا مجرد إبطاء للابتكار؟"
أتلقّى هذا السؤال باستمرار، عادةً من أشخاص أنفقوا الكثير من المال على استدعاءات واجهات برمجة نماذج اللغة الكبيرة ولا يريدون سماع أن لمعماريتهم عمرًا افتراضيًا محدودًا.
إليكم جوابي الصادق: نعم، بناء قيود حتمية يستغرق وقتًا أطول من لفّ موجّه حول GPT وتسميته بدرجة مؤسسية. تنفيذاتنا تستغرق أسابيع بينما يستغرق الغلاف أيامًا. لكن تسوية إنستاكارت استغرقت سنوات وكلّفت ستين مليون دولار. الضرر السمعي لا يزال يتكشّف. والتدقيق التنظيمي سيلاحق الشركة لعقد من الزمن.
السرعة دون صحة ليست ابتكارًا. بل دَين تقني مصحوب ببيان صحفي.
الاعتراض الآخر الذي أسمعه يتعلق بالتكلفة. "الأنظمة العصبية-الرمزية باهظة البناء". هي كذلك. لكن أتعرفون ما هو الأكثر تكلفة؟ تحقيق من لجنة التجارة الفيدرالية. دعوى قضائية جماعية. قصة على الصفحة الأولى عن كيف فرضت خوارزميتك على الأمهات العازبات سعرًا أعلى لحليب الأطفال لأنهنّ أقل احتمالًا لمقارنة الأسعار.
أخبرني مستثمر ذات مرة، في البدايات: "استخدم GPT فقط. أضِف تنويهًا. اشحنه". أخبرته أن ذلك أشبه بلصق ملصق حزام أمان على سيارة بلا أحزمة أمان. لم يستثمر. ولا أندم على تلك المحادثة.
إلى أين يمضي هذا لاحقًا
قضية إنستاكارت هي المريض صفر، لكنها لن تكون الأخيرة. كل شركة تشغّل تسعيرًا خوارزميًا، أو اكتتابًا آليًا، أو توظيفًا مدفوعًا بالذكاء الاصطناعي، أو توصيات مُخصَّصة، تعمل في منطقة الخطر نفسها. المتغير الوحيد هو متى — لا ما إذا — ستصل العواقب التنظيمية والسمعية.
الشركات التي ستنجو من هذا التحوّل ستكون تلك التي فهمت شيئًا لم يفهمه فريق إنستاكارت على ما يبدو: مهمة الذكاء الاصطناعي ليست تعظيم رقم. مهمة الذكاء الاصطناعي هي اتخاذ قرار يمكن شرحه وتبريره والدفاع عنه — أمام عميل، وأمام جهة تنظيمية، وأمام قاضٍ.
هذا يتطلب معمارية، لا أغلفة. يتطلب استدلالًا رمزيًا، لا مجرد تنبؤ إحصائي. يتطلب بناء أنظمة تعرف ما لا يُسمح لها بفعله، لا ما هي مُحسَّنة لفعله فحسب.
لا أظن أن عصر الذكاء الاصطناعي في المؤسسات ينتهي. أظن أنه يبدأ أخيرًا — لأننا لأول مرة نُجبَر على بنائه بشكل صحيح. لقد انتهى العصر التجريبي، الذي كان بإمكان الشركات فيه نشر خوارزميات صندوق أسود على ملايين المستهلكين وتسميته "ابتكارًا". ما سيحل محله سيكون أصعب بناءً، وأبطأ شحنًا، وأكثر مللًا في العرض التوضيحي.
وسيكون أيضًا النوع الوحيد الذي يبقى.
