أخطاء تسعير الذكاء الاصطناعي: تحذير إنستاكارت وتكلفة الـ 60 مليون دولار

المشكلة

فرض الذكاء الاصطناعي لشركة إنستاكارت (Instacart) أسعاراً مختلفة على عملاء مختلفين لشراء نفس البقالة تماماً من نفس المتجر تماماً. وسوت لجنة التجارة الفيدرالية (FTC) القضية مقابل 60 مليون دولار في صورة تعويضات للمستهلكين.

إليكم ما حدث. في عام 2022، استحوذت إنستاكارت (Instacart) على شركة لتسعير الذكاء الاصطناعي تُدعى إيفرسايت (Eversight). وأجرت الأداة تجارب عشوائية على متسوقين حقيقيين، حيث اختبرت المبلغ الذي سيدفعه كل شخص بناءً على ملف بياناته الشخصية. وبحلول ديسمبر 2025، أكدت لجنة التجارة الفيدرالية (FTC) أنه كان يتم تسعير السلع المتطابقة بأسعار متفاوتة بشكل كبير لمستخدمين مختلفين — في الوقت نفسه. وأطلقت مجموعات حماية المستهلك على ذلك اسم «التسعير القائم على المراقبة» (surveillance pricing)، حيث تُحدد تكلفتك الفردية عبر بصمة بيانات لم توافق قط على مشاركتها.

وتجاوز الضرر شيك التسوية المالية؛ إذ أجرت إنستاكارت أيضاً تجربة داخلية سُميت حرفياً "hide_refund". وكان الغرض منها إزالة زر استرداد الأموال للخدمة الذاتية واستبداله برصيد متجر. وفرت تلك الحيلة الفردية للشركة 289,000 دولار أسبوعياً. كما سجلت المنصة تلقائياً مئات الآلاف من المستخدمين في اشتراكات سنوية مدفوعة دون موافقة صريحة، وأعلنت عن «توصيل مجاني» مع إخفاء رسوم خدمة إلزامية أضافت 15% إلى إجمالي فاتورة الدفع.

لم يكن هذا خللاً تقنياً، بل كانت بنية معمارية مُحسَّنة لاستنزاف الإيرادات على حساب الشفافية والعدالة والقانون. وإذا كانت شركتكم تستخدم الذكاء الاصطناعي لتحديد الأسعار، أو الموافقة على القروض، أو التوصية بالمنتجات، فإن هذه القصة تمثل معاينة مسبقة للمخاطر التي تواجهونها.

لماذا يهم هذا أعمالكم

إن حجم التعرض المالي هنا مذهل، ولم يعد مقتصراً على الشركات التي تتصرف بسوء نية؛ إذ تُحملكم القوانين الجديدة الآن المسؤولية عما تفعله خوارزمياتكم — حتى لو لم تكونوا تقصدون تلك النتيجة.

لنبدأ بالأرقام المجردة من قضية إنستاكارت:

• زيادة قصوى في السعر بنسبة 23% رُصدت للسلع المتطابقة بين مختلف المستخدمين.
• 75% من كتالوج المنتجات خضع لتفاوت الأسعار الخوارزمي.
• عبء تكلفة سنوي تقديري قدره 1,200 دولار لكل أسرة متضررة.
• تسوية بقيمة 60 مليون دولار دُفعت للجنة التجارة الفيدرالية (FTC) كتعويضات للمستهلكين.
• 289,000 دولار أسبوعياً تم توفيرها عبر إخفاء زر استرداد الأموال عن العملاء.

أضف إلى ذلك المشهد التنظيمي الذي ينبغي لفريقكم القانوني متابعته بالفعل:

• يتطلب قانون الإفصاح عن التسعير الخوارزمي في نيويورك (الساري اعتباراً من نوفمبر 2025) عرض إشعار — «تم تحديد هذا السعر بواسطة خوارزمية باستخدام بياناتك الشخصية» — في كل مرة يحدد فيها الذكاء الاصطناعي سعراً مخصصاً. وتترتب على كل مخالفة غرامة قدرها 1,000 دولار.
• يُلزم قانون المساءلة الخوارزمية الفيدرالي لعام 2025 الشركات التي تتجاوز إيراداتها 50 مليون دولار بإجراء تقييمات للأثر على جميع أنظمة اتخاذ القرار المؤتمتة وتقديم تقارير سنوية إلى لجنة التجارة الفيدرالية (FTC).
• يتطلب مشروع قانون مجلس شيوخ نيويورك S7033 تقديم إثبات رياضي يؤكد أن تسعيركم لا ينطوي على تمييز ضد الفئات المحمية قانوناً.

سيطرح مجلس إدارتكم سؤالين بعد العنوان الرئيسي التالي المشابه لهذا: «هل يمكن أن يحدث هذا لنا؟» و«هل يمكننا إثبات أنه لا يمكن أن يحدث؟» وإذا لم يتمكن الذكاء الاصطناعي لديكم من تقديم مسار تدقيق يوضح بدقة سبب فرض سعر مختلف على العميل (أ) مقارنة بالعميل (ب)، فإنكم معرضون للمساءلة. وقد أوضحت لجنة التجارة الفيدرالية (FTC) تماماً أن حجة «الخوارزمية الاحتكارية» لم تعد دفاعاً مقبولاً.

ما الذي يحدث فعلياً خلف الكواليس

استخدم محرك تسعير إنستاكارت ما يُعرف بخوارزمية «قطاع الطرق متعدد الأذرع» (Multi-Armed Bandit) — وهي نوع من الذكاء الاصطناعي يختبر خيارات مختلفة ويركز جهوده على الخيار الذي يحقق أعلى إيرادات. فكروا في الأمر ككازينو يجرب كل ماكينة قمار، ثم يضع جميع عملاتكم في الماكينة التي تدفع أعلى عائد لصالح الكازينو.

استوعبت الخوارزمية مجموعة من السمات السياقية لكل مستخدم — مثل الموقع الجغرافي، وسجل المشتريات، وسلوك التصفح. ثم استكشفت نقاط سعرية مختلفة لتحديد الحد الأقصى لما يمكن أن يتحمله كل شخص. وعندما وجدت أن بعض ملفات تعريف المستخدمين تقبل أسعاراً أعلى، استغلت ذلك النمط، وواصلت دفع الأسعار نحو الارتفاع حتى تجاوزت الحدود لتتحول إلى تمييز غير قانوني.

تكمن المشكلة الجوهرية في أن هذا النوع من الذكاء الاصطناعي يفتقر تماماً إلى مفهوم القواعد؛ فهو لا يعرف ما ينص عليه قانون لجنة التجارة الفيدرالية (FTC Act)، ولا يمكنه التمييز بين التعديل القانوني للسعر والتعديل غير القانوني. إنه يعرف فقط كيفية تعظيم الرقم الذي طُلب منه تعظيمه. وتصف الورقة التقنية هذا المحرك بأنه محرك من طراز «النظام 1» (System 1) — سريع وبديهي، مثل الحدس الغريزي، ولكنه عاجز عن الاستدلال المنطقي المتأني.

تتطلب التزامات الامتثال لديكم تفكيراً من طراز «النظام 2» (System 2) — بطيئاً، ومنطقياً، وملتزماً بالقواعد. لقد نشرت إنستاكارت أداة تحسين قائمة على الحدس الغريزي في مجال يتطلب استدلالاً قانونياً. لم يكن لدى الذكاء الاصطناعي أي قيود صارمة تقول: «توقف؛ إن فرض زيادة بنسبة 23% على السلعة نفسها لملف مستخدم مختلف ينتهك قوانين العدالة». وفي غياب تلك الحواجز الوقائية (guardrails)، قام النظام بما صُمم للقيام به تماماً؛ فقد استخرج المزيد من الأموال، ولكنه استخرجها بطريقة غير قانونية.

ما الذي ينجح (وما الذي لا ينجح)

ثلاثة مناهج تحاول الشركات تطبيقها عادةً — ولكنها تفشل:

• «العدالة عبر عدم المعرفة» ("Fairness through unawareness"): إن مجرد إزالة حقول العرق أو الجنس أو الدخل من بياناتكم لا يجدي نفعاً؛ فالذكاء الاصطناعي يتعلم الانحيازات نفسها عبر متغيرات بديلة (proxy variables) مثل الرمز البريدي (ZIP code)، الذي يرتبط مباشرة بالبيانات الاجتماعية والاقتصادية والتركيبة الديموغرافية.
• هندسة الأوامر فوق النماذج اللغوية: إن إحاطة الذكاء الاصطناعي ذي الأغراض العامة بقواعد العمل عبر تعليمات نصية بسيطة لا يوفر لكم أي آلية إنفاذ؛ إذ يمكن للنموذج تجاهل حواجزكم الوقائية، أو إساءة تفسيرها، أو «الهلوسة» وتجاوزها في أي وقت.
• المراقبة اللاحقة وحدها: إن اكتشاف المشكلة بعد أن يكون الذكاء الاصطناعي قد فرض بالفعل أسعاراً خاطئة على آلاف العملاء لا يمنع تسوية الـ 60 مليون دولار، بل يساعدكم فقط في قياس مدى سوء الوضع الذي آلت إليه الأمور.

ما ينجح فعلياً هو بناء الامتثال في صميم البنية المعمارية نفسها — قبل أن يصل أي قرار إلى عميلكم. إليكم كيف يتعامل نظام حتمي مع سيناريو التسعير نفسه في ثلاث خطوات:

1. المدخلات — معرفة مهيكلة، وليست رموزاً مجردة: تُعيَّن قواعد أعمالكم وقيودكم القانونية وسياسات التسعير لديكم داخل رسم بياني للمعرفة (Knowledge Graph) — وهو نموذج بيانات مهيكل تُحدد فيه العلاقات بين المفاهيم (مثل «السعر» و«موقع العميل» و«الفئة المحمية») بشكل صريح. هذه ليست وثيقة بسيطة يتصفحها روبوت دردشة، بل هي خريطة رسمية لما يُسمح لشركتكم بفعله وما يُحظر عليها.

2. المعالجة — الاقتراح العصبي يلتقي بالتحقق الرمزي: يقترح نموذج التعلم العميق تحسيناً للسعر بناءً على اتجاهات السوق. ولكن قبل أن يذهب هذا الاقتراح إلى أي مكان، يقوم مفكك ترميز القيود (constraint decoder) — وهو طبقة تحقق قائمة على القواعد — بفحصه مقابل حدودكم الصارمة. وإذا كانت القاعدة تنص على أن «أسعار هذه السلعة يجب ألا تتجاوز نسبة محددة من سعر التجزئة المقترح (MSRP)»، فلا يمكن لأي مخرج من الشبكة العصبية تجاوز تلك القاعدة.

3. المخرجات — استدلال قابل للتدقيق، وليس صندوقاً أسود: يأتي كل قرار تسعير مصحوباً بمسار استدلالي (reasoning trace). حيث يمكنك أن توضح للجهات التنظيمية بدقة نقاط البيانات التي أخذها النظام في الاعتبار، والقواعد التي طبقها، والسبب وراء وصوله إلى ذلك السعر المحدد. هذا ليس ملخصاً يتم إنشاؤه بعد وقوع الحدث، بل هو مسار المنطق الفعلي الذي اتبعه النظام.

إن مسار التدقيق هذا هو ما يغير مجرى الحوار مع فريق الامتثال لديكم؛ فبموجب قانون الإفصاح في نيويورك، تحتاجون إلى وسم فوري لكل مخرج خوارزمي في الوقت الفعلي. وبموجب قانون المساءلة الفيدرالي، تحتاجون إلى تقييمات أثر موثقة. إن النظام الذي يمكنه تفسير قراراته يمنحكم الأمرين معاً، بينما لا يقدم لكم الصندوق الأسود أياً منهما.

تبني VeriPrajna هذه الأنظمة الهجينة — حيث تجمع بين قدرات التعرف على الأنماط في الشبكات العصبية وقوة إنفاذ القواعد في المنطق الرمزي. والهدف ليس إبطاء الذكاء الاصطناعي لديكم، بل جعل كل قرار ينتجه نظامكم قابلاً للدفاع عنه، وقابلاً للتتبع، ومتوافقاً مع اللوائح قبل أن يصل إلى العميل.