Tarification par IA : l'avertissement à 60 millions de dollars d'Instacart

Le problème

L'IA d'Instacart a facturé des prix différents à différents clients pour exactement les mêmes produits d'épicerie dans un même magasin. La Federal Trade Commission a réglé l'affaire moyennant 60 millions de dollars de remboursements aux consommateurs.

Voici ce qui s'est passé. En 2022, Instacart a acquis une société de tarification par IA appelée Eversight. L'outil effectuait des expériences randomisées sur de véritables acheteurs. Il testait ce que chaque personne était prête à payer en fonction de son profil de données personnelles. En décembre 2025, la FTC avait confirmé que des articles identiques étaient proposés à des prix radicalement différents selon les utilisateurs — et ce, simultanément. Des associations de défense des consommateurs ont qualifié cette pratique de « tarification de surveillance » (« surveillance pricing »), où votre coût individuel est déterminé par une empreinte de données que vous n'avez jamais consenti à partager.

Le préjudice est allé bien au-delà du chèque de règlement. Instacart a également mené une expérience interne littéralement baptisée « hide_refund ». Son but était de supprimer le bouton de remboursement en libre-service pour le remplacer par des avoirs en magasin. Cette seule astuce a permis à l'entreprise d'économiser 289 000 dollars par semaine. La plateforme a inscrit automatiquement des centaines de milliers d'utilisateurs à des abonnements annuels payants sans leur consentement explicite. Elle faisait la promotion de la « livraison gratuite » tout en dissimulant des frais de service obligatoires qui ajoutaient 15 % au total de votre commande.

Il ne s'agissait pas d'un bug. C'était une architecture optimisée pour l'extraction de revenus au détriment de la transparence, de l'équité et de la loi. Si votre entreprise utilise l'IA pour fixer des prix, approuver des prêts ou recommander des produits, cette histoire est un aperçu de vos propres risques.

Pourquoi cela concerne votre entreprise

L'exposition financière est ici vertigineuse. Et elle ne se limite plus aux entreprises agissant de mauvaise foi. De nouvelles lois vous tiennent désormais pour responsable des actions de vos algorithmes — même si vous n'en aviez pas l'intention.

Commençons par les chiffres bruts de l'affaire Instacart :

• Hausse de prix maximale de 23 % observée pour des articles identiques selon les utilisateurs.
• 75 % du catalogue de produits était soumis à des variations tarifaires algorithmiques.
• Surcoût annuel estimé à 1 200 dollars par foyer concerné.
• Accord transactionnel de 60 millions de dollars versé à la FTC sous forme de remboursements aux consommateurs.
• 289 000 dollars par semaine économisés en masquant le bouton de remboursement aux clients.

Ajoutez à cela le paysage réglementaire que votre équipe juridique devrait déjà surveiller :

• L'Algorithmic Pricing Disclosure Act de New York (en vigueur depuis novembre 2025) vous impose d'afficher une mention — « CE PRIX A ÉTÉ FIXÉ PAR UN ALGORITHME UTILISANT VOS DONNÉES PERSONNELLES » — chaque fois que votre IA établit un prix personnalisé. Chaque infraction est passible d'une amende de 1 000 dollars.
• L'Algorithmic Accountability Act fédéral de 2025 exige des entreprises réalisant plus de 50 millions de dollars de chiffre d'affaires qu'elles mènent des évaluations d'impact sur tous leurs systèmes de décision automatisés et qu'elles remettent des rapports annuels à la FTC.
• Le projet de loi sénatorial de New York S7033 exige la preuve mathématique que votre tarification ne discrimine aucune catégorie protégée.

Votre conseil d'administration posera deux questions après le prochain gros titre de ce genre : « Cela pourrait-il nous arriver ? » et « Pouvons-nous prouver que c'est impossible ? » Si votre IA ne peut produire une piste d'audit montrant précisément pourquoi elle a facturé au client A un prix différent de celui du client B, vous êtes exposé. La FTC a clairement indiqué que le « secret des algorithmes propriétaires » ne constitue plus un moyen de défense valable.

Ce qui se passe réellement sous le capot

Le moteur de tarification d'Instacart utilisait un algorithme appelé Multi-Armed Bandit (bandit manchot) — un type d'IA qui teste différentes options et mise tout sur celle qui génère le plus de revenus. Imaginez un casino qui essaierait chaque machine à sous, puis injecterait toutes vos pièces dans celle qui rapporte le plus à la maison.

L'algorithme ingérait un ensemble de caractéristiques contextuelles sur chaque utilisateur — comme la localisation, l'historique d'achats et le comportement de navigation. Il explorait ensuite différents niveaux de prix pour identifier le seuil maximal toléré par chaque personne. Lorsqu'il constatait que certains profils d'utilisateurs acceptaient des prix plus élevés, il exploitait ce schéma. Il continuait à pousser les prix à la hausse jusqu'à franchir la ligne rouge de la discrimination illégale.

Le problème fondamental est que ce type d'IA n'a aucune notion des règles. Elle ignore ce que stipule le FTC Act. Elle ne peut distinguer un ajustement tarifaire légal d'un ajustement illégal. Elle sait uniquement maximiser le chiffre qu'on lui a ordonné de maximiser. Le livre blanc qualifie cela de moteur « Système 1 » — rapide et intuitif, comparable à l'instinct viscéral, mais incapable de raisonnement délibéré.

Vos obligations de conformité exigent une réflexion de type « Système 2 » — lente, logique et régie par des règles. Instacart a déployé un optimiseur instinctif dans un domaine qui exigeait un raisonneur juridique. L'IA ne disposait d'aucune contrainte stricte lui dictant : « Arrêt. Une marge de 23 % sur le même article pour un profil d'utilisateur différent enfreint les lois sur l'équité. » Sans ces garde-fous, le système a fait exactement ce pour quoi il avait été conçu. Il a généré davantage d'argent. Mais il l'a fait en toute illégalité.

Ce qui fonctionne (et ce qui ne fonctionne pas)

Trois approches couramment tentées par les entreprises — et qui échouent :

• « L'équité par l'ignorance » (« Fairness through unawareness ») : Supprimer simplement les champs liés à l'origine ethnique, au genre ou aux revenus de vos données ne fonctionne pas. L'IA réapprend les mêmes biais à travers des variables de substitution (proxies) comme le code postal (ZIP code), qui est directement corrélé aux données socio-économiques et à la composition démographique.
• L'ingénierie d'invites (prompt engineering) sur un modèle de langage : Envelopper des règles métier autour d'une IA généraliste à l'aide d'instructions en texte brut ne vous offre aucun mécanisme d'application contraignant. Le modèle peut à tout moment ignorer, mal interpréter ou « halluciner » au-delà de vos garde-fous.
• La surveillance a posteriori seule : Détecter un problème après que votre IA a déjà facturé le mauvais prix à des milliers de clients n'évite pas l'accord transactionnel de 60 millions de dollars. Cela vous aide seulement à mesurer l'ampleur des dégâts.

Ce qui fonctionne, en revanche, c'est d'intégrer la conformité au cœur même de l'architecture — avant qu'aucune décision ne parvienne à votre client. Voici comment un système déterministe gère ce même scénario de tarification en trois étapes :

1. Entrée — Des connaissances structurées, non des jetons bruts : Vos règles métier, vos contraintes juridiques et vos politiques tarifaires sont cartographiées au sein d'un Knowledge Graph — un modèle de données structuré où les relations entre les concepts (comme « prix », « localisation du client » et « catégorie protégée ») sont explicitement définies. Il ne s'agit pas d'un document brut survolé par un agent conversationnel. C'est une cartographie formelle de ce que votre entreprise a et n'a pas le droit de faire.

2. Traitement — La suggestion neuronale rencontre la vérification symbolique : Un modèle d'apprentissage profond suggère une optimisation de prix basée sur les tendances du marché. Mais avant que cette suggestion ne soit appliquée, un décodeur de contraintes (constraint decoder) — une couche de vérification basée sur des règles — la confronte à vos limites strictes. Si la règle stipule que « les prix de cet article ne doivent pas dépasser un pourcentage défini du prix de vente conseillé (MSRP) », aucune sortie de réseau neuronal ne peut contourner cette règle.

3. Sortie — Un raisonnement auditable, non une boîte noire : Chaque décision tarifaire est accompagnée d'une trace de raisonnement. Vous pouvez montrer précisément à un régulateur quelles données le système a prises en compte, quelles règles il a appliquées et pourquoi il est parvenu à ce prix spécifique. Il ne s'agit pas d'un résumé généré après coup. C'est le cheminement logique réel suivi par le système.

Cette piste d'audit est ce qui transforme le dialogue avec votre équipe de conformité. En vertu du Disclosure Act de New York, vous devez étiqueter en temps réel chaque résultat algorithmique. En vertu de l'Accountability Act fédéral, vous devez produire des évaluations d'impact documentées. Un système capable d'expliquer ses propres décisions vous apporte les deux. Une boîte noire ne vous apporte ni l'un ni l'autre.

VeriPrajna conçoit ces systèmes hybrides — en combinant la puissance de reconnaissance des motifs des réseaux de neurones avec la force d'application des règles de la logique symbolique. L'objectif n'est pas de ralentir votre IA. C'est de rendre chaque décision produite par votre IA défendable, traçable et conforme avant même qu'elle n'atteigne un client.