Votre assistant d'achat IA convertit 4x — jusqu'à ce qu'il invente une seule chose
La démo était impeccable. Un client a demandé à notre assistant d'achat IA de comparer deux ordinateurs portables pour le montage vidéo, et il a répondu comme un vendeur patient qui les aurait réellement utilisés tous les deux — RAM, précision des couleurs, gestion thermique, tout y était. Tout le monde dans la salle a hoché la tête. Puis, quelques semaines après le début d'un pilote discret, je faisais défiler un journal de transcriptions et j'ai vu le même assistant dire à un client qu'un ordinateur portable était livré avec 32 Go de mémoire. Il était livré avec 16.
Rien dans le système ne l'a signalé. La phrase était grammaticalement correcte, assurée et paraissait utile. Elle était aussi fausse d'une manière qui, si ce client avait acheté la machine pour du rendu et qu'elle avait calé, nous serait revenue directement sous forme de retour produit, d'avis une étoile et d'une phrase dans une réclamation commençant par « leur IA m'a dit ». C'est cet après-midi-là que j'ai compris le véritable problème de l'IA du e-commerce : le danger n'est pas un modèle qui semble stupide. C'est un modèle qui semble avoir raison alors qu'il a tort, parce que rien dans la pile ne confronte jamais sa réponse à la vérité.
Cet écart — entre une réponse qui se lit bien et une réponse qui est réellement vraie — est celui que mon équipe s'emploie désormais à combler pour gagner sa vie. Avant d'expliquer comment, laissez-moi vous dire pourquoi un modèle plus intelligent n'allait jamais nous sauver.
La démo qui m'a menti
Je suis arrivé dans l'IA du commerce de détail en croyant ce que croient la plupart des responsables ingénierie : que l'hallucination est un problème de qualité du modèle, et que la qualité des modèles ne cesse de progresser, si bien que le problème se résout tout seul pourvu qu'on attende deux trimestres et qu'on bascule sur le checkpoint suivant.
Les chiffres semblent conforter cet optimisme, jusqu'au moment où ils cessent de le faire. Le meilleur modèle de Google hallucine sur environ 0,7 % des réponses de culture générale. La plupart des modèles se situent entre 1 et 3 %. Mais la moyenne en culture générale s'établit à 9,2 %, et une analyse sectorielle a révélé que 82 % des défaillances de l'IA sont des hallucinations ou de la désinformation plutôt que des plantages ou des dépassements de délai. Ainsi, même sur un bon modèle, environ une affirmation produit assurée sur cent est inventée — et vous en diffusez des milliers par jour.
Un taux d'hallucination de 1 % ressemble à une mention très bien. À raison d'un million de réponses produit par semaine — le volume d'un catalogue de taille moyenne —, cela représente dix mille phrases fausses énoncées avec assurance et portant le nom de votre marque.
Voici ce que le récit de la qualité du modèle occulte totalement : la mauvaise réponse et la bonne sortent de la même machine, avec la même aisance, le même ton, la même assurance. Le modèle n'a aucune idée qu'il ment. Il n'existe aucun signal interne qui distingue « 16 Go, vérifié dans le catalogue » de « 32 Go, déduit par analogie d'un message de forum ». Si vous voulez ce signal, vous devez le construire en dehors du modèle. Attendre un checkpoint plus intelligent ne vous donne pas ce signal ; cela rend simplement les mauvaises réponses plus éloquentes.
Pourquoi de meilleurs garde-fous n'ont-ils pas réglé le problème ?
Nous avons donc essayé de construire ce signal de la manière évidente, et je tiens à être honnête : c'est moi qui ai plaidé pour la manière évidente.
Mon premier réflexe a été la sécurité par instructions (prompt) associée au filtrage par mots-clés. Indiquez au système dans ses instructions : n'énoncer que les spécifications que tu peux confirmer, ne jamais donner de conseil médical ou de sécurité, refuser tout ce qui est dangereux. Ajoutez un filtre qui repère les termes manifestement nuisibles. C'est peu coûteux, c'est rapide, et lors des tests, cela paraissait infaillible. J'ai défendu sa mise en production. Nous l'avons mise en production.
Cela a tenu jusqu'à ce que la couche de récupération lui fournisse quelque chose qui avait l'air digne de confiance. La plupart de ces systèmes fonctionnent selon le principe de la génération augmentée par récupération — l'assistant récupère les documents pertinents (votre catalogue, parfois le web ouvert) et rédige sa réponse à partir d'eux. Le piège dont personne ne vous prévient, c'est que lorsque la couche de récupération intègre du contenu récent, le modèle traite ce contenu comme plus fiable que ses propres instructions de sécurité. Rufus d'Amazon en est l'exemple public à méditer : il a affirmé à des clients que le Super Bowl se tenait dans la mauvaise ville parce que la récupération avait fait remonter des sources web contradictoires et que l'entraînement du modèle avait pris le pas sur le catalogue. Pire, il a expliqué à des utilisateurs comment fabriquer un cocktail Molotov à partir de requêtes produit ordinaires — sans jailbreak, sans prompt astucieux, simplement du contenu web récupéré que le modèle a décidé de croire plutôt que son propre garde-fou.
Cela a fait voler en éclats ma représentation. Le garde-fou que j'avais défendu n'était pas un mur ; c'était une suggestion que le système ignorait volontiers dès qu'il lisait quelque chose qui la contredisait. Le filtrage par mots-clés attrapait les cas grossiers et passait tout droit à côté des équivalents sémantiques. J'avais livré une serrure qui s'ouvrait dès que quelqu'un glissait sous la porte un papier plus assuré.
La sécurité par instructions est un Post-it collé sur un coffre-fort. Elle fonctionne jusqu'à ce que le modèle lise un Post-it qui a l'air plus fiable.
Trois façons dont l'IA du commerce de détail se casse — et une quatrième que personne ne consigne
Dès que j'ai cessé de traiter cela comme un problème de modèle, les défaillances se sont réparties en un petit nombre de formes structurelles, et chaque grand désastre public n'en est qu'une, à grande échelle.
La forme la plus courante est l'information produit hallucinée — le problème des 32 Go qui étaient en réalité 16 Go. Cela se produit parce que le système génère une spécification plausible et que rien ne compare cette spécification à un enregistrement de référence avant que le client ne la voie. Le coût n'est pas abstrait : seuls 46 % des clients déclarent faire pleinement confiance aux recommandations de l'IA, et 89 % vérifient ce qu'un assistant leur dit avant d'acheter. Chaque détail fabriqué conforte le sceptique et le renvoie vers la recherche manuelle ou vers un concurrent.
Vient ensuite le contournement de la sécurité que je viens de décrire — la récupération qui prend le pas sur le garde-fou. Dans le commerce, c'est plus tranchant que la modération de contenu générique, parce que « ce complément interagira-t-il avec mon anticoagulant ? » n'est pas une question de contenu, c'est une question de responsabilité du fait des produits. Un assistant qui répond à cela avec assurance et à tort a créé une exposition juridique qui éclipse tout gain de conversion.
La troisième forme, je l'appellerais l'impuissance transactionnelle : l'IA peut décrire votre politique de retour mais ne peut pas traiter un retour ; elle peut parler d'une commande qu'elle ne peut pas réellement consulter. Rufus pouvait expliquer les retours d'Amazon sans en exécuter un seul. Klarna a appris la même leçon avec une facture bien plus salée. Ils ont remplacé environ 700 agents par de l'IA, l'ont déployée sur 2,3 millions de conversations, et ont d'abord affirmé qu'elle absorbait la charge — puis la qualité de service a chuté précisément sur les cas qui comptent (résolutions en plusieurs étapes, litiges chargés d'émotion, tout ce qui exige une véritable modification de compte), le PDG a publiquement reconnu le préjudice, et dès 2026 ils réembauchaient des humains. Ils ne sont pas seuls à le regretter : 55 % des entreprises qui ont procédé à des licenciements motivés par l'IA reconnaissent aujourd'hui s'être trompées.
Et puis il y a la défaillance qui n'apparaît jamais dans un journal d'erreurs. Cornell Tech a testé Rufus sur plusieurs variétés d'anglais et a constaté des réponses systématiquement moins bonnes pour l'anglais afro-américain, l'anglais chicano et l'anglais indien. Un client demandant « this jacket machine washable ? » — une construction parfaitement standard de l'anglais afro-américain qui supprime le verbe copule — obtenait une non-réponse ou un renvoi vers des produits sans rapport. Vos tableaux de bord ne détecteront jamais cela, parce que le système n'a pas planté ; il a simplement, en silence, offert une boutique de moindre qualité à une large part de vos clients. Je tiens désormais une grille d'évaluation qui note les réponses de l'assistant dans ces variétés dialectales en regard de l'anglais standard, précisément parce que rien d'autre ne fait apparaître cet écart.
Alors, comment rendre la réponse vraie ?
Le virage, une fois le garde-fou pris en défaut, était presque gênant de simplicité à énoncer et véritablement difficile à mettre en œuvre : ne demandez pas au modèle d'être digne de confiance — placez une couche de vérification entre le modèle et le client, qui confronte chaque réponse à la vérité terrain avant sa diffusion.
Concrètement, cela signifie un graphe de connaissances produit qui conserve les spécifications, les prix, les stocks et les politiques vérifiés comme des enregistrements faisant autorité, et une couche intergicielle qui intercepte la réponse du modèle, en extrait les affirmations vérifiables et confirme chacune d'elles auprès de ce graphe. Ce n'est pas une idée marginale — Walmart a construit son propre Retail Graph, un graphe de connaissances produit, précisément pour que son IA dispose d'une vérité terrain sur laquelle s'appuyer plutôt que d'une supposition à générer. La partie véritablement difficile n'est pas la recherche ; c'est la désambiguïsation des entités — un même SKU apparaît sous différentes formes de surface dans votre catalogue et selon les régions, si bien que la couche doit d'abord déterminer à quel enregistrement l'affirmation d'un modèle se réfère réellement avant de pouvoir la vérifier. Trompez-vous là-dessus et vous vérifiez face au mauvais produit, ce qui est pire que de ne pas vérifier du tout. Mais une fois que c'est juste : si le modèle dit 32 Go et que le graphe dit 16, l'affirmation n'atteint jamais le client. Si le modèle ne peut pas ancrer une affirmation dans une source vérifiée, l'assistant en dit moins plutôt que d'inventer davantage. Le problème du contournement par la récupération se dissout, parce que le web ouvert n'a plus voix au chapitre sur un fait que le catalogue connaît déjà.
Le prérequis peu glorieux, c'est la donnée. Gartner prévoit que, d'ici 2026, les organisations abandonneront 60 % des projets d'IA qui ne s'appuient pas sur des données prêtes pour l'IA — et la plupart des données du commerce de détail ne le sont pas. Les systèmes de gestion de l'information produit que j'ai ouverts affichent généralement 30 à 40 % de complétude des attributs pour les SKU de longue traîne. Vous ne pouvez pas ancrer un assistant sur un catalogue auquel il manque deux champs sur cinq ; il comblera les trous en devinant, ce qui est précisément le comportement que vous cherchez à éliminer. Une véritable partie du travail consiste donc à structurer ces données pour une consommation machine avant qu'une seule réponse ne soit vérifiée. C'est la couche que nous construisons — la tuyauterie de vérification, d'ancrage et de conformité qui se situe entre un grand modèle de langage et votre vitrine — et vous pouvez voir l'architecture complète sur veriprajna.com/solutions/ecommerce-ai-accuracy.
Le rôle du modèle est d'être fluide. Le rôle de la couche de vérification est d'avoir raison. Confondre les deux, c'est ainsi que chacun de ces systèmes échoue.
Vous êtes responsable de chaque mot qu'il prononce
Si je me montre intransigeant là-dessus, c'est que la loi a déjà tranché à qui incombent les erreurs d'un chatbot, et la réponse, c'est vous.
Le chatbot d'Air Canada a inventé une politique de remboursement pour deuil qui n'existait pas. Lorsque la compagnie aérienne a plaidé devant le tribunal que le chatbot était une entité juridique distincte responsable de ses propres déclarations, le tribunal a rejeté cet argument sans appel et a tenu l'entreprise pour responsable des dommages. C'est une somme modeste — 812 $ CAD — et un précédent énorme : un tribunal a désormais affirmé en toutes lettres que vous êtes responsable de chaque mot que votre IA adresse à un client. J'ai vu une équipe juridique faire circuler cette décision avec un objet d'une seule ligne et sans commentaire, parce que l'implication se passe de tout commentaire. Un marchand sur Shopify aurait perdu plus de 8 000 $ lorsqu'un assistant a joyeusement promis la livraison gratuite vers Hawaï qu'il n'avait aucune autorité pour offrir. Cette promesse était, juridiquement, celle du marchand.
Le socle réglementaire s'élève sous tout cela. Le règlement européen sur l'IA (EU AI Act) devient pleinement applicable le 2 août 2026, et il s'applique à toute entreprise servant des clients de l'UE — vous n'êtes pas exempté sous prétexte que votre siège est ailleurs. Il exige que les contenus générés par IA soient étiquetés et que les utilisateurs soient informés qu'ils interagissent avec une IA, et il prévoit des sanctions pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial. Aux États-Unis, la FTC a été catégorique : utiliser l'IA pour tromper ou frauder est déjà illégal, sans dérogation propre à l'IA, et sa Consumer Review Rule interdit les avis trompeurs générés par IA. Ici, la conformité n'est pas une case à cocher que l'on ajoute à la fin ; la transparence et l'étiquetage sont des contraintes de conception qui ont leur place dans la couche de vérification dès le premier commit.
Les objections que j'entends le plus
On me demande si les nouveaux protocoles de commerce agentique rendent tout cela caduc — et c'est une question légitime, car les agents sont déjà là à grande échelle : un achat numérique sur cinq passe désormais par un agent IA, et la seule Cyber Week 2025 a généré environ 67 milliards de dollars de cette manière. Google a lancé son Universal Commerce Protocol au NRF en janvier 2026 avec Shopify, Etsy, Wayfair, Target et Walmart ; OpenAI dispose de son Agentic Commerce Protocol après que son initiative Instant Checkout s'est essoufflée pour ne compter qu'une douzaine de marchands activés. Ces protocoles sont réels et méritent d'être intégrés. Mais lisez-les attentivement et ils sont axés sur la découverte d'abord — ils sont excellents pour amener un agent à trouver et recommander votre produit, et ne disent presque rien de la fastidieuse partie transactionnelle : retours, échanges, réclamations sous garantie, les résolutions en plusieurs étapes qui ont mis Klarna en difficulté. Les protocoles déplacent la porte d'entrée ; ils ne meublent pas la maison.
L'autre question est celle du « faire ou acheter », et ma réponse honnête est « probablement un peu des deux, et pas ce que le fournisseur vous a raconté ». Les outils de découverte — Loomi de Bloomreach, Algolia, la découverte de produits ancrée dans le catalogue de Coveo — sont réellement bons en matière de découverte, présupposent que vous apportez des données propres et ne vérifient rien d'un outil à l'autre. La plupart des détaillants font tourner trois à cinq de ces systèmes d'IA en même temps sans que personne ne contrôle la cohérence entre eux. Cette jointure — l'orchestration multifournisseur plus une couche de vérification indépendante qu'aucun des fournisseurs ne vous vendra, parce que chacun vend sa propre pile — est exactement là où logent les défaillances.
Et oui, on s'inquiète de ce qu'une étape de vérification ajoute de la latence, et on a raison : Amazon a mesuré que chaque tranche de 100 millisecondes de latence coûte environ 1 % des ventes. Cette contrainte est réelle, et c'est un problème d'ingénierie qui a des réponses d'ingénierie — vérifier le petit ensemble d'affirmations vérifiables, pas toute la génération ; mettre en cache les recherches dans le graphe ; basculer vers « en dire moins », vite. Ce n'est pas une raison de sauter la vérification. Une réponse fausse en 100 millisecondes coûte bien plus cher qu'une réponse juste en 200 millisecondes.
Qu'est-ce qui mérite réellement le facteur 4 ?
La statistique qui a tout déclenché pour moi est celle du tableau de bord de conversion à laquelle je pense encore : les clients qui interagissent avec l'IA convertissent à 12,3 % contre 3,1 % pour ceux qui ne le font pas. Quatre fois plus. Ce chiffre est réel, et c'est pourquoi chaque détaillant se précipite pour déployer. Mais c'est aussi un piège, car la même asymétrie joue en sens inverse — une spécification hallucinée, une politique inventée, une réponse dangereuse capturée en photo d'écran et partagée, et la confiance qui a produit le facteur 4 s'évapore plus vite qu'elle ne s'est bâtie.
Le modèle est désormais un produit banalisé — tout le monde loue de l'intelligence auprès de la même poignée de fournisseurs, et il deviendra plus fluide chaque trimestre. Ce n'est jamais la fluidité qui a mérité le facteur 4 ; c'est la confiance. Et la confiance, c'est précisément ce qu'une seule spécification inventée dilapide. Que vous déployiez votre premier assistant, ou que vous en observiez discrètement un halluciner en production en ce moment même, la couche de vérification est la partie que vous ne pouvez pas sauter — c'est ce que nous construisons, et c'est la différence entre un assistant qui a l'air expert et un assistant que vous laisseriez parler à vos clients sans surveillance.
La boutique qui remportera les prochaines années du commerce est celle dont l'IA, à qui l'on demande si un ordinateur portable dispose de 32 gigaoctets de mémoire, vérifie — et répond 16.
