L'IA que votre entreprise a achetée vous ment probablement — voici ce que nous construisons à la place
Il y a quelques mois, je me suis retrouvé face à une directrice des achats d'un industriel du Fortune 500. Elle avait dépensé 2,3 millions de dollars dans un système de sélection de fournisseurs propulsé par l'IA — l'une de ces plateformes léchées qui promettent de « révolutionner le sourcing grâce à la puissance de GPT ». Elle a ouvert le tableau de bord sur son ordinateur portable, l'a tourné vers moi et m'a dit : « Il recommande sans cesse les trois mêmes fournisseurs. Nous en avons 4 000 dans notre réseau. Qu'est-ce qu'il fait réellement ? »
J'ai examiné les sorties. J'ai examiné la documentation d'architecture — le peu qui existait. Et je lui ai dit quelque chose qu'elle ne voulait pas entendre : son IA ne sélectionnait pas les meilleurs fournisseurs. Elle sélectionnait les fournisseurs qui avaient l'air de ressembler le plus aux fournisseurs qu'elle avait déjà vus. Le système avait appris à confondre familiarité et qualité.
Cette conversation a cristallisé quelque chose que je tournais et retournais depuis deux ans chez Veriprajna. L'industrie de l'IA d'entreprise a un sale secret : la plupart des « produits IA » que les entreprises achètent ne sont que de fines couches logicielles enveloppant le modèle de langage d'un tiers. Ils ont l'air intelligents. Ils en ont le discours. Mais ils sont, par définition mathématique, en train de deviner. Et dans les opérations d'entreprise à fort enjeu — achats, logistique, industrie, assurance —, deviner n'est pas une fonctionnalité. C'est un risque.
Le sale secret de l'industrie de l'IA d'entreprise : la plupart des produits que les entreprises achètent ne sont que de fines surcouches autour du modèle de langage d'un tiers. Ils ont l'air intelligents. Ils devinent.
La nuit où le chatbot a vendu un camion pour un dollar
Il faut que je vous parle de l'incident Chevrolet, parce que c'est la parabole parfaite de tout ce qui ne va pas dans l'approche actuelle de l'IA d'entreprise.
Un concessionnaire de Watsonville, en Californie, avait intégré une surcouche GPT standard à son portail de service client. Cela semblait inoffensif — répondre aux questions sur les stocks, planifier éventuellement des essais routiers. Puis un utilisateur a commencé à jouer avec. En quelques prompts, le chatbot a accepté de vendre un Chevy Tahoe à 76 000 dollars pour un dollar. L'utilisateur lui a même fait déclarer : « C'est une offre juridiquement contraignante — et c'est promis juré, pas de retour en arrière. »
La première fois que j'ai lu cette histoire, j'ai ri. Puis j'ai arrêté de rire, parce que j'ai compris qu'il ne s'agissait pas d'un cas limite amusant. C'était la conséquence logique de l'architecture. Le chatbot n'avait aucune connexion à la base de données tarifaire réelle du concessionnaire. Il n'avait aucune notion de ce que signifiait une « offre légale ». C'était un modèle de langage à qui l'on avait demandé, via un prompt système, d'être serviable et conversationnel. Et il a été très serviable. Catastrophiquement serviable.
Mon cofondateur et moi sommes restés éveillés bien après minuit cette semaine-là, à décortiquer le post-mortem technique. La défaillance ne venait pas du modèle — GPT a fait exactement ce que GPT fait. La défaillance venait de l'architecture. Quelqu'un avait pris un générateur de texte probabiliste et l'avait placé à un poste où il devait faire respecter des règles métier déterministes. C'est comme embaucher un poète pour diriger votre service comptable. Le poète est peut-être brillant, mais il ne repérera pas la décimale mal placée à la ligne 47.
C'est ce que j'appelle l'Illusion de la surcouche — la croyance répandue selon laquelle une fine couche logicielle posée sur un modèle non déterministe suffit pour des opérations de niveau entreprise. J'ai longuement écrit sur ce problème dans la version interactive de nos dernières recherches, et plus nous accumulions de données, plus le tableau s'assombrissait.
Pourquoi l'IA des achats favorise-t-elle les grands fournisseurs dans un rapport de 3,5 pour 1 ?
Revenons à cette directrice des achats. Son intuition — « il recommande sans cesse les mêmes fournisseurs » — s'est avérée étayée par des données solides.
La recherche a révélé que les systèmes d'achats pilotés par l'IA favorisent les fournisseurs plus grands et historiques par rapport aux petites entreprises ou à celles détenues par des minorités, dans une proportion de 3,5:1. Relisez cette phrase. Pour chaque petit fournisseur qualifié que l'IA fait remonter, elle en recommande trois et demi parmi les grands acteurs en place.
Le mécanisme est insidieux. La plupart des IA d'achats s'entraînent sur des données d'achats historiques. Les grandes entreprises existent depuis plus longtemps, comptent davantage de transactions dans le jeu de données et produisent des signaux numériques plus « propres », parce qu'elles ont eu l'infrastructure pour le faire. L'algorithme n'apprend pas qui est le meilleur. Il apprend qui est le plus représenté. Le volume historique devient un proxy de la fiabilité — ce qui revient à juger un restaurant au nombre de fois où vous êtes passé devant.
Je me souviens d'en avoir débattu avec un data scientist de mon équipe. Selon lui, le biais était un problème de données, pas un problème d'architecture. « Procure-toi de meilleures données d'entraînement », disait-il. J'ai objecté : même avec des données parfaites, un modèle corrélationnel trouvera un proxy quelconque pour la taille, parce que la taille est corrélée à des dizaines d'autres caractéristiques. On ne peut pas débiaiser un système qui fonctionne fondamentalement par corrélation. Il faut changer la question que le système se pose.
On ne peut pas débiaiser un système qui fonctionne fondamentalement par corrélation. Il faut changer la question que le système se pose.
C'est à ce moment-là que nous nous sommes engagés dans l'IA causale. Au lieu de demander « Qui a été contracté auparavant ? », nos modèles causaux structurels demandent : « Les indicateurs de performance de ce fournisseur détenu par une minorité seraient-ils jugés supérieurs si nous retirions mathématiquement la variable confondante du volume historique ? » C'est du raisonnement contrefactuel — l'IA imagine un monde où les règles du jeu seraient équitables, et note les fournisseurs en fonction de ce monde-là.
La différence n'est pas marginale. C'est la différence entre un système qui perpétue l'exclusion et un système qui découvre activement des talents négligés. Et c'est la différence entre une chaîne d'approvisionnement fragile dépendante de trois méga-fournisseurs et une chaîne résiliente puisant dans un écosystème diversifié.
Que se passe-t-il lorsque 77 % de l'IA logistique est incapable de s'expliquer ?
Le biais dans les achats est une crise. Le déficit de transparence de la logistique en est une autre, et il est peut-être plus dangereux parce qu'il reste invisible jusqu'à ce que quelque chose casse.
Voici le chiffre qui m'empêche de dormir : seuls 23 % des systèmes logistiques pilotés par l'IA offrent une véritable explicabilité de leurs décisions. Cela signifie que pour plus des trois quarts des opérations pilotées par l'IA — optimisation des tournées, allocation des stocks, prévision de la demande —, les humains aux commandes ne comprennent pas clairement pourquoi le système a formulé une recommandation précise.
J'ai parlé à un directeur de la chaîne d'approvisionnement qui l'a décrit à la perfection : « J'ai un investissement de 40 millions de dollars dans l'IA qui me donne des réponses que je ne peux pas contester et des explications que je ne peux pas comprendre. Quand il a raison, je passe pour un génie. Quand il a tort, je n'arrive même pas à comprendre ce qui s'est passé. »
Ce n'est pas seulement frustrant — c'est économiquement dévastateur. La mauvaise qualité des données et le manque de transparence font perdre aux entreprises entre 15 % et 25 % de leur chiffre d'affaires du fait d'erreurs systémiques dans la seule logistique amont. Et c'est la principale raison pour laquelle 42 % des dirigeants de la logistique lèvent le pied sur l'IA agentique — des systèmes autonomes capables d'exécuter des décisions sans validation humaine. On ne peut pas confier les clés à un agent autonome si l'on ne peut pas auditer ce qu'il fait.
Je le vois ainsi : le secteur de la logistique a construit une flotte de camions autonomes, mais a oublié d'y installer des pare-brise. Les camions vont peut-être dans la bonne direction. Simplement, vous ne pouvez pas voir où ils se dirigent.
Le piège stochastique — et pourquoi des « prompts plus malins » ne vous sauveront pas
On me contredit toujours à ce stade. « Ashutosh, vous ne pouvez pas simplement concevoir de meilleurs prompts ? Ajouter davantage de garde-fous ? Affiner le modèle ? »
Non. Et voici pourquoi.
Les grands modèles de langage sont, par leur nature mathématique, stochastiques — ils prédisent le prochain token probable d'une séquence à partir de motifs statistiques présents dans leurs données d'entraînement. Ils n'ont aucune notion de « vérité ». Ils ne raisonnent pas logiquement. Ils produisent du texte statistiquement plausible, ce qui est très différent d'un texte correct.
Un LLM peut répondre correctement à un millier de questions sur les règles d'achat, puis halluciner une clause de remise inexistante à la mille-et-unième. Le taux d'hallucination dans les domaines à fort enjeu se situe entre 1,5 % et 6,4 %. Cela paraît faible jusqu'à ce que vous réalisiez qu'environ une décision critique sur vingt pourrait reposer sur des informations fabriquées.
Le prompt engineering — l'art de rédiger des instructions astucieuses pour orienter le modèle — revient à planter un panneau au bord d'une rivière pour lui demander de couler vers l'amont. Le panneau peut fonctionner quand le courant est faible. Mais dès que les conditions changent — une requête inhabituelle, un utilisateur malveillant, un glissement subtil de contexte —, l'eau va là où la physique le dicte.
Le chatbot de Chevrolet avait des garde-fous. Il avait un prompt système lui disant d'être serviable tout en restant dans les limites des politiques du concessionnaire. Un utilisateur créatif a tout contourné en moins de cinq minutes. Parce qu'au niveau architectural, le prompt système et le prompt utilisateur ne sont que… du texte. Le modèle les traite comme un bloc unique. Il n'existe aucune séparation structurelle entre les « règles » et la « conversation ».
Le prompt engineering revient à planter un panneau au bord d'une rivière pour lui demander de couler vers l'amont. Ça marche jusqu'à ce que ça ne marche plus — et dans l'IA d'entreprise, « jusqu'à ce que ça ne marche plus » peut coûter des millions.
Ce que nous construisons réellement à la place
Lorsque j'ai fondé Veriprajna, j'ai choisi ce nom délibérément — « Veri », du latin pour vérité, « Prajna », du sanskrit pour sagesse. Non pas parce que je voulais un nom de marque astucieux, mais parce que ces deux concepts définissent l'architecture technique en laquelle nous croyons : des systèmes vérifiablement corrects et contextuellement sages.
Nous appelons notre approche l'architecture neuro-symbolique, et l'idée centrale est d'une simplicité trompeuse : ne jamais laisser le modèle de langage être le décideur final.
Voici comment cela fonctionne en pratique. Lorsque notre moteur neuronal propose une réponse — par exemple, une recommandation de fournisseur ou un itinéraire logistique —, cette sortie passe par une couche de vérification symbolique avant d'atteindre qui que ce soit. Cette couche interroge un graphe de connaissances contenant la véritable source de vérité de l'entreprise : contrats juridiques, bases de données tarifaires, spécifications d'ingénierie, exigences réglementaires. Chaque affirmation produite par la couche neuronale est confrontée à des preuves tangibles.
Si le modèle tente d'halluciner un avantage fournisseur qui n'existe pas dans le graphe des contrats, le validateur symbolique le détecte. Pas parfois. À chaque fois. L'architecture rend l'hallucination structurellement impossible pour les faits ancrés — nous atteignons 100 % de précision dans l'extraction de données, contre 63–95 % pour des modèles utilisés seuls, comme GPT-4.
Nous mettons également en œuvre ce que nous appelons des garde-fous constitutionnels — et c'est là que cela devient intéressant. Les surcouches traditionnelles tentent d'empêcher les mauvaises sorties à l'aide d'instructions textuelles. Nous empêchons les mauvaises sorties par décodage contraint, où la sortie du modèle est mathématiquement restreinte à un schéma ou à une ontologie de domaine précis. Dans le contexte des achats, l'IA est littéralement incapable de produire un score de fournisseur qui viole la constitution d'équité de l'entreprise. La couche de décodage rejette toute séquence de tokens introduisant un biais illicite. Ce n'est pas une suggestion faite au modèle. C'est une contrainte physique sur ce qu'il peut dire.
Pour le détail technique complet de l'interaction entre ces couches — les graphes de connaissances, les modèles d'IA causale, le décodage contraint —, voir notre analyse technique approfondie.
Là où cela devient concret : usines, fermes et fraude
Je veux vous emmener dans trois endroits où la différence entre « IA de surcouche » et « IA profonde » n'a rien d'académique — elle est physique.
Dans l'atelier de production, un système d'inspection par IA hébergé dans le cloud subit 800 millisecondes de latence. Cela semble rapide jusqu'à ce que vous réalisiez qu'un convoyeur avançant à 2 mètres par seconde a déjà emporté la pièce défectueuse 1,6 mètre au-delà du point d'inspection. Nos modèles edge-native, déployés directement sur le matériel de la ligne de production, répondent en 12 millisecondes — une réduction de 98,5 %. Nous faisons même tourner des modèles acoustiques sur des microcontrôleurs spécialisés qui détectent la signature spectrale d'un roulement défaillant en 5 millisecondes, déclenchant un arrêt d'urgence physique avant que la machine ne se détruise. Je me souviens de la première fois où nous l'avons démontré à un directeur d'usine en conditions réelles. L'alarme de défaut de roulement s'est déclenchée avant même que le capteur de vibrations n'enregistre une anomalie. Il a fixé l'affichage un long moment et a dit : « Ce n'est pas de l'IA. C'est un sixième sens. » C'était la première fois que j'avais le sentiment que nous avions franchi la frontière entre le logiciel et quelque chose qui comprenait véritablement la physique du problème.
Dans l'agriculture, les caméras standard ne peuvent pas voir ce qui tue les cultures avant qu'il ne soit trop tard. Nous construisons des architectures neuronales sur mesure qui traitent des données hyperspectrales — plus de 200 bandes de lumière au-delà de ce que l'œil humain peut détecter. En modélisant les interférences atmosphériques puis en les retirant par le calcul, nous pouvons identifier des carences nutritionnelles ou des infestations de ravageurs des jours avant qu'elles ne soient visibles, permettant une réduction de 60 % des coûts de prévisualisation.
Dans l'assurance, nous remplaçons la classification d'images générique par une vision par ordinateur forensique : segmentation sémantique pour identifier les contours exacts des dommages au pixel près, estimation monoculaire de profondeur pour calculer le volume d'une bosse sans scanner 3D, et analyse des réflexions spéculaires pour détecter les photos truquées. L'IA ne devine pas si un sinistre est frauduleux. Elle vous montre la physique qui explique pourquoi les motifs lumineux de l'image sont incohérents.
Comment savoir si votre architecture d'IA est défaillante ?
Il y a une question qu'on me pose dans presque chaque briefing exécutif, généralement formulée avec un mélange de scepticisme et d'inquiétude sincère : « Nous avons déjà investi des millions dans notre pile d'IA actuelle. Comment savoir si c'est réellement un problème ? »
Voici ma réponse honnête : si votre système d'IA est incapable de vous dire pourquoi il a pris une décision précise, avec des citations vers des données précises, c'est un problème. Si les indicateurs de diversité fournisseurs de votre IA d'achats ne se sont pas améliorés depuis son déploiement, c'est un problème. Si vos équipes opérationnelles ont développé des solutions de contournement — des tableurs qu'elles tiennent à jour en parallèle du système d'IA, « au cas où » —, c'est un problème.
Les contournements sont le signe qui ne trompe pas. Je suis entré dans des organisations où le tableau de bord de l'IA est sur un écran et le tableur « réel » d'aide à la décision sur l'autre. Personne n'en parle ouvertement. Mais cela veut dire que l'équipe ne fait pas confiance au système — et elle a raison.
Autre question que j'entends : « N'est-ce pas simplement une question de maturité ? Les modèles ne vont-ils pas s'améliorer ? » Ils progresseront en matière de langage. Ils ne progresseront pas en matière de vérité. Un LLM plus puissant devine de façon plus convaincante, pas de façon plus fiable. C'est l'architecture qui doit changer.
L'effondrement de Sports Illustrated et ce qu'il en coûte de se tromper
Je garde une capture d'écran sur mon bureau, en guise de rappel. Elle date de novembre 2023, quand Sports Illustrated — une institution médiatique vieille de 70 ans — a été surpris à publier des articles sous de fausses signatures générées par IA. Des noms comme « Drew Ortiz », avec photos de profil fabriquées et biographies inventées. Le contenu était robotique, tautologique, et publié sans la moindre couche de vérification.
Le résultat : un effondrement de 27 % du cours de l'action en une seule journée. Révocation de licence. Licenciements massifs. Une marque historique, éviscérée.
Le LLM a fait exactement ce que font les LLM — il a complété des motifs. Une biographie d'auteur est une composante statistiquement probable d'un test produit, alors le modèle en a généré une. Une photo de profil accompagne une bio d'auteur, alors quelqu'un en a généré une aussi. Personne n'avait construit un système capable de demander : « Cette personne existe-t-elle ? Ce contenu est-il factuellement vérifié ? Pouvons-nous remonter chaque affirmation jusqu'à une source ? »
Voilà le coût de l'Illusion de la surcouche à grande échelle. Pas un incident de chatbot amusant. Une extinction d'entreprise.
Pourquoi ne pas simplement continuer à utiliser l'API ?
Il y a une dernière dimension dont la plupart des fournisseurs d'IA ne veulent pas parler : la souveraineté des données.
Quand votre entreprise dépend d'une API tierce — OpenAI, Google, Anthropic —, vous louez une intelligence que vous ne contrôlez pas. Vous n'avez aucune visibilité sur les données d'entraînement du modèle. Vous n'êtes pas averti quand le fournisseur met à jour les poids, ce qui peut modifier silencieusement le comportement de votre système (c'est ce qu'on appelle la dérive de modèle, et c'est un cauchemar pour les secteurs réglementés). Vous n'avez aucune garantie que vos données propriétaires — secrets industriels, informations clients, veille concurrentielle — ne sont pas traitées sur une infrastructure que vous ne pouvez pas auditer.
Nous déployons des modèles d'entreprise souverains sur l'infrastructure même de nos clients. Aucune donnée ne quitte le pare-feu. Aucune dépendance externe. Un contrôle complet du cycle de vie, y compris un fine-tuning sur mesure sur des ontologies propriétaires et des contraintes réglementaires.
C'est plus coûteux au départ qu'un abonnement à une API. C'est infiniment moins coûteux qu'une violation de données, une sanction réglementaire, ou la découverte que le comportement de votre IA a changé parce qu'un fournisseur à San Francisco a poussé une mise à jour un mardi après-midi.
La fenêtre de 18 mois
Voici où je vais être direct, parce que je pense que le calendrier compte.
Les organisations qui passeront à des architectures d'IA déterministes en 2026 disposeront d'une fenêtre de 12 à 18 mois de véritable différenciation concurrentielle. Après quoi, cette approche deviendra un prérequis — l'attente minimale pour l'IA d'entreprise dans les secteurs réglementés.
Le biais d'achats de 3,5:1 ne va pas se corriger tout seul. Le taux d'explicabilité de 23 % ne s'améliorera pas grâce à de meilleurs prompts. Le problème des hallucinations ne disparaîtra pas avec la prochaine génération de modèles. Ce sont des défaillances architecturales, et elles exigent des solutions architecturales.
Je ne dis pas que chaque entreprise doit construire ce que nous avons construit. Je dis que chaque entreprise doit comprendre ce qu'elle a réellement acheté. Ouvrez le capot. Demandez à votre fournisseur : où est la couche de vérification ? Où est le graphe de connaissances ? Que se passe-t-il quand le modèle hallucine — y a-t-il une contrainte structurelle, ou juste un prompt qui dit « merci de ne pas halluciner » ?
Si la réponse est un prompt, vous n'avez pas de système d'IA. Vous avez une boîte à idées très coûteuse.
Si la réponse de votre fournisseur d'IA à « comment empêchez-vous les hallucinations ? » est un meilleur prompt, vous n'avez pas de système d'IA. Vous avez une boîte à idées très coûteuse.
L'ère de l'IA d'entreprise probabiliste touche à sa fin — non pas parce que les modèles ne sont pas impressionnants, mais parce qu'impressionnant n'est pas synonyme de fiable, et qu'en entreprise, la fiabilité est la seule chose qui compte. Nous ne construisons pas une IA qui a l'air d'avoir raison. Nous construisons une IA qui a raison, et qui peut le prouver.
Ce n'est pas un argument de vente. C'est une exigence d'ingénierie. Et les entreprises qui le comprendront les premières seront celles qui tiendront encore debout quand les surcouches s'effondreront.
