Toutes les IA se sont trompées sur la même question fiscale — et personne ne l'a remarqué avant de vérifier la loi

C'était un mardi soir, et je fixais trois onglets de navigateur — ChatGPT, Claude, Gemini — qui me disaient tous la même chose. Tous les trois avaient tort.

La question était pourtant simple : en vertu de la nouvelle loi Omnibus Budget Reconciliation Act, un contribuable peut-il déduire les intérêts d'un prêt automobile personnel ? Tous les modèles ont répondu oui. Chaque modèle expliquait correctement la disposition — les dates, les critères d'éligibilité du véhicule, et même les plafonds de revenus. Et chaque modèle plaçait la déduction dans la mauvaise section du code fiscal, ce qui rendait les conseils financiers en aval totalement erronés.

Pas légèrement imprécis. Pas « eh bien, tout dépend de l'interprétation ». Juste faux. Le genre d'erreur qui, si un expert-comptable la suivait, déclencherait un contrôle fiscal de l'IRS. Le genre d'erreur qui pourrait coûter à un retraité des milliers de dollars en surcharges imprévues de primes Medicare. Et le plus terrifiant ? Si vous ne connaissiez pas déjà la réponse, vous ne vous en rendriez jamais compte. L'IA semblait irréprochable.

Ce moment a changé ma vision de l'IA dans le domaine de la conformité. Non pas parce que j'étais surpris qu'un modèle de langage hallucine — nous savons tous que cela arrive. Ce qui m'a bouleversé, c'est que tous les trois ont halluciné exactement de la même manière, pour exactement la même raison. Ils avaient appris la mauvaise réponse sur Internet, et Internet était si uniformément erroné qu'il ne restait aucun signal permettant aux modèles de s'autocorriger.

Nous avons commencé à appeler ce phénomène l'erreur de consensus. Et une fois que nous l'avons comprise, nous ne pouvions plus l'ignorer.

Qu'est-ce que l'erreur de consensus, et pourquoi devriez-vous vous en soucier ?

La plupart des personnes qui travaillent avec l'IA connaissent bien les hallucinations — ces moments où un modèle invente une citation, fabrique une statistique ou affirme avec assurance quelque chose de faux. Elles sont inquiétantes, mais elles sont aussi relativement aléatoires. On peut souvent les repérer parce qu'elles semblent suspectes, ou parce qu'une simple recherche sur Google révèle l'invention.

L'erreur de consensus est différente. C'est ce qui se produit lorsqu'une IA vous donne une mauvaise réponse non pas par manque de données, mais parce que les données sur lesquelles elle a été entraînée sont massivement et assurément incorrectes. Le modèle ne devine pas à l'aveugle. Il vous renvoie l'opinion majoritaire d'Internet — et cette opinion majoritaire se révèle juridiquement fausse.

Quand Internet lui-même est dans l'erreur, chaque IA entraînée dessus hérite de la même illusion. L'erreur de consensus n'est pas un bug — c'est une caractéristique inhérente à la manière dont les modèles de langage apprennent.

Pensez un instant à la logique mathématique. Si 90 % des articles sur le web concernant une disposition fiscale donnée la décrivent de manière incorrecte — en simplifiant à l'excès le langage, en confondant deux sections distinctes du code ou simplement en recopiant les erreurs des uns et des autres —, alors les poids internes du modèle convergent vers la mauvaise réponse avec un niveau de confiance élevé. Même si le texte de loi réel figure dans les données d'entraînement, il n'apparaît qu'une ou deux fois dans un jargon juridique dense, tandis que l'interprétation erronée apparaît des milliers de fois dans une prose accessible et optimisée pour le SEO.

Le modèle fait exactement ce pour quoi il a été conçu : prédire le prochain token le plus probable. Et le token le plus probable se trouve être le mauvais.

La déduction pour prêt automobile qui a piégé trois IA

Laissez-moi vous expliquer ce cas précis, car les détails ont toute leur importance.

L'OBBBA a créé une nouvelle catégorie intitulée « Qualified Passenger Vehicle Loan Interest » — une déduction temporaire pour les intérêts payés sur les prêts de véhicules de tourisme neufs assemblés aux États-Unis, disponible pour les années fiscales 2025 à 2028. Jusqu'ici, tout va bien. Chaque IA a correctement restitué cette partie.

Voici où tout s'effondre. La déduction a été ajoutée à l'IRC Section 63, qui régit le revenu imposable. Elle n'a pas été ajoutée à l'IRC Section 62, qui régit le revenu brut ajusté (AGI). En fiscalité, cette distinction change absolument tout.

Une déduction de la Section 62 — « au-dessus de la ligne » — réduit votre AGI. Votre AGI détermine votre éligibilité à des dizaines d'autres avantages : plans de remboursement de prêts étudiants, seuils de déduction des frais médicaux, imposition des prestations de sécurité sociale, surcharges de primes Medicare. Réduisez votre AGI, et vous déclenchez une cascade d'économies en aval.

Une déduction de la Section 63 — « en dessous de la ligne » — réduit votre revenu imposable. Elle vous fait toujours économiser de l'argent sur votre impôt fédéral, mais elle n'a aucun impact sur votre AGI. Aucun de ces avantages en aval n'est affecté.

Tous les principaux LLM ont affirmé aux utilisateurs que cette déduction réduirait leur AGI. Absolument tous. Parce que c'est ce que disait l'écosystème de contenu financier. Des guides explicatifs largement partagés et des articles optimisés pour le SEO titraient « Les intérêts de prêt auto sont désormais déductibles ! » sans préciser où elle s'appliquait dans le calcul fiscal. La distinction entre la Section 62 et la Section 63 est manifestement trop rébarbative pour les créateurs de contenu en quête de clics.

Mais pour le contribuable qui suit ce conseil ? Les conséquences sont bien réelles.

Un retraité qui déclare à tort un AGI inférieur pourrait faire face à des surcharges IRMAA imprévues sur Medicare. Un emprunteur soumis à un plan de remboursement de prêt étudiant fondé sur le revenu pourrait perdre son éligibilité à des mensualités réduites. Un contribuable dans un État comme l'Arizona, qui aligne son impôt sur le revenu sur l'AGI fédéral, pourrait subir un contrôle fiscal d'État. J'ai détaillé l'ensemble de cette cascade de conséquences financières dans la version interactive de nos recherches — les répercussions sont bien plus graves que la plupart des gens ne le supposent.

Pourquoi le RAG n'a-t-il pas résolu ce problème ?

J'entends déjà l'objection : « Il suffit d'utiliser le RAG. Récupérez le texte de loi exact, et le problème est réglé. »

Nous avons essayé. Cela n'a rien résolu.

La génération augmentée par récupération (Retrieval-Augmented Generation) — cette technique qui consiste à injecter des documents pertinents dans la fenêtre de contexte du modèle aux côtés de la question de l'utilisateur — constitue la réponse actuelle de l'industrie aux hallucinations. Et pour de nombreux cas d'usage, cela aide. Mais pour le raisonnement juridique, elle présente trois faiblesses structurelles qui sont immédiatement apparues lors de nos tests.

Premièrement, une loi fiscale ne se lit pas comme un récit. L'OBBBA ne dit pas « ceci est une déduction en dessous de la ligne ». Elle stipule que « la Section 163(h) est modifiée en insérant après le paragraphe (3) le nouveau paragraphe suivant... ». Le modèle doit reconstituer l'état logique du code fiscal à partir d'une série d'amendements. Lorsque le fragment récupéré indique « déduction autorisée » sans préciser explicitement sa position dans le flux de calcul, le modèle comble le vide avec son biais d'entraînement — les articles de blog.

Deuxièmement, la recherche vectorielle trouve ce qui est similaire, et non ce qui est pertinent par omission. Une requête sur les déductions de prêts automobiles récupère des paragraphes sur les déductions de prêts automobiles. Elle ne récupère pas le paragraphe de la Section 62 qui définit l'AGI — parce que ce paragraphe ne mentionne pas les prêts automobiles. Il les exclut simplement en ne les énumérant pas. En droit, l'absence d'un élément dans une liste a une valeur juridique. Dans la recherche par similarité vectorielle, l'absence est invisible.

Troisièmement — et c'est ce point qui m'empêche de dormir —, le RAG résout la récupération, pas le raisonnement. Vous pouvez placer le bon texte de loi sous les yeux du modèle, il continuera à l'interpréter de travers si ses poids internes sont biaisés par des millions d'exemples d'entraînement incorrects. Il devient un lecteur partial, qui voit ce qu'il s'attend à voir plutôt que ce que le texte dit réellement.

Le RAG place le bon document devant l'IA. Mais un lecteur partial muni du bon livre aboutit toujours à la mauvaise conclusion.

Après des semaines passées à tester différentes stratégies de récupération, tailles de fragments et configurations de prompts, mon équipe a eu un débat qui a tout clarifié. L'un de nos ingénieurs voulait continuer à perfectionner le pipeline RAG — de meilleurs plongements (embeddings), un découpage plus précis, des instructions explicites d'« utiliser uniquement le texte récupéré ». Notre conseillère juridique l'a regardé et lui a dit : « Tu essaies de fabriquer de meilleures lunettes pour quelqu'un qui ne sait pas compter. » Elle avait raison. Le problème n'était pas ce que le modèle pouvait voir. C'était ce sur quoi le modèle pouvait raisonner.

Que se passe-t-il quand l'IA interprète mal la loi ?

Le cas de l'OBBBA comporte également des règles d'extinction progressive qui aggravent le problème. La déduction est plafonnée à 10 000 $ par an et réduite de 200 $ pour chaque tranche de 1 000 $ de revenu dépassant 100 000 $ (déclarants célibataires) ou 200 000 $ (déclaration conjointe). À 150 000 $ ou 250 000 $ respectivement, la déduction disparaît totalement.

Lorsque nous avons testé cela avec un contribuable hypothétique gagnant 125 000 $, les modèles ont peiné. Certains ont totalement ignoré l'extinction progressive. D'autres ont appliqué une courbe de réduction empruntée au Child Tax Credit — une disposition totalement différente assortie d'une logique mathématique distincte. Les modèles effectuaient de la reconnaissance de formes sur des structures familières au lieu de calculer la règle réelle.

C'est le problème de l'« hallucination arithmétique » qui se superpose à l'erreur de consensus. Le modèle ne se trompe pas seulement sur le cadre juridique — il se trompe aussi dans les calculs. Et lorsque vous compressez ces modèles par quantification pour un déploiement efficace, les capacités de raisonnement se dégradent plus vite que les capacités linguistiques. Le modèle paraît plus sûr de lui tout en devenant moins précis. C'est une combinaison dangereuse dans n'importe quel domaine. En matière de conformité fiscale, c'est un risque majeur.

Il existe une autre dimension qui échappe totalement à la plupart des gens. L'OBBBA a également créé la Section 6050AA, qui impose de nouvelles obligations déclaratives aux prêteurs. Toute entreprise recevant 600 $ ou plus d'intérêts sur un prêt de véhicule admissible doit déposer une déclaration de renseignements auprès de l'IRS. Lorsque nous avons demandé aux modèles ce que les banques et les coopératives de crédit devaient faire face à cette nouvelle loi, ils se sont concentrés presque exclusivement sur la déduction de l'emprunteur — parce que c'est ce dont parlait l'écosystème de contenu. L'obligation de conformité du prêteur a été à peine remarquée. Pour une entreprise de fintech utilisant l'IA pour résumer les évolutions réglementaires, une telle omission pourrait entraîner une non-conformité systématique et des sanctions en vertu des sections 6721 et 6722 de l'IRC.

L'architecture qui fonctionne réellement

Après la débâcle du prêt automobile, j'ai passé un mois convaincu que toute l'approche consistant à utiliser des modèles de langage pour la conformité était fondamentalement défaillante. Puis nous avons construit quelque chose qui m'a fait changer d'avis — non pas sur les LLM, mais sur la manière dont ils doivent être utilisés.

L'intuition était simple, une fois découverte : cessez de demander à l'IA de raisonner sur le droit. Laissez-la faire ce pour quoi elle est douée — comprendre le langage — et confiez le raisonnement à un système véritablement capable de faire de la logique.

C'est l'idée fondamentale derrière l'IA neuro-symbolique : une architecture hybride qui associe l'aisance linguistique des réseaux de neurones à la rigueur déterministe des systèmes de logique symbolique. Nous avons construit ce que nous appelons un Deterministic Tax Engine, et il fonctionne en trois étapes.

La première étape est l'Intent Parser. C'est ici que réside le LLM, accomplissant ce que les LLM font de mieux. Un utilisateur téléverse une facture, pose une question ou connecte un flux bancaire. La couche neuronale extrait des entités structurées : type de véhicule, date d'achat, montant du prêt, lieu d'assemblage, revenu du contribuable. Elle ne prend aucune décision sur le traitement fiscal. Elle se contente de traduire la réalité humaine complexe en données nettes et structurées.

La deuxième étape est le Truth Anchor. C'est ici que la couche symbolique prend le relais. Nous encodons le code fiscal — non pas comme un texte à « lire », mais comme une logique exécutable à l'aide de langages spécialisés comme Catala (développé par l'INRIA pour l'administration fiscale française) et PROLEG (un système de raisonnement juridique basé sur Prolog). Le texte de loi devient un programme. Le Truth Anchor interroge un Knowledge Graph, applique les règles encodées, vérifie les faits manquants et calcule le résultat déterministe. Si le véhicule a été assemblé au Mexique, la déduction est refusée. Si le revenu dépasse le seuil d'extinction, la réduction est calculée au centime près. Aucune probabilité. Aucune approximation.

La troisième étape est le Response Generator. Une autre couche neuronale, mais contrainte. Elle reçoit la sortie du solveur logique — « Déduction : REFUSÉE. Motif : Seuil d'extinction dépassé au niveau de revenu de 135 000 $ » — et la traduit en un langage clair et lisible par un humain. Le LLM rend la réponse lisible. Il dispose d'une liberté nulle pour rendre la réponse différente.

Nous ne demandons pas à l'IA de deviner la loi. Nous lui apprenons à calculer la loi. La couche neuronale gère le langage. La couche symbolique gère la vérité. Aucune des deux ne tente de faire le travail de l'autre.

Ce découplage est précisément ce qui élimine l'erreur de consensus. La couche neuronale peut « savoir », d'après son entraînement, que les sites financiers populaires affirment que les intérêts de prêt automobile réduisent l'AGI. Mais on ne lui demande jamais de prendre cette décision. On lui demande seulement d'extraire les détails du véhicule. La décision appartient à la couche symbolique, qui n'a aucun accès à Reddit — uniquement au texte de loi encodé.

Pour l'architecture technique complète et l'analyse formelle, notamment sur la manière dont Catala gère la logique d'exception par défaut et dont l'Answer Set Programming vérifie la cohérence sur l'ensemble d'une déclaration fiscale, nous avons publié un document de recherche détaillé.

Pourquoi cet enjeu dépasse-t-il une simple déduction fiscale ?

Je vais être franc sur un point. Quand j'ai commencé à expliquer l'erreur de consensus autour de moi, la réaction la plus fréquente était : « D'accord, mais c'est un cas particulier extrême. La plupart du temps, l'IA a raison. »

Cette réponse méconnaît la nature même du problème. La déduction pour prêt automobile de l'OBBBA n'a rien d'exceptionnel. Elle est typique. Chaque fois que le Congrès adopte une nouvelle disposition, l'écosystème de contenu génère des milliers d'interprétations simplifiées, parfois incorrectes, avant même que l'IRS ne publie ses directives. Chaque fois qu'un État se désolidarise du traitement fiscal fédéral, Internet tarde à s'adapter. Chaque fois qu'une décision de justice modifie l'interprétation d'un texte de loi existant, l'ancienne interprétation persiste dans les données d'entraînement pendant des années.

L'erreur de consensus n'est pas un cas marginal. C'est l'état par défaut de tout domaine du droit complexe, récemment modifié ou mal compris par des rédacteurs généralistes. C'est-à-dire : la majeure partie du droit fiscal.

L'implication plus large concerne ce que nous attendons de l'IA dans des domaines à fort enjeu. Le paradigme actuel — donner au LLM plus de contexte, de meilleurs prompts, des fenêtres plus larges — n'est qu'une amélioration incrémentale sur une architecture fondamentalement inadaptée. Vous demandez à un moteur de reconnaissance de formes d'effectuer un raisonnement formel. Parfois, il a de la chance. En matière de conformité fiscale, « parfois » ne suffit pas.

De la boîte noire à la boîte de verre

Il y a une autre chose qui importe énormément à quiconque s'est déjà retrouvé face à un auditeur : la traçabilité.

Lorsqu'un LLM standard répond à un contribuable « oui, vous pouvez déduire cela », et que l'IRS s'y oppose par la suite, quelle est la piste d'audit ? Le modèle a prédit que « oui » était le prochain token le plus probable compte tenu du contexte. Ce n'est pas une réponse que l'on peut présenter à un contrôleur fiscal.

Dans notre moteur neuro-symbolique, chaque décision produit un chemin dans le graphe :

Deduction_Allowed = True car Loan_Date est compris dans la période 2025–2028 (vérifié), Vehicle_Type est Passenger (vérifié), Assembly_Location est US (vérifié), Income est inférieur au seuil d'extinction (vérifié), Rule_Reference est IRC § 163(h)(4).

Chaque nœud de cette chaîne est auditable. Chaque fait peut être relié à un document source. Chaque règle peut être rattachée à une section précise du code. Si un élément change — une nouvelle directive de l'IRS, une disposition modifiée —, vous mettez à jour le Knowledge Graph et le solveur logique, et chaque décision concernée est automatiquement signalée pour réexamen.

Cela transforme l'IA : au lieu de devoir lui faire confiance aveuglément, vous pouvez la vérifier à la demande. On me demande souvent si cette approche est plus lente ou plus coûteuse que le simple recours à un LLM. La réponse honnête : l'encodage initial du texte de loi demande un véritable travail. Mais une fois encodé, l'exécution d'une décision est quasi instantanée, et le coût de vérification de 100 % des transactions approche celui de la vérification de 1 %. Ce n'est pas une amélioration marginale par rapport aux audits traditionnels par échantillonnage. C'est une toute autre catégorie d'assurance.

La question que personne ne pose encore

Voici ce qui me préoccupe le plus. Le secteur des services financiers se précipite pour déployer des assistants IA, des outils d'établissement de déclarations fiscales par IA, des contrôleurs de conformité par IA. Le marketing vante des solutions « alimentées par l'IA ». Les petits caractères précisent « ne constitue pas un conseil fiscal ». Et entre les deux, des millions de personnes reçoivent des réponses qui semblent faire autorité, citent de véritables lois, mentionnent des dates réelles et des montants précis en dollars — tout en plaçant la déduction dans la mauvaise section du code fiscal.

Nous ne sommes pas dans un monde où l'IA se trompe de manière évidente et où les humains peuvent s'en apercevoir. Nous sommes dans un monde où l'IA se trompe de manière subtile, selon des schémas dont la détection exige une expertise sectorielle approfondie. C'est bien plus dangereux qu'un échec flagrant, car cela étouffe l'instinct de vérification.

La question n'est pas de savoir si l'IA doit être utilisée dans la conformité fiscale. Elle le doit absolument — la complexité du code a dépassé la capacité humaine à l'appliquer de manière cohérente. La question est de savoir si nous sommes prêts à concevoir des systèmes d'IA qui respectent la nature même du domaine dans lequel ils opèrent. Le droit fiscal est déterministe. Il comporte des réponses justes et des réponses fausses, définies par la loi et non par l'opinion publique. Une architecture qui traite la vérité juridique comme une distribution de probabilités restera toujours vulnérable à l'erreur de consensus, quelle que soit la taille du modèle ou l'ingéniosité du prompt.

En droit fiscal, la popularité n'est pas un gage de vérité. Une réponse répétée dix mille fois sur Internet n'est pas plus exacte que le texte de loi qui la contredit une seule fois.

Nous avons créé Veriprajna parce que je suis convaincu que l'ère de la « confiance avec vérification » est déjà révolue pour l'IA en matière de conformité. Les systèmes qui gagneront la confiance des entreprises seront ceux qui vérifient d'abord et s'expriment ensuite — ceux dont la logique est auditable, les calculs déterministes et la confiance de l'IA étayée par un fondement bien plus solide que la simple probabilité des tokens.

La loi ne se soucie pas de ce que pense Internet. Votre IA ne devrait pas s'en soucier non plus.