Onze mots dans un rapport annuel peuvent désormais constituer une fraude sur valeurs mobilières
La première fois que j'ai vraiment compris l'AI washing, je fixais un seul paragraphe du rapport annuel d'une entreprise. Onze mots, quelque chose comme « notre plateforme pilotée par l'IA analyse le risque en temps réel ». Une phrase nette, assurée. Le genre de ligne qu'une équipe marketing rédige en cinq minutes et qu'un PDG approuve sans sourciller.
Puis j'ai demandé aux ingénieurs quel modèle produisait cette analyse, sur quelles données il tournait, et où, dans le flux de décision, il se déclenchait réellement. La salle est devenue silencieuse. Non pas parce qu'ils cachaient quoi que ce soit. Parce que personne n'avait jamais relié cette phrase à un système. L'affirmation vivait dans le dépôt réglementaire. Le système vivait en production. Et il n'y avait rien entre les deux — aucun document, aucune cartographie, aucune preuve — pour les relier.
Cet écart, c'est toute l'histoire. L'AI washing n'est pas une histoire de mauvaise IA. C'est une histoire de distance entre ce que vous avez dit que votre IA fait et ce que votre IA fait réellement — et de votre capacité à combler cette distance sur demande. La SEC, la FTC et les procureurs généraux des États ont tous compris que c'est dans cet écart que se trouvent les dossiers. C'est chez Veriprajna que j'ai bâti notre pratique de vérification de l'IA et de lutte contre l'AI washing parce que je voyais sans cesse des entreprises découvrir l'écart seulement après l'arrivée de la lettre de l'examinateur.
Le jour où « votre IA fonctionne-t-elle » a cessé d'être la question
Je suis arrivé à cela par le travail de mise en application du droit des valeurs mobilières, le côté ingrat — l'assemblage des dossiers que les entreprises remettent à un examinateur lorsque la lettre de demande de documents arrive. Alors je lis chaque action pour AI washing comme je lisais un vieux dossier de fraude : qu'ont-ils dit, qu'ont-ils fait, et quel était l'écart entre les deux.
Le schéma est d'une constance brutale. Delphia et Global Predictions, les deux premiers règlements pour AI washing en mars 2024, ont payé au total 400 000 $ non pas parce que leur IA était mauvaise, mais parce que Delphia prétendait faire de l'investissement propulsé par l'apprentissage automatique qu'elle n'avait en réalité jamais intégré. Les données dont elle se vantait d'alimenter le modèle ? Elles n'ont jamais atteint le modèle.
Puis Presto Automation, janvier 2025 — la première affaire d'AI washing contre une société cotée. L'IA vocale de drive de Presto était présentée comme éliminant la prise de commande humaine. La SEC a constaté que plus de 70 % des commandes nécessitaient encore un humain, et dans certains établissements c'était 100 %. Le système était réel. Il ne faisait simplement pas ce que le marketing prétendait qu'il faisait.
Et puis Nate. En avril 2025, la SEC et le DOJ ont engagé des poursuites parallèles contre le fondateur de Nate Inc., qui avait levé plus de 42 millions de dollars sur la promesse d'une application de shopping propulsée par l'IA. Le taux d'automatisation réel était, selon les termes de la SEC, essentiellement nul — des centaines de sous-traitants aux Philippines effectuaient manuellement les achats que l'IA était censée gérer. Les charges du DOJ peuvent aller jusqu'à 20 ans. C'est l'affaire à laquelle je pense quand quelqu'un me dit que l'AI washing est une note de bas de page de divulgation marketing. Il y avait un communiqué de presse portant le nom d'un fondateur et, en dessous, une accusation pénale de fraude.
Chacune de ces affaires repose sur le même écart : ce que le dépôt réglementaire promettait, et ce que le système en production faisait réellement.
En février 2025, la SEC l'a rendu structurel : elle a mis sur pied une Cybersecurity and Emerging Technologies Unit dédiée au sein de la Division of Enforcement. Et ses priorités d'examen pour 2026 le disent clairement — les examinateurs « vérifieront l'exactitude des représentations des déclarants concernant leurs capacités en IA ». Cette phrase est une lettre de demande de documents qui n'attend que d'être postée.
Trois agences, une seule manœuvre
Ce qui m'a surpris, une fois que j'ai commencé à cartographier tout cela, c'est à quel point la théorie de mise en application varie peu d'une agence à l'autre. Elles appliquent toutes la même tactique : confronter l'affirmation à la réalité, puis exiger les preuves.
La FTC s'y est prise via l'article 5 du FTC Act — pratiques déloyales ou trompeuses — dans le cadre d'une opération baptisée Operation AI Comply, lancée en septembre 2024. DoNotPay, l'autoproclamé « premier avocat robot au monde », a conclu un règlement sur des affirmations qu'elle ne pouvait étayer. Workado présentait un outil de détection d'IA comme précis à 98 % ; les propres tests de la FTC ont situé la précision en conditions réelles autour de 53 %. À peu près un pile ou face, vendu comme une quasi-certitude. Le détail qui devrait effrayer tout directeur juridique est la théorie de l'instrumentalité de la FTC : la responsabilité descend toute la chaîne, du développeur du modèle de base à l'entreprise qui le déploie jusqu'à l'utilisateur final. Si vous reprenez le chiffre de précision d'un fournisseur dans vos propres documents, la FTC le traite comme votre affirmation — pas celle du fournisseur.
Je ne saurais trop insister là-dessus, car c'est le piège dans lequel je vois tomber des entreprises intelligentes. Vous prenez sous licence un modèle tiers, vous recopiez le benchmark du fournisseur dans votre 10-K ou votre présentation aux investisseurs, et vous supposez que ce chiffre appartient au fournisseur. Ce n'est pas le cas. Dès l'instant où il apparaît dans votre dépôt, c'est votre représentation, et « notre fournisseur nous l'a dit » n'est pas une justification indépendante.
Les États ont ajouté leurs propres outils. La loi de l'État de New York sur les compagnons IA prévoit des sanctions pouvant atteindre 15 000 $ par jour et par infraction. L'AI Act du Colorado, en vigueur le 30 juin 2026, exige des évaluations d'impact, la notification des consommateurs et un devoir de diligence raisonnable pour les systèmes à haut risque, à 20 000 $ par infraction. Le Responsible AI Governance Act du Texas, en vigueur depuis le 1er janvier 2026, confère au procureur général un large pouvoir de demande d'enquête civile à partir d'une seule plainte — une lettre de consommateur et la demande de documents est sur votre bureau. Et lorsque le gouvernement fédéral a évoqué l'idée de supplanter les lois des États sur l'IA, une coalition bipartite de 36 procureurs généraux d'États s'y est opposée. Quelle que soit la décision finale des tribunaux, les autorités n'attendent pas.
Même le barreau privé s'y est mis. Le Stanford Securities Class Action Clearinghouse a recensé 53 recours collectifs en valeurs mobilières liés à l'IA au premier semestre 2025, avec un règlement médian de 11,5 millions de dollars. L'un d'eux, Tucker v. Apple, déposé en juin 2025, allègue que les promesses d'Apple à la WWDC concernant Apple Intelligence ont incité les investisseurs à miser sur des fonctionnalités qui, selon la plainte, n'avaient aucun prototype fonctionnel. Une diapositive de keynote est devenue la pièce à conviction n° 1.
Pourquoi « nous avons une politique de gouvernance de l'IA » ne vous sauve-t-il pas ?
Voici le passage où je me suis trompé au début, et cela m'a coûté quelques mois à construire la mauvaise chose.
Quand j'ai commencé à concevoir pour cela, j'ai supposé que la réponse était la gouvernance — la catégorie que des plateformes comme Credo AI, watsonx.governance d'IBM, Holistic AI, OneTrust et Fiddler servent déjà bien. Nous avons construit vers une posture de gouvernance : politiques, inventaire d'IA, tableaux de bord, flux de supervision. J'ai présenté une première version à une responsable conformité d'une entreprise de taille moyenne et j'en étais satisfait. Elle m'a laissé terminer, puis a posé la seule question qui comptait : lorsqu'un examinateur exigerait la preuve qu'une affirmation précise était vraie, sur quel bouton était-elle censée appuyer ?
Il n'y avait pas de bouton. Il n'y avait pas de document. Ce que j'avais construit lui disait qu'elle devait documenter ses systèmes. Cela ne contenait pas la documentation. J'avais construit une chose qui pointait vers l'écart au lieu de le combler. C'est cet échec qui a redéfini toute l'entreprise pour moi.
La gouvernance vous dit que vous devriez documenter votre IA. La justification, c'est la documentation elle-même — testée, datée et prête pour un examinateur qui la découvre à froid.
Les plateformes de gouvernance sont bonnes dans ce qu'elles font. Elles surveillent, elles inventorient, elles appliquent les politiques. Mais il existe une couche en dessous d'elles que presque personne ne construit : la véritable chaîne de preuves qu'un examinateur de la SEC ou un procureur général d'État demande à voir. C'est l'écart autour duquel j'ai reconstruit la pratique.
Que vous demande réellement de produire un examinateur ?
Quand je me suis assis pour définir ce que nous allions livrer, je ne suis pas parti d'un cahier des charges produit. Je suis parti de la liste « veuillez produire » — la demande de documents littérale que contient une lettre de mise en application — et j'ai remonté à rebours. Un dossier de justification défendable, ce que nous construisons désormais, comporte quelques éléments porteurs.
Cela commence par une cartographie affirmation-système : chaque affirmation publique sur l'IA — du 10-K, du site web, des communiqués de presse, du pitch deck — reliée au modèle spécifique, au pipeline de données et au point de décision qui la concrétise. Quand un dépôt dit « analyse de risque pilotée par l'IA », la cartographie nomme quel modèle, quelles données, quelle décision. C'est l'artefact qui aurait sauvé Delphia, car il impose la question « cette affirmation est-elle réellement câblée à un système ? » avant qu'un régulateur ne la pose.
Ensuite, un dossier de preuves techniques — architecture, méthodologie d'entraînement et benchmarks de performance mesurés par rapport à la métrique exacte que vous avez revendiquée. Testés, pas théoriques. Si vos documents affichent un chiffre, le dossier montre le test qui l'a produit selon une méthodologie en conditions réelles, pas une démonstration triée sur le volet. Workado est le contre-exemple édifiant : 98 % dans la brochure, 53 % au test.
Ensuite, la validation opérationnelle, c'est là que Presto a sombré. Le système existait. Ce qui manquait, c'était la preuve que l'IA pilotait réellement les décisions décrites par le marketing, plutôt que de fonctionner aux côtés d'humains qui faisaient le vrai travail. Prouver la réalité opérationnelle est plus difficile que prouver qu'un modèle existe, et c'est exactement ce que les examinateurs sondent désormais.
Sous tout cela se trouve un AIBOM — une AI Bill of Materials (nomenclature d'IA), un inventaire lisible par machine de chaque composant : traçabilité des données d'entraînement, versions de modèles, dépendances tierces, infrastructure. Les normes existent enfin pour le faire correctement ; SPDX 3.0 a ajouté un profil IA en octobre 2024 et CycloneDX 1.6 prend en charge les nomenclatures d'apprentissage automatique, avec le projet OWASP AIBOM qui fait avancer l'outillage. La vérité honnête, c'est que la plupart des entreprises suivent encore cela aujourd'hui dans un tableur qui devient obsolète dès qu'un modèle est réentraîné. J'ai ouvert des fiches de modèle portant un numéro de version en retard de deux cycles de réentraînement — une documentation décrivant un système qui n'existe plus. Un AIBOM qui se met à jour avec le pipeline, c'est la différence entre un instantané et un registre vivant.
Et enfin, les preuves de surveillance continue — résultats de détection de dérive, journaux de tests automatisés, la preuve continue que l'affirmation est restée vraie après le lancement. Un dossier de justification n'est pas un classeur ponctuel que l'on dépose et que l'on oublie. C'est un enregistrement qui continue de respirer, parce que votre modèle ne cesse de changer alors que votre dépôt, lui, ne change pas.
La facture des hallucinations que personne n'inscrit au bilan
Il y a un second front à cela, et c'est celui qui m'a entraîné au-delà des dépôts réglementaires, jusque dans le contenu lui-même.
Une affirmation n'est pas seulement ce que vous dites de votre IA dans une divulgation. C'est aussi chaque production que votre IA génère et sur laquelle vous apposez votre nom — le rapport, l'analyse, le résumé destiné au client. Et ces productions hallucinent. Le RegLab de Stanford a constaté que les grands modèles de langage hallucinent sur des requêtes juridiques précises entre 69 % et 88 % du temps. On compte désormais plus de 600 cas documentés d'hallucinations d'IA apparaissant dans des dossiers judiciaires, avec plus de 100 avocats impliqués et des juges infligeant des sanctions supérieures à 10 000 $.
Le coût pour les entreprises est stupéfiant et étrangement invisible. Une analyse chiffre les pertes mondiales dues aux hallucinations d'IA à 67,4 milliards de dollars en 2024, les entreprises dépensant environ 14 200 $ par employé et par an rien qu'en mesures d'atténuation — les heures que les gens brûlent à vérifier les faits de leurs propres outils. Quand près de la moitié des utilisateurs d'IA en entreprise ont pris une décision majeure sur la base d'un contenu halluciné, « c'est l'IA qui l'a généré » n'est pas une défense. C'est l'aveu.
C'est pourquoi la vérification du contenu relève de la même pratique que la justification des affirmations : les deux portent sur la provenance. L'article 50 de l'EU AI Act, en vigueur en août 2026, exige que le contenu généré par l'IA soit lisible par machine et détectable comme tel, accompagné d'un code de bonne conduite sur l'étiquetage du contenu. La norme de provenance C2PA — celle avec laquelle les smartphones phares de Samsung et de Google signent déjà nativement — devient la tuyauterie permettant de prouver d'où provient un contenu. Si votre IA a produit un rapport qui s'avère ensuite contenir une fabrication, la seule chose qui vous sépare de la responsabilité est une piste d'audit remontant à la source. La plupart des entreprises n'en ont pas.
La provenance joue aussi dans l'autre sens. Soixante-cinq pour cent des entreprises ont signalé un incident de deepfake en 2023, et le marché de la détection s'envole de 5,5 milliards de dollars vers un montant projeté de 15,7 milliards de dollars d'ici 2026. Prouver que votre propre contenu est authentique devient aussi urgent que prouver que celui d'un autre est falsifié — et la même signature C2PA qui authentifie la production de votre IA est celle qui vous permet de désavouer une contrefaçon arborant votre marque.
Les questions qu'on me pose, et celles que j'aimerais qu'on me pose
Les gens me demandent toujours si la certification ISO 42001 règle tout cela. Elle aide — c'est une norme réelle et auditable, et la certification par un tiers a du poids auprès des conseils d'administration et des services achats. Mais elle coûte de 90 000 $ à plus de 200 000 $ la première année et demande près d'un an à mettre en place, et elle certifie que vous disposez d'un système de management, non qu'une affirmation marketing précise est vraie. Certification et justification sont deux métiers différents. Vous pouvez être certifié et toujours incapable de répondre à la question de l'examinateur sur une phrase de votre 10-K.
L'autre question, généralement posée par des fondateurs, est de savoir si c'est seulement un problème de grande entreprise. Nate a levé 42 millions de dollars et son fondateur fait face à des accusations pénales. Delphia n'était pas un nom connu du grand public. Le procureur général du Texas peut ouvrir une enquête à partir d'une seule plainte. L'ampleur du risque de mise en application suit l'ampleur de l'affirmation que vous avez faite, pas la taille de votre entreprise.
La question n'est plus de savoir si votre IA fonctionne. C'est de savoir si vous pouvez prouver qu'elle fait ce que vos dépôts prétendent qu'elle fait.
Si je pouvais implanter une seule idée dans l'esprit de chaque directeur juridique et de chaque responsable conformité qui lit ceci, c'est que l'écart entre le marketing et la réalité de l'ingénierie est désormais une responsabilité juridique assortie d'un montant en dollars — et la seule chose qui le comble, ce sont les preuves que vous avez constituées avant que quiconque ne les demande. C'est toute la prémisse de ce que nous construisons chez Veriprajna : non pas un tableau de bord de plus qui vous dit de documenter votre IA, mais le dossier de justification lui-même — la cartographie affirmation-système, le dossier de preuves, l'AIBOM, la piste de provenance — assemblé et testé avant que la lettre de demande de documents n'arrive.
Je reviens sans cesse à ce rapport annuel. Onze mots, déposés et oubliés, sans rien derrière eux — aucune cartographie, aucun dossier, aucun journal reliant la phrase à un système. Le modèle sous-jacent fonctionnait probablement très bien ; la plupart le font. Ce qui manquait, c'était la seule chose qu'un examinateur de la SEC, un enquêteur de la FTC et l'avocat d'un plaignant réclament tous dans la même phrase plate : montrez-moi. Écrivez l'affirmation que vous pouvez prouver, et construisez la preuve avant que quiconque ne la demande.
