Les amendes pour AI washing sont là : votre affirmation sur l'IA sera-t-elle la suivante ?

Le problème

La SEC a infligé un total cumulé de $400,000 d'amendes à deux sociétés d'investissement pour avoir menti sur leur IA. Non pas pour avoir développé une mauvaise IA. Mais pour avoir prétendu posséder une IA qu'elles n'avaient en réalité jamais construite.

En mars 2024, la SEC a mis en cause Delphia (USA) Inc. et Global Predictions Inc. pour déclarations mensongères sur leur utilisation de l'intelligence artificielle. Delphia affirmait à ses clients utiliser un « modèle algorithmique prédictif » qui analysait les habitudes de dépenses et les données des réseaux sociaux afin de « prédire quelles entreprises et quelles tendances sont sur le point de percer. » Les examinateurs de la SEC ont constaté que Delphia n'avait en réalité jamais intégré ces données à son processus d'investissement. La société a continué de tenir ces propos de 2019 à 2023 — y compris après que la SEC l'a avertie en 2021 de cesser.

Global Predictions se présentait comme le « premier conseiller financier IA réglementé ». Lorsque les régulateurs ont demandé la documentation technique étayant cette affirmation, la société n'a pas pu la produire. Delphia a payé $225,000. Global Predictions a payé $175,000.

Ce n'étaient pas des schémas de fraude complexes. C'étaient des affirmations marketing qui dépassaient la réalité de l'ingénierie. Et elles représentent une nouvelle catégorie de risque d'entreprise que vos équipes juridiques et conformité doivent comprendre immédiatement. Si votre société dit être « propulsée par l'IA » où que ce soit — sur votre site web, dans vos documents pour les investisseurs, dans vos présentations clients — vous êtes exposé à ce même risque d'action coercitive. La SEC s'est appuyée sur les lois antifraude existantes, pas sur de nouvelles règles spécifiques à l'IA. Cela signifie que le cadre juridique permettant de sanctionner votre entreprise existe déjà aujourd'hui.

Pourquoi cela compte pour votre entreprise

Les $400,000 de sanctions de la SEC n'étaient que la première salve. Plusieurs agences fédérales traquent désormais activement les affirmations sur l'IA qu'elles peuvent contester.

La FTC a lancé l'« Operation AI Comply » pour cibler les affirmations trompeuses sur l'IA dans toute l'économie grand public. En janvier 2025, la FTC a fait fermer DoNotPay — un service qui se présentait comme « le premier avocat robot au monde » — parce que la société n'a pas su prouver que son IA pouvait réellement remplacer un avocat humain. La FTC s'en est aussi prise à Evolv Technologies, accusée d'avoir déformé l'efficacité de ses capteurs IA à détecter des armes dans les écoles.

Le ministère américain de la Justice a lancé son initiative « Justice AI ». Les procureurs fédéraux évalueront désormais la capacité de votre entreprise à gérer les risques liés à l'IA dans le cadre des revues de conformité des entreprises. Ils ont reçu pour consigne de réclamer des peines plus sévères lorsque l'IA sert à commettre la criminalité en col blanc.

Voici ce que cela signifie pour vos résultats :

• Les amendes réglementaires sont le plancher, pas le plafond. La sanction de $225,000 infligée à Delphia est faible au regard de l'atteinte à la réputation et de la perte d'activités qui suivent une action coercitive publique.
• Vos fournisseurs d'IA créent votre responsabilité. La FTC a établi que si un outil d'IA sert d'« instrument » à une tromperie, le fournisseur et le client entreprise peuvent être tenus responsables tous les deux.
• Les procureurs généraux des États emboîtent le pas. Ils s'appuient sur les lois existantes de protection des consommateurs pour poursuivre les affirmations marketing sur l'IA au niveau des États.
• L'exposition du conseil d'administration est réelle. Si votre société revendique des capacités pilotées par l'IA dans ses dépôts réglementaires auprès de la SEC ou ses présentations aux investisseurs, vos dirigeants encourent une responsabilité personnelle au titre des règles antifraude existantes.

Ce n'est pas un problème de demain. L'infrastructure répressive est en place et opérationnelle.

Ce qui se passe réellement sous le capot

La cause profonde de l'AI washing est une méconnaissance technique du fonctionnement réel de l'IA moderne. La plupart des applications d'IA actuelles — y compris celles que vos fournisseurs peuvent vous vendre — reposent sur des systèmes qui prédisent le mot suivant le plus probable dans une séquence. Ils ne vérifient pas les faits. Ils génèrent du texte d'allure plausible.

Pensez à l'autocomplétion de votre téléphone, mais portée à l'échelle d'Internet. Votre téléphone ne sait pas si le mot suivant est vrai. Il sait seulement quel mot vient habituellement ensuite. Les grands modèles de langage (LLM) — les systèmes d'IA derrière des outils comme ChatGPT — fonctionnent pareil, simplement avec plus de données et plus de mathématiques. Le modèle n'a aucun concept interne de vérité. Il prédit la suite de caractères la plus probable d'après les motifs de ses données d'entraînement.

Voilà pourquoi les systèmes d'IA « hallucinent » — ils produisent des citations qui n'existent pas, des chiffres financiers incorrects ou des précédents juridiques jamais jugés. Dans un environnement réglementé, « à peu près correct » équivaut juridiquement à « incorrect ». Une citation juridique hallucinée crée une responsabilité juridique active pour votre organisation.

Pour aggraver encore les choses, la majorité des « solutions IA » vendues aujourd'hui aux entreprises sont ce que le secteur appelle des « wrappers ». Ce sont des applications qui se connectent à un service d'IA public via une API — essentiellement une prise — et ajoutent une interface utilisateur par-dessus. Elles sont conçues pour minimiser les coûts, souvent au détriment de l'exactitude. Elles ne peuvent pas vérifier leur propre raisonnement. Elles se contentent de relayer ce que le modèle sous-jacent produit, vrai ou non. Votre entreprise appose ensuite son nom et sa réputation sur ce résultat.

Ce qui fonctionne (et ce qui ne fonctionne pas)

Commençons par ce qui ne vous protège pas :

• Le prompt engineering seul. Bien formuler vos instructions à une IA ne l'empêche pas d'halluciner. Cela réduit la fréquence mais n'élimine pas le risque.
• Les wrappers API superficiels. Se brancher sur un modèle d'IA public et y coller votre marque vous laisse zéro contrôle sur l'exactitude, la confidentialité des données ou les pistes d'audit. Ces wrappers sont vulnérables à des entrées défectueuses qui provoquent des sorties erronées — un problème nommé « empoisonnement de la récupération ».
• Le contrôle manuel par échantillonnage. Faire relire par un humain un échantillon aléatoire des sorties de l'IA ne détecte pas les erreurs des sorties que vous n'avez pas relues. Cela crée un faux sentiment de sécurité.

Ce qui fonctionne réellement, c'est une architecture fondamentalement différente. Voici comment elle opère, en trois étapes :

1. La récupération ancrée dans les graphes de connaissances. Au lieu de laisser l'IA chercher vaguement des informations connexes, vous construisez une carte structurée de vos connaissances métier — un graphe de connaissances. Dans l'IA juridique, par exemple, chaque décision de justice est reliée à d'autres décisions par des relations précises telles que CITES, OVERRULES ou AFFIRMS. Le système ne peut référencer que ce qui existe dans cette structure vérifiée. La récupération passe ainsi d'une conjecture statistique à un chemin vérifié.

2. La vérification multi-agents. Plutôt que de demander à un seul modèle d'IA de rechercher, vérifier et rédiger, vous répartissez le travail entre des agents spécialisés. Un « agent de recherche » récupère les données brutes. Un « agent de vérification » recroise ces données avec votre graphe de connaissances. Un « agent de rédaction » produit le résultat final en n'utilisant que des faits vérifiés. Ces agents relisent le travail des autres en cycles avant que tout humain voie le résultat.

3. Le déploiement souverain sur votre infrastructure. Votre IA tourne à l'intérieur de votre propre pare-feu — sur site ou dans un cloud privé isolé de l'Internet public. Cela garantit zéro fuite de données. Votre propriété intellectuelle, vos données clients et vos secrets d'affaires ne touchent jamais de serveurs externes. C'est une exigence obligatoire pour la conformité au HIPAA, au RGPD et au CCPA.

L'avantage de la piste d'audit, c'est ce qui rend cette approche défendable. Chaque sortie remonte à des documents sources précis via des liens vérifiés. Quand un régulateur, un auditeur ou un conseil adverse demande « comment votre IA est-elle arrivée à cette conclusion », vous pouvez montrer le chemin exact — des données sources, en passant par la vérification, jusqu'à la sortie finale. C'est la différence entre un système que vous pouvez défendre et un système qui devient votre prochaine responsabilité.

Votre cadre de gouvernance devrait associer le NIST AI Risk Management Framework, pour des contrôles tactiques des risques, à la norme ISO/IEC 42001, pour une conformité certifiable et auditée par des tiers. La norme ISO 42001 est la seule norme internationale certifiable pour les systèmes de management de l'IA. Un auditeur tiers peut vérifier votre conformité — vous fournissant la documentation dont vous avez besoin pour les revues d'approvisionnement, les rapports au conseil d'administration et les soumissions réglementaires.

Enfin, constituez un AI Bill of Materials (AIBOM) — un registre complet et lisible par machine de chaque composant de votre système d'IA. Y figurent notamment les jeux de données d'entraînement, les modèles de base, les bibliothèques tierces et les détails d'infrastructure. Votre AIBOM devient la source unique de vérité qui prouve que vos affirmations sur l'IA correspondent à votre réalité technique. C'est exactement la documentation que Delphia et Global Predictions n'ont pas pu produire quand la SEC est venue frapper.