Pourquoi j'ai cessé de faire confiance à l'IA — et me suis mis à construire des Oracles

Le courriel est arrivé un mardi à 23 h 47. Un fabricant de batteries avec qui nous discutions venait de retirer une expédition de cellules de la chaîne de production. Non pas parce qu'elles avaient échoué à un test, mais parce que leur outil de criblage de matériaux assisté par IA avait laissé passer un candidat électrolyte qui, lorsqu'un chimiste humain a finalement fait les calculs, s'est révélé thermodynamiquement instable au-delà de 150 °C. Le matériau se serait décomposé à l'intérieur d'un bloc-batterie. La décomposition aurait libéré de la chaleur. La chaleur aurait déclenché ce que l'industrie appelle par euphémisme « emballement thermique » — et ce que le reste d'entre nous appelle un incendie.

Personne n'a été blessé. Mais je suis resté assis à mon bureau à fixer ce courriel en pensant au mot « plausible ». L'IA ne s'était pas trompée de manière évidente. La structure moléculaire qu'elle recommandait semblait raisonnable. L'énergie de formation qu'elle prédisait était dans le bon ordre de grandeur. C'était plausible. Ce n'était simplement pas vrai.

Cette distinction — entre le plausible et le vrai — est la ligne de fracture qui traverse aujourd'hui toute l'industrie de l'IA. Et c'est la raison pour laquelle j'ai fondé Veriprajna.

L'économie des wrappers a un problème de vérité

Voici ce que la plupart des gens ne réalisent pas au sujet de la vague actuelle de produits d'IA : la grande majorité d'entre eux ne sont que de fines couches d'interface — des « wrappers » — posées au-dessus de grands modèles de langage à usage général. Le LLM prédit le prochain jeton le plus probable. Le wrapper lui donne l'apparence d'une application. L'utilisateur suppose qu'il obtient des réponses. Il obtient des probabilités.

Pour rédiger des textes marketing ou résumer des comptes rendus de réunion, cela convient. Les probabilités suffisent. Mais les entreprises avec lesquelles je travaille n'ont pas le luxe de « suffisant ». Elles fabriquent des batteries qui équipent des véhicules électriques. Elles produisent du contenu audio diffusé à l'échelle mondiale. Pour elles, une réponse plausible à 99 % mais physiquement impossible à 1 % n'est pas une erreur d'arrondi. C'est un événement thermique ou un procès en contrefaçon.

Quand votre IA est responsable de quelque chose qui peut prendre feu ou vous faire poursuivre en justice, « statistiquement probable » n'est pas la même chose que « correct ».

J'ai commencé à appeler cela la bifurcation de l'IA. D'un côté, l'économie des wrappers — rapide, accessible, bâtie sur la prédiction stochastique. De l'autre, ce que nous faisons chez Veriprajna : l'IA profonde, où chaque sortie est validée par rapport à des règles immuables avant qu'un humain ne la voie. La physique. La logique. La provenance. Les choses qui se moquent de la distribution de vos données d'entraînement.

Que se passe-t-il quand l'IA prédit une chimie qu'elle ne comprend pas ?

Rendons cela concret avec le problème des batteries, car il me hante.

Les batteries lithium-ion défaillent selon une séquence déterministe de dégradations chimiques. Cela commence autour de 80 à 100 °C, lorsque la couche protectrice de l'anode — appelée interphase électrolyte solide — se décompose. Vers 110 à 135 °C, le séparateur fond et l'électrolyte commence à se décomposer en gaz inflammables. Au-delà de 200 °C, la cathode s'effondre, libère de l'oxygène, et l'on obtient une combustion.

L'électrolyte est la variable critique. Les électrolytes liquides traditionnels — généralement de l'hexafluorophosphate de lithium dissous dans des solvants carbonatés — sont chimiquement instables à températures élevées. Ils constituent littéralement la source de carburant dans l'événement de combustion. Pour prévenir l'emballement thermique, en particulier dans les applications à haute tension ou à haute température, il nous faut des électrolytes dont les énergies de décomposition les maintiennent stables bien au-delà de ce seuil de 200 °C.

Le problème est de les trouver. L'espace chimique des cristaux inorganiques possibles contient un nombre estimé de 10^100 combinaisons. Pendant des décennies, les scientifiques des matériaux ont exploré cet espace comme Edison testait ses filaments : émettre l'hypothèse d'une structure, la synthétiser en laboratoire, la tester, attendre des mois les résultats. Et l'intuition humaine nous pousse vers des modifications de familles connues — grenats, pérovskites — plutôt que de nous aventurer dans un territoire compositionnel véritablement nouveau.

L'industrie s'est donc tournée vers l'IA. C'est logique. Mais voici où cela a mal tourné pour de nombreuses équipes : elles ont pointé un LLM sur le problème. Un LLM qui avait « lu » des millions d'articles de chimie pouvait prédire des structures moléculaires — mais il prédit des jetons, pas des densités électroniques. Il n'a aucune notion des règles de valence, aucune compréhension des forces de la mécanique quantique. Il peut halluciner une structure cristalline qui semble correcte sur le papier mais qui viole les lois de la physique de manières qui n'apparaissent que lorsqu'on tente de la construire.

C'est ce qui s'est passé avec ce courriel tardif. L'IA a proposé un candidat. Le candidat était plausible. Il n'était pas réel.

L'architecture Oracle : comment nous résolvons réellement ce problème

Après cet incident, mon équipe et moi avons eu une longue conversation, inconfortable, sur ce que nous construisions réellement. Construisions-nous une IA qui génère des réponses ? Ou une IA qui découvre la vérité ?

Nous avons choisi la vérité. Et la vérité exige un Oracle.

Notre architecture de découverte de matériaux associe GNoME de Google DeepMind — Graph Networks for Materials Exploration — à une validation rigoureuse par la théorie de la fonctionnelle de la densité. L'idée clé est la suivante : nous n'utilisons pas l'IA pour répondre à la question. Nous utilisons l'IA pour proposer des candidats à partir d'un vaste espace de recherche, puis nous validons chacun d'eux par rapport aux lois de la physique avant qu'il n'aille où que ce soit.

GNoME traite les structures cristallines comme des graphes — les atomes sont des nœuds, les liaisons chimiques des arêtes. Contrairement à un LLM qui traite du texte linéaire, GNoME comprend la géométrie et la topologie en 3D. Il est conçu pour être ce que les physiciens appellent E(3)-équivariant, ce qui signifie que ses prédictions ne changent pas si l'on fait tourner le cristal dans l'espace. Ce n'est pas une fonctionnalité que l'on ajoute par-dessus. C'est une contrainte mathématique intégrée à l'architecture. Le modèle ne peut pas violer la symétrie de rotation.

Mais même GNoME est probabiliste. Il prédit les énergies de formation — l'énergie requise pour assembler un cristal à partir de ses éléments — mais ces prédictions comportent une incertitude. Un cristal peut sembler stable au réseau de neurones et rester thermodynamiquement non compétitif face à d'autres phases possibles.

Nous avons donc construit la couche Oracle.

Pourquoi la validation DFT est-elle importante pour la sécurité des batteries ?

La théorie de la fonctionnelle de la densité est une méthode de mécanique quantique qui approxime la solution de l'équation de Schrödinger. Elle calcule la densité électronique et l'énergie totale avec une grande précision. Elle est coûteuse en calcul — un seul calcul peut prendre des centaines d'heures de CPU — mais elle n'hallucine pas. Elle résout des équations. La réponse est soit juste, soit une erreur numérique que l'on peut quantifier et borner.

Nous appliquons une stratégie de validation à plusieurs niveaux. Les champs de force par apprentissage automatique gèrent la relaxation géométrique initiale — en éliminant les candidats manifestement défectueux. Ensuite, des calculs de niveau PBE effectuent un criblage à haut débit. Les survivants sont validés avec r²SCAN, une fonctionnelle méta-GGA qui prédit avec précision les constantes de réseau et les énergies de formation pour les systèmes fortement liés. Les métaux de transition reçoivent une correction de Hubbard U supplémentaire pour traiter les erreurs d'auto-interaction dans les orbitales d.

Je me rends compte que je viens de vous asséner beaucoup de jargon de physique. L'essentiel est plus simple que les détails : nous disposons de plusieurs couches de simulation physique de plus en plus coûteuses et précises, et chaque candidat doit survivre à toutes avant que nous ne le recommandions pour une batterie.

La mesure qui compte le plus est ce que nous appelons la « distance à l'enveloppe » (Distance to Hull). Imaginez que l'on trace sur un graphique tous les matériaux possibles dans un espace compositionnel donné — la composition sur un axe, l'énergie sur l'autre. Les matériaux stables forment une frontière inférieure, une « enveloppe convexe ». Tout ce qui se situe au-dessus de cette enveloppe se décomposera spontanément en les matériaux qui la constituent. Un matériau dont la distance à l'enveloppe est nulle est l'état fondamental thermodynamique. Un matériau dont la distance est supérieure à 100 meV/atome va presque certainement se désagréger — et dans une batterie, se désagréger signifie libérer de la chaleur.

L'enveloppe convexe se moque du score de confiance de votre réseau de neurones. Un matériau est soit thermodynamiquement stable, soit il ne l'est pas.

Le volant d'inertie qui devient plus intelligent d'une nuit à l'autre

Ce qui fait de cela plus qu'un pipeline à usage unique, c'est la boucle d'apprentissage actif. GNoME génère des milliers de structures candidates. Nous sélectionnons celles que le modèle juge les plus prometteuses et celles pour lesquelles il est le plus incertain — exploitation et exploration simultanément. Elles partent vers le cluster DFT. Les énergies véritables reviennent et sont réintégrées à l'ensemble d'entraînement de GNoME. Le modèle se réentraîne. Sa physique interne se corrige.

Je me souviens de la première fois où nous avons vu le taux de réussite grimper — le pourcentage de matériaux proposés par l'IA qui se révélaient effectivement stables après validation DFT. La recherche aléatoire traditionnelle reste sous les 1 %. L'apprentissage automatique standard vous amène peut-être à 50 %. Après plusieurs cycles d'apprentissage actif, notre pipeline piloté par GNoME dépassait les 80 %.

Mon cofondateur a regardé le tableau de bord et a dit : « Il ne devine plus. Il apprend ce que la stabilité signifie. » C'est à ce moment-là que j'ai su que nous tenions quelque chose. Non pas parce que le chiffre était impressionnant en soi, mais parce que le système convergeait vers la réalité physique par itération, et non par mémorisation.

J'ai décrit cette architecture plus en détail dans la version interactive de notre recherche, si vous souhaitez voir le flux de travail complet.

L'autre type d'explosion : le droit d'auteur dans l'audio génératif

Laissez-moi maintenant vous parler d'un domaine complètement différent où la même philosophie architecturale — proposer, puis valider — nous a sauvés d'un autre type de désastre.

Une entreprise de médias nous a approchés au sujet de la génération de contenu audio à grande échelle. Elle disposait d'une immense bibliothèque de musique et d'enregistrements vocaux sous licence. Elle voulait utiliser l'IA pour créer du nouveau contenu à partir de cette bibliothèque — voix off localisées, bandes-son remixées, ce genre de choses. Elle expérimentait des outils d'audio génératif prêts à l'emploi.

J'ai posé une seule question : « Pouvez-vous prouver, pour n'importe quelle sortie donnée, exactement quelles sources sous licence y ont contribué ? »

Silence.

C'est le problème de la boîte noire dans les médias génératifs. Les modèles de diffusion — l'architecture derrière la plupart des générateurs d'audio et d'images par IA — sont entraînés sur d'énormes ensembles de données extraits d'Internet. Lorsqu'ils génèrent une sortie, ils parcourent un espace latent de haute dimension pour synthétiser quelque chose de nouveau. La sortie est un amalgame mathématique des données d'entraînement. Il est impossible de retracer quels exemples d'entraînement ont influencé quelles parties du résultat.

Pour un consommateur qui s'amuse avec des outils de musique par IA, c'est une curiosité. Pour une entreprise de médias mondiale, c'est un risque juridique existentiel. Si une piste audio générée contient une boucle de quatre mesures identique à une chanson protégée par le droit d'auteur, l'entreprise est responsable de contrefaçon — même si personne ne l'a voulu. Les tribunaux sont en train de trancher la question de savoir si l'entraînement sur des données protégées constitue un usage loyal (Andersen c. Stability AI, New York Times c. OpenAI). Une entreprise dont le pipeline de contenu dépend de ces outils pourrait se réveiller un matin pour découvrir que toute sa bibliothèque d'actifs est juridiquement contaminée.

Une entreprise de médias qui ne peut pas prouver la provenance de son contenu généré par IA bâtit sur du sable — un sable juridique qui se déplace chaque fois qu'un tribunal rend une décision.

Comment construire une IA audio capable de prouver sa propre innocence ?

Nous avons entièrement rejeté le paradigme de la « génération à partir du bruit ». À la place, nous avons construit ce que je conçois comme une génération augmentée par récupération pour l'audio — la même démarche conceptuelle que le RAG a apportée au texte, mais appliquée au son.

Le pipeline comporte deux phases : la déconstruction et la reconstruction.

Pour la déconstruction, nous utilisons Hybrid Transformer Demucs — un modèle de séparation des sources qui prend un audio mixé et l'isole en stems individuels : voix, batterie, basse, autres instruments. L'architecture est un U-Net avec des connexions de saut (préservant les détails haute fréquence qui seraient autrement perdus lors de la compression) et un encodeur Transformer au goulot d'étranglement qui utilise l'auto-attention pour analyser l'intégralité de la séquence audio. Il traite l'audio simultanément dans le domaine temporel et dans le domaine fréquentiel, fusionnant les informations des deux.

Nous avons exécuté Demucs sur l'intégralité de l'archive sous licence du client. Des milliers d'heures d'audio mixé, séparées en stems propres et isolés, chacun étiqueté et indexé par caractéristiques audio — timbre, hauteur, rythme. Nous avions transformé leur catalogue historique d'une collection de chansons finies en une immense bibliothèque de blocs de construction.

Pour la reconstruction — spécifiquement pour le contenu vocal — nous utilisons la conversion vocale par récupération (Retrieval-Based Voice Conversion). C'est fondamentalement différent de la synthèse vocale ou de la génération vocale par diffusion. Le RVC est de la parole vers parole : il prend un enregistrement d'entrée (par exemple, un directeur de création lisant un script sur son téléphone) et transforme le timbre pour correspondre à une voix cible sous licence, tout en préservant l'intonation et le rythme de la performance originale.

Le mécanisme critique est dans le nom : récupération. Nous utilisons HuBERT pour extraire les caractéristiques de contenu indépendantes du locuteur à partir de l'entrée. Ensuite, pour chaque trame, nous interrogeons un index FAISS de vecteurs de caractéristiques dérivés des enregistrements de l'acteur vocal sous licence. Nous récupérons les détails acoustiques les plus proches — le souffle, la résonance, la qualité vocale spécifique — à partir d'enregistrements réels et autorisés. La sortie ressemble à la voix cible parce que nous avons extrait des points de données précis de leur index sous licence, et non parce qu'un réseau de neurones a imaginé une approximation.

Je ne saurais trop insister sur l'importance juridique de ce point. Dans un modèle de deepfake, la voix cible existe sous forme de poids opaques de réseau de neurones. Dans notre système, chaque détail acoustique remonte à un enregistrement spécifique, horodaté et sous licence. La chaîne de titularité est ininterrompue.

La paperasse qui voyage avec le son

Générer un audio à la provenance propre est nécessaire mais pas suffisant. L'actif doit porter sa propre preuve. Nous mettons en œuvre la norme C2PA — Coalition for Content Provenance and Authenticity — qui intègre des données de provenance permettant de détecter toute altération directement dans les fichiers médias à l'aide de la cryptographie à clé publique.

Chaque fichier audio que nous générons est accompagné d'un manifeste signé : le hachage de la piste guide d'entrée, l'identifiant du modèle vocal sous licence, la séquence complète des actions de traitement et la version de l'outil. Tout utilisateur en aval — une plateforme de streaming, un diffuseur — peut valider la signature et confirmer que l'actif a été entièrement construit à partir de sources autorisées.

Nous avons également adapté l'indice de similarité structurelle pour le contrôle de la qualité audio. En comparant les spectrogrammes de la piste guide d'entrée et de la sortie, nous détectons les cas où l'IA a déformé la performance — sauté un mot, modifié le rythme, halluciné une pause. Tout ce qui se situe en dessous d'un seuil SSIM de 0,95 est automatiquement signalé pour révision humaine.

Pour le détail technique complet des architectures des matériaux et de l'audio, consultez notre article de recherche.

Et si l'on utilisait simplement de meilleurs prompts ?

Les gens s'opposent à cette approche. Ils me disent que nous surdimensionnons le problème. « Utilisez simplement un meilleur modèle. » « Affinez-le simplement sur vos données de domaine. » « Ajoutez simplement une clause de non-responsabilité. »

Un investisseur m'a dit, sans détour : « Utilisez simplement GPT avec un bon prompt système et épargnez-vous le coût de l'infrastructure. » Je lui ai demandé s'il installerait sa famille dans un véhicule électrique dont l'électrolyte de batterie aurait été sélectionné par un prompt système. Il a changé de sujet.

L'objection plus profonde porte sur le coût et la complexité. Oui, exécuter des calculs DFT sur un cluster de calcul haute performance coûte plus cher qu'appeler une API. Oui, construire une base de données de stems indexée par FAISS avec signature C2PA est plus difficile que de pointer un modèle de diffusion sur un prompt textuel. Mais la question n'est pas de savoir si la validation déterministe coûte plus cher que la génération probabiliste. La question est de savoir si elle coûte plus cher qu'un rappel de batteries. Ou qu'un procès en contrefaçon qui invalide toute votre bibliothèque de contenu.

D'autres demandent si cette approche passe à l'échelle. C'est le cas — c'est précisément le rôle du volant d'inertie d'apprentissage actif. Le système devient plus efficace à chaque cycle. Le taux de réussite grimpe. Le coût par candidat validé diminue. La base de données de stems s'agrandit. Vous ne résolvez pas seulement le problème d'aujourd'hui ; vous construisez un moteur qui compose ses gains.

La fin du tourisme de l'IA

Je pense que nous sommes à un point d'inflexion. L'ère de l'expérimentation avec l'IA — des chatbots dans le hall d'accueil, des copilotes dans la barre latérale, des wrappers sur tout — touche à sa fin. Non pas parce que ces outils sont inutiles, mais parce que les entreprises qui comptent le plus tentent désormais de placer l'IA au cœur de leurs opérations. Dans le laboratoire de R&D. Dans le studio de production. Dans les systèmes où l'échec a des conséquences qui se mesurent en événements thermiques et en litiges, et non en réponses maladroites de chatbot.

Dans ces environnements, la tolérance à l'hallucination est nulle. Pas faible. Nulle.

L'architecture que nous avons construite chez Veriprajna — pour les batteries, pour l'audio, pour tout domaine où la vérité n'est pas négociable — repose sur un principe unique : la puissance générative du réseau de neurones doit être strictement subordonnée à la puissance vérificatrice de l'Oracle. L'IA propose. La physique décide. L'IA assemble. La provenance prouve. La capacité créative de ces modèles est extraordinaire. Mais la créativité sans responsabilité n'est que de la conjecture sophistiquée.

Pour le fabricant de batteries, une hallucination est un incendie. Pour l'entreprise de médias, une hallucination est un procès. La seule architecture viable contraint la génération par la vérification — à chaque fois, sans exception.

Je ne pense pas que l'avenir de l'IA appartienne aux modèles qui génèrent les sorties les plus convaincantes. Je pense qu'il appartient aux systèmes capables de prouver que leurs sorties sont vraies. Les contraintes ne limitent pas l'intelligence. Elles créent la réalité.