Waarom ik AI niet langer vertrouw en in plaats daarvan Oracles begon te bouwen

De e-mail kwam binnen om 23:47 uur op een dinsdag. Een batterijfabrikant met wie we in gesprek waren, had zojuist een zending cellen van de lijn gehaald. Niet omdat ze een test hadden gefaald — maar omdat hun AI-ondersteunde tool voor materiaalscreening een kandidaat-elektrolyt had goedgekeurd die, toen een menselijke scheikundige uiteindelijk de berekeningen maakte, thermodynamisch instabiel bleek te zijn boven 150°C. Het materiaal zou binnen een batterijpakket zijn ontleed. De ontleding zou warmte hebben vrijgemaakt. De warmte zou hebben geleid tot wat de industrie eufemistisch "thermal runaway" noemt — en wat de rest van ons brand noemt.

Niemand raakte gewond. Maar ik zat aan mijn bureau naar die e-mail te staren en na te denken over het woord "plausibel". De AI had niet op een voor de hand liggende manier ongelijk gehad. De moleculaire structuur die hij aanraadde zag er redelijk uit. De vormingsenergie die hij voorspelde zat in de juiste orde van grootte. Het was plausibel. Het was alleen niet waar.

Dat onderscheid — tussen plausibel en waar — is de breuklijn die op dit moment door de hele AI-industrie loopt. En het is de reden waarom ik Veriprajna heb gebouwd.

De Wrapper-economie heeft een waarheidsprobleem

Dit is wat de meeste mensen niet beseffen over de huidige golf van AI-producten: de overgrote meerderheid ervan zijn dunne interfacelagen — "wrappers" — die bovenop generieke Large Language Models zitten. Het LLM voorspelt de eerstvolgende meest waarschijnlijke token. De wrapper laat het eruitzien als een app. De gebruiker gaat ervan uit dat hij antwoorden krijgt. Wat hij krijgt zijn waarschijnlijkheden.

Voor het schrijven van marketingteksten of het samenvatten van vergadernotities is dit prima. Waarschijnlijkheden zijn goed genoeg. Maar de bedrijven waarmee ik werk hebben niet de luxe van "goed genoeg". Ze maken batterijen die in elektrische voertuigen gaan. Ze produceren audio-content die wereldwijd wordt uitgezonden. Voor hen is een antwoord dat 99% plausibel maar 1% fysiek onmogelijk is geen afrondingsfout. Het is een thermisch incident of een rechtszaak over auteursrecht.

Wanneer je AI verantwoordelijk is voor iets dat vlam kan vatten of je een rechtszaak kan opleveren, is "statistisch waarschijnlijk" niet hetzelfde als "correct".

Ik ben dit de bifurcatie van AI gaan noemen. Aan de ene kant de Wrapper-economie — snel, toegankelijk, gebouwd op stochastische voorspelling. Aan de andere kant wat wij bij Veriprajna doen: Deep AI, waarbij elke output wordt gevalideerd aan onveranderlijke regels voordat een mens hem ooit te zien krijgt. Fysica. Logica. Herkomst. De dingen die zich niets aantrekken van de verdeling van je trainingsdata.

Wat gebeurt er wanneer AI chemie voorspelt die hij niet begrijpt?

Laat me dit concreet maken met het batterijprobleem, want het achtervolgt me.

Lithium-ionbatterijen falen door een deterministische opeenvolging van chemische afbraakprocessen. Het begint rond 80–100°C wanneer de beschermende laag op de anode — de Solid Electrolyte Interphase genoemd — ontleedt. Bij 110–135°C smelt de separator en begint de elektrolyt af te breken tot brandbare gassen. Boven 200°C stort de kathode in, komt er zuurstof vrij en ontstaat er verbranding.

De elektrolyt is de kritische variabele. Traditionele vloeibare elektrolyten — doorgaans lithiumhexafluorofosfaat opgelost in carbonaatoplosmiddelen — zijn chemisch instabiel bij verhoogde temperaturen. Ze zijn letterlijk de brandstofbron bij de verbranding. Om thermal runaway te voorkomen, vooral in toepassingen met hoge spanning of hoge temperatuur, hebben we elektrolyten nodig met ontledingsenergieën die ze ruim boven die drempel van 200°C stabiel houden.

Het probleem is ze te vinden. De chemische ruimte van mogelijke anorganische kristallen bevat naar schatting 10^100 combinaties. Materiaalwetenschappers verkennen deze ruimte al decennialang zoals Edison gloeidraden testte: een structuur veronderstellen, hem in een lab synthetiseren, hem testen, maandenlang op resultaten wachten. En menselijke intuïtie geeft ons een vertekening richting aanpassingen van bekende families — granaten, perovskieten — in plaats van ons te wagen aan werkelijk nieuw samenstellingsterrein.

Dus wendde de industrie zich tot AI. Logisch. Maar hier ging het voor veel teams mis: ze richtten een LLM op het probleem. Een LLM dat miljoenen scheikundige artikelen had "gelezen" kon moleculaire structuren voorspellen — maar het voorspelt tokens, geen elektronendichtheden. Het heeft geen begrip van valentieregels, geen inzicht in kwantummechanische krachten. Het kan een kristalstructuur hallucineren die er op papier goed uitziet maar de wetten van de fysica schendt op manieren die pas naar boven komen wanneer je hem probeert te bouwen.

Dit is wat er gebeurde met die e-mail laat op de avond. De AI stelde een kandidaat voor. De kandidaat was plausibel. Hij was niet echt.

De Oracle-architectuur: hoe we dit werkelijk oplossen

Na dat incident hadden mijn team en ik een lang, ongemakkelijk gesprek over wat we nu eigenlijk aan het bouwen waren. Bouwden we AI die antwoorden genereert? Of AI die waarheid ontdekt?

We kozen voor waarheid. En waarheid vereist een Oracle.

Onze architectuur voor materiaalontdekking koppelt Google DeepMind's GNoME — Graph Networks for Materials Exploration — aan rigoureuze validatie via Density Functional Theory. Het cruciale inzicht is dit: we gebruiken AI niet om de vraag te beantwoorden. We gebruiken AI om kandidaten voor te stellen uit een enorme zoekruimte, en vervolgens valideren we elke afzonderlijke kandidaat aan de wetten van de fysica voordat hij ergens naartoe gaat.

GNoME behandelt kristalstructuren als grafen — atomen zijn knooppunten, chemische bindingen zijn randen. Anders dan een LLM dat lineaire tekst verwerkt, begrijpt GNoME 3D-geometrie en topologie. Het is ontworpen om wat natuurkundigen E(3)-equivariant noemen te zijn, wat betekent dat zijn voorspellingen niet veranderen als je het kristal in de ruimte roteert. Dat is geen functie die je erbij bouwt. Het is een wiskundige beperking die in de architectuur is ingebakken. Het model kan rotatiesymmetrie niet schenden.

Maar zelfs GNoME is probabilistisch. Het voorspelt vormingsenergieën — de energie die nodig is om een kristal uit zijn elementen samen te stellen — maar die voorspellingen dragen onzekerheid met zich mee. Een kristal kan er voor het neurale netwerk stabiel uitzien en toch thermodynamisch niet-competitief zijn ten opzichte van andere mogelijke fasen.

Dus bouwden we de Oracle-laag.

Waarom is DFT-validatie belangrijk voor batterijveiligheid?

Density Functional Theory is een kwantummechanische methode die de oplossing van de Schrödingervergelijking benadert. Het berekent de elektronendichtheid en totale energie met hoge precisie. Het is rekentechnisch duur — een enkele berekening kan honderden CPU-uren duren — maar het hallucineert niet. Het lost vergelijkingen op. Het antwoord is ofwel juist, ofwel een numerieke fout die je kunt kwantificeren en begrenzen.

We hanteren een gelaagde validatiestrategie. Machine-learning-krachtvelden verzorgen de initiële geometrische relaxatie — het uitfilteren van kandidaten die overduidelijk kapot zijn. Vervolgens doen berekeningen op PBE-niveau high-throughput-screening. De overlevenden worden gevalideerd met r²SCAN, een meta-GGA-functionaal die roosterconstanten en vormingsenergieën voor sterk gebonden systemen nauwkeurig voorspelt. Overgangsmetalen krijgen een extra Hubbard-U-correctie om zelfinteractiefouten in d-orbitalen af te handelen.

Ik besef dat ik je zojuist een hoop natuurkundig jargon om de oren heb gegooid. Het punt is eenvoudiger dan de details: we hebben meerdere lagen van steeds duurdere en nauwkeurigere fysische simulatie, en elke kandidaat moet ze allemaal overleven voordat we hem ooit voor een batterij zouden aanbevelen.

De belangrijkste metriek is wat wij "Distance to Hull" noemen. Stel je voor dat je elk mogelijk materiaal in een gegeven samenstellingsruimte op een grafiek uitzet — samenstelling op de ene as, energie op de andere. De stabiele materialen vormen een ondergrens, een "convex hull". Alles boven die hull zal spontaan ontleden tot de materialen erop. Een materiaal met een afstand nul tot de hull is de thermodynamische grondtoestand. Een materiaal met een afstand groter dan 100 meV/atoom valt vrijwel zeker uit elkaar — en in een batterij betekent uit elkaar vallen het vrijkomen van warmte.

De convex hull trekt zich niets aan van de betrouwbaarheidsscore van je neurale netwerk. Een materiaal is ofwel thermodynamisch stabiel, ofwel niet.

Het vliegwiel dat 's nachts slimmer wordt

Wat dit meer maakt dan een eenmalige pijplijn is de active-learning-lus. GNoME genereert duizenden kandidaatstructuren. We selecteren degene die het model het meest veelbelovend acht en degene waarover het het meest onzeker is — exploitatie en exploratie tegelijkertijd. Die gaan naar het DFT-cluster. De ware energieën komen terug en worden in GNoME's trainingsset gevoerd. Het model traint opnieuw. Zijn interne fysica wordt gecorrigeerd.

Ik herinner me de eerste keer dat we de hitrate zagen stijgen — het percentage door AI voorgestelde materialen dat na DFT-validatie daadwerkelijk stabiel bleek te zijn. Traditioneel willekeurig zoeken zit onder de 1%. Standaard machine learning brengt je tot misschien 50%. Na verschillende active-learning-cycli overschreed onze GNoME-gedreven pijplijn de 80%.

Mijn medeoprichter keek naar het dashboard en zei: "Het gokt niet meer. Het leert wat stabiliteit betekent." Dat was het moment waarop ik wist dat we iets hadden. Niet omdat het getal op zichzelf indrukwekkend was, maar omdat het systeem via iteratie naar de fysische werkelijkheid convergeerde, niet via memorisatie.

Ik heb over deze architectuur uitgebreider geschreven in de interactieve versie van ons onderzoek, als je de volledige workflow wilt zien.

Het andere soort explosie: auteursrecht in generatieve audio

Laat me je nu vertellen over een volledig ander domein waar dezelfde architectonische filosofie — voorstellen, dan valideren — ons behoedde voor een ander soort ramp.

Een mediabedrijf benaderde ons over het op grote schaal genereren van audio-content. Ze hadden een enorme bibliotheek van gelicentieerde muziek en spraakopnamen. Ze wilden AI gebruiken om nieuwe content uit deze bibliotheek te creëren — gelokaliseerde voice-overs, geremixte soundtracks, dat soort dingen. Ze hadden geëxperimenteerd met kant-en-klare generatieve audiotools.

Ik stelde één vraag: "Kun je voor elke willekeurige output precies bewijzen welke gelicentieerde bronnen eraan hebben bijgedragen?"

Stilte.

Dit is het black-box-probleem in generatieve media. Diffusiemodellen — de architectuur achter de meeste AI-audio- en beeldgeneratoren — worden getraind op enorme datasets die van het internet zijn geschraapt. Wanneer ze output genereren, doorkruisen ze een hoogdimensionale latente ruimte om iets nieuws te synthetiseren. De output is een wiskundig samengaan van de trainingsdata. Je kunt niet traceren welke trainingsvoorbeelden welke delen van het resultaat hebben beïnvloed.

Voor een consument die wat speelt met AI-muziektools is dit een curiositeit. Voor een wereldwijd mediabedrijf is het een existentieel juridisch risico. Als een gegenereerde audiotrack een loop van vier maten bevat die identiek is aan een auteursrechtelijk beschermd nummer, is het bedrijf aansprakelijk voor inbreuk — zelfs als niemand het bedoelde. De rechtbanken procederen actief over de vraag of het trainen op auteursrechtelijk beschermde data fair use vormt (Andersen v. Stability AI, New York Times v. OpenAI). Een onderneming waarvan de content-pijplijn afhankelijk is van deze tools zou op een ochtend wakker kunnen worden met de ontdekking dat hun hele activabibliotheek juridisch besmet is.

Een mediabedrijf dat de herkomst van zijn door AI gegenereerde content niet kan bewijzen, bouwt op zand — juridisch zand dat verschuift telkens wanneer een rechtbank een uitspraak doet.

Hoe bouw je AI-audio die zijn eigen onschuld kan bewijzen?

We verwierpen het paradigma van "genereren uit ruis" volledig. In plaats daarvan bouwden we wat ik beschouw als Retrieval-Augmented Generation voor audio — dezelfde conceptuele zet die RAG naar tekst bracht, maar toegepast op geluid.

De pijplijn heeft twee fasen: deconstructie en reconstructie.

Voor deconstructie gebruiken we Hybrid Transformer Demucs — een bronscheidingsmodel dat gemengde audio neemt en isoleert in afzonderlijke stems: zang, drums, bas, andere instrumenten. De architectuur is een U-Net met skip-verbindingen (die hoogfrequente details behouden die anders bij compressie verloren zouden gaan) en een Transformer-encoder bij de bottleneck die self-attention gebruikt om de volledige audiosequentie te analyseren. Het verwerkt audio gelijktijdig in het tijddomein en het frequentiedomein en versmelt informatie uit beide.

We lieten Demucs over het volledige gelicentieerde archief van de klant lopen. Duizenden uren gemengde audio, gescheiden in schone, geïsoleerde stems, elk getagd en geïndexeerd op audiokenmerken — timbre, toonhoogte, ritme. We hadden hun back-catalogus veranderd van een verzameling afgewerkte nummers in een enorme bibliotheek van bouwstenen.

Voor reconstructie — specifiek voor spraakcontent — gebruiken we Retrieval-Based Voice Conversion. Dit is fundamenteel anders dan tekst-naar-spraak of diffusie-gebaseerde stemgeneratie. RVC is spraak-naar-spraak: het neemt een invoeropname (bijvoorbeeld een creatief directeur die een script op zijn telefoon inspreekt) en transformeert het timbre om overeen te komen met een gelicentieerde doelstem, terwijl de intonatie en het ritme van de originele uitvoering behouden blijven.

Het cruciale mechanisme zit in de naam: retrieval. We gebruiken HuBERT om spreker-agnostische inhoudskenmerken uit de invoer te halen. Vervolgens bevragen we voor elk frame een FAISS-index van kenmerkvectoren die zijn afgeleid van de opnamen van de gelicentieerde stemacteur. We halen de dichtstbijzijnde overeenkomende akoestische details op — de ademigheid, de resonantie, de specifieke vocale kwaliteit — uit daadwerkelijk geautoriseerde opnamen. De output klinkt als de doelstem omdat we specifieke datapunten uit hun gelicentieerde index hebben gehaald, niet omdat een neuraal netwerk een benadering heeft verzonnen.

Ik kan niet genoeg benadrukken hoeveel dit juridisch uitmaakt. In een deepfake-model leeft de doelstem als ondoorzichtige gewichten van een neuraal netwerk. In ons systeem is elk akoestisch detail terug te herleiden tot een specifieke, van tijdstempel voorziene, gelicentieerde opname. De keten van eigendomstitel is ononderbroken.

Het papierwerk dat met het geluid meereist

Herkomst-schone audio genereren is noodzakelijk maar niet voldoende. Het activum moet zijn eigen bewijs meedragen. We implementeren de C2PA-standaard — Coalition for Content Provenance and Authenticity — die knoeibestendige herkomstgegevens rechtstreeks in mediabestanden inbedt met behulp van publieke-sleutelcryptografie.

Elk audiobestand dat we genereren wordt geleverd met een ondertekend manifest: de hash van de invoergidstrack, de ID van het gelicentieerde stemmodel, de volledige reeks verwerkingsacties en de toolversie. Elke stroomafwaartse gebruiker — een streamingplatform, een omroep — kan de handtekening valideren en bevestigen dat het activum volledig uit geautoriseerde bronnen is opgebouwd.

We hebben ook de Structural Similarity Index aangepast voor audiokwaliteitscontrole. Door spectrogrammen van de invoergids en de output te vergelijken, betrappen we gevallen waarin de AI de uitvoering heeft vervormd — een woord heeft overgeslagen, het ritme heeft veranderd, een pauze heeft gehallucineerd. Alles onder een SSIM-drempel van 0,95 wordt automatisch gemarkeerd voor menselijke beoordeling.

Voor de volledige technische uiteenzetting van zowel de materiaal- als de audio-architecturen, zie ons onderzoeksartikel.

Wat dan met gewoon betere prompts gebruiken?

Mensen verzetten zich tegen deze aanpak. Ze vertellen me dat we het probleem overengineeren. "Gebruik gewoon een beter model." "Fine-tune gewoon op je domeindata." "Voeg gewoon een disclaimer toe."

Een investeerder zei me botweg: "Gebruik gewoon GPT met een goede system prompt en bespaar jezelf de infrastructuurkosten." Ik vroeg hem of hij zijn gezin in een elektrisch voertuig zou zetten waarvan het batterij-elektrolyt was geselecteerd door een system prompt. Hij veranderde van onderwerp.

Het diepere bezwaar gaat over kosten en complexiteit. Ja, DFT-berekeningen uitvoeren op een HPC-cluster is duurder dan een API aanroepen. Ja, een FAISS-geïndexeerde stemdatabase met C2PA-ondertekening bouwen is moeilijker dan een diffusiemodel op een tekstprompt richten. Maar de vraag is niet of deterministische validatie duurder is dan probabilistische generatie. De vraag is of het duurder is dan een batterij-terugroepactie. Of een rechtszaak over auteursrecht die je hele content-bibliotheek ongeldig maakt.

Anderen vragen of deze aanpak schaalt. Dat doet hij — daar is het active-learning-vliegwiel voor. Het systeem wordt met elke cyclus efficiënter. De hitrate stijgt. De kosten per gevalideerde kandidaat dalen. De stemdatabase groeit. Je lost niet alleen het probleem van vandaag op; je bouwt een motor die zich opstapelt.

Het einde van AI-toerisme

Ik denk dat we op een keerpunt zitten. Het tijdperk van experimenteren met AI — chatbots in de lobby, copiloten in de zijbalk, wrappers op alles — loopt ten einde. Niet omdat die tools niet nuttig zijn, maar omdat de ondernemingen die er het meest toe doen nu proberen AI in de kern van hun activiteiten te brengen. In het R&D-lab. In de productiestudio. In de systemen waar falen gevolgen heeft die worden gemeten in thermische incidenten en rechtszaken, niet in ongemakkelijke chatbot-antwoorden.

In die omgevingen is de tolerantie voor hallucinatie nul. Niet laag. Nul.

De architectuur die we bij Veriprajna hebben gebouwd — voor batterijen, voor audio, voor elk domein waar waarheid niet onderhandelbaar is — rust op één enkel principe: de generatieve kracht van het neurale netwerk moet strikt ondergeschikt zijn aan de verifiërende kracht van de Oracle. De AI stelt voor. De fysica beslist. De AI stelt samen. De herkomst bewijst. De creatieve capaciteit van deze modellen is buitengewoon. Maar creativiteit zonder verantwoording is slechts geraffineerd gokken.

Voor de batterijfabrikant is een hallucinatie een brand. Voor het mediabedrijf is een hallucinatie een rechtszaak. De enige levensvatbare architectuur beteugelt generatie met verificatie — telkens weer, zonder uitzondering.

Ik denk niet dat de toekomst van AI toebehoort aan de modellen die de meest overtuigende outputs genereren. Ik denk dat ze toebehoort aan de systemen die kunnen bewijzen dat hun outputs waar zijn. Beperkingen begrenzen intelligentie niet. Ze scheppen werkelijkheid.