Waarom 99% nauwkeurige AI toch catastrofale fouten kan veroorzaken

Het probleem

Een AI-model getraind op miljoenen scheikundeboeken heeft zojuist een nieuwe moleculaire structuur voorgesteld voor uw batterij-elektrolyt. Het klopt op het eerste gezicht. Het leest overtuigend. Maar het schendt de basisregels van valentie — de fundamentele wetten die bepalen hoe atomen zich binden. Die ene fout, begraven onder lagen van plausibiliteit, kan thermal runaway veroorzaken: een zichzelf versterkende ketenreactie die een accupakket binnen milliseconden in vuur zet. Ondertussen heeft een generatieve audiotool in uw mediadivisie zojuist een soundtrack geproduceerd die statistisch lijkt op een auteursrechtelijk beschermde melodie van The Beatles. Uw team merkte er niets van. Een advocaat namens de eiser wel.

Dit is het kerngevaar van de generatieve AI van vandaag. Deze systemen berekenen geen antwoorden — ze voorspellen het meest waarschijnlijke volgende woord, de meest waarschijnlijke volgende pixel of geluidsgolf. Het zijn motoren van plausibiliteit, geen motoren van waarheid. De output is 99% overtuigend en 1% fysiek onmogelijk of juridisch inbreukplegend. Voor uw bedrijf is die 1% geen afrondingsfout. Het is precies de kloof waar catastrofes huizen. Standaard grote taalmodellen voorspellen tokens, geen elektronendichtheden. Diffusiemodellen genereren audio zonder enig besef van eigendom of herkomst. De gebruiksvriendelijke interface verbergt het giswerk van het model achter een strak dashboard, en u ziet het risico nooit — tot een batterij vlamvat of er een auteursrechtenclaim op uw bureau belandt.

Waarom dit belangrijk is voor uw bedrijf

De financiële en juridische blootstelling hier is niet theoretisch. Deze vertaalt zich rechtstreeks in uw balans, uw complianceverplichtingen en de risicobereidheid van uw raad van bestuur.

Bekijk eerst de fysieke kant. Lithium-ionbatterijen komen tot falen via een deterministische cascade in drie fasen. Fase 1 begint al bij 80°C, wanneer de beschermende laag op de anode afbreekt. In fase 2, bij 110°C–135°C, smelt de separator en vormen zich ontvlambare gassen. Boven de 200°C klapt de kathode ineen, komt er zuurstof vrij en begint de verbranding. Uw elektrolyt is de brandstof in die laatste fase. Als AI een elektrolytmateriaal voorstelt dat thermodynamisch instabiel is — één dat ontleedt in plaats van standhoudt — dan heeft u een bom gebouwd, geen batterij.

Bekijk nu de juridische kant:

• Onbewust plagiaat is uw aansprakelijkheid. Bevat een gegenereerd audiospoor een loop van vier maten die identiek is aan een auteursrechtelijk beschermd nummer, dan is uw bedrijf aansprakelijk voor inbreuk — zelfs als niemand het heeft bedoeld.
• Claims over "schone data" beschermen u niet. De juridische houdbaarheid van het trainen van AI op auteursrechtelijk beschermd materiaal wordt op dit moment actief gecontesteerd in zaken als Andersen v. Stability AI en New York Times v. OpenAI. Als de rechtbanken tegen de modelleveranciers oordelen, kunnen uw gegenereerde assets van de ene op de andere dag ongeldig worden verklaard.
• De chemische zoekruimte is ongelooflijk uitgestrekt. Er zijn naar schatting 10^100 mogelijke combinaties van anorganische kristallen. Willekeurig experimenteel zoeken heeft een trefferkans onder de 1%. Een vergissing kost niet alleen R&D-gelden — ze vertraagt uw time-to-market met maanden per mislukte kandidaat.

Uw CFO ziet verspilde R&D-uitgaven. Uw juridisch directeur ziet niet te kwantificeren IE-risico. Uw veiligheidsfunctionaris ziet terugroeiaansprakelijkheid. Alle drie de problemen zijn terug te voeren op dezelfde oorzaak: AI die plausibele gissingen genereert in plaats van geverifieerde antwoorden.

Wat er echt onder de motorkap gebeurt

Dit is de eenvoudigste manier om te begrijpen waarom standaard generatieve AI faalt in omgevingen waar veel op het spel staat. Zie het als een zeer getalenteerde papegaai. De papegaai heeft miljoenen gesprekken over scheikunde of muziek aangehoord. Hij kan woorden aan elkaar rijgen die exact klinken als expertspraak. Maar hij begrijpt niet wat de woorden betekenen. Hij weet niet dat atomen bindingsregels volgen. Hij weet niet dat melodieën eigenaren hebben.

Grote taalmodellen werken precies zo. Ze voorspellen het statistisch meest waarschijnlijke volgende token in een reeks. Vraagt u er een om een moleculaire structuur te ontwerpen, dan assembleert het iets dat "lijkt op" scheikunde op basis van patronen in zijn trainingsdata. Maar het controleert nooit of de voorgestelde structuur voldoet aan de wetten van de thermodynamica. Er is geen interne fysica-engine. Er is geen controle op juridische compliantie.

Dit creëert wat het onderzoek provenance-obfuscatie noemt. Bij audiogeneratie is de output een wiskundige samensmelting van de trainingsdata. U kunt niet herleiden welke auteursrechtelijk beschermde werken aan het resultaat hebben bijgedragen. Het model doorloopt een hoogdimensionale ruimte om iets nieuws te produceren — maar "nieuw" betekent niet "schoon". Het kan overfiten en een herkenbare melodie of zangkleur uit zijn trainingsset reproduceren. U heeft geen audittrail om het tegendeel te bewijzen.

In de materiaalkunde is de faalwijze anders, maar even gevaarlijk. Een neuraal netwerk kan voorspellen dat een kandidaat-elektrolyt een lage vormingsenergie heeft — wat zou moeten betekenen dat het stabiel is. Maar een lage vormingsenergie alleen is niet genoeg. Een materiaal is pas werkelijk stabiel als het zich bevindt op wat natuurkundigen de convex hull noemen — de laagst mogelijke energiegrens voor een bepaalde chemische samenstelling. Materialen boven deze grens ontleden zich spontaan. Een standaard AI-model heeft geen mechanisme om de hull-positie te verifiëren. Het gokt, en u vertrouwt het.

Wat werkt (en wat niet)

Beginnen we met drie benaderingen die redelijk klinken maar in de praktijk stranden:

"We gebruiken gewoon een betere prompt." Prompt engineering voegt geen natuurkundige kennis toe aan een taalmodel. U kunt het vragen om "voorzichtig te zijn" — het voorspelt nog steeds tokens, geen thermodynamische stabiliteit.

"Wij hebben op schone data getraind." Zelfs modellen getraind op gelicentieerde datasets kunnen overfiten en herkenbare patronen reproduceren. En de juridische definitie van "schoon" wordt op dit moment beslist in lopende rechtszaken. Uw risico is niet weggenomen.

"We hebben een disclaimer toegevoegd." Disclaimers stoppen geen thermal runaway. Ze voorkomen geen auteursrechtenclaims. Toezichthouders en rechtbanken kijken naar wat uw systeem feitelijk deed, niet naar wat er in uw voettekst stond.

Dit is wat wél werkt — een architectuur in drie stappen die AI behandelt als een voorstelmotor, niet als een antwoordmotor:

1. AI stelt kandidaten voor vanuit een enorme zoekruimte. Voor materialen behandelt een Graph Neural Network genaamd GNoME kristalstructuren als grafen — atomen zijn knopen, bindingen zijn randen. Het genereert duizenden kandidaatstructuren en voorspelt hun stabiliteit. Voor audio splitst een source-separationmodel genaamd Demucs bestaande gelicentieerde audio in geïsoleerde stems — vocalen, drums, bas — en creëert zo een bibliotheek van geverifieerde bouwstenen. Uw AI begint met bekende, geautoriseerde ingrediënten.

2. Een deterministische validatielaag toetst elk voorstel aan de grondwaarheid. Voor materialen betekent dit Density Functional Theory (DFT) — een kwantummechanische berekening die de daadwerkelijke elektronendichtheid en energie van een kristal berekent. DFT is het "orakel" dat structuren opspoort waar het neurale netwerk de mist inging. Via een active learning-loop stelt de AI voor, valideert DFT, en vloeien de juiste antwoorden terug om het model opnieuw te trainen. Deze cyclus tilt de trefferkans van onder 1% bij willekeurig zoeken naar meer dan 80%. Voor audio doorzoekt een retrieval-systeem genaamd FAISS een database van gelicentieerde stemopnames. Elk akoestisch detail in de output — de ademing, de resonantie — komt van een specifiek, geautoriseerd datapunt en wordt niet uit ruis gegenereerd.

3. Een cryptografisch audittrail voorziet elke output van een stempel. De C2PA-standaard — een open protocol voor contentprovenance — embedt een fraudebestendig manifest direct in elk mediabestand. Dit manifest legt het bronmateriaal, het gebruikte gelicentieerde stemmodel, elke uitgevoerde verwerkingsstap en een digitale handtekening van uw organisatie vast. Elke downstreamgebruiker — een omroep, een streamingdienst, uw eigen juridische team — kan verifiëren dat de output volledig is opgebouwd uit geautoriseerde assets.

Voor materialen bestaat een vergelijkbare audit via de DFT-validatiehiërarchie. Elke kandidaat die slaagt, draagt zijn berekende ontledingsenergie en zijn positie ten opzichte van de convex hull. U kunt een toezichthouder exact laten zien waarom een materiaal is goedgekeurd: de energie boven de hull was 0 meV/atom (stabiel) of onder de 50 meV/atom (metastabiel en synthetiseerbaar), gevalideerd door kwantummechanische berekening — niet op basis van het giswerk van een neuraal netwerk.

Dit is het verschil tussen een black box en een white box. Uw complianceteam kan elke output tot zijn bron herleiden. Uw juridische team kan elke asset in de rechtszaal verdedigen. Uw veiligheidsingenieurs kunnen elk materiaal tegen de natuurkunde verifiëren.

De vraag is niet of uw AI indrukwekkend is. De vraag is of uw AI verantwoording kan afleggen.