De boete van $400.000 die elk AI-bedrijf zou moeten doen huiveren — en wat ik in plaats daarvan bouw

Ik was aan de telefoon met een potentiële klant uit de bankwereld toen de SEC de handhavingszaken tegen Delphia en Global Predictions bekendmaakte. 18 maart 2024. De compliance officer van de klant onderbrak ons gesprek letterlijk om het persbericht hardop voor te lezen. Toen ze klaar was, viel er een lange stilte. Daarna zei ze: "Dus eigenlijk heeft de SEC ons zojuist verteld dat alles wat onze huidige AI-leverancier ons heeft beloofd een rechtszaak is die staat te gebeuren."

Ze zat er niet naast. De SEC had zojuist twee beleggingsadviesbureaus een gecombineerde boete van $400.000 opgelegd voor wat toezichthouders formeel AI washing noemden — het doen van valse en misleidende beweringen over hun gebruik van kunstmatige intelligentie. Eén bedrijf, Delphia, vertelde klanten sinds 2019 dat het machine learning gebruikte om hun uitgavenpatronen en socialemedia-activiteit te analyseren om "te voorspellen welke bedrijven en trends op het punt staan door te breken." De realiteit? Ze hadden die data nooit daadwerkelijk in hun beleggingsproces geïntegreerd. Geen enkele keer. Ze vermarktten een capaciteit die letterlijk niet bestond.

Dat telefoongesprek veranderde de koers van mijn bedrijf. Niet omdat de handhavingszaken me verrasten — ik volgde deze botsing tussen AI-hype en de realiteit van regelgeving al maanden. Wat veranderde, was de urgentie. Ineens vroeg geen enkele bank, geen enkel zorgsysteem en geen enkel advocatenkantoor waarmee ik sprak nog "hoe zetten we AI in?" Ze vroegen: "hoe bewijzen we dat onze AI daadwerkelijk doet wat we zeggen dat hij doet?"

Die vraag — hoe bouwt u bewijsbare waarheid in een AI-systeem in — is wat ik sindsdien obsessief probeer te beantwoorden.

Wat is AI washing precies, en waarom zou u zich er druk om moeten maken?

Denk aan greenwashing, maar dan voor algoritmes. Een bedrijf plakt "powered by AI" op zijn marketingmateriaal, ziet de aandelenkoers stijgen of de salespijplijn vollopen, en niemand vraagt zich af of de onderliggende technologie daadwerkelijk werkt zoals geadverteerd. De SEC leende de term bewust — de mechanica van de misleiding is identiek.

Delphia beweerde een "voorspellend algoritmisch model" te gebruiken, aangedreven door machine learning. De SEC onderzocht het bedrijf, droeg het in 2021 op te stoppen met liegen, en het bedrijf bleef gewoon liegen, nog twee jaar lang. Dat leverde het een boete van $225.000 en een berisping op. Global Predictions noemde zichzelf ondertussen "de eerste gereguleerde AI-financieel adviseur" en beloofde "deskundige AI-gedreven prognoses." Toen toezichthouders om de technische documentatie vroegen om die beweringen te onderbouwen, kon het bedrijf die niet overleggen. Nog eens $175.000 weg.

De SEC had geen nieuwe AI-specifieke wetgeving nodig om deze zaken te vervolgen. Ze gebruikten dezelfde antifraudewetgeving die al decennia bestaat. Als u liegt over wat uw technologie doet, pleegt u fraude. Het "AI"-gedeelte is irrelevant.

Dit is wat dit anders maakt dan een gebruikelijke tik op de vingers van een toezichthouder: SEC-voorzitter Gary Gensler maakte duidelijk dat dit het begin was, en geen eenmalige actie. En de SEC staat niet alleen. De FTC lanceerde "Operation AI Comply" en pakte DoNotPay aan — het bedrijf dat zichzelf vermarktte als "'s werelds eerste robotadvocaat" — omdat het zijn claims niet kon onderbouwen dat zijn AI een menselijke advocaat kon vervangen. Het Amerikaanse ministerie van Justitie kondigde aan dat het AI-risicobeheer zou meewegen in beoordelingen van bedrijfscompliance en zwaardere straffen zou eisen voor misdrijven die door AI-misbruik worden gefaciliteerd.

Drie federale instanties die alle op dezelfde boodschap uitkomen: bewijs het of betaal ervoor.

De avond waarop ik besefte dat de meeste enterprise-AI op zand is gebouwd

Ik herinner me een specifieke avond — mijn team en ik benchmarkten een "AI-aangedreven juridisch onderzoekstool" van een concurrent — een tool die een klant overwoog. We legden het een rechttoe rechtaan vraag voor over een recente uitspraak van een federaal hof van beroep. De tool gaf een prachtig opgemaakt antwoord met drie jurisprudentieverwijzingen. Zelfverzekerde toon. Professioneel taalgebruik. Eén probleem: een van de verwijzingen was volledig verzonnen. De zaak bestond niet. De andere twee bestonden wel, maar zeiden het tegenovergestelde van wat de tool beweerde.

Mijn medeoprichter keek me aan en zei: "Dit ding schrijft als een advocaat en redeneert als een papegaai."

Dat is het technische kernprobleem, en het is geen bug — het is de architectuur. De meeste Large Language Models werken via next-token-voorspelling. Ze berekenen de waarschijnlijkheid van welk woord er als volgende zou moeten komen, gegeven alles wat eraan voorafging. De wiskunde is elegant: een softmax-functie over de outputscores van het model, die de meest waarschijnlijke voortzetting selecteert. Maar "meest waarschijnlijk" en "waar" zijn fundamenteel verschillende dingen. Het model heeft geen intern concept van waarheid. Het heeft nog nooit een wetstekst gelezen en begrepen. Het heeft miljarden tokens verwerkt en geleerd welke woorden meestal in de buurt van andere woorden voorkomen.

Voor het genereren van marketingteksten of het samenvatten van vergadernotities is dit prima. Om een bank te vertellen of een transactie voldoet aan antiwitwasregelgeving, of om een arts te vertellen of een geneesmiddelinteractie gevaarlijk is, is "statistisch plausibel" juridisch identiek aan "fout."

In gereguleerde omgevingen is "grotendeels correct" geen kwaliteitsniveau — het is een aansprakelijkheidscategorie.

En toch is de overgrote meerderheid van de "AI-oplossingen" die op dit moment aan bedrijven worden verkocht wat de industrie eufemistisch "wrappers" noemt. Ze nemen een publieke API van OpenAI of Anthropic, voegen wat prompt engineering en een mooie gebruikersinterface toe, en leveren het uit. De wrapper heeft geen enkele manier om zijn eigen redenering te verifiëren. Hij kan niet bewijzen waar zijn antwoorden vandaan komen. Hij geeft simpelweg door wat het basismodel genereert, hallucinaties en al.

Ik heb uitgebreid over dit probleem geschreven in de interactieve versie van ons onderzoek — de kloof tussen wat deze systemen beweren en wat ze architectonisch kunnen doen is verbijsterend.

Waarom faalt RAG bij beslissingen met hoge inzet?

Wanneer ik dit probleem uitleg aan een technisch publiek, zegt er onvermijdelijk iemand: "Maar hoe zit het met RAG?" Retrieval-Augmented Generation — de aanpak waarbij u het model toegang geeft tot een database met documenten, zodat het dingen kan opzoeken in plaats van ze te verzinnen. Het is de favoriete pleister van de industrie.

Dit is het probleem. Standaard Vector RAG werkt door uw vraag en uw documenten om te zetten in wiskundige representaties (vectoren), en vervolgens de documenten te vinden die in die abstracte ruimte het "dichtst" bij uw vraag liggen. Het is een zoekopdracht op semantische gelijkenis. En voor veel toepassingen werkt dat redelijk goed.

Maar "redelijk goed" stort in bij domeinen waar de relaties tussen stukjes informatie net zo belangrijk zijn als de informatie zelf. Neem juridisch onderzoek. Een rechterlijke uitspraak bestaat niet zomaar — ze citeert andere uitspraken, vernietigt sommige, bevestigt andere en functioneert binnen een specifieke jurisdictionele hiërarchie. Wanneer u een juridische AI vraagt "is dit precedent nog geldend recht?", kan een vectorzoekopdracht de zaak naar boven halen omdat de woorden overeenkomen. Maar hij kan u niet vertellen dat de uitspraak zes maanden later door een hogere rechter is vernietigd. Hij kan geen onderscheid maken tussen een citaat en een verwerping.

Mijn team heeft hier wekenlang over gediscussieerd. Eén engineer wilde onze vectorretrieval blijven verbeteren — betere embeddings, betere chunking-strategieën, geavanceerdere reranking. Een ander bleef volhouden dat het probleem niet de kwaliteit van de retrieval was, maar de retrievalarchitectuur. Dat het hele paradigma van "vind het dichtstbijzijnde document" verkeerd was voor domeinen waarin de relaties tussen documenten de betekenis dragen.

Ze had gelijk. En dat argument is wat ons richting GraphRAG duwde.

Wat gebeurt er als u AI bouwt die zijn redenering kan bewijzen?

GraphRAG — specifiek wat wij Citation-Enforced GraphRAG noemen — vervangt de vage semantische zoekopdracht door een gestructureerde kennisgraaf. In plaats van zwevende vectoren in een abstracte ruimte bouwt u een expliciete kaart van hoe informatie samenhangt. In een juridische kennisgraaf is een rechterlijke uitspraak een knooppunt. De relatie tot andere uitspraken is een edge — CITES, OVERRULES, AFFIRMS, INTERPRETS. Wetsteksten zijn verbonden met de zaken waarin ze worden geïnterpreteerd. Jurisdictionele hiërarchieën zijn direct gecodeerd.

Wanneer de AI een antwoord genereert, zoekt hij niet zomaar "vergelijkbare" tekst. Hij doorloopt geverifieerde paden in de graaf. Als hij beweert dat zaak A stelling B ondersteunt, moet er een daadwerkelijke, controleerbare verbinding in de graaf bestaan die ze verbindt. We gebruiken graph-constrained decoding om het model fysiek te beletten een verwijzing te produceren die het niet kan verifiëren. Het model kan letterlijk geen verwijzing hallucineren, omdat de architectuur dat niet toelaat.

Dit is wat ik bedoel met deterministische AI. Niet "waarschijnlijk juist." Aantoonbaar gefundeerd.

Het verschil tussen Vector RAG en GraphRAG is geen incrementele verbetering — het is het verschil tussen gokken welk boek relevant is en de voetnoten daadwerkelijk lezen.

We combineren dit met multi-agent-orkestratie. In plaats van één model dat alles doet — onderzoek, verificatie, schrijven — gebruiken we gespecialiseerde agents. Een Research Agent haalt de ruwe informatie op. Een Verification Agent toetst die aan de kennisgraaf. Een Writer Agent produceert de output op basis van uitsluitend geverifieerde feiten. Deze agents doorlopen wat wij een Cyclic Reflection Pattern noemen, waarbij ze concepten iteratief controleren op hallucinaties voordat een mens het resultaat ooit ziet.

Het is langzamer dan een wrapper. Het kost meer om te bouwen. En het is de enige architectuur die ik zou vertrouwen bij een beslissing die uiteindelijk voor een toezichthouder kan belanden.

Het probleem van datasoevereiniteit waar niemand over wil praten

Er is nog een dimensie die in het gesprek over AI washing grotendeels wordt genegeerd: waar de data zich bevindt.

Een klant uit de zorg vroeg me ooit ronduit: "Als we uw systeem gebruiken, waar gaan de gegevens van onze patiënten dan heen?" Toen ik hun vertelde dat die hun eigen infrastructuur nooit verlaten, keken ze opgelucht. Vervolgens vertelden ze me dat hun vorige leverancier — een bekend AI-bedrijf — die vraag niet duidelijk kon beantwoorden. De data gingen naar de cloud van de leverancier, werden verwerkt op gedeelde infrastructuur, en de servicevoorwaarden van de leverancier stonden technisch gezien toe om ze te gebruiken om hun modellen te verbeteren.

Voor een bedrijf dat data verwerkt die onder HIPAA, de AVG of de CCPA vallen, is dat geen grijs gebied. Dat is een overtreding.

Wij implementeren op soevereine infrastructuur — volledig self-hosted op de locatie van de klant, of binnen hun eigen private cloud (VPC), waar de AI-instances zijn geïsoleerd van het publieke internet. Dat vereist meer investering vooraf. De klant heeft GPU's en gespecialiseerde infrastructuur nodig. Maar ze krijgen iets wat geen enkele publieke API kan bieden: geen enkele datalekkage en volledige controleerbaarheid. Elke query, elk antwoord, elke modelversie — alles binnen hun eigen governancekader.

Voor de volledige technische architectuur van hoe we dit bouwen — inclusief het schema van de kennisgraaf, het multi-agent-orkestratieframework en onze aanpak van soevereine implementatie — zie onze technische verdieping.

Hoe richt u AI-governance daadwerkelijk in zonder te verdrinken in compliance?

Ik heb in bestuurskamers gezeten waar directieleden AI-governance behandelen als een afvinklijstje. Kies een framework, vul de formulieren in, ga verder. Die aanpak levert u een boete op.

Twee frameworks zijn uitgegroeid tot de industriestandaarden, en ze dienen verschillende doelen. Het NIST AI Risk Management Framework is een vrijwillige tactische gids — het helpt u risico's te identificeren, te meten en interne processen op te bouwen. Het is snel te implementeren en uitstekend om binnen uw organisatie op te bouwen wat ik "AI-risicospieren" noem. Maar het is zelfverklaard. Niemand verifieert dat u daadwerkelijk hebt gedaan wat u zei.

ISO/IEC 42001 is de certificeerbare internationale norm. Een externe auditor onderzoekt uw AI-managementsysteem en certificeert u wel of niet. Die certificering doet ertoe wanneer een toezichthouder, een klant of een overnemende partij vraagt: "bewijs dat uw AI-governance echt is."

De slimme zet is om beide op elkaar te laten volgen: gebruik NIST om snel wendbare interne controles op te bouwen, en koppel die controles vervolgens aan de eisen van ISO 42001 voor formele certificering. Het ene geeft u snelheid, het andere geeft u bewijs.

En onder beide frameworks ligt een opkomende vereiste waar de meeste bedrijven nog nooit van hebben gehoord: de AI Bill of Materials (AIBOM). Zie het als een voedingswaarde-etiket voor uw AI-systeem. Het is een machineleesbaar overzicht van alles wat er in de bouw ervan is gegaan — trainingsdatasets, basismodellen, bibliotheken van derden, infrastructuurafhankelijkheden. Wanneer een auditor vraagt "met welke data is dit model getraind?" of "welke versie van PyTorch draaide er toen deze beslissing werd genomen?", geeft de AIBOM onmiddellijk antwoord.

Wij genereren AIBOM's automatisch als onderdeel van onze deployment-pipeline. Elke modelversie is te herleiden tot exacte code- en datasetversies. Het is geen glamoureus werk. Maar het is het verschil tussen een audit doorstaan en in paniek documentatie reconstrueren die er vanaf dag één had moeten zijn.

De investeerder die tegen me zei: "Gebruik gewoon GPT"

Ik moet dit verhaal vertellen, omdat het precies de mentaliteit vat die de handhaving tegen AI washing bedoeld is te bestraffen.

Vroeg in het bestaan van Veriprajna deed ik een pitch bij een investeerder. Ik legde onze architectuur uit — de kennisgrafen, de multi-agent-verificatie, het soevereine implementatiemodel. Hij luisterde beleefd en zei toen: "Waarom wrap je niet gewoon GPT-4, vraag je minder en schaal je sneller? Niemand gaat de backend auditen."

Ik vertelde hem dat de SEC net twee bedrijven had beboet voor precies die logica. Hij haalde zijn schouders op.

Zes maanden later werd een van zijn portfoliobedrijven — een "AI-aangedreven" fintech — door een toezichthouder bevraagd over zijn marketingclaims. Ze konden geen documentatie overleggen die aantoonde dat hun AI daadwerkelijk deed wat hun pitchdeck beweerde. Het laatste wat ik hoorde, was dat ze in paniek compliance-consultants aan het inhuren waren tegen noodtarieven.

Mensen vragen me altijd of het handhavingsklimaat zal versoepelen — of een nieuwe regering of verschuivende prioriteiten AI washing minder riskant zouden kunnen maken. Mijn eerlijke antwoord: het maakt niet uit. De SEC gebruikte bestaande antifraudewetgeving. De FTC gebruikte Section 5 van de FTC Act, die al sinds 1914 in de boeken staat. Procureurs-generaal van staten hebben hun eigen consumentenbeschermingswetten. Zelfs als de federale handhavingsprioriteiten verschuiven, is de juridische infrastructuur voor het vervolgen van AI-misleiding permanent en meerlaags.

AI washing is geen voorbijgaande gril van toezichthouders. Het is fraude in een laboratoriumjas, en elk overheidsniveau beschikt nu over de middelen én de bereidheid om het te vervolgen.

De belangrijkere vraag is wat er met de markt gebeurt. Wanneer bedrijven succes hebben op basis van verzonnen AI-capaciteiten, verstoren ze de concurrentie en tasten ze het vertrouwen aan dat legitieme AI-bedrijven nodig hebben om te functioneren. Elke wrapper die als "geavanceerde AI" wordt verkocht, maakt het moeilijker voor bedrijven die echte engineering doen om uit te leggen waarom hun oplossingen meer kosten en meer tijd vergen om te bouwen.

Hoe ziet een betrouwbaar AI-systeem er eigenlijk uit?

Als u de frameworks en de acroniemen wegstreept, komt het bouwen van AI die toezicht kan doorstaan neer op vier dingen.

Bouw determinisme in. Ga verder dan probabilistische output naar architecturen — neuro-symbolische systemen, kennisgrafen, graph-constrained decoding — die hun redenering kunnen bewijzen. Als uw AI zijn werk niet kan tonen, is hij niet klaar voor gereguleerde omgevingen.

Ontwerp soevereiniteit. Implementeer binnen infrastructuur die u zelf beheert. Als de gevoelige data van uw klant gedeelde publieke infrastructuur raakt, hebt u een compliance-aansprakelijkheid gecreëerd die geen enkele hoeveelheid prompt engineering kan verhelpen.

Standaardiseer governance. Adopteer certificeerbare frameworks. Onderhoud AI Bills of Materials. Maak van documentatie een continu, geautomatiseerd proces, geen jaarlijkse paniekactie.

Valideer continu. Implementeer adversarial red-teaming, volg hallucinatiepercentages en groundingpercentages als KPI's, en behoud menselijk toezicht bij beslissingen met hoge inzet. Het model dat bij implementatie accuraat was, zal afdrijven. Monitor het zoals u een handelsalgoritme zou monitoren — want de gevolgen van falen zijn vergelijkbaar.

De $400.000 aan boetes van de SEC was een afrondingsfout voor de financiële sector. De boodschap achter die boetes was dat niet. Het tijdperk is voorbij waarin u AI-capaciteiten kon vermarkten die u niet bezat, black boxes kon uitrollen in gereguleerde workflows en ervan uit kon gaan dat niemand het zou controleren. Elk enterprise-AI-systeem opereert nu onder een impliciete bewijslast: kunt u aantonen dat dit doet wat u beweert?

Ik heb Veriprajna gebouwd — de naam combineert "Veri" (waarheid) en "Prajna" (wijsheid) — omdat ik geloof dat de geloofwaardigheidscrisis van de AI-industrie fundamenteel een architectuurcrisis is. U kunt een waarheidsprobleem niet oplossen met een systeem dat nooit is ontworpen om om waarheid te geven. U moet het erin engineeren, vanaf de kennisgraaf omhoog, door elke agent, elke verificatielus, elke implementatiebeslissing heen.

De bedrijven die dit begrijpen, zullen AI bouwen die daadwerkelijk werkt. Degenen die dat niet doen, zullen API's blijven wrappen, indrukwekkende pitchdecks blijven schrijven en hopen dat niemand onder de motorkap kijkt. De toezichthouders kijken nu wel. En ze gaan niet stoppen.