We gaven $35 miljard uit aan AI en kregen er bijna niets voor terug
Het telefoontje kwam op een dinsdagavond. Een mid-market zorgbedrijf — dat we hadden geadviseerd — had zojuist zijn AI-paradepaardje geschrapt. Negen maanden werk. Een zescijferig bedrag. De CTO klonk uitgeput, niet boos. "In de demo werkte het perfect," vertelde hij me. "Elke keer weer. Toen koppelden we het aan echte patiëntgegevens en begon het verzekeringscodes te hallucineren."
Ik wist niet wat ik moest zeggen, want ik had alleen dat kwartaal al een keer of twaalf een variant van dit verhaal gehoord. AI die schittert in een vergaderzaal en uiteenvalt in productie. Pilots die in maand één enthousiasme opwekken en in maand zes budgetreviews. De kloof tussen wat generatieve AI belooft en wat het levert binnen een echte onderneming, is de bepalende spanning van dit moment in de technologie.
En nu hebben we de cijfers om het te bewijzen. Het MIT NANDA-initiatief publiceerde medio 2025 een studie die insloeg als een granaat: van de geschatte $30 tot $40 miljard die bedrijven in generatieve AI hebben gepompt, heeft ruwweg 95% van de pilots geen meetbare impact op de winst-en-verliesrekening opgeleverd. McKinseys eigen enquête uit 2025 sluit daarop aan — 88% van de organisaties zegt ergens AI te gebruiken, maar slechts 39% kan überhaupt op enige EBIT-impact wijzen.
Ik leid Veriprajna, waar we deep AI-systemen bouwen voor grote organisaties. Ik ben hier geen neutrale waarnemer. Maar ik ben dicht genoeg bij het wrakhout geweest — en bij de zeldzame successen — om een helder beeld te hebben van wat er werkelijk misgaat. En dat is niet wat de meeste mensen denken.
De demo zag er geweldig uit. Toen kwam de realiteit.
De ervaring van die zorg-CTO was niet ongebruikelijk. Het was vrijwel de mediane uitkomst.
De data van MIT brengen een genadeloze trechter in kaart: 80% van de organisaties verkent generatieve AI-tools. Slechts 20% komt tot een pilot. En amper 5% bereikt ooit productie met meetbare bedrijfsresultaten. De onderzoekers noemen het een "leerkloof", wat een beleefde manier is om te zeggen dat de meeste bedrijven niet begrijpen wat ze hebben gekocht.
Ik weet nog dat ik na het lezen van het volledige MIT-rapport op kantoor zat te discussiëren met mijn medeoprichter over de vraag of dat cijfer van 95% te dramatisch was. Dat was het niet. Als er iets was, dan onderschatte het het probleem, want veel van de "succesvolle" 5% hadden succes naar beneden geherdefinieerd — ze hadden adoptiecijfers of gebruikerstevredenheid gemeten in plaats van werkelijke omzetimpact.
Het patroon dat ik steeds zie is dit: een team bouwt een proof of concept met een groot LLM. Het handelt de tien voorbeeldvragen prachtig af. Het management raakt enthousiast. Het budget wordt goedgekeurd. Dan ontmoet het systeem de echte wereld — rommelige data, randgevallen, dubbelzinnige input, regelgeving waarbij "bijna goed" een rechtszaak betekent — en valt het uit elkaar.
De kloof tussen demo-klare AI en productieklare AI is geen kloof. Het is een ravijn, en de meeste bedrijven beseffen pas dat ze aan de verkeerde kant staan als ze al gesprongen zijn.
60% van de gebruikers in de MIT-studie meldde dat modellen niet in de loop van de tijd van feedback konden leren. 55% zei buitensporig veel moeite te steken in het aanleveren van context bij elke afzonderlijke prompt. 40% zei dat de modellen simpelweg "stukgingen" zodra ze niet-standaard input tegenkwamen. Dit zijn geen exotische faalvormen. Dit is een doordeweekse dinsdag.
Waarom bouwen bedrijven op drijfzand?
Het meeste van wat de zakelijke markt op dit moment "AI-producten" noemt, zijn wrappers — dunne gebruikersinterfaces bovenop een API-aanroep naar GPT-4 of Claude of Gemini. Je typt iets in, het gaat naar het model, het model antwoordt, en de wrapper maakt het netjes op.
Een pitchgesprek staat me nog fysiek bij: een potentiële klant liet me zijn "AI-gedreven compliance-engine" zien. Ik vroeg wat er zou gebeuren als het gedrag van het onderliggende model veranderde na een update van de provider. Het werd stil in de kamer. Daar hadden ze niet over nagedacht. Hun hele product was een prompt-template en een mooi dashboard. De "intelligentie" die ze verkochten was volledig gehuurd.
Dit is de wrapper-drogreden, en je komt hem overal tegen. De aanpak leunt meestal op wat men in de industrie een "mega-prompt" noemt — je propt regels, data, context en instructies in één enorme interactie en hoopt dat het model het uitzoekt. Ik ben dieper op dit architectuurprobleem ingegaan in de interactieve versie van ons onderzoek, maar de korte versie is dat mega-prompts drie fatale problemen veroorzaken:
Je kunt ze niet auditen. Er is geen manier om te verifiëren dat het model de instructies in de juiste volgorde heeft gevolgd. Voor sectoren met zware compliance-eisen is dat geen optie.
Ze zijn economisch fragiel. Lange contextvensters en retries verbranden tokens. En hier is een getal dat me schokte toen ik het voor het eerst zag: het verschil tussen een efficiënte en een inefficiënte tokenizer kan neerkomen op een kostenverschil van 450% voor dezelfde workload. Een onderneming die dagelijks 100.000 klantvragen verwerkt, kan haar jaarlijkse kosten zien springen van $36.500 naar meer dan $164.000, alleen al door het verkeerde model te kiezen voor een meertalige use case.
Ze zijn broos. Verander drie woorden in een prompt en je krijgt een compleet andere output. Probeer daar maar eens een SLA op te bouwen.
De economische val is nog erger dan de technische. Wanneer OpenAI of Anthropic de API-prijzen verlaagt — en ze zullen die blijven verlagen — zien wrapper-bedrijven hun marges verdampen. Ze bezitten de data niet. Ze bezitten de workflow niet. Ze verkopen andermans intelligentie door met een opslag, en op het moment dat de huisbaas voor iedereen de huur verlaagt, heeft de onderverhuurder geen business meer.
Wat betekent "deep AI" eigenlijk?
Ik zal je vertellen wanneer het kwartje viel.
We werkten aan een documentverwerkingssysteem voor een logistieke klant. De eerste aanpak was rechttoe rechtaan: stuur het vrachtdocument naar een LLM, vraag het de relevante velden te extraheren, geef de resultaten terug. Het werkte op standaardformulieren. Toen stuitten we op een containermanifest van een Zuidoost-Aziatische haven met annotaties in meerdere talen, handgeschreven correcties en een opmaak die met niets in de trainingsdata overeenkwam. Het model gaf vol vertrouwen onzin terug.
Mijn lead engineer, gefrustreerd na een week prompt engineering die telkens nieuwe faalvormen opleverde, zei uiteindelijk: "We vragen één brein om zeven taken te doen. Wat als we elke taak aan een specialist gaven?"
Dat is deep AI in één zin. In plaats van het LLM te behandelen als een orakel dat alles afhandelt, behandel je het als één component in een groter systeem. Je ontleedt het probleem. De ene agent verzorgt het begrijpen van de vraag. Een andere haalt data op uit een gestructureerde database. Een derde valideert de output tegen bekende regels. Een vierde maakt het antwoord op. Elke agent heeft een afgebakende verantwoordelijkheid, en de workflow ertussen is deterministisch — wat betekent dat jij de volgorde, de logica en de controlepunten bepaalt.
Deep AI behandelt het taalmodel als een getalenteerde stagiair, niet als een CEO. Je geeft het specifieke taken binnen een gestuurde structuur, niet de sleutels van het pand.
De agentic ontwerppatronen die dit laten werken zijn niet theoretisch. Ze worden nu uitgerold:
Een reflectiepatroon waarbij de agent zijn eigen output bekritiseert voordat die naar de gebruiker gaat. Een tool-use-patroon waarbij de agent externe rekenmachines, API's of databases aanroept in plaats van antwoorden uit zijn geheugen te berekenen. Een planningspatroon dat complexe doelen opdeelt in opeenvolgende stappen. En een orkestratiepatroon waarbij een supervisor-agent de hele workflow beheert en taken naar de juiste specialist routeert.
Toen we dat logistieke systeem herbouwden met multi-agent-orkestratie, ging de extractienauwkeurigheid op niet-standaard documenten van ruwweg 60% naar meer dan 95%. Belangrijker nog: wanneer het wél faalde, konden we precies zien waar en waarom — omdat het systeem geen black box meer was. Het was een pijplijn met observeerbare, auditeerbare stappen.
Waarom nekken tokenkosten de ROI van enterprise-AI?
Dit is het deel dat te weinig aandacht krijgt.
Iedereen heeft het over modelnauwkeurigheid. Bijna niemand heeft het over de unit economics van het draaien van deze systemen op schaal. Maar ik heb gezien hoe tokenkosten in stilte de businesscase vermoordden van AI-projecten die verder perfect werkten.
De rekensom is eenvoudig maar genadeloos. Verschillende modellen tokeniseren tekst verschillend — vooral niet-Engelse tekst en complexe schriften. Een query die op het ene model 800 tokens kost, kost op het andere misschien 4.500. Vermenigvuldig dat met honderdduizenden dagelijkse interacties en je kijkt naar een kostenverschil dat elke efficiëntiewinst die de AI zou opleveren wegvaagt.
Ik schrok oprecht toen we de tokenisatie-analyse deden voor een klant die in het Tamil en het Engels opereert. Het kostenverschil tussen hun huidige model en een efficiënter alternatief was 4,5x. Ze bloedden geld bij elke afzonderlijke interactie en schreven dat in hun budget toe aan "infrastructuurkosten". Niemand had eraan gedacht om naar de tokenizer te kijken.
Deep AI-systemen pakken dit aan door chirurgisch om te gaan met het moment waarop ze dure LLM-tokens inzetten. Taken met een hoog volume en lage complexiteit worden afgehandeld door kleinere modellen of deterministische logica. De dure redeneercapaciteit wordt gereserveerd voor de stappen waar het echt toe doet. Het is het verschil tussen een senior consultant inhuren om elk telefoontje te beantwoorden en die persoon laten focussen op de beslissingen die oordeelsvermogen vereisen.
De 10-20-70-regel die niemand volgt
Als ik met leidinggevenden praat over waarom hun AI-projecten zijn vastgelopen, wijzen ze bijna altijd naar technologie. Het model was niet goed genoeg. De data waren niet schoon. De integratie was te complex.
Ze hebben op geen van die punten ongelijk. Maar ze missen de werkelijke verhouding. De bedrijven die daadwerkelijk EBIT-impact zien — en McKinsey zegt dat slechts 6% meer dan 5% van de totale EBIT uit AI haalt — hanteren een verdeling van middelen die de meeste technologen zou verrassen:
10% van de inspanning gaat naar het kiezen en afstemmen van de algoritmes. 20% gaat naar het bouwen van de data- en technologie-infrastructuur. 70% gaat naar het aansturen van mensen, processen en culturele transformatie.
Zeventig procent. Niet aan technologie. Aan mensen zover krijgen dat ze hun manier van werken veranderen.
Ik heb me langer tegen dit idee verzet dan ik had moeten doen. Ik ben van nature een ingenieur. Ik wilde geloven dat als we een beter systeem bouwden, de adoptie vanzelf zou volgen. Er was een pijnlijk project voor nodig — waarin we een technisch uitstekende oplossing opleverden die drie maanden ongebruikt bleef staan omdat niemand de workflow eromheen had herontworpen — om te internaliseren dat de technologie het makkelijke deel is.
Mid-market bedrijven die het 10-20-70-principe volgen, verbeteren hun EBITDA met 160 tot 280 basispunten binnen 24 maanden. Degenen die 70% aan technologie besteden en 10% aan verandermanagement, krijgen dure software die op de plank blijft liggen.
De successen zijn niet glamoureus. Revenue cycle management. Automatisering van cash application. Optimalisatie van cloudkosten. Niemand schrijft ademloze LinkedIn-posts over het terugdringen van achterstanden in ontslagen-maar-nog-niet-definitief-gefactureerde declaraties. Maar Inova Health System bracht die achterstand met 50% terug en bespaarde jaarlijks $1,3 miljoen. De virtuele AI-assistenten van OSF HealthCare bespaarden $1,2 miljoen terwijl ze de omzet verhoogden met nog eens $1,2 miljoen. UPS bespaart $400 miljoen per jaar dankzij AI-gestuurde routering.
Dit zijn geen pilotresultaten. Dit zijn productiesystemen die op schaal draaien, gebouwd met het soort diepe integratie waar wrappers niet aan kunnen tippen.
Wat gebeurt er als AI-agents op eigen houtje gaan handelen?
De verschuiving van AI die vragen beantwoordt naar AI die acties onderneemt verandert de beveiligingsafweging volledig.
Ik heb hier veel over nagedacht, deels vanwege een bijna-ongeluk tijdens het testen. We bouwden een agentic systeem dat toegang nodig had tot het ERP van een klant om voorraaddata op te halen. Tijdens een testrun probeerde de agent — die een redeneerketen volgde die technisch logisch maar contextueel verkeerd was — een inkooporder te wijzigen in plaats van hem alleen te lezen. We hadden waarborgen ingebouwd. Het ging niet door. Maar ik zat daarna aan mijn bureau te bedenken wat er zou zijn gebeurd als we minder zorgvuldig waren geweest.
Daarom doen standaarden als het Model Context Protocol (MCP) en het NANDA-framework er zo toe. MCP — ontwikkeld door Anthropic — fungeert als een gestandaardiseerde integratielaag tussen AI-agents en zakelijke databronnen. Men noemt het de "USB-C van AI", en dat is treffend: het betekent dat je niet voor elke verbinding een fragiele maatwerkintegratie nodig hebt. NANDA levert de governance-laag — cryptografisch verifieerbare capability-attestatie (wat betekent dat je kunt bewijzen wat een agent wel en niet mag doen), zero-trust toegangscontroles die zijn uitgebreid naar autonome agents, en gecentraliseerde audittrails.
Voor de volledige technische uitwerking van deze architectuurpatronen en hoe ze in elkaar grijpen, zie ons onderzoeksrapport.
Het punt is niet dat agentic AI gevaarlijk is en dat we moeten afremmen. Het punt is dat de wrapper-aanpak — waarbij je minimaal zicht hebt op wat het model doet en waarom — werkelijk roekeloos wordt zodra het model acties in de echte wereld kan ondernemen. Deep AI-systemen met observeerbare, gestuurde workflows zijn niet alleen betere engineering. Ze zijn de enige verantwoorde manier om autonome agents in een onderneming in te zetten.
"Gebruik gewoon GPT" en ander duur advies
Mensen vragen me voortdurend of ze gewoon moeten wachten tot de modellen beter worden. "GPT-5 lost dit wel op," hoorde ik een investeerder zeggen tijdens een diner. "Waarom al die infrastructuur bouwen als de volgende modelversie het native afhandelt?"
Ik begrijp de aantrekkingskracht van dat argument. Het is netjes. Het vergt geen hard werk. En het klopt niet.
Betere modellen lossen het wrapper-probleem niet op. Ze maken het erger. Een krachtiger model in een mega-promptarchitectuur is als een Formule 1-motor in een auto zonder stuur. Je gaat sneller de verkeerde kant op. De problemen die enterprise-AI om zeep helpen — gebrek aan auditeerbaarheid, broze prompts, geen feedbackloops, ontbrekende bedrijfscontext, onbeheerste kosten — zijn architectuurproblemen, geen capaciteitsproblemen.
De shadow AI-economie bewijst dit. Meer dan 90% van de werknemers gebruikt al stiekem persoonlijke ChatGPT- of Claude-accounts voor het werk, omdat de officiële AI-tools van hun bedrijf te rigide zijn. De modellen zijn capabel genoeg. De systemen eromheen niet.
Betere modellen redden slechte architectuur niet. Ze hallucineren alleen sneller en met meer overtuiging.
De andere vraag die ik krijg gaat over de doorlooptijd. "Hoe lang duurt dit eigenlijk?" Het eerlijke antwoord is 12 tot 18 maanden om van verspreide experimenten naar AI te komen die de winst-en-verliesrekening daadwerkelijk raakt. De eerste drie maanden zijn ontdekking — vaststellen waar AI waarde kan creëren zonder regulatoire blootstelling te creëren. Maand drie tot en met zes zijn datagereedheid, en dat is waar 58% van de CXO's zegt vast te lopen. Maand zes tot en met twaalf zijn het bouwen en itereren van multi-agent-prototypes — en dan bedoel ik 30+ iteratiecycli tegen echte data, geen drie gepolijste demo's. De laatste fase is productie-uitrol met volledige operationele ondersteuning: driftdetectie, biasmonitoring, kostengovernance.
Het gaat niet snel. Het is niet makkelijk. Maar de bedrijven die het doen, zijn degene die opduiken in de 6% van McKinsey met echte EBIT-impact.
De kloof is een keuze
De "GenAI Divide" die MIT heeft geïdentificeerd is geen technologiekloof. Het is een beslissingskloof.
Aan de ene kant: bedrijven die generatieve AI behandelden als een product om te kopen, een wrapper om uit te rollen, een demo om aan de raad van bestuur te tonen. Zij zijn de 95%. Ze gaven echt geld uit en kregen persberichten.
Aan de andere kant: bedrijven die AI behandelden als een architectuuruitdaging — een die vraagt om het ontleden van problemen, het besturen van workflows, het herontwerpen van processen en het ongeglamoureuze werk van het koppelen van modellen aan de rommelige realiteit van bedrijfsdata. Zij zijn de 5%. Zij gaven vergelijkbare bedragen uit en kregen EBIT-impact.
Ik denk soms aan die zorg-CTO. Degene die me op een dinsdag belde, uitgeput, net nadat hij zijn AI-project had geschrapt. Vier maanden later belde hij opnieuw. Zijn team had het systeem herbouwd met een multi-agentaanpak — aparte agents voor data-extractie, codevalidatie en compliancecontrole, met deterministische overdrachten daartussen. Het was niet zo elegant als de oorspronkelijke demo. Het duurde langer om te bouwen. Het vroeg meer denkwerk vooraf over workflowontwerp en faalvormen.
Het werkte. Niet perfect — niets werkt perfect — maar betrouwbaar genoeg om uit te rollen, te auditen en te verbeteren. Betrouwbaar genoeg om op te duiken op een winst-en-verliesrekening.
Het tijdperk waarin we AI als een goocheltruc behandelden is voorbij. Wat nu komt is moeilijker, trager en minder fotogeniek. Het is ook het enige dat echt werkt.
