Het Boodschappenalgoritme van 60 Miljoen Dollar Dat Mijn Geloof in Alles "AI-Aangedreven" Brak

Afgelopen december zat ik in een hotelkamer in Chicago half naar het nieuws op mute te kijken, toen de Instacart-schikking onder aan het scherm voorbijkwam. Zestig miljoen dollar. FTC. Misleidende AI-prijsstelling. Ik zette het geluid aan, en zo'n dertig seconden lang zat ik daar gewoon met een vreemde mix van genoegdoening en misselijkheid.

Genoegdoening omdat mijn team bij Veriprajna al jaren betoogde dat de manier waarop de meeste bedrijven AI inzetten — dunne softwarelagen aan elkaar genaaid boven op probabilistische modellen, wat wij "LLM-wrappers" noemen — iemand vol in het gezicht zou ontploffen. Misselijkheid omdat de mensen die eronder leden geen techtopmannen of durfkapitalisten waren. Het waren gezinnen die boodschappen deden. Het algoritme had verschillende mensen verschillende prijzen aangerekend voor hetzelfde pak ontbijtgranen in dezelfde winkel, en het prijsverschil was geen afrondingsfout. Het liep op tot maar liefst 23%.

Ik belde mijn medeoprichter die avond. "Heb je Instacart gezien?" vroeg ik. Ze had het gezien. "Dit is precies de faalmodus waartegen we hebben gebouwd," zei ze. En ze had gelijk. Maar gelijk hebben over een ramp voelt niet als winnen. Het voelt als toekijken bij een auto-ongeluk waarvoor je iemand had gewaarschuwd.

Het Experiment Dat Het Lab Nooit Had Mogen Verlaten

Dit is wat er werkelijk gebeurde, ontdaan van de juridische taal. In 2022 nam Instacart een AI-prijsbedrijf over genaamd Eversight. De tool gebruikte een klasse algoritmen die Multi-Armed Bandits heten — reinforcement learning-systemen die optimale prijzen vinden door constant te experimenteren op echte klanten. Denk aan een gokautomaat die zijn uitbetaling aanpast op basis van wie aan de hendel trekt.

Het probleem is niet de wiskunde. Multi-Armed Bandits zijn elegant. Het probleem is dat niemand een kooi om de wiskunde heen bouwde.

Het algoritme ontdekte — want dat is wat optimalisatie-algoritmen doen — dat bepaalde gebruikers hogere prijzen zouden tolereren. Niet omdat die gebruikers meer wilden betalen, maar omdat de AI gedragsprofielen had opgebouwd uit hun data en had geleerd dat deze mensen minder geneigd waren hun winkelwagen te verlaten. Dus duwde het. Een beetje hoger. Toen nog een beetje hoger. Vijfenzeventig procent van de productcatalogus kwam uiteindelijk onder algoritmische prijsvariatie te staan. De gemiddelde boodschappenmand kon zeven procent schommelen afhankelijk van wie je was, en voor afzonderlijke artikelen bereikte het verschil $2,56.

Wanneer je een optimalisatie-algoritme loslaat zonder harde beperkingen, vindt het niet de beste prijs. Het vindt de meest uitbuitbare klant.

Ik herinner me het moment dat dit voor mijn team op zijn plek viel. We waren de FTC-klachtdocumenten aan het doornemen, en een van onze ingenieurs — een stille kerel die in vergaderingen zelden het woord neemt — zei: "Dit is gewoon gradient descent richting uitbuiting." Hij had helemaal gelijk. Het algoritme had geen concept van eerlijkheid, geen representatie van de wet, geen begrip dat wat het deed een naam had: prijsdiscriminatie. Het had alleen een beloningsfunctie, en de beloningsfunctie zei: maximaliseer de marge.

Het "Hide_Refund"-Bestand

De prijsstelling was al erg genoeg. Maar het FTC-onderzoek bracht iets aan het licht waar mijn maag zich oprecht van omdraaide.

Instacart had een intern experiment uitgevoerd — ze noemden het letterlijk "hide_refund" — waarbij ze de zelfbedieningsknop voor terugbetaling uit de app haalden en vervingen door tegoeden voor toekomstige bestellingen. Het doel was te zien of klanten zouden stoppen met hun geld terug te vragen als je het maar moeilijk genoeg maakte. Het werkte. Het bedrijf bespaarde $289.000 per week.

Laat me dat nog eens zeggen. Een kwart miljoen dollar per week, onttrokken aan klanten die verkeerde of beschadigde boodschappen hadden ontvangen, door de knop te verbergen waarmee ze hun geld konden terugkrijgen.

Dit was geen AI-falen in de traditionele zin. Geen hallucinatie, geen modeldrift. Dit was een besluitvormingssysteem — deels menselijk, deels algoritmisch — dat was ontworpen om te optimaliseren voor het behoud van geld met nul beperkingen rond eerlijkheid. De AI verborg de terugbetalingsknop niet uit zichzelf. Maar de cultuur die de AI voortbracht, bracht ook de beslissing voort om de knop te verbergen. Ze delen dezelfde grondoorzaak: een architectuur zonder enig concept van waarheid.

Waarom Blijft AI-Prijsstelling Fout Gaan?

Mensen weerspreken me hier altijd. "Ashutosh, dynamische prijsstelling is niet nieuw. Luchtvaartmaatschappijen doen het. Hotels doen het. Uber doet het." En ze hebben gelijk — tot op zekere hoogte. Traditionele dynamische prijsstelling past zich aan op basis van geaggregeerd vraag en aanbod. Willen meer mensen met Kerstmis naar Miami vliegen? Dan gaan de prijzen voor iedereen omhoog. Dat is economie.

Wat het systeem van Instacart deed was anders. Het gebruikte persoonlijke data — je browsegeschiedenis, je locatie, je aankooppatronen — om een geïndividualiseerde prijs op te bouwen. Twee mensen die in dezelfde keuken staan, dezelfde artikelen bij dezelfde winkel bestellen, konden prijzen zien die tien dollar verschilden. Dat is geen dynamische prijsstelling. Dat is surveillanceprijsstelling, en het is een fundamenteel andere ethische en juridische categorie.

De technische reden waarom dit blijft gebeuren is iets waar ik constant over nadenk. De meeste enterprise-AI-systemen van vandaag zijn wat cognitief wetenschappers "Systeem 1"-denkers zouden noemen — snel, intuïtief, patroonherkennend. Grote taalmodellen voorspellen het volgende woord. Prijsalgoritmen voorspellen de volgende aankoop. Ze zijn briljant in correlatie en verschrikkelijk in redeneren.

Zakelijke beslissingen — vooral die welke consumenten, geld of de wet raken — vereisen "Systeem 2"-denken: traag, weloverwogen, logisch, begrensd door regels. Het hele Instacart-debacle gebeurde omdat een Systeem 1-tool werd ingezet in een Systeem 2-probleemruimte, en niemand het opmerkte totdat de FTC op de deur klopte.

Ik schreef diepgaand over dit architectonische onderscheid in onze interactieve analyse van de Instacart-instorting, maar de korte versie is deze: vloeiendheid is geen redeneren. Een model dat een prijs kan genereren is geen model dat begrijpt wat een eerlijke prijs is.

De Nacht Waarin We Het Bijna Verkeerd Bouwden

Ik zou een hypocriet zijn als ik niet zou toegeven dat we bijna in dezelfde val trapten.

Vroeg in het bestaan van Veriprajna — voordat we een heldere architectonische filosofie hadden — bouwden we een compliance-verificatiesysteem voor een klant in de logistiek. Het snelste pad was voor de hand liggend: neem een groot taalmodel, voer het de relevante regelgeving, en laat het potentiële overtredingen markeren. Klassieke RAG — Retrieval-Augmented Generation. We hadden het in weken kunnen opleveren.

Mijn CTO destijds was sceptisch. "Wat gebeurt er als de regelgeving 'tenzij' zegt en het model het als 'als' behandelt?" vroeg hij tijdens een late-avond-architectuurreview. Ik wuifde het weg. "We fine-tunen wel voor randgevallen."

We bouwden een prototype. Het was indrukwekkend in demo's. Het ving misschien 90% van de overtredingen correct op. En toen draaiden we het tegen een reeks bewust adversariële testcases — scenario's waarin de wet geneste uitzonderingen had, waarin één clausule een andere drie secties verderop wijzigde, waarin de betekenis afhing van de relatie tussen entiteiten, niet alleen van de tekst.

Het faalde. Niet elegant. Catastrofaal. Het model citeerde met stellige zekerheid de juiste regelgeving en trok vervolgens de verkeerde conclusie, omdat het patronen in taal matchte, geen logica traceerde door een juridische structuur. We zaten om 23:00 uur op kantoor naar de resultaten te kijken, en ik herinner me dat ik dacht: als we dit opleveren, zijn wij de volgende Instacart. Niet in boodschappenprijzen, maar in compliance. Ander domein, dezelfde architectonische zonde.

Dat was de nacht waarin we ons verbonden aan neuro-symbolische architectuur. Niet omdat het trendy was — dat was het niet, en eerlijk gezegd is het dat nog steeds niet — maar omdat we niet konden leven met het bouwen van iets dat voor 90% klopte over zaken die voor 100% moesten kloppen.

Een AI die voor 99% accuraat is in een domein met hoge inzet is geen succesverhaal. Het is een aansprakelijkheid met een marketingbudget.

Wat Gebeurt Er Wanneer De Wet Het Algoritme Inhaalt?

Terwijl Instacart schikte met de FTC, gebeurde er iets even significants in Albany. De Algorithmic Pricing Disclosure Act van New York trad in werking op 10 november 2025, en veranderde het spel voor elk bedrijf dat AI gebruikt om consumentgerichte prijzen vast te stellen.

De wet vereist een specifieke, opvallende bekendmaking telkens wanneer een prijs wordt vastgesteld door een algoritme dat persoonlijke data gebruikt:

"DEZE PRIJS IS VASTGESTELD DOOR EEN ALGORITME DAT UW PERSOONLIJKE GEGEVENS GEBRUIKT."

Denk na over wat dat technisch vereist. Je systeem moet in real time weten of een gegeven prijs is gegenereerd door een algemene heuristiek of door een geïndividualiseerd statistisch profiel. Het moet de dataherkomst traceren — welke inputs het model voedden, of er persoonlijke data bij betrokken was, en op welk punt in de pijplijn. En het moet die bepaling aan de gebruikersinterface tonen voordat de transactie voltooid is.

De meeste AI-prijssystemen kunnen dit niet. Ze zijn er niet voor gebouwd. Het model neemt een feature vector op, produceert een getal, en niemand — niet de ingenieurs, niet de productmanagers, en zeker niet het juridische team — kan je precies vertellen welke features de output stuurden. Het is een black box by design, en de wet zegt nu dat black boxes niet acceptabel zijn.

Op federaal niveau gaat de Algorithmic Accountability Act van 2025 verder: bedrijven met meer dan vijftig miljoen dollar aan omzet moeten uitgebreide impactbeoordelingen van hun geautomatiseerde systemen uitvoeren en jaarlijkse rapporten indienen bij de FTC. Het tijdperk van "ons algoritme is bedrijfseigen" als verdediging is voorbij.

Ik heb de afgelopen maanden drie afzonderlijke gesprekken gevoerd met enterprise-CTO's waarin midden in de vergadering hetzelfde besef doordrong: hun bestaande AI-implementaties kunnen niet aan deze wetten voldoen. Niet "voldoen niet gemakkelijk". Kunnen niet voldoen. De architectuur ondersteunt de transparantie die de regelgeving eist niet.

De Architectuur Die Dit Alles Had Kunnen Voorkomen

Hier word ik uitgesproken, en ik ga me er niet voor verontschuldigen.

De Instacart-ramp was geen falen van kunstmatige intelligentie. Het was een falen van architectuur. De AI deed precies waarvoor het gebouwd was: een beloningsfunctie optimaliseren. Het probleem is dat niemand de beperkingen bouwde.

Bij Veriprajna bouwen we wat we "truth-verified" systemen noemen — hybride architecturen die neurale netwerken (de patroonherkennings-, intuïtielaag) versmelten met symbolische logica (de regelvolgende, redenerende laag). In de praktijk betekent dit dat er drie dingen gebeuren voordat een AI-gegenereerde beslissing een gebruiker bereikt:

Ten eerste codeert een symbolische beperkingslaag de harde regels. In een prijscontext zou dit kunnen zijn: "Geen artikel mag 110% van de adviesprijs overschrijden. Geen prijs mag met meer dan 3% variëren op basis van gebruikersidentiteit. Alle prijsbeïnvloedende features moeten worden gelogd." Dit zijn geen suggesties. Het zijn muren waar de neurale engine niet overheen kan klimmen.

Ten tweede doet de neurale laag waar neurale netwerken het best in zijn — het identificeert patronen, stelt optimalisaties voor, vindt kansen in marktdata die een mens zou missen.

Ten derde — en dit is het deel dat de meeste "AI-aangedreven" bedrijven volledig overslaan — evalueert een deterministische verificatielaag de neurale suggestie tegen de symbolische regels voordat er iets wordt gerenderd. Als de suggestie een beperking schendt, wordt ze afgewezen. Niet gemarkeerd. Niet gelogd voor latere beoordeling. Afgewezen.

De vraag is niet of jouw AI een goed antwoord kan genereren. Het is of jouw AI kan bewijzen dat zijn antwoord legaal, eerlijk en traceerbaar is — voordat het handelt.

We gebruiken ook Structural Causal Models om te testen op iets dat contrafeitelijke eerlijkheid heet. Het systeem is wiskundig verplicht te antwoorden: "Als deze klant uit een andere demografische groep kwam, maar al het andere hetzelfde bleef, zou de prijs dan veranderen?" Zo ja, dan wordt het model tijdens de training bestraft totdat de vertekening is weggesneden. Dit is geen eerlijkheid door het negeren van beschermde attributen — het is eerlijkheid door het model actief zo te ontwerpen dat het blind is voor discriminerende proxies zoals postcode, browse-apparaat of aankoopmoment.

Voor de volledige technische uiteenzetting van hoe deze architectuur werkt — de GraphRAG-pijplijnen, het ontologiegedreven redeneren, de schematische-beperkingsdecoders — zie onze onderzoekspaper over de overgang van probabilistische wrappers naar deterministische deep AI. Ik zal niet doen alsof het lichte kost is, maar als je enterprise-AI bouwt of koopt, is het misschien het belangrijkste dat je dit jaar leest.

"Maar Vertraagt Dit Niet Gewoon De Innovatie?"

Ik krijg deze vraag constant, meestal van mensen die veel geld aan LLM-API-aanroepen hebben uitgegeven en niet willen horen dat hun architectuur een houdbaarheidsdatum heeft.

Hier is mijn eerlijke antwoord: ja, het bouwen van deterministische beperkingen duurt langer dan een prompt om GPT heen wikkelen en het enterprise-grade noemen. Onze implementaties nemen weken waar een wrapper dagen nodig heeft. Maar de Instacart-schikking duurde jaren en kostte zestig miljoen dollar. De reputatieschade ontvouwt zich nog steeds. Het toezicht van de regelgever zal het bedrijf een decennium lang volgen.

Snelheid zonder correctheid is geen innovatie. Het is technische schuld met een persbericht.

Het andere bezwaar dat ik hoor gaat over kosten. "Neuro-symbolische systemen zijn duur om te bouwen." Dat zijn ze. Maar weet je wat duurder is? Een FTC-onderzoek. Een collectieve rechtszaak. Een voorpaginaverhaal over hoe jouw algoritme alleenstaande moeders meer aanrekende voor babyvoeding omdat ze minder geneigd waren prijzen te vergelijken.

Een investeerder zei ooit tegen me, in het begin: "Gebruik gewoon GPT. Voeg een disclaimer toe. Lever het op." Ik vertelde hem dat dat was als een gordelsticker plakken op een auto zonder gordels. Hij investeerde niet. Ik heb geen spijt van het gesprek.

Waar Dit Naartoe Gaat

De Instacart-zaak is patiënt nul, maar het zal niet de laatste zijn. Elk bedrijf dat algoritmische prijsstelling, geautomatiseerde acceptatie, AI-gedreven werving of gepersonaliseerde aanbevelingen draait, opereert in dezelfde risicozone. De enige variabele is wanneer — niet of — de regelgevende en reputationele consequenties arriveren.

De bedrijven die deze overgang overleven zullen degene zijn die iets begrepen dat het Instacart-team blijkbaar niet begreep: de taak van de AI is niet om een getal te maximaliseren. De taak van de AI is om een beslissing te nemen die kan worden uitgelegd, gerechtvaardigd en verdedigd — tegenover een klant, tegenover een toezichthouder, tegenover een rechter.

Dat vereist architectuur, geen wrappers. Het vereist symbolisch redeneren, niet alleen statistische voorspelling. Het vereist het bouwen van systemen die weten wat ze niet mogen doen, niet alleen waarvoor ze zijn geoptimaliseerd.

Ik denk niet dat het tijdperk van AI in de onderneming ten einde loopt. Ik denk dat het eindelijk begint — omdat we voor het eerst gedwongen worden het goed te bouwen. Het experimentele tijdperk, waarin bedrijven black-box-algoritmen op miljoenen consumenten konden inzetten en het "innovatie" konden noemen, is voorbij. Wat het vervangt zal moeilijker te bouwen zijn, trager op te leveren, en saaier om te demonstreren.

Het zal ook de enige soort zijn die overleeft.