Uw algoritme verkocht $1.4 miljard voordat iemand op annuleren drukte. Kunt u uitleggen waarom?

Er is één enkele vraag die de meeste toezichtonderzoeken beëindigt voordat ze echt beginnen. Het is niet "heeft u controlemaatregelen?" Iedereen heeft controlemaatregelen. Het is subtieler dan dat, en erger:

"Leg me precies uit wat dit algoritme deed op 5 augustus om 9:47 uur 's ochtends."

Ik heb slimme, goed gefinancierde bedrijven zien vastlopen op die vraag. Ze kunnen de orderlogs opvragen. Ze kunnen je de transacties laten zien. Wat ze niet kunnen doen, is het reconstrueren van de beslissingsketen — waarom het model de positie zo groot maakte als het deed, waarom de risicodrempel stond waar hij stond, waarom een codewijziging van drie weken eerder bij niemand alarm sloeg. En in 2026 is die kloof waar het allemaal om draait. Compliance bij algoritmische handel is stilletjes verschoven van bewijzen dat je guardrails hebt naar bewijzen dat je achteraf elke zet die je machine maakte kunt uitleggen.

Ik wil je vertellen hoe ik tot die overtuiging kwam, want eerst had ik het mis — kostbaar mis — en de manier waarop ik het mis had, is dezelfde manier waarop het grootste deel van de sector het nog steeds mis heeft.

De 189 miljard dollar die erdoorheen kwam

Begin met Citigroup, want het is de duidelijkste les die ik ken.

In mei 2022 wilde een handelaar van Citi een mandje aandelen ter waarde van $58 miljoen verkopen. Door een handmatige fout creëerde hij een mandje ter waarde van $444 miljard in plaats daarvan. Citi's pre-trade-controlemaatregelen deden grotendeels hun werk. Ze blokkeerden $255 miljard. Maar $189 miljard glipte langs de controlemaatregelen en bereikte een handelsalgoritme, dat het plichtsgetrouw opsplitste in verkooporders en ongeveer $1.4 miljard de Europese markten in duwde voordat iemand op annuleren drukte. Het veroorzaakte een flash crash op de Europese beurzen.

Hier is het deel dat compliance officers 's nachts wakker zou moeten houden. Toen BaFin en de Britse toezichthouders binnenkwamen, was de vernietigende vraag niet "wat er gebeurd is." Dat kon Citi beantwoorden. De vraag was waarom — waarom lieten de controlemaatregelen $189 miljard door, en waarom waren de drempels zo gekalibreerd als ze waren? Citi kon de orders laten zien. Ze konden de redenering van het algoritme niet adequaat reconstrueren of de parameters verdedigen die het beheersten.

Die kloof kostte hen. BaFin beboette Citi met €12.975 miljoen; twee dagen eerder hadden de Britse toezichthouders daar £61.6 miljoen aan toegevoegd voor hetzelfde incident. Ongeveer $92 miljoen voor één algoritmische fout, verdeeld over drie rechtsgebieden.

De controlemaatregelen waren niet de fout. Het onvermogen om de controlemaatregelen uit te leggen was de fout.

Ik kom daar steeds op terug omdat het omkeert hoe de meeste bedrijven budgetteren. Ze geven geld uit aan het bouwen van meer controlemaatregelen en bijna niets aan het vermogen om ze te verwoorden onder ede.

Wat vraagt de examinator eigenlijk?

Toen ik begon te praten met compliancehoofden bij middelgrote banken en vermogensbeheerders — de bedrijven onder de bulge-bracket-categorie — vroeg ik hen om samen met mij een onderzoek na te spelen. Het liep altijd in dezelfde drie stappen spaak.

"Laat me je algoritme-inventaris zien." Dit is de opening, en het is een stille moordenaar. De Britse Financial Conduct Authority voerde in augustus 2025 een onderzoek uit bij tien principal trading firms en constateerde dat de meeste onvolledige of verouderde documentatie hadden — geen zuivere inventaris van wie elk algoritme bezit, op welke markten het handelt, welke risicoparameters het beheersen. Sommige bedrijven hadden hele RTS 6-elementen weggelaten uit hun zelfevaluaties. (RTS 6 is het MiFID II-regelboek voor algoritmische-handelbedrijven — governance, testen, risicocontroles.) Als je geen actuele, volledige inventaris kunt overleggen waarin de geregistreerde persoon staat die verantwoordelijk is voor elke strategie, stopt het onderzoek daar in feite. Volgens de regels van FINRA moeten de mensen die handelsalgoritmen ontwerpen of ingrijpend wijzigen geregistreerd zijn als Securities Traders — dus "wie bezit dit algoritme" is geen trivialiteitsvraag, het is een toezichtvraag met een naam eraan verbonden.

"Leg me uit wat deze deed, die ochtend." Dit is de Citigroup-vraag. De meeste bedrijven kunnen de orders laten zien. Bijna geen enkele kan de beslissing reconstrueren. En als je een vermogensbeheerder bent in plaats van een broker-dealer, belandt deze vraag niet op een handelsdesk — hij belandt bij je quant-onderzoeksteam, waar één gemanipuleerde parameter verstopt in een model maandenlang onopgemerkt kan draaien. (Two Sigma kwam daar op de harde manier achter; daarover later meer.)

"Hoe beoordelen je compliancemedewerkers deze algoritmen technisch?" De FCA had een heerlijk diplomatieke uitdrukking voor wat ze hier aantroffen: "variabele technische kennis binnen compliance." Vertaald betekent dat dat complianceteams een alertrapport kunnen lezen, maar de logica van het model niet kunnen doorgronden, een risicoparameter niet kunnen aanvechten, of niet kunnen verifiëren dat de codewijziging van de laatste sprint niet stilletjes een nieuw toezichtgat heeft geopend. Het antwoord van de sector is geweest om quant-onderlegde compliancemedewerkers aan te nemen — behalve dat de mensen die echt begrip hebben van zowel de CFTC-marktoegangsregels als graph-neural-network-architecturen, uiterst zeldzaam zijn, en ze worden betaald zoals de hedgefondsen die hen ook willen.

De regelgevende richting achter alle drie de vragen is niet subtiel. De SEC en de CFTC brachten samen een recordaantal van $25.3 miljard aan handhavingsmaatregelen in 2024. De EU AI Act vereist dat financiële AI-systemen met een hoog risico beschikken over technische documentatie, risicobeheer en de mogelijkheid tot menselijk toezicht tegen 2 augustus 2026. DORA — het operationele-veerkrachtregime van de EU — is actief sinds januari 2025. En in India vereist SEBI nu een uniek Algo-ID en goedkeuring van de beurs voor elke strategie voordat die live gaat. De vraag is niet langer óf je algoritmen worden onderzocht. Het gaat erom of ze het onderzoek overleven.

Het ding dat ik bouwde dat niemand wilde

Dus ging ik een betere detector bouwen.

Dit was mijn fout, en ik wil eerlijk zijn over hoe verleidelijk het was. De koperspijn waarover iedereen het hardst klaagt is alertmoeheid — in één onderzoek onder banken en broker-dealers meldde 70% valspositiefpercentages van boven de 25% in hun handelstoezicht. Complianceteams die verdrinken in ruis, jagend op spookalerts over spoofing. Dus bouwden we iets dat echt goed was in het terugdringen van valspositieven: gedragscontext, besef van marktregimes, adaptieve drempels. In tests was het schoon en snel. Ik was er trots op.

Toen lieten we het draaien voor een echte compliance officer uit het middensegment. Ze bekeek het dashboard, knikte instemmend, en stelde de vraag die drie maanden werk deed ontploffen:

"Dit is mooi. Maar wanneer de examinator vraagt waarom het model afging — of waarom het niet afging — wat laat ik hun dan zien?"

Ik had geen antwoord in het product. We hadden een snellere manier gebouwd om alerts te genereren. We hadden geen manier gebouwd om ze te verklaren. En ik realiseerde me, daar zittend, dat ik precies datgene had gereproduceerd wat de toezichthouders aan het bestraffen waren: een black box die output produceert zonder een reconstrueerbare redeneerketen. Een betere black box is nog steeds een black box.

Dat was het keerpunt. Detectie was nooit de onvervulde behoefte. De onvervulde behoefte was audit-gereedheid — het omzetten van algoritmische beslissingen in verklaringen die een compliance officer zonder quant-achtergrond kan beoordelen, aanvechten en meenemen een onderzoeksruimte in. We gooiden de invalshoek overboord en begonnen opnieuw.

Bouwen voor de examinator, niet voor het alert

Het systeem dat we uiteindelijk bouwden — de compliance-intelligence-laag voor algoritmische handel die we nu uitrollen — vertrekt vanuit een ander grondbeginsel: elke beslissing die een productiealgoritme neemt zou een audit-gerede, van tijdstempel voorziene verklaring moeten achterlaten van waarom, niet alleen wat.

Dat klinkt vanzelfsprekend totdat je het probeert. Het eerste ontwerpprobleem was dat de mensen die de verklaring nodig hebben, het model niet kunnen lezen. Dus moesten de verklaringen de logica van het algoritme — de inputs, de marktsignalen die het meewoog, de drempel waartegen het toetste, de menselijke overrides — vertalen naar iets wat een compliance officer kan doorgronden zonder broncode te lezen. Geen betrouwbaarheidsscore. Een uiteenzetting van de redenering.

Het tweede probleem was de inventaris zelf. We behandelen de algoritme-inventaris zoals een engineeringteam code behandelt: elke strategie in productie draagt zijn goedgekeurde markten, positielimieten, de geregistreerde eigenaar en een volledige wijzigingsgeschiedenis met zich mee, zodat de vraag "laat me je inventaris zien" een query wordt, geen brandoefening. Dezelfde ruggengraat koppelt elke controlemaatregel tegelijk aan meerdere regelgevingskaders — SEC Rule 15c3-5, RTS 6 van MiFID II, de EU AI Act, DORA, het Algo-ID-regime van SEBI — omdat middelgrote bedrijven grensoverschrijdend handelen en geen enkele gevestigde leverancier de controlemaatregelen over al deze kaders vanuit één plek koppelt. Vandaag de dag knutselen de meeste bedrijven die in meerdere rechtsgebieden actief zijn afzonderlijke complianceprocessen per toezichthouder in elkaar. Die redundantie is precies het soort werk dat software zou moeten verslinden.

Het derde probleem was de noodstop. Citi's controlemaatregelen ontbraken niet — ze vingen $255 miljard af. Ze waren alleen niet getrapt. De meeste circuit breakers zijn binair: aan of uit. Dus bouwden we intelligente, meertraps circuit breakers — gedragsanomaliedetectie die een proportionele respons in gang zet in plaats van één enkele paniekknop, het verschil tussen $255 miljard afvangen en de $189 miljard afvangen die erdoorheen glipte.

Waarom koopt niet iedereen gewoon een platform?

Dit is het bezwaar dat ik het vaakst hoor, en het verdient een echt antwoord.

De markt voor handelstoezicht gaat van ruwweg $1.3–3 miljard in 2025 naar $4.2–9.3 miljard tegen 2033, en de vijf grootste leveranciers bezitten daar 55–59% van. NICE Actimize, Nasdaq's Surveillance AI, Validus van Eventus — dit zijn werkelijk capabele platforms. Ik ben hier niet om je te vertellen dat ze niet werken.

Ik ben hier om je te vertellen wat ze kosten en waar ze ophouden. Een volledige NICE Actimize-implementatie kost $1–5 miljoen-plus per jaar, geprijsd en ontworpen voor Tier-1-instellingen. Ze zijn uitmuntend in cross-asset-detectie en zwak in precies datgene waar de examinator nu om vraagt: verklaarbaarheid van algoritmebeslissingen en een geünificeerde multi-regelgevingskoppeling. Nasdaq's platform is beursgericht, gebouwd voor de sell side. Eventus is detectie-eerst. Geen van alle was ontworpen rond het examendag-probleem van de compliance officer.

Dus een Tier-2-bank of een middelgrote vermogensbeheerder staat voor dezelfde regelgevende lat als JPMorgan met een fractie van het budget en zonder de eigen quant-reserve. Hun opties waren: te veel betalen voor een enterpriseplatform dat niet past, het zelf bouwen voor $2–10 miljoen plus een miljoen per jaar aan onderhoud terwijl je met hedgefonds-salarissen concurreert om het talent, of een Big Four-firma inhuren — die, in mijn ervaring, adviseert over wat te bouwen, je een PowerPoint-deck met een target operating model overhandigt, en dan naar dezelfde Tier-1-leverancier grijpt die het toch al zou hebben aanbevolen.

Er is een leegte in het midden van deze markt: bedrijven met bulge-bracket-verplichtingen en middensegment-budgetten, die door niemand worden bediend.

Voor die leegte bouwen wij. Maatwerk-compliance-intelligence tegen een prijs die geen enterprise-losgeld is, zonder vendor lock-in.

Het lastigere probleem dat eraan komt: autonome agents

Als verklaarbaarheid het probleem van vandaag is, dan is agentic AI het probleem van volgend jaar, en bijna niemand is er klaar voor.

Ongeveer 44% van de financiële teams zal naar verwachting agentic AI gebruiken in 2026 — een sprong van meer dan 600% — en één bedrijf meldt al 60 autonome agents in productie, met plannen voor 200 meer. Deze systemen kunnen tot 70% van het handmatige compliancewerk automatiseren. Ze kunnen ook transacties in gang zetten, risicomodellen aanpassen en op eigen houtje transacties autoriseren.

Wat iedereen die een onderzoek heeft doorstaan de stuipen op het lijf jaagt, is wat daarna komt. Het governancekader waar de hele sector op leunt — de SR 11-7-richtlijn voor modelrisico van de Fed en de OCC — is in 2011 geschreven voor modellen met stabiel, deterministisch gedrag. Zoals de risicoanalisten van GARP het begin 2026 verwoordden, blijft SR 11-7 "een van de weinige stabiele referentiepunten voor modelgovernance" — en agentic AI doorbreekt de kernaannames ervan, door ondoorzichtigheid, willekeur en autonomie te introduceren, vaak leunend op infrastructuur van derden die zonder waarschuwing kan veranderen. Je kunt de beslissing van een systeem dat elke keer anders beslist en afhankelijk is van een model van een leverancier waarover je geen controle hebt, niet reconstrueren.

Om duidelijk te zijn over waar we nu daadwerkelijk staan: de praktijkanalyses van de FMSB merken op dat marktgerichte AI nog niet autonoom opereert — hij zit ingebed in handelsinfrastructuur onder menselijk toezicht. Goed. Dat is het venster. Het juiste moment om governance te bouwen voor autonome handelsagents is voordat ze autonoom handelen, niet in de post-mortem. We ontwerpen die verklaarbaarheids- en toezichtlaag nu al mee, zodat het audittrail bestaat voordat de toezichthouder erom vraagt.

Er is hier ook echte technische hefboomwerking beschikbaar. Grafgebaseerde modellen — graph neural networks die het web van tegenpartijblootstellingen in kaart brengen — hebben in onderzoekssettings AUC-ROC-scores rond 0.891 behaald voor het detecteren van risicobesmetting, ruim vóór conventionele methoden, met vroegtijdige-waarschuwingstermijnen die met bijna twaalf dagen zijn verlengd. Bijna geen enkele toezichtleverancier biedt grafgebaseerde besmettingsanalyse als standaardfunctie. Voor een bedrijf met onderling verbonden tegenpartijrisico is dat het verschil tussen een cascade zien aankomen en erover lezen in een handhavingsbevel.

"Is dit niet gewoon meer compliancesoftware?"

Mensen stellen me een variant van die vraag, en het eerlijke antwoord is: niet als het goed gebouwd is.

De reden dat compliance aanvoelt als pure kostenpost — grote banken geven meer dan $200 miljoen per jaar eraan uit, en de tijd die hun medewerkers eraan besteden groeide in een decennium met 61% — is dat het merendeel ervan handmatige reconstructie is van dingen die de systemen automatisch hadden moeten vastleggen. Wanneer de verklaring wordt gegenereerd terwijl het algoritme draait, is het onderzoek geen archeologische opgraving meer. De inventaris is een query. De beslissingsketen is al opgeschreven. De koppeling over rechtsgebieden heen is één model, niet vijf.

Het andere wat mensen vragen is of verklaarbaarheid de algoritmen vertraagt — of je microseconden inruilt voor papierwerk. Dat doe je niet. Het vastleggen van de redenering zit náást de uitvoering; het is een registratie, geen rem. De bedrijven die dit hebben opgelost, zijn compliance gaan zien, niet als een belasting op snelheid, maar als een eigenschap van het systeem, aanwezig vanaf de eerste regel code in plaats van erop vastgeschroefd vlak voor de audit.

Ik denk hier aan de Two Sigma-zaak. Een senior onderzoeker wijzigde bijna twee jaar lang stilletjes veertien beleggingsmodellen — door één enkele parameter bij te stellen — en veroorzaakte $165 miljoen aan klantverliezen voordat iemand het opmerkte; het bedrijf betaalde $90 miljoen om de zaak te schikken. Die modellen waren niet onbeheerd in naam. Ze waren onverklaarbaar in de praktijk. Niemand kon in realtime zien dat de redenering was gecorrumpeerd. Dat is geen detectiefout. Dat is een verklaarbaarheidsfout in de kleren van een detectiefout.

De fout van $444 miljard van de Citi-handelaar was in seconden gemaakt en kostte jaren om uit te procederen. Wat een gênante vergissing veranderde in een fout van $92 miljoen, was niet de omvang van het mandje. Het was dat, toen de toezichthouders zich vooroverbogen en vroegen waarom, het antwoord een schouderophalen was.

Elk bedrijf dat algoritmen draait, is één slechte ochtend verwijderd van die vraag. Degenen die het redden, zijn niet degenen met de meeste controlemaatregelen of het duurste platform. Het zijn degenen die, wanneer de examinator naar 9:47 uur wijst, de beslissing kunnen oproepen en er regel voor regel doorheen kunnen lopen — en die dat vermogen hebben ingebouwd in de compliancelaag lang voordat ze het nodig hadden. Bouw de verklaring terwijl de machine nog handelt. Tegen de tijd dat iemand ernaar vraagt, is het al te laat om ermee te beginnen het op te schrijven.