Videogesprek-raster met vier synthetische wireframe-executives en één echte persoon, geld stroomt weg.
Artificial IntelligenceCybersecurityFintech

Het gezicht van je CFO kost $50 om te faken. Je overboekingscontroles waren daar niet voor gebouwd.

Ashutosh SinghalAshutosh Singhal18 juni 202613 min

De eerste keer dat ik een van deze detectietools probeerde te misleiden, kostte me een middag en ongeveer vijftig dollar.

Ik haalde openbare conferentiepresentaties van een collega van YouTube, voerde ze door een face-swap-model op een consumenten-videokaart, en richtte de output op een virtuele camera. Daarna nam ik deel aan een testvideogesprek als iemand die ik niet ben. De "deepfake-detectie"-plugin die we evalueerden zat daar, groen licht aan, volkomen tevreden. Hij was gebouwd om iemand te betrappen die een afgedrukte foto voor een webcam houdt. Ik had hem een schone synthetische feed rechtstreeks in de datastroom gegeven, en hij keek nooit naar het juiste ding.

Die middag is het hele probleem van deepfake-detectie voor enterprises in één scène. De tools zijn echt, sommige zijn goed, en bijna geen daarvan beschermt je tegen de aanval die daadwerkelijk bedrijfsbankrekeningen leeghaalt. De verdediging die werkt is helemaal geen tool. Het is datgene waarvan ik het volgende jaar CFO's probeerde te overtuigen dat ze het nodig hadden en niet op een marktplaats konden kopen — de reden dat we uiteindelijk een gelaagde deepfake-verdedigingspraktijk bij Veriprajna hebben opgebouwd in plaats van iemands plugin door te verkopen.

Laat me je vertellen hoe ik daar kwam, want ik begon met precies het tegenovergestelde te geloven.

Ik dacht dat dit een detectieprobleem was. Dat is het niet.

Toen ik voor het eerst naar deepfake-fraude in bedrijven keek, deed ik wat elke technoloog doet: ik nam aan dat het een nauwkeurigheidsprobleem was dat wachtte op een beter model. Koop de beste detector, koppel hem aan Zoom, klaar. Vang het nepgezicht, stop de fraude.

Dus ging ik op zoek naar de beste detector. En hoe dieper ik las, hoe meer de bodem onder dat plan wegzakte.

Het getal dat mijn aanname brak kwam uit Purdues benchmarkwerk van 2025: detectietools die in het lab 96 tot 99 procent nauwkeurigheid adverteren, dalen naar 50 tot 65 procent in de productie in de echte wereld. Lees dat nog eens met het brein van een CFO. Vijftig procent is een muntworp. Vijfenzestig procent betekent dat één op de drie vervalsingen erdoorheen loopt. Je wordt gevraagd een overboeking — soms een achtcijferige overboeking — te laten afhangen van een probabilistisch alarm dat een derde van de tijd ernaast zit.

Een detector die twee van de drie keer gelijk heeft, is een geweldig onderzoeksresultaat en een catastrofale controle. Je kunt geen muntworp in het autorisatiepad zetten voor geld dat niet terugkomt.

Ik zat daar een tijdje mee. Het instinct in security is altijd het betere model najagen. Maar er is geen nauwkeurigheidscijfer dat "de machine denkt dat dit gezicht waarschijnlijk echt is" tot een aanvaardbare basis maakt om geld te verplaatsen. Zelfs 99 procent zou dat niet zijn — want de aanvaller hoeft maar één keer te winnen, en hij mag de dag kiezen.

Dat was het eerste waar ik het mis had, en dat toegeven veranderde alles wat we daarna bouwden.

Hoe werkt een deepfake-gesprek van $25,6 miljoen eigenlijk?

Twee panelen: een presentatieaanval die door de camera wordt betrapt versus een injectieaanval die hem omzeilt.

De case die iedereen in dit veld bestudeert is Arup, het wereldwijde ingenieursbureau, in februari 2024. Een medewerker van de financiële afdeling in Hongkong nam deel aan een videogesprek met de CFO van het bedrijf en meerdere andere senior executives, besprak een vertrouwelijke transactie, en voerde in de dagen daarna vijftien overboekingen uit voor in totaal $25,6 miljoen naar vijf bankrekeningen in Hongkong.

Iedereen in dat gesprek behalve het slachtoffer was synthetisch.

Wat me bij Arup treft is niet de technologie. Het is hoe alledaags het pad was. De aanvallers oogstten openbare video en audio van de executives — YouTube, conferentieopnames, LinkedIn — en trainden generatieve modellen om niet alleen gezichten maar ook intonatie en micro-expressies te reproduceren. De kosten van de trainingsdata waren nul, omdat we allemaal de gezichten van onze executives zelf publiceren. De modeltraining draaide op consumentenhardware voor minder dan vijftig dollar.

Toen kwam het deel dat de meeste verdedigingen missen. De medewerker was in het begin sceptisch — goed instinct — dus escaleerden de aanvallers van e-mail naar een videogesprek, omdat bekende gezichten zien precies is wat scepsis opzijzet. En ze injecteerden de synthetische video met virtuele-camerasoftware, tools zoals OBS VirtualCam of de open-source Deepfake Offensive Toolkit, waarbij gefabriceerde frames rechtstreeks in de conferentiestream werden gevoerd.

Dit is het onderscheid waarmee ik nu elk CISO-gesprek open, omdat het bepaalt of je geld veilig is:

Een presentatieaanval houdt iets voor een camera. Een injectieaanval omzeilt de camera volledig. Liveness-checks vangen de eerste en zien de tweede nooit.

De meeste "deepfake-detectie" op de markt — de biometrische liveness-checks in de stijl van iProov voor identity onboarding, de tools die je vragen je hoofd te draaien of een licht te volgen — zijn ontworpen voor presentatieaanvallen. Daarin zijn ze echt goed; iProovs Flashmark-technologie is NIST-gecertificeerd voor precies die taak. Maar een injectieaanval geeft de conferentie-app een synthetische feed die eruitziet als legitieme hardware-input, en de liveness-logica stroomopwaarts is tevreden. Injectieaanvallen stegen in 2023 met 255 procent, en niet zonder reden. Zo versla je de verdedigingen die bedrijven net hebben gekocht.

Geen malware. Geen gestolen inloggegevens. Geen gecompromitteerd netwerk. Het enige wat bij Arup was gecompromitteerd, was het vertrouwen in wat een persoon op een scherm zag en hoorde.

Waarom stopt één enkele leverancier dit niet gewoon?

Zodra ik de aanval begreep, begon ik het leverancierslandschap in kaart te brengen om te zien wie het kon stoppen. Ik bouwde een spreadsheet — modaliteit, platformintegratie, waarvoor elke tool écht goed is, en cruciaal, waar elk stuk breekt. Hij werd snel lang, en de conclusie was ongemakkelijk voor iedereen die hoopte één inkooporder te schrijven.

Reality Defender doet realtime multimodale monitoring in Zoom, maar de server-side analyse voegt round-trip-latentie toe aan elk frame, en omdat het content inspecteert in plaats van het camerapad, is de dekking tegen injectieaanvallen dun — een schone synthetische feed leest nog steeds als legitieme input. Pindrop is uitstekend op stem — het documenteerde de stijging van 1.300 procent in deepfake-fraude en is de reden dat ik audio serieus neem — maar het analyseert de videostream helemaal niet. GetReal Security correleert biometrische, gedrags- en contextsignalen tijdens een live gesprek, wat dichter bij de juiste vorm zit, maar het is een nieuwere speler met een Series A van $17,5 miljoen en een beperkt trackrecord op enterpriseschaal. Beyond Identity's RealityCheck verifieert dat de webcamfeed van fysieke hardware komt — direct relevant voor injectie — maar het is device-level en kijkt niet naar content. Adaptive Security draait deepfake-simulatietraining voor medewerkers, wat ertoe doet, maar training is geen controle; het blokkeert niets.

Ik zou door kunnen gaan. Het punt is de vorm, niet de catalogus: videodekking hier, audio daar, liveness op een derde plek, device attestation op een vierde, en de gaten ertussen zijn precies waar een competente aanvaller leeft.

En dan is er nog het consultancyantwoord. De Big Four en grote integrators voeren graag een deepfake-engagement uit — voor $500.000 tot $5 miljoen — en overhandigen je een governanceraamwerk en een boarddeck. Geen detectietools. Ze bevelen de leveranciers hierboven aan; ze bouwen of integreren zelden iets. Ik heb die deliverables gelezen. Ze zijn niet fout. Ze zijn gewoon geen verdediging.

Geen enkele leverancier dekt video, audio, gedrag én het menselijke proces. Iemand moet de naden ertussen vormgeven. Die iemand is meestal niemand, en daarom verdwijnt het geld via die naden.

De controle die niets kost en alles stopt

Out-of-band-verificatiestroom: een overboekingsinstructie moet een vooraf geregistreerde terugbelactie doorstaan voordat middelen vrijkomen.

Hier kantelde mijn denken volledig.

Ik had weken diep gezeten in detectienauwkeurigheid, leveranciersmodaliteiten, injectie-versus-presentatie-taxonomie. En het antwoord op "wat had Arup gestopt" bleek helemaal niets met dat alles te maken te hebben.

Een verplichte out-of-band-verificatiepolicy: elke financiële instructie boven een gedefinieerde drempel moet via een vooraf geregistreerd terugbelnummer of een apart versleuteld kanaal worden bevestigd vóór uitvoering. Niet een nummer dat de beller je geeft — een nummer dat je al had, opgeslagen voordat dit allemaal begon. De deepfake-CFO kan foutloos zijn. De injectie kan ondetecteerbaar zijn. Het maakt niet uit, want het geld beweegt niet op kracht van het gesprek. Het beweegt nadat een treasury-analist een nummer belt dat in de eigen bureaulade is geplakt en de echte persoon "ja" hoort zeggen.

Deze controle kost niets om te implementeren. Hij is effectief tegen elke variant van synthetische-mediafraude — heden, toekomst, video, stem, wat de aanvallers ook als volgende bouwen — omdat hij niet probeert de nep te detecteren. Hij haalt het videogesprek volledig uit het autorisatiepad.

Ik zal eerlijk zijn over waarom dit moeilijk voor me was om te accepteren. Ik ben een technoloog. Ik wilde dat het antwoord een model was. Het idee dat de interventie met de hoogste ROI bij een cutting-edge AI-dreiging een telefoonbeleid uit 1995 is, voelde als een tegenvaller. Het kostte me detectiecijfers die in tests faalden — keer op keer, het groene licht op een nep — voordat ik ophield me te verzetten tegen de onglamoureuze waarheid.

Detectielagen voegen vertrouwen toe. Procescontroles voegen zekerheid toe. De fout is de eerste te kopen en de tweede over te slaan.

Dat is dus de ruggengraat van wat we nu bouwen: eerst proces, detectie als defense-in-depth erbovenop. Detectietools verdienen hun plek door anomalieën te markeren en je een moment van twijfel te kopen. Ze verdienen niet het recht het enige te zijn tussen een aanvaller en je treasury.

De rekening die niemand zag aankomen: je verzekering is verlopen

Lange tijd ging het budgetgesprek met CFO's nergens heen. Het verlies is hypothetisch tot het gebeurt, de uitgave is vandaag reëel, en ergens achterin ieders hoofd zat de aanname dat cyberverzekering het toch wel zou dekken.

Toen, in januari 2026, stierf die aanname stilletjes.

Standaard cyberpolissen sluiten "AI-gegenereerde tussenpersonen" nu expliciet uit. D&O-, E&O- en employment-practices-polissen voegen brede AI-uitsluitingen toe. De deepfake-fraude die in 2024 het probleem van je verzekeraar was, is in 2026 jouw probleem — tenzij je een aparte deepfake-endorsement hebt gekocht, die $500 tot $3.000 per jaar kost en die bijna niemand heeft. Als de Arup-aanval je nu overkomt, is de $25,6 miljoen onverzekerd. Punt uit.

Die ene verandering deed meer om budget los te maken dan elk verliescijfer dat ik ooit had aangehaald. Het herkaderde het hele ding. Dit is niet "geld uitgeven om misschien een hypothetisch te vermijden." Het is "de dekking waarop je rekende is weg, en de aansprakelijkheid ligt op je bureau." Rechtbanken achten werkgevers steeds vaker nalatig vanwege het ontbreken van specifieke deepfake-controles, en de oude "impostor rule" legt het verlies bij wie het best gepositioneerd was om de fraude te voorkomen. Na januari 2026 ben jij dat.

Wat toezichthouders binnenkort gaan eisen

Er zijn twee data die ik elk board vertel op de muur te schilderen, omdat ze dit van een inschattingskwestie tot een deadline maken.

2 augustus 2026: de transparantieverplichtingen van artikel 50 van de EU AI Act voor deepfake-content treden in werking, met boetes tot €35 miljoen of 7 procent van de wereldwijde omzet. Als je ergens in de buurt van de EU opereert, eindigt op die datum het tijdperk waarin governance van synthetische media optioneel was.

En sinds december 2023 eist de SEC dat materiële cybersecurity-incidenten worden bekendgemaakt via Formulier 8-K binnen vier werkdagen. Een deepfake-fraude van $25 miljoen-plus haalt vrijwel zeker de materialiteitsdrempel. Dus beeld je de werkelijke volgorde in: je ontdekt de fraude, en nu loopt er een klok van vier dagen op een openbare filing die precies beschrijft hoe je overboekingscontroles faalden — terwijl het geld al weg is. De disclosure-regel verandert een privéverlies in een publiek verlies waarbij je investeerders meelezen.

Er zit een hardere, stillere spanning onder het complianceverhaal, en daar zwaaien de consultancyraamwerken meestal met de handen. De gedragsbiometrie die continue authenticatie daadwerkelijk laat werken — toetsaanslagdynamiek, muispatronen, de signalen die tools in de stijl van GetReal correleren — is precies de data die de biometrische privacywet van Illinois triggert. BIPA produceerde meer dan 107 class actions in 2025; Clearview AI schikte er één voor $51,75 miljoen. GDPR artikel 9 behandelt biometrische data als een bijzondere categorie die expliciete toestemming vereist. Dus je beste detectiesignaal is ook je grootste privacyaansprakelijkheid als je het uitrolt zonder je medewerkers goed toestemming te vragen. Het securityprobleem op de achteloze manier oplossen creëert een rechtszaakprobleem. Elke controle mappen op BIPA, GDPR, de SEC-regel en de teststandaarden ISO 30107 en CEN/TS 18099 is geen papierwerk — het is hoe je voorkomt dat je de ene achtcijferige blootstelling inruilt voor een andere.

Kan ik medewerkers niet gewoon trainen om de nep te herkennen?

Mensen vragen me altijd of awareness-training voor medewerkers dit oplost. Leer iedereen gewoon de nep te spotten.

Was het maar zo. Menselijke detectie van deepfakes ligt rond de 50 procent — ongeveer wat je van kans zou krijgen, en de technologie verbetert elke maand. Wij zijn, als soort, slecht hierin. De Arup-medewerker was niet onzorgvuldig; hij was sceptisch genoeg om in het begin terug te duwen. Het videogesprek is wat zijn oordeel overwon, omdat gezichten en stemmen die we herkennen het analytische brein omzeilen. Training helpt mensen pauzeren en het proces inroepen. Het maakt van niemand een betrouwbare menselijke detector, en elk programma dat op die belofte wordt verkocht, verkoopt troost.

De andere vraag die ik krijg is of dit overdreven is — een paar enge krantenkoppen. Dat is het niet. Amerikaanse deepfake-fraudeverliezen verdrievoudigden van ongeveer $360 miljoen in 2024 naar $1,1 miljard in 2025. Het gemiddelde enterprise-incident ligt nu rond de $680.000, en CEO-fraudcampagnes treffen honderden bedrijven per dag. Kits voor synthetische identiteit verkopen voor ongeveer vijf dollar op het dark web; een nepvideo begint bij vijftig. De economie is omgekeerd — aanvallen kost nu bijna niets, en onvoorbereid zijn kost een fortuin.

En het wordt op een specifieke manier erger. Bijna de helft van de securityprofessionals verwacht dat agentic AI — systemen die reconnaissance, deepfake-generatie en social engineering aan elkaar ketenen zonder een mens in de lus — tegen eind 2026 een topaanvalsvector is. De middag van vijftig dollar die ik besteedde aan het misleiden van een detector wordt een volledig geautomatiseerde pijplijn die tegen honderden doelen draait terwijl de operator slaapt.

Wat we daadwerkelijk bouwen

Dus wanneer een enterprise bij ons komt, komen we niet opdagen met een product om te verkopen. We zijn vendor-neutral by design — we verkopen geen van de tools die ik noemde door, wat de enige eerlijke manier is om een klant te vertellen dat het consultancyraamwerk van $500K en de gladde Zoom-plugin allebei, op zichzelf, ontoereikend zijn.

We beginnen met de proceslaag, omdat het de interventie met de hoogste ROI is en er niets voor gekocht hoeft te worden: out-of-band-verificatieworkflows, dubbele autorisatie boven drempels, de terugbeldiscipline die detectienauwkeurigheid bijna irrelevant maakt voor of het geld veilig is. Daarna ontwerpen we de detectiestack rond je werkelijke conferentieomgeving — de juiste combinatie van modaliteiten uit die twintigtal leveranciers in plaats van een single-platform-pitch, en dichten we de injectieaanval-naad die liveness-tools openlaten. We mappen elke controle op de regelgeving die nu op je van toepassing is. En we red-teamen het: we voeren de synthetische aanval uit tegen je bestaande verdedigingen om het gat te vinden vóór een crimineel dat doet — dezelfde middag-oefening van het begin, omgezet in een dienst. Als je de volledige architectuur wilt, staat die uitgewerkt op onze deepfake-verdedigingspagina.

Ik laat je achter met wat ik elk board vertel zodra de demo landt en de kamer stil wordt.

De controle die elke versie hiervan overleeft — het deepfake-gezicht, de geïnjecteerde feed, wat ze ook als volgende bouwen — is het vooraf geregistreerde nummer dat een treasury-analist belt voordat het geld beweegt. Het is het minst gesofisticeerde ding in je securitystack, en na januari 2026 is het het enige wat staat tussen een synthetisch gezicht en een onverzekerd verlies.

Gerelateerd onderzoek

Ook gepubliceerd op

Bouw uw AI met vertrouwen.

Werk samen met een team met diepgaande ervaring in het bouwen van de volgende generatie enterprise-AI. Laat ons u helpen bij het ontwerpen, bouwen en implementeren van een AI-strategie waarop u kunt vertrouwen.

Veriprajna Deep Tech-adviesbureau is gespecialiseerd in het bouwen van veiligheidskritische AI-systemen voor de gezondheidszorg, de financiële sector en gereguleerde domeinen. Onze architecturen worden gevalideerd aan de hand van gevestigde protocollen met uitgebreide compliancedocumentatie.