AI-deepfakes stalen $25 miljoen in één telefoongesprek

Het probleem

Een deepfake-CFO-stemklonering stal $25 miljoen tijdens één live telefoongesprek. De gekloonde stem was overtuigend genoeg om realtime heen-en-weer instructies af te handelen. Het omzeilde meerdere menselijke controlepunten, omdat de financieel medewerker aan de andere kant van de lijn precies hoorde hoe zijn of haar baas klonk. Dit was geen sciencefiction. Het gebeurde begin 2025 bij een Europees energiebedrijf.

Deze aanval werkte omdat moderne stemklonering slechts drie tot vijf minuten aan opgenomen audio nodig heeft om een overtuigende replica te maken. Het ruwe materiaal is overal te vinden — winstopbellingen, webinars, podcasts, zelfs socialmedia-clips. Aanvallers namen een sample van de stem van de bestuursvoorzitter en maakten er een wapen van.

En fraude met stemmen is slechts één deel van het verhaal. Alleen al in het eerste kwartaal van 2025 werden 179 gedocumenteerde deepfake-incidenten geregistreerd. Dat overtrof het totaal voor heel 2024 al met 19%. Ondertussen steeg vishing — voice phishing met gekloonde stemmen — begin 2025 met meer dan 1.600% ten opzichte van eind 2024.

Uw securityteam is gebouwd voor een wereld waarin nep duidelijk nep was. Die wereld is verdwenen. Als u erop vertrouwt dat medewerkers iets verdachts “horen”, zit er een cruciaal gat in uw defensiemodel.

Waarom dit voor uw bedrijf belangrijk is

De financiële schade neemt in elk kanaal in tempo toe. Dit zijn de cijfers die op uw volgende bestuursdia horen:

• $2,77 miljard — de totale verliezen door Business Email Compromise (BEC) die alleen al in 2024 bij de FBI zijn gemeld. BEC blijft de financieel meest destructieve vorm van cyberfraude.
• $16,6 miljard — de totale verliezen door cyberfraude die in 2024 bij het IC3 van de FBI zijn gemeld, goed voor 83% van alle gemelde verliezen.
• $4,88 miljoen — de gemiddelde kosten van een datalek dat begint met een phishing-e-mail. Voor Noord-Amerikaanse organisaties loopt dat bedrag op naar $10,22 miljoen.
• 54% — de klikfrequentie van AI-gegenereerde phishing-e-mails, bijna vijf keer zo hoog als de baseline van 12% voor traditionele campagnes.

Deze cijfers raken uw P&L op meerdere manieren:

• Directe fraudeverliezen door onbevoegde overschrijvingen en BEC.
• Regelgevingsrisico onder de EU AI Act, die boetes kan opleggen tot €35 miljoen of 7% van de wereldwijde omzet voor niet-conforme AI-systemen.
• Kosten van incidentrespons — BEC was goed voor 27% van alle cybersecurity-incidentresponsopdrachten in 2024, alleen ransomware scoorde hoger.
• Imagoschade wanneer uw klanten, partners of toezichthouders ontdekken dat een gekloonde stem miljoenen van uw rekeningen heeft verplaatst.

Als uw organisatie gevoelige gegevens of transacties met hoge waarde verwerkt, zijn deze dreigingen niet abstract. Ze richten zich op het vertrouwen waarop uw bedrijf draait — de aanname dat de persoon aan de telefoon is wie hij zegt te zijn.

Wat er echt onder de motorkap gebeurt

De meeste bedrijven die snel AI adopteerden, deden dat via wat de sector “wrappers” noemt. Zie een wrapper als het huren van een auto bij een dienst die u niet beheerst. U typt uw vraag in een strakke interface, maar uw gegevens — elke prompt, elk documentfragment, elk vertrouwelijk detail — reizen via het openbare internet naar de servers van iemand anders om daar verwerkt te worden.

Dit creëert drie specifieke problemen.

Ten eerste verlaat uw data uw gebouw. Zelfs enterprise-API-tiers die “zero data retention” beloven, bewaren uw data vaak tot 30 dagen voor misbruikmonitoring. Voor zorg-, defensie- of financiële bedrijven is die periode van 30 dagen een aansprakelijkheidsrisico.

Ten tweede verliest u juridische soevereiniteit. De meeste grote AI-aanbieders zijn gevestigd in de VS en vallen onder de Amerikaanse CLOUD Act. Die wet stelt de Amerikaanse wetshandhaving in staat toegang tot uw data af te dwingen, zelfs als deze op servers in Europa of Azië staat. Dit botst direct met de AVG en lokale dataresidentiewetten.

Ten derde kent de AI uw bedrijf eigenlijk niet. Wrappers zijn fundamenteel stateless. Ze hebben moeite met grote interne documentsets en produceren hoge foutpercentages — hallucinaties genaamd — wanneer ze naar uw bedrijfseigen gegevens worden gevraagd. Wanneer officiële tools tekortschieten, gaan medewerkers eromheen. Nadat ingenieurs van Samsung in 2023 per ongeluk halfgeleider-broncode naar ChatGPT lekten, constateerden onderzoekers een toename van 485% in broncode die in openbare AI-tools werd geplakt. Tweeënzeventig procent van dat gebruik gebeurde via privéaccounts die uw IT-team niet kan zien.

Dit wordt het “Shadow AI”-probleem genoemd. En het betekent dat uw meest gevoelige data mogelijk al stroomt naar systemen die u niet beheerst.

Wat werkt (en wat niet)

Beginnen we met wat faalt.

Traditionele e-mailfilters: Deze vertrouwen op patroonherkenning. AI-gegenereerde phishing maakt unieke varianten voor elke afzonderlijke ontvanger in een doellijst. Geen twee e-mails delen een handtekening om te blokkeren. Meer dan 90% van de polymorfe aanvallen komt erdoorheen.

Alleen securitybewustzijnstraining: Het helpt een basislijn vast te stellen. Maar nu 82,6% van de phishing-e-mails AI-gegenereerde content bevat die de legitieme bedrijfstoonaanslaat, klikken zelfs getrainde medewerkers nog alarmerend vaak.

Op wrappers gebaseerde AI-securitytools: Deze sturen uw data naar infrastructuur van derden, introduceren soevereiniteitsrisico's en kunnen uw interne context niet diepgaand begrijpen. U beveiligt uw huis met het alarmsysteem van iemand anders — een systeem dat u niet kunt inspecteren.

Dit is wat echt werkt. Het kernprincipe is soevereine implementatie: uw AI draait binnen uw eigen omgeving, op uw eigen infrastructuur, getraind op uw eigen data.

1. Privé-infrastructuur met nul data-egress. Uw AI draait op dedicated GPU-hardware binnen uw eigen cloudomgeving of on-premises. Elke prompt en elk antwoord blijft achter uw firewall. Er gaat geen data over het openbare internet. U beheert de sleutels.

2. Fijngetrainde modellen die uw bedrijf kennen. In plaats van een algemeen model te huren, traint u een open-weights-model — een model waarvan u de werkelijke modellbestanden bezit — op de specifieke documenten, terminologie en normen van uw organisatie. Onderzoek toont aan dat fijngetrainde modellen een outputconsistentie van 98–99,5% bereiken, tegenover 85–90% bij wrapperbenaderingen. Ze verlagen ook de kosten per verzoek met 50–90% op schaal, omdat het model de context al “kent”.

3. Rechtenbewuste retrieval en runtime-guardrails. Uw AI verbindt met uw interne documenten via een techniek die Retrieval-Augmented Generation (RAG) heet — waarbij u de AI daadwerkelijke brondocumenten voert in plaats van het te laten gokken. De cruciale toevoeging is dit te koppelen aan uw bestaande toegangscontroles. Als een medewerker een document niet kan zien in uw bestandssysteem, kan de AI het ook niet ophalen. Daarbovenop scannen runtime-guardrails elke invoer en uitvoer in realtime, blokkeren ze pogingen tot prompt injection, redigeren ze gevoelige persoonsgegevens voordat deze het model bereiken en houden ze de AI gericht op geautoriseerde taken.

Het audittrail-voordeel is wat dit voor uw compliance- en juridische teams afmaakt. Elke prompt en elk antwoord wordt gelogd in onveranderlijke records. Wanneer uw toezichthouder of auditor vraagt hoe een beslissing tot stand kwam, kunt u exact laten zien welke data de AI gebruikte, welke uitvoer het produceerde en welke guardrail-controles het doorstond. Dit is geen theoretisch voordeel — de EU AI Act vereist dit niveau van documentatie en traceerbaarheid specifiek voor hoogrisico-AI-systemen in gereguleerde sectoren.

Voor transacties met hoge waarde is de laatste laag cryptografische provenance. Bestuursleden kunnen video- of stemautorisaties digitaal ondertekenen met geverifieerde identiteitsreferenties. Een aanvaller kan een stem klonen, maar kan de cryptografische handtekening niet vervalsen die gekoppeld is aan de geverifieerde identiteit van de bestuursvoorzitter. Dit elimineert precies de kwetsbaarheid die het Europese energiebedrijf $25 miljoen kostte.

Als uw organisatie AI-implementatieopties afweegt, is de vraag niet óf u AI nodig hebt. Het is of uw huidige opzet u de soevereine infrastructuur en controle geeft om het veilig te implementeren. En of uw securitypostuur is getest tegen de dreigingen die er in 2025 echt zijn.

Voor de volledige technische architectuur en gedetailleerde dreigingsdata, lees de volledige technische analyse of verken de interactieve versie.