Un CFO deepfake ha sottratto 25 milioni di dollari in una videochiamata. Sei il prossimo?

Il problema

Nel febbraio 2024, un dipendente della società di ingegneria globale Arup ha partecipato a una videochiamata con il CFO dell'azienda e diversi alti dirigenti. Ogni volto sembrava autentico. Ogni voce sembrava autentica. Il CFO ha ordinato 15 bonifici verso cinque diversi conti bancari. Il dipendente ha eseguito. Perdita totale: 25,6 milioni di dollari.

Ed ecco l'aspetto più allarmante: nessuna di quelle persone era reale. Ogni dirigente presente a quella chiamata era un deepfake generato dall'IA — una replica sintetica creata a partire da video di YouTube e filmati di conferenze disponibili pubblicamente. Gli aggressori hanno trascorso mesi a raccogliere registrazioni audio e video dei veri leader di Arup. Hanno addestrato modelli di IA per replicare non solo i volti, ma anche specifici schemi vocali e microespressioni. Il risultato è stato un cast di «gemelli sintetici ad alta fedeltà» sufficientemente convincente da ingannare un professionista finanziario esperto durante una riunione dal vivo.

Nessun malware è stato utilizzato. Nessuna password è stata rubata. Nessun database è stato violato. L'infrastruttura digitale di Arup è rimasta completamente intatta durante l'intero incidente. Gli aggressori non hanno violato i sistemi dell'azienda — hanno violato la fiducia del dipendente in ciò che vedeva e sentiva. La frode è stata scoperta solo quando il dipendente ha successivamente contattato l'ufficio del vero CFO a Londra. Quella riunione non era mai avvenuta.

Non si è trattato di un fallimento dei tuoi firewall. È stato il fallimento del presupposto che vedere sia credere.

Perché è importante per la tua azienda

La perdita di 25,6 milioni di dollari subita da Arup è drammatica, ma la vera minaccia è strutturale. La tua organizzazione probabilmente si affida ogni giorno alle videochiamate per confermare le identità e autorizzare decisioni di alto valore. Tale presupposto è ormai crollato.

I numeri descrivono una minaccia in rapida escalation:

• Gli attacchi di injection — in cui gli aggressori inseriscono video falsificati direttamente nel software di videoconferenza come Zoom o Teams — sono aumentati del 255% nel 2023.
• Gli attacchi di face-swap — in cui il flusso in tempo reale della webcam dell'aggressore viene sostituito fotogramma per fotogramma con un deepfake — sono aumentati del 704% nello stesso periodo.
• Il costo per generare un deepfake convincente è sceso a circa 15 dollari e 45 minuti di lavoro.

Al di là dell'impatto finanziario diretto, i vertici aziendali affrontano una crescente esposizione personale. CIO e CTO sono ora soggetti a uno standard più elevato di dovere fiduciario (fiduciary care) per quanto riguarda i controlli a prova di deepfake. La mancata implementazione di procedure di sicurezza ragionevoli potrebbe comportare una responsabilità personale qualora azionisti o clienti intentassero cause per negligenza. I tribunali applicano sempre più spesso la "Impostor Rule" (regola dell'impostore), che attribuisce le perdite alla parte che si trovava nella posizione migliore per prevenire la frode.

Anche gli obblighi di conformità si stanno espandendo. L'EU AI Act, il NIST AI Risk Management Framework e standard come ISO/IEC 30107-3 per il rilevamento degli attacchi biometrici richiedono ormai alle organizzazioni di difendersi dalle minacce legate ai media sintetici. Se i tuoi processi di verifica trattano ancora una videochiamata come prova di identità, hai una vulnerabilità che i regolatori e gli avvocati delle parti lese individueranno.

Questo non è un problema tecnologico per il tuo team IT. È un problema di controlli finanziari per il tuo consiglio di amministrazione.

Cosa succede davvero sotto il cofano

Per comprendere perché questo attacco ha funzionato, pensalo come a una banconota contraffatta perfetta. Un falsario non ha bisogno di rapinare la zecca — deve solo produrre una banconota abbastanza credibile da essere accettata dal cassiere. Gli aggressori di Arup hanno fatto esattamente la stessa cosa con volti e voci umane.

Hanno impiegato due tipi di modelli di IA che lavorano congiuntamente. Le reti generative avversarie (GAN, Generative Adversarial Networks) — sistemi in cui due modelli di IA competono per creare e rilevare falsificazioni — hanno gestito il face-swapping in tempo reale. Un modello genera un volto falso; l'altro cerca di individuarlo. Dopo milioni di cicli, il generatore produce volti che persino il rilevatore non riesce a distinguere da quelli reali. I modelli di diffusione (Diffusion models) — IA che impara a costruire immagini nitide a partire da rumore casuale — hanno garantito che il volto deepfake non sfarfallasse o non si distorcesse durante il movimento. Questa "coerenza temporale" (temporal consistency) è fondamentale perché l'occhio umano è estremamente sensibile alle anomalie visive.

Il dettaglio tecnico più importante riguarda il modo in cui il video falso ha raggiunto la chiamata. Gli aggressori non hanno posizionato uno schermo davanti a una telecamera. Hanno utilizzato un "video injection attack" (attacco di iniezione video), inserendo pacchetti video sintetici direttamente nel flusso di dati del software di videoconferenza. L'applicazione ha trattato questo feed digitale come se provenisse da una vera telecamera. I controlli standard di liveness — quelli che cercano profondità e bordi fisici — non possono rilevare questo metodo perché non esiste alcun artefatto fisico da analizzare.

Questa è la specifica modalità di guasto: i tuoi strumenti di conferenza si fidano di qualsiasi flusso video ricevano. Non hanno alcun modo per verificare se tale flusso provenga da una telecamera reale puntata su una persona reale.

Cosa funziona (e cosa no)

Cominciamo con tre approcci che non risolvono questo problema:

Autenticazione a più fattori standard. Gli aggressori di Arup hanno aggirato completamente l'MFA perché l'attacco non mirava alle credenziali di accesso. Hanno preso di mira il giudizio umano durante una chiamata dal vivo. La tua MFA protegge i tuoi account, non i tuoi occhi.

Chatbot di IA generici basati su API pubbliche. Questi strumenti «LLM wrapper» — sottili livelli software che inviano i tuoi dati a un cloud di terze parti per l'elaborazione — sono puramente probabilistici. Prevedono la parola successiva più probabile anziché verificare i fatti rispetto ai tuoi record effettivi. Non possono rilevare i deepfake e introducono nuovi rischi trasmettendo i tuoi dati finanziari sensibili all'esterno della tua rete.

Formazione tradizionale anti-phishing. La maggior parte dei programmi di formazione prepara i dipendenti per e-mail sospette, non per videochiamate dal vivo con repliche convincenti del proprio capo e di cinque colleghi. Il dipendente di Arup era inizialmente scettico riguardo all'e-mail di phishing. La videochiamata è stata specificamente progettata per superare tale scetticismo.

Ecco cosa funziona davvero: una difesa stratificata che verifica l'identità attraverso segnali che l'IA non è ancora in grado di falsificare:

1. Verifica dell'input — Biometria comportamentale come guardiano silenzioso. Prima di qualsiasi transazione di alto valore, il tuo sistema dovrebbe analizzare continuamente il modo in cui la persona interagisce con la propria tecnologia. La velocità di digitazione, gli schemi di movimento del mouse e la pressione sul touchscreen creano un profilo comportamentale unico per ogni dirigente. Questi schemi neurobiologici sono pressoché impossibili da contraffare. Se il "CFO" durante la chiamata richiede un trasferimento da 25 milioni di dollari mentre il suo comportamento di digitazione devia dal profilo storico, il tuo sistema dovrebbe segnalare automaticamente l'interazione.

2. Elaborazione — Conferma fuori banda tramite un canale separato. Le videochiamate non possono più servire come prova definitiva dell'identità per le transazioni finanziarie. Ogni disposizione di alto valore dovrebbe richiedere una verifica indipendente tramite un numero di telefono precedentemente verificato, una piattaforma di messaggistica crittografata come Signal o un codice di verifica concordato in precedenza e condiviso attraverso un canale non digitale. È necessario richiedere un secondo approvatore che non abbia partecipato alla videochiamata iniziale.

3. Output — Provenienza crittografica e verifica fisiologica. Lo standard C2PA incorpora metadati crittografici al momento dell'acquisizione video, creando una catena di custodia a prova di manomissione per ogni fotogramma. Se un feed video in una chiamata Teams o Zoom è privo di queste credenziali, trattalo con lo stesso sospetto che riserveresti a un contratto non firmato. Abbina tutto ciò all'analisi dei segnali fisiologici — una tecnologia che monitora le variazioni del colore del viso indotte dal battito cardiaco, invisibili all'occhio umano. I video sintetici sono privi di questi segnali biologici.

Il vantaggio fondamentale per i tuoi team di conformità e audit: questa architettura stratificata crea una traccia verificabile a ogni passaggio. La tua pratica di valutazione e rafforzamento della sicurezza può mappare questi controlli direttamente sul processo in quattro fasi del NIST AI Risk Management Framework — Govern, Map, Measure, Manage — e sui requisiti di certificazione ISO/IEC 30107-3 per il rilevamento degli attacchi biometrici.

Per le organizzazioni nei servizi finanziari, questa architettura si collega direttamente anche ai tuoi attuali obblighi in materia di rischio normativo e prontezza al contenzioso . Ogni evento di verifica viene registrato. Ogni override viene documentato. Quando revisori o regolatori chiedono come ti proteggi dalle frodi legate ai media sintetici, puoi mostrare loro la traccia logica anziché indicare una presentazione formativa.

Puoi leggere l'analisi tecnica completa per la specifica architetturale completa, oppure esplorare la versione interattiva per una panoramica visiva del framework di difesa.