Perché l'AI di trading black box ha perso 1.000 miliardi di dollari in un giorno

Il problema

Il 5 agosto 2024, circa 1.000 miliardi di dollari di valore di mercato sono svaniti dalle aziende AI e tecnologiche di prima fascia in un solo giorno. L'indice Nikkei 225 giapponese è crollato del 12,4% — il suo peggior ribasso dal Black Monday del 1987. Il CBOE Volatility Index (VIX), spesso definito il «barometro della paura» del mercato, ha registrato il maggior rialzo giornaliero della storia, schizzando a 65,73. Quel livello era stato superato solo nei momenti più critici della crisi finanziaria del 2008 e della pandemia del 2020.

I fattori scatenanti non erano misteriosi. La Bank of Japan ha alzato i tassi di interesse dello 0,25%. Un debole rapporto sull'occupazione statunitense ha attivato un segnale di allerta recessione. Si trattava di eventi macroeconomici reali. Ma l'entità del crollo non è stata determinata da esseri umani che prendevano decisioni nel panico. Oggi tra il 60% e il 70% degli scambi globali è eseguito da algoritmi. Quando il rialzo dei tassi ha colpito, questi sistemi automatizzati sono entrati in un ciclo di feedback a cascata di ordini di vendita. Reagivano ai segnali di prezzo senza poter distinguere tra uno spostamento economico reale e il rumore causato dalla liquidità che svaniva.

Se la vostra azienda si affida al trading basato su AI, a modelli di rischio o persino ad analisi di mercato potenziate dall'AI, questo evento è il vostro avvertimento più chiaro. Gli algoritmi non si sono rotti. Hanno funzionato esattamente come progettati — ed è stato proprio questo il problema.

Perché questo è importante per la vostra azienda

Non è stato un guasto isolato. È stato uno stress test che l'attuale generazione di AI ha fallito clamorosamente. Ecco cosa vi dicono i numeri sulla vostra esposizione:

• 1.000 miliardi di dollari di capitalizzazione di mercato cancellati in una sola giornata di trading dalle sole aziende AI e tecnologiche.
• Ribasso del 12,4% in una sola giornata del Nikkei 225, con l'indice più ampio TOPIX sceso parallelamente del 12,23%.
• Picco del VIX di oltre il 303%, da circa 16,30 a 65,73, che ha innescato programmi di vendita automatizzati in migliaia di fondi a volatilità obiettivo.
• Goldman Sachs ha perso 687 milioni di dollari in appena due giorni durante la turbolenza.
• Apprezzamento dello yen del 7,2% rispetto al dollaro in una settimana, che ha costretto allo smontaggio violento di posizioni di carry trade leveraggiate in tutto il mondo.

I regolatori stanno seguendo la questione da vicino. La CFTC e la SEC sono sempre più attente all'opacità dei modelli AI nei mercati dei derivati. Un sistema di trading che esegue un ordine di vendita da 100 milioni di dollari senza una motivazione comprensibile non è soltanto un rischio — è una responsabilità per la fiducia istituzionale della vostra azienda.

Per il vostro consiglio di amministrazione, la domanda non è più «Stiamo usando l'AI?». È «Sappiamo spiegare cosa ha fatto la nostra AI e perché?». Se i vostri sistemi attuali non possono rispondere a questa domanda con una traccia verificabile, state portando un rischio regolamentare e di reputazione che si compone a ogni shock di mercato.

Cosa accade davvero sotto il cofano

La maggior parte dei sistemi di trading e di rischio basati su AI oggi funziona come sottile «wrapper» costruiti sopra grandi modelli linguistici o motori probabilistici simili. Questi modelli prevedono l'esito più probabile successivo sulla base dei pattern presenti nei loro dati di addestramento. Sono, per progetto, motori di probabilità — non motori di logica.

Pensatelo così: il vostro sistema AI è come un'app meteo che conosce solo le medie storiche. Può dirvi la probabilità di pioggia sulla base degli agosto passati. Ma non può ragionare sulla tempesta specifica che si sta formando adesso, perché non ha alcun modello della fisica atmosferica. Quando le condizioni diventano davvero nuove — come uno smontaggio simultaneo del carry trade e un prosciugamento della liquidità — un motore di probabilità può solo tirare a indovinare sulla base di pattern già visti.

Durante il crollo di agosto, un preciso guasto tecnico ha peggiorato la situazione. Il VIX non è calcolato dai prezzi effettivi delle transazioni, bensì dal punto medio delle quotazioni bid-ask sulle opzioni dell'S&P 500. Con l'essiccarsi della liquidità, i market maker hanno ampliato i propri spread per proteggersi. Ciò ha gonfiato meccanicamente il VIX — dell'180% nelle contrattazioni pre-market — anche se la volatilità realizzata non era aumentata di tale entità. Migliaia di fondi automatizzati hanno quindi letto questo «barometro della paura» gonfiato come un segnale reale e si sono liberati delle azioni.

I sistemi AI non potevano vedere che il picco del VIX era in parte un artefatto tecnico degli spread ampliati. Mancavano di qualsiasi regola o vincolo che dicesse: «Prima di agire su questo segnale, verifica se i dati di spread sottostanti sono affidabili». Quel singolo strato di logica mancante è costato caro al mercato.

Nello stesso periodo, molti strumenti di analisi delle notizie basati su AI hanno fallito anch'essi. Questi sistemi usano un metodo chiamato Retrieval-Augmented Generation (RAG) — in cui si forniscono all'AI documenti fonte reali per ancorare le sue risposte. Ma le implementazioni RAG basilari suddividono i documenti in blocchi di dimensione fissa e cercano corrispondenze «simili». Questo crea tre punti ciechi pericolosi: l'AI ignora il tempo (un rapporto sul crollo del 2010 appare identico a un rapporto del 2024), perde il filo degli eventi in evoluzione attraverso più articoli e non riesce a collegare catene transitive di causa ed effetto.

Cosa funziona (e cosa no)

Innanzitutto, tre approcci comuni che non reggono sotto stress:

• Prompt «più intelligenti» sullo stesso modello black box. Non si può risolvere con l'ingegneria dei prompt un sistema privo di qualsiasi concetto delle regole di mercato o dei vincoli di liquidità. È ciò che il whitepaper chiama «prompt-and-pray».
• Modelli di rischio statici basati su correlazione (come il Value-at-Risk). Trattano gli asset come indipendenti oppure usano matrici di correlazione fisse. Quelle matrici vengono meno durante un flash crash — proprio quando ne avete più bisogno.
• Aggiungere più dati alla stessa architettura. Immettere più dati di mercato in un sistema incapace di ragionare sulle relazioni causali fornisce soltanto più materiale da cui allucinare.

Ciò che funziona è un'architettura che separa ciò che l'AI «pensa» da ciò che le è consentito fare. Ecco il meccanismo fondamentale in tre passaggi:

1. Livello di input — Reti neurali e Graph Neural Networks (GNN) per la percezione. Il vostro sistema acquisisce dati di mercato, notizie e informazioni dal book degli ordini. Le GNN modellano il mercato come una rete di asset connessi, non come un foglio di calcolo piatto. Questo consente al sistema di rilevare come uno shock dello yen si propaga alle azioni tecnologiche statunitensi attraverso percorsi di contagio misurabili. La ricerca mostra che le GNN ottengono un errore di previsione significativamente inferiore (Mean Square Error di 0,0025) rispetto ai tradizionali modelli sequenziali.

2. Livello di elaborazione — Motori di vincoli simbolici che fanno rispettare le regole. L'output della rete neurale passa attraverso uno strato di logica deterministica prima che venga intrapresa qualsiasi azione. Questo strato codifica i vostri requisiti di margine, i limiti regolamentari e le regole di stabilità del mercato in logica formale. Agisce da firewall: se la raccomandazione dell'AI viola una regola, il sistema blocca l'azione. Non è uno strato di suggerimenti — è uno stop netto.

3. Livello di output — Azioni strutturate, verificabili e conformi allo schema. Ogni decisione presa dal sistema viene registrata insieme alla regola specifica che l'ha autorizzata. L'output non è testo libero — è dato strutturato che i vostri sistemi contabili e di compliance esistenti possono interpretare. Ogni raccomandazione di operazione porta con sé una traccia logica che mostra quali input l'hanno innescata, quali regole ha soddisfatto e quali vincoli ha rispettato.

Questa architettura — chiamata AI neuro-simbolica — offre al vostro team di compliance qualcosa che nessuna black box può dare: una traccia di audit completa e deterministica per ogni decisione. Quando un regolatore chiede perché il vostro sistema ha venduto durante un picco di volatilità, potete mostrarogli l'esatto percorso delle regole, non una distribuzione di probabilità.

L'approccio è allineato con il NIST AI Risk Management Framework, che richiede sistemi AI validi, affidabili, sicuri, protetti e spiegabili. Veriprajna mappa ogni deployment sulle quattro funzioni fondamentali del NIST: Govern (definire politiche e responsabilità), Map (identificare rischi e dipendenze dei dati), Measure (quantificare il comportamento del sistema e il drift) e Manage (implementare controlli, compresi «kill switch» automatizzati per gli scenari ad alto rischio).

Per le organizzazioni che operano nei servizi finanziari che hanno bisogno di andare oltre, i metodi di spiegabilità e trasparenza delle decisioni come l'attribuzione delle variabili SHAP e le spiegazioni controfattuali possono mostrare esattamente quali variabili hanno determinato una decisione — e come il risultato sarebbe cambiato in condizioni diverse.

Potete leggere l'analisi tecnica completa per la specifica architetturale dettagliata, oppure esplorare la versione interattiva per una panoramica guidata del framework.