Undici parole in un bilancio annuale ora possono essere frode sui titoli

La prima volta che ho davvero capito l'AI washing, stavo fissando un singolo paragrafo nel bilancio annuale di un'azienda. Undici parole, qualcosa come "la nostra piattaforma basata sull'IA analizza il rischio in tempo reale." Una frase pulita e sicura di sé. Il tipo di riga che un team di marketing scrive in cinque minuti e che un CEO approva senza battere ciglio.

Poi ho chiesto agli ingegneri quale modello avesse prodotto quell'analisi, su quali dati girasse e in che punto del flusso decisionale scattasse davvero. La stanza è calata nel silenzio. Non perché stessero nascondendo qualcosa. Perché nessuno aveva mai collegato quella frase a un sistema. L'affermazione viveva nel documento depositato. Il sistema viveva in produzione. E in mezzo non c'era nulla — nessun documento, nessuna mappa, nessuna prova — a collegare i due.

Quel divario è tutta la storia. L'AI washing non è una storia sull'IA fatta male. È una storia sulla distanza tra ciò che hai dichiarato che la tua IA fa e ciò che la tua IA fa davvero — e sul fatto che tu possa colmare quella distanza su richiesta. La SEC, la FTC e i procuratori generali statali hanno tutti capito che è in questo divario che nascono i casi. Ho costruito la pratica di verifica dell'IA e anti-AI-washing di Veriprajna perché continuavo a vedere aziende scoprire il divario solo dopo l'arrivo della lettera dell'ispettore.

Il giorno in cui "la tua IA funziona?" ha smesso di essere la domanda

Sono arrivato a questo dal lavoro di enforcement sui titoli, il lato poco glamour — comporre i raccoglitori che le aziende consegnano a un ispettore quando arriva la lettera di richiesta documenti. Così ho letto ogni azione di AI washing come leggevo un vecchio caso di frode: cosa hanno detto, cosa hanno fatto e qual era lo spazio di luce tra i due.

Lo schema è brutalmente coerente. Delphia e Global Predictions, i primi due accordi transattivi sull'AI washing risalenti al marzo 2024, hanno pagato complessivamente 400.000 dollari non perché la loro IA fosse cattiva ma perché Delphia rivendicava investimenti alimentati dal machine learning che in realtà non aveva mai integrato. I dati di cui si vantava di alimentare il modello? Non hanno mai raggiunto il modello.

Poi Presto Automation, gennaio 2025 — il primo caso di AI washing contro una società quotata. L'IA vocale del drive-thru di Presto era commercializzata come capace di eliminare la presa d'ordine umana. La SEC ha rilevato che più del 70% degli ordini richiedeva ancora una persona, e in alcune sedi era il 100%. Il sistema era reale. Semplicemente non faceva la cosa che il marketing diceva facesse.

E poi Nate. Nell'aprile 2025 la SEC e il DOJ hanno intentato azioni parallele contro il fondatore di Nate Inc., che aveva raccolto più di 42 milioni di dollari sulla promessa di un'app di shopping alimentata dall'IA. Il tasso di automazione effettivo era, nelle parole della SEC, sostanzialmente pari a zero — centinaia di collaboratori nelle Filippine completavano manualmente gli acquisti che l'IA avrebbe dovuto gestire. Le accuse del DOJ prevedono fino a 20 anni. È il caso a cui penso quando qualcuno mi dice che l'AI washing è una nota a piè di pagina sulla disclosure di marketing. C'era un comunicato stampa con il nome di un fondatore e, sotto, un'accusa penale di frode.

Ognuno di questi casi ruota sullo stesso spazio di luce: cosa prometteva il documento depositato, e cosa faceva davvero il sistema in produzione.

Nel febbraio 2025 la SEC lo ha reso strutturale: ha istituito una dedicata Cybersecurity and Emerging Technologies Unit all'interno della Division of Enforcement. E le sue priorità di esame per il 2026 lo dicono chiaramente — gli ispettori "verificheranno l'accuratezza delle dichiarazioni dei soggetti registrati riguardo alle loro capacità di IA." Quella frase è una lettera di richiesta documenti in attesa di essere spedita.

Tre agenzie, una sola mossa

Ciò che mi ha sorpreso, una volta iniziato a mappare tutto questo, è stato quanto poco vari la teoria dell'enforcement tra le agenzie. Seguono tutte lo stesso copione: allineare l'affermazione alla realtà, poi chiedere le prove.

La FTC ci è arrivata attraverso la Sezione 5 dell'FTC Act — pratiche sleali o ingannevoli — nell'ambito di un'operazione che ha chiamato Operation AI Comply, lanciata nel settembre 2024. DoNotPay, l'autoproclamato "primo avvocato robot al mondo", ha transatto su affermazioni che non poteva sostenere. Workado pubblicizzava uno strumento di rilevamento dell'IA come accurato al 98%; i test della stessa FTC hanno collocato l'accuratezza nel mondo reale intorno al 53%. Grosso modo un lancio di moneta, venduto come quasi-certezza. Il dettaglio che dovrebbe spaventare qualsiasi general counsel è la teoria dello strumento della FTC: la responsabilità scorre lungo la catena, dallo sviluppatore del modello di base all'impresa che lo distribuisce fino all'utente finale. Se ripeti il dato di accuratezza di un fornitore nei tuoi stessi materiali, la FTC lo tratta come una tua affermazione — non del fornitore.

Non posso sottolinearlo abbastanza, perché è la trappola in cui vedo cadere aziende intelligenti. Concedi in licenza un modello di terze parti, copi il benchmark del fornitore nel tuo 10-K o nella tua presentazione agli investitori, e dai per scontato che quel numero sia del fornitore. Non lo è. Nel momento in cui compare nel tuo documento depositato, è la tua dichiarazione, e "ce l'ha detto il nostro fornitore" non è una substantiation indipendente.

Gli Stati si sono aggiunti con i propri strumenti. La legge dello Stato di New York sui compagni IA prevede sanzioni fino a 15.000 dollari al giorno per violazione. L'AI Act del Colorado, in vigore dal 30 giugno 2026, richiede valutazioni d'impatto, notifica al consumatore e diligenza ragionevole per i sistemi ad alto rischio, a 20.000 dollari per violazione. Il Responsible AI Governance Act del Texas, attivo dal 1° gennaio 2026, conferisce al procuratore generale un ampio potere di civil-investigative-demand a partire da un singolo reclamo — una lettera di un consumatore e la richiesta di documenti è sulla tua scrivania. E quando il governo federale ha ipotizzato di scavalcare le leggi statali sull'IA, una coalizione bipartisan di 36 procuratori generali statali si è schierata contro. Qualunque cosa decidano infine i tribunali, gli enforcer non stanno aspettando.

Persino l'avvocatura privata si è unita. Lo Stanford Securities Class Action Clearinghouse ha contato 53 class action su titoli legate all'IA nella prima metà del 2025, con un accordo mediano di 11,5 milioni di dollari. Una di esse, Tucker contro Apple, depositata nel giugno 2025, sostiene che le promesse di Apple alla WWDC su Apple Intelligence abbiano spinto gli investitori a comprare puntando su funzionalità che, secondo la denuncia, non avevano alcun prototipo funzionante. Una slide di un keynote è diventata il Reperto A.

Perché "abbiamo una policy di governance dell'IA" non ti salva?

Ecco la parte in cui mi sbagliavo all'inizio, e mi è costata qualche mese passato a costruire la cosa sbagliata.

Quando ho iniziato a progettare per questo, ho dato per scontato che la risposta fosse la governance — la categoria che piattaforme come Credo AI, watsonx.governance di IBM, Holistic AI, OneTrust e Fiddler già servono bene. Abbiamo costruito verso una postura di governance: policy, un inventario dell'IA, dashboard, flussi di lavoro di supervisione. Ho mostrato una versione iniziale a un responsabile della conformità di un'azienda di medie dimensioni e mi sono sentito soddisfatto. Mi ha lasciato finire, poi ha posto l'unica domanda che contava: quando un ispettore esige la prova che una specifica affermazione fosse vera, quale pulsante avrebbe dovuto premere?

Non c'era un pulsante. Non c'era un documento. Ciò che avevo costruito le diceva che dovrebbe documentare i suoi sistemi. Non conteneva la documentazione. Avevo costruito una cosa che indicava il divario invece di riempirlo. Quello è stato il fallimento che ha ridefinito l'intera azienda per me.

La governance ti dice che dovresti documentare la tua IA. La substantiation è la documentazione — testata, datata e pronta per un ispettore che la legge a freddo.

Le piattaforme di governance sono brave in ciò che fanno. Monitorano, inventariano, fanno rispettare le policy. Ma sotto di esse c'è uno strato che quasi nessuno costruisce: la vera catena di prove che un ispettore della SEC o un AG statale chiede di vedere. È il divario attorno al quale ho ricostruito la pratica.

Cosa ti chiede effettivamente di produrre un ispettore?

Quando mi sono seduto a definire cosa avremmo consegnato, non sono partito da una specifica di prodotto. Sono partito dall'elenco del "si prega di produrre" — la letterale richiesta di documenti contenuta in una lettera di enforcement — e ho lavorato a ritroso. Un pacchetto di substantiation difendibile, la cosa che ora costruiamo, ha alcune parti portanti.

Inizia con una mappa affermazione-sistema: ogni affermazione pubblica sull'IA — dal 10-K, dal sito web, dai comunicati stampa, dal pitch deck — collegata allo specifico modello, pipeline di dati e punto decisionale che la realizza. Quando un documento depositato dice "analisi del rischio basata sull'IA", la mappa indica quale modello, quali dati, quale decisione. Questo è l'artefatto che avrebbe salvato Delphia, perché costringe a porsi la domanda "questa affermazione è davvero cablata a un sistema?" prima che lo faccia un regolatore.

Poi un raccoglitore di prove tecniche — architettura, metodologia di addestramento e benchmark di prestazioni misurati rispetto all'esatta metrica che hai dichiarato. Testati, non teorici. Se i tuoi materiali dichiarano un numero, il raccoglitore mostra il test che l'ha prodotto secondo una metodologia del mondo reale, non una demo selezionata ad arte. Workado è il monito: 98% nella brochure, 53% sotto test.

Poi la validazione operativa, che è dove Presto è morta. Il sistema esisteva. Ciò che mancava era la prova che l'IA guidasse davvero le decisioni descritte dal marketing, invece di girare accanto a persone che facevano il vero lavoro. Dimostrare la realtà operativa è più difficile che dimostrare che un modello esiste, ed è esattamente ciò che gli ispettori ora indagano.

Sotto tutto questo c'è un AIBOM — un AI Bill of Materials, un inventario leggibile dalla macchina di ogni componente: lignaggio dei dati di addestramento, versioni dei modelli, dipendenze di terze parti, infrastruttura. Gli standard finalmente esistono per farlo come si deve; SPDX 3.0 ha aggiunto un profilo IA nell'ottobre 2024 e CycloneDX 1.6 supporta i bill of materials del machine learning, con il progetto OWASP AIBOM che spinge in avanti la strumentazione. La verità onesta è che oggi la maggior parte delle aziende tiene ancora traccia di tutto ciò in un foglio di calcolo che diventa obsoleto nel momento in cui un modello viene riaddestrato. Ho aperto model card che riportavano un numero di versione vecchio di due cicli di riaddestramento — documentazione che descrive un sistema che non esiste più. Un AIBOM che si aggiorna con la pipeline è la differenza tra un'istantanea e un registro vivo.

E infine prove di monitoraggio continuo — risultati di rilevamento del drift, log di test automatizzati, la prova continua che l'affermazione è rimasta vera dopo il lancio. Un pacchetto di substantiation non è un raccoglitore una tantum che depositi e dimentichi. È un registro che continua a respirare, perché il tuo modello continua a cambiare e il tuo documento depositato no.

Il conto delle allucinazioni che nessuno mette in bilancio

C'è un secondo fronte in tutto questo, ed è quello che mi ha portato oltre i documenti depositati sui titoli, dentro il contenuto stesso.

Un'affermazione non è solo qualcosa che dici sulla tua IA in una disclosure. È anche ogni output che la tua IA genera e a cui apponi il tuo nome — il report, l'analisi, il riassunto rivolto al cliente. E quegli output allucinano. Il RegLab di Stanford ha rilevato che i grandi modelli linguistici allucinano su specifiche query legali tra il 69% e l'88% delle volte. Ci sono ormai più di 600 casi documentati di allucinazioni dell'IA emerse in atti giudiziari, con oltre 100 avvocati coinvolti e giudici che impongono sanzioni superiori a 10.000 dollari.

Il costo per le imprese è impressionante e stranamente invisibile. Un'analisi ha stimato le perdite globali dovute alle allucinazioni dell'IA in 67,4 miliardi di dollari nel 2024, con le aziende che spendono circa 14.200 dollari per dipendente all'anno solo per la mitigazione — le ore che le persone bruciano a verificare i fatti dei propri strumenti. Quando quasi la metà degli utenti aziendali di IA ha preso una decisione importante basandosi su contenuti allucinati, "l'ha generato l'IA" non è una difesa. È l'ammissione.

Ecco perché la verifica dei contenuti appartiene alla stessa pratica della substantiation delle affermazioni: entrambe riguardano la provenienza. L'Articolo 50 dell'EU AI Act, in vigore dall'agosto 2026, richiede che i contenuti generati dall'IA siano leggibili dalla macchina e rilevabili come tali, con un codice di condotta per l'etichettatura dei contenuti che arriva insieme ad esso. Lo standard di provenienza C2PA — quello che i telefoni di punta di Samsung e Google già firmano nativamente — sta diventando l'idraulica per dimostrare da dove proviene un pezzo di contenuto. Se la tua IA ha prodotto un report e in seguito si scopre che contiene una fabbricazione, l'unica cosa tra te e la responsabilità è una traccia di audit fino alla fonte. La maggior parte delle aziende non ne ha una.

La provenienza taglia anche nell'altro senso. Il sessantacinque per cento delle imprese ha segnalato un incidente deepfake nel 2023, e il mercato del rilevamento sta correndo da 5,5 miliardi di dollari verso i 15,7 miliardi di dollari previsti entro il 2026. Dimostrare che il tuo stesso contenuto è reale sta diventando urgente quanto dimostrare che quello di qualcun altro è falso — e la stessa firma C2PA che autentica l'output della tua IA è quella che ti permette di disconoscere un falso che indossa il tuo marchio.

Le domande che ricevo, e quelle che vorrei ricevere

Le persone mi chiedono sempre se la certificazione ISO 42001 gestisca tutto questo. Aiuta — è uno standard reale e verificabile, e la certificazione di terze parti ha peso presso i consigli di amministrazione e gli uffici acquisti. Ma costa dai 90.000 ai 200.000 dollari e oltre nel primo anno e richiede buona parte di un anno per essere avviata, e certifica che hai un sistema di gestione, non che una specifica affermazione di marketing sia vera. Certificazione e substantiation sono lavori diversi. Puoi essere certificato e comunque incapace di rispondere alla domanda dell'ispettore su una frase del tuo 10-K.

L'altra domanda, di solito dai fondatori, è se questo sia solo un problema da grande azienda. Nate ha raccolto 42 milioni di dollari e il fondatore rischia accuse penali. Delphia non era un nome noto a tutti. L'AG del Texas può aprire un'indagine a partire da un solo reclamo. La dimensione del rischio di enforcement segue la dimensione dell'affermazione che hai fatto, non la dimensione della tua azienda.

La domanda non è più se la tua IA funziona. È se puoi dimostrare che fa ciò che i tuoi documenti depositati dicono che fa.

Se potessi piantare un'idea nella testa di ogni general counsel e chief compliance officer che legge queste righe, è che il divario tra il marketing e la realtà ingegneristica è ormai una responsabilità legale con una cifra in dollari attaccata — e l'unica cosa che lo colma è la prova che hai costruito prima che qualcuno la chiedesse. Questa è l'intera premessa di ciò che costruiamo in Veriprajna: non l'ennesima dashboard che ti dice di documentare la tua IA, ma il pacchetto di substantiation stesso — la mappa affermazione-sistema, il raccoglitore di prove, l'AIBOM, la traccia di provenienza — assemblato e testato prima che atterri la lettera di richiesta documenti.

Continuo a tornare a quel bilancio annuale. Undici parole, depositate e dimenticate, senza nulla dietro — nessuna mappa, nessun raccoglitore, nessun log a collegare la frase a un sistema. Il modello sottostante probabilmente funzionava bene; la maggior parte di essi funziona. Ciò che mancava era l'unica cosa che un ispettore della SEC, un investigatore della FTC e un avvocato di parte attrice chiedono tutti nella stessa frase piatta: dimostramelo. Scrivi l'affermazione che puoi dimostrare, e costruisci la prova prima che qualcuno la chieda.