Multe per AI washing: la vostra affermazione sull'IA è la prossima?

Il problema

La SEC ha multato due società di investimento per un totale di 400.000 $ per aver mentito sulla loro IA. Non per aver costruito un'IA scadente. Ma per aver dichiarato di avere un'IA che in realtà non avevano mai costruito.

A marzo 2024, la SEC ha incriminato Delphia (USA) Inc. e Global Predictions Inc. per false dichiarazioni sull'uso dell'intelligenza artificiale. Delphia assicurava ai clienti di utilizzare un «modello algoritmico predittivo» che analizzava i pattern di spesa e i dati dei social media per «prevedere quali aziende e tendenze stavano per esplodere». Gli esaminatori della SEC hanno accertato che Delphia non ha mai realmente integrato quei dati nel proprio processo di investimento. La società ha continuato a fare queste affermazioni dal 2019 al 2023 — persino dopo che la SEC l'aveva avvertita nel 2021 di smettere.

Global Predictions si definiva «il primo consulente finanziario basato sull'IA regolamentato». Quando i regolatori hanno chiesto la documentazione tecnica a supporto di quella dichiarazione, la società non è stata in grado di produrla. Delphia ha pagato 225.000 $. Global Predictions ha pagato 175.000 $.

Non erano schemi fraudolenti complessi. Erano affermazioni di marketing che avevano superato la realtà ingegneristica. E rappresentano una nuova categoria di rischio aziendale che i vostri team legali e di compliance devono comprendere subito. Se la vostra società dichiara ovunque di essere «potenziata dall'IA» — sul sito web, nei materiali per gli investitori, nelle presentazioni ai clienti — siete esposti esattamente allo stesso rischio di enforcement. La SEC ha usato leggi antifrode esistenti, non nuove regole specifiche sull'IA. Il che significa che il quadro giuridico per sanzionare la vostra società esiste già oggi.

Perché questo è importante per la vostra azienda

Le sanzioni SEC per un totale di 400.000 $ erano solo il colpo d'apertura. Numerose agenzie federali stanno ormai cercando attivamente affermazioni sull'IA da contestare.

La FTC ha lanciato l'«operazione AI Comply» per colpire le affermazioni ingannevoli sull'IA nell'intera economia dei consumatori. A gennaio 2025, la FTC ha fatto chiudere DoNotPay — un servizio che si pubblicizzava come «il primo avvocato robot del mondo» — perché la società non è riuscita a dimostrare che la sua IA potesse realmente sostituire un avvocato umano. La FTC si è mossa anche contro Evolv Technologies per aver presumibilmente travisato la capacità dei suoi sensori basati sull'IA di rilevare armi nelle scuole.

Il Dipartimento della Giustizia ha annunciato la propria iniziativa «Justice AI». I procuratori federali valuteranno ora la capacità della vostra società di gestire i rischi dell'IA nell'ambito delle revisioni di compliance aziendale. Sono state loro impartite direttive di chiedere sanzioni più severe quando l'IA viene usata per agevolare la criminalità dai colletti bianchi.

Ecco cosa significa tutto questo per i risultati della vostra azienda:

• Le sanzioni delle autorità di regolamentazione sono il minimo, non il massimo. La sanzione di 225.000 $ a Delphia è piccola rispetto al danno reputazionale e alla perdita di affari che seguono un provvedimento di enforcement reso pubblico.
• I vostri fornitori di IA creano la vostra responsabilità. La FTC ha stabilito che se uno strumento di IA funge da «strumento» per ingannare, sia il fornitore sia il cliente aziendale possono essere ritenuti responsabili.
• Anche i procuratori generali statali entrano in gioco. Usano le leggi esistenti sulla tutela dei consumatori per perseguire le affermazioni di marketing sull'IA a livello statale.
• L'esposizione del board è reale. Se la vostra società rivendica capacità basate sull'IA nei documenti depositati presso la SEC o nelle presentazioni agli investitori, i vostri dirigenti rispondono con la propria responsabilità personale ai sensi delle vigenti norme antifrode.

Questo non è un problema del futuro. L'infrastruttura di enforcement è già costruita e attiva.

Cosa succede davvero sotto il cofano

La causa principale dell'AI washing è un'incomprensione tecnica di come funziona davvero l'IA moderna. La maggior parte delle applicazioni di IA di oggi — comprese quelle che i vostri fornitori potrebbero vendervi — è costruita su sistemi che prevedono la parola successiva più probabile in una sequenza. Non verificano i fatti. Generano testo che suona plausibile.

Pensate a qualcosa di simile all'autocompletamento dello smartphone, ma alle dimensioni di Internet. Il vostro telefono non sa se la parola successiva è vera. Sa solo quale parola di solito viene dopo. I Large Language Model (LLM) — i sistemi di IA alla base di strumenti come ChatGPT — funzionano allo stesso modo, solo con più dati e più matematica. Il modello non ha alcun concetto interno di verità. Prevede la sequenza di caratteri più probabile sulla base dei pattern presenti nei suoi dati di addestramento.

Ecco perché i sistemi di IA «allucinano» — generano citazioni inesistenti, cifre finanziarie sbagliate o precedenti giurisprudenziali mai decisi. In un ambiente regolamentato, «quasi corretto» è giuridicamente equivalente a «errato». Una citazione giuridica allucinata crea una responsabilità legale attiva per la vostra organizzazione.

Ad aggravare il quadro, la maggior parte delle «soluzioni di IA» vendute oggi alle imprese sono ciò che il settore chiama «wrapper»: applicazioni che si collegano a un servizio di IA pubblico tramite un'API — essenzialmente una spina — e vi aggiungono un'interfaccia utente. Sono progettate per ridurre al minimo i costi, spesso a spese della precisione. Non riescono a verificare il proprio ragionamento. Si limitano a trasmettere qualunque cosa generi il modello sottostante, indipendentemente dalla sua veridicità. La vostra azienda mette così il proprio nome e la propria reputazione alle spalle di quell'output.

Cosa funziona (e cosa no)

Iniziamo da ciò che non vi protegge:

• Il solo prompt engineering. Formulare con cura le istruzioni date a un sistema di IA non gli impedisce di produrre allucinazioni. Ne riduce la frequenza, ma non elimina il rischio.
• Wrapper API sottili. Collegarsi a un modello di IA pubblico e aggiungervi il proprio marchio non offre alcun controllo su accuratezza, privacy dei dati o tracce di audit. Questi wrapper sono vulnerabili a input difettosi che causano output errati — un problema noto come «retrieval poisoning».
• Controlli manuali a campione. Far revisionare a un umano un campione casuale degli output dell'IA non intercetta gli errori negli output che non avete revisionato. Crea un falso senso di sicurezza.

Quello che funziona davvero è un'architettura fondamentalmente diversa. Ecco come opera in tre passaggi:

1. Retrieval ancorato tramite grafi della conoscenza. Invece di lasciare che l'IA cerchi in modo approssimativo informazioni correlate, costruite una mappa strutturata della conoscenza del vostro dominio — un Knowledge Graph. Nell'IA giuridica, ad esempio, ogni sentenza è collegata ad altre sentenze tramite relazioni specifiche come CITES, OVERRULES o AFFIRMS. Il sistema può fare riferimento soltanto a ciò che esiste in questa struttura verificata. Questo sposta il retrieval da una stima statistica a un percorso verificato.

2. Verifica multi-agente. Anziché chiedere a un unico modello di IA di ricercare, verificare e scrivere, il lavoro viene ripartito tra agenti specializzati. Un «agente di ricerca» recupera i dati grezzi. Un «agente di verifica» li riscontra in modo incrociato con il vostro grafo della conoscenza. Un «agente redattore» produce l'output finale usando soltanto fatti verificati. Questi agenti revisionano a ciclo continuo il lavoro reciproco prima che qualsiasi persona umana veda il risultato.

3. Deploy sovrano sulla vostra infrastruttura. La vostra IA gira all'interno del vostro firewall — on-premises oppure in un cloud privato isolato da Internet pubblico. Questo garantisce zero fughe di dati. La vostra proprietà intellettuale, i dati dei clienti e i segreti commerciali non toccano mai server esterni. È indispensabile per la conformità a HIPAA, GDPR e CCPA.

Il vantaggio della traccia di audit è ciò che rende questo approccio difendibile. Ogni output è riconducibile a precisi documenti fonte attraverso collegamenti verificati. Quando un regolatore, un revisore o la controparte chiede «come ha raggiunto la vostra IA questa conclusione», potete mostrare il percorso esatto — dai dati fonte, attraverso la verifica, fino all'output finale. È la differenza tra un sistema che potete difendere e un sistema che diventa la vostra prossima responsabilità.

Il vostro quadro di governance dovrebbe abbinare il NIST AI Risk Management Framework per i controlli tattici del rischio a ISO/IEC 42001 per una conformità certificabile e auditata da terze parti. ISO 42001 è l'unica norma internazionale certificabile per i sistemi di gestione dell'IA. Un revisore terzo può verificare la vostra conformità — fornendovi la documentazione necessaria per le verifiche di procurement, le relazioni al board e le presentazioni agli enti regolatori.

Infine, costruite un AI Bill of Materials (AIBOM) — un registro completo e leggibile dalle macchine di ogni componente del vostro sistema di IA. Comprende i dataset di addestramento, i modelli di base, le librerie di terze parti e i dettagli dell'infrastruttura. Il vostro AIBOM diventa la fonte unica della verità che dimostra che le vostre affermazioni sull'IA corrispondono alla realtà tecnica. È esattamente la documentazione che Delphia e Global Predictions non sono riusciti a produrre quando la SEC si è presentata.