Un tribunale ha stabilito che il tuo chatbot è un "prodotto". Quella parola ha riscritto la responsabilità da prodotto dell'IA.

Nel gennaio 2026, un tribunale federale della Florida ha scritto una parola che, secondo me, la maggior parte dei team legali aziendali sta ancora valutando come se non fosse mai successa. La parola era prodotto.

Il caso era Garcia v. Character.AI. Un quattordicenne era morto suicida dopo mesi di conversazioni con un chatbot, e le famiglie sono andate in tribunale. Character.AI e Google hanno fatto ricorso ai due scudi che hanno protetto le aziende di internet per una generazione — l'immunità della Section 230 e il Primo Emendamento — e hanno sostenuto che le parole del chatbot fossero espressione, o al più contenuti di terzi che si limitavano a ospitare. Il tribunale non ci ha creduto. Ha stabilito che il chatbot era "un prodotto ai fini delle rivendicazioni dell'attore derivanti da difetti dell'app Character.AI, piuttosto che idee o espressioni all'interno dell'app." Le aziende hanno raggiunto un accordo con le famiglie in Florida, Colorado, Texas e New York. La classificazione come prodotto è rimasta agli atti.

Ho letto la sentenza la settimana in cui è uscita, e sarò onesto sulla mia prima reazione: ho pensato che fosse un caso limite. Un chatbot di consumo, uno schema di fatti tragico ma insolito, un tribunale che ricorreva a un'analogia. Quell'istinto era sbagliato, e mi ci sono voluti un paio di mesi e una conversazione scomoda con un direttore legale per capire quanto sbagliato. Questa è la storia di ciò che è cambiato, di ciò che il mio team ha costruito prima nel modo sbagliato, e del perché ora credo che la responsabilità da prodotto dell'IA sia il singolo rischio più sottovalutato nella maggior parte dei bilanci aziendali.

L'espressione non ha difetti. I prodotti sì.

Ecco perché quella singola parola conta così tanto. Se l'output della tua IA è espressione, le questioni legali riguardano l'espressione, l'intento e l'immunità — e la Section 230 ha passato venticinque anni a far sparire quelle questioni per le piattaforme. Se l'output della tua IA è un prodotto, sei entrato in un corpus di leggi completamente diverso. I prodotti non hanno opinioni. Hanno difetti. E il produttore di un prodotto difettoso è responsabile del danno che causa, che il produttore sia stato negligente o meno.

Quest'ultima clausola è tutto il gioco. Secondo uno standard di negligenza — il mondo in cui i team legali operavano fino a quest'anno — un attore deve dimostrare che non hai esercitato una diligenza ragionevole. Secondo la responsabilità oggettiva da prodotto, non deve. Deve dimostrare che il prodotto era difettoso e che il difetto ha causato il danno. La tua diligenza, le tue buone intenzioni, il tuo "abbiamo seguito le migliori pratiche" — nulla di tutto ciò è una difesa. Hai fabbricato la cosa. La cosa era difettosa. Paghi.

La negligenza chiede se sei stato attento. La responsabilità oggettiva chiede se il tuo prodotto era difettoso. La maggior parte dell'IA aziendale è stata costruita per rispondere alla prima domanda, e i tribunali ora pongono la seconda.

Altri due casi dello stesso trimestre hanno reso impossibile liquidare lo schema come un episodio isolato. In Nippon Life v. OpenAI, depositato presso il Distretto Settentrionale dell'Illinois nel marzo 2026, un assicuratore ha intentato causa per 10,3 milioni di dollari dopo che ChatGPT avrebbe redatto quarantaquattro atti giudiziari per una parte che si difendeva da sola — completi di citazioni di casi inventate — e l'avrebbe incoraggiata a licenziare il suo avvocato e a intentare ulteriori azioni legali. L'assicuratore ha speso circa 300.000 dollari per difendersi da atti scritti da una macchina. Notate chi è stato danneggiato lì: non l'utente dell'IA, ma un terzo a valle del suo output. E in Bouck v. Meta, anch'esso del marzo 2026, un tribunale della California ha negato l'immunità della Section 230 per gli annunci pubblicitari generati dall'IA, ritenendo che, una volta che il sistema di Meta aveva creato il contenuto dell'annuncio e Meta aveva acquisito conoscenza effettiva che era fraudolento, la piattaforma non potesse sostenere di limitarsi a ospitare le parole di qualcun altro.

Entro febbraio 2026 c'erano più di 2.200 cause attive che sostenevano che l'IA e gli algoritmi che massimizzano il coinvolgimento causano danni reali. Non è una frontiera. È un ruolo di cause.

Il trimestre in cui i legislatori hanno recuperato

I tribunali si muovono caso per caso. I legislatori si muovono in blocco, e nel 2025 e 2026 si sono mossi più velocemente di quanto la maggior parte di chi costruisce l'IA abbia notato.

Quella a cui indirizzerei per prima qualsiasi direttore legale aziendale è l'AI LEAD Act, il disegno di legge bipartisan Durbin–Hawley presentato nel settembre 2025. Creerebbe una causa d'azione federale di responsabilità da prodotto specificamente per i sistemi di IA, con responsabilità oggettiva — il testo raggiunge gli sviluppatori anche quando hanno esercitato "ogni possibile diligenza." Copre le teorie dei difetti di progettazione e del mancato avvertimento, prevede un termine di prescrizione di quattro anni e — questa è la parte che dovrebbe porre fine per sempre a una certa conversazione da consiglio di amministrazione — vieta di rinunciare a tale responsabilità attraverso i termini di servizio. La clausola "cliccando su Accetta accetti che questo è fornito così com'è" che i tuoi fornitori adorano? Il disegno di legge è scritto per renderla inapplicabile a questa categoria di danno.

La California non ha aspettato Washington. L'AB 316, in vigore da gennaio 2026, preclude quella che ho iniziato a chiamare la difesa dell'orfano — l'argomento secondo cui "l'IA lo ha fatto da sola, quindi non siamo responsabili." Non puoi più indicare l'autonomia del tuo stesso sistema come motivo per cui te la cavi. E dall'altra parte dell'Atlantico, la Direttiva UE sulla responsabilità da prodotto 2024/2853 classifica esplicitamente il software, inclusi i sistemi di IA e i grandi modelli linguistici, come prodotti soggetti a responsabilità oggettiva. Gli Stati membri devono recepirla entro il 9 dicembre 2026. I requisiti per i sistemi ad alto rischio dell'AI Act dell'UE diventano pienamente applicabili il 2 agosto 2026, con multe che raggiungono i 15 milioni di euro o il 3% del fatturato globale.

Deliberatamente non recito l'intera mappa — la SB 205 del Colorado con le sue sanzioni di 20.000 dollari per violazione e la data di applicazione di giugno 2026, la proposta di RAISE Act di New York con sanzioni fino a 30 milioni di dollari per violazioni ripetute. Il punto non è il catalogo. Il punto è la direzione, e la direzione è unanime: attraverso giurisdizioni che per il resto non concordano su nulla, lo standard per il danno da IA sta convergendo verso la responsabilità oggettiva, e le vie di fuga contrattuali vengono saldate chiuse.

La tua assicurazione ha letto silenziosamente le stesse sentenze

Gli avvocati discutono. Gli assicuratori valutano. E il settore assicurativo ha valutato questo più velocemente e più spietatamente di quanto quasi ogni team legale con cui ho parlato si aspettasse.

A gennaio 2026, il linguaggio standard per escludere interamente le rivendicazioni relative all'IA esiste ora, pre-redatto e pronto da allegare al tuo rinnovo. L'Insurance Services Office — l'ente sulle cui modulistiche si basa la maggior parte delle polizze commerciali statunitensi — ha rilasciato l'endorsement CG 40 47, che esclude da una standard polizza di responsabilità civile generale commerciale i danni corporali, materiali e i danni personali e pubblicitari legati all'IA generativa. C'è un fratello più leggero, il CG 40 48, che esclude solo la copertura per danni pubblicitari. E assicuratori come W.R. Berkley si sono spinti oltre con esclusioni "assolute" dell'IA inserite nelle polizze directors-and-officers, errors-and-omissions e fiduciarie — un linguaggio che annulla la copertura per qualsiasi rivendicazione "basata su, derivante da o attribuibile a" l'uso, l'implementazione o lo sviluppo dell'IA.

Ho ormai partecipato a un numero sufficiente di conversazioni di rinnovo per dirti cosa è diventata la domanda dell'assicuratore. Prima era: usate l'IA? Ora è: mostrateci le prove documentate di governance per ogni sistema di IA che implementate. Mostrateci i risultati dei red-team antagonisti. Mostrateci la provenienza del modello. Mostrateci che i controlli di supervisione umana sono effettivamente in funzione, non solo scritti in un PDF di policy che qualcuno ha aggiornato l'ultimo trimestre.

L'assicuratore ha smesso di chiedere se usi l'IA. Ora ti chiede di dimostrare che il tuo sistema è difendibile — e un documento di policy non è una prova.

C'è una trappola dentro la trappola. Quando le esclusioni della responsabilità civile generale spingono l'esposizione all'IA fuori dalla responsabilità generale, quel rischio non evapora — migra sulle polizze cyber e technology E&O che non sono mai state progettate per assorbire rivendicazioni di responsabilità da prodotto. Così un'azienda può leggere la sua struttura di polizze, vedere "IA coperta" da qualche parte, e sbagliarsi catastroficamente su quale polizza e su cosa paga effettivamente. Le aziende che sono entrate nel 2026 con una documentazione reale hanno scoperto che le prove erano diventate la valuta dell'assicurabilità. Le aziende senza di essa stanno scoprendo che il loro assicuratore ha già redatto l'endorsement di esclusione.

La versione che abbiamo costruito per prima — e perché ha fallito

Questa è la parte in cui ho sbagliato, e preferisco dirtelo piuttosto che lasciarti supporre che siamo arrivati alla risposta in modo pulito.

Quando il mio team ha iniziato a lavorare con i responsabili legali e ingegneristici su questo, il nostro istinto è stato quello ovvio: il problema è la documentazione, quindi costruire uno strato di governance. Inventariare i modelli, valutare i rischi, generare report pronti per l'audit, produrre i cruscotti che un revisore vuole vedere. È un istinto ragionevole — è esattamente ciò che fanno le piattaforme di governance mature, e lo fanno bene. Credo AI, che ha raccolto oltre 45 milioni di dollari ed è stata inserita nell'elenco delle aziende più innovative di Fast Company nel 2026, distribuisce pacchetti di policy predefiniti mappati all'AI Act dell'UE, al NIST AI Risk Management Framework e all'ISO 42001. watsonx.governance di IBM fa governance del ciclo di vita su tutto lo stack aziendale. Holistic AI è forte sull'audit dei bias algoritmici; OneTrust porta un'eredità di compliance sulla privacy. Stavamo, di fatto, costruendo una versione più sottile di tutto ciò.

Poi un direttore legale che rispetto ha guardato ciò che avevamo prodotto e ha posto una domanda a cui non sapevo rispondere. Ha detto, più o meno: se questo sistema viene citato in giudizio per un output difettoso, solleverò la difesa del progetto alternativo ragionevole — sosterrò che non c'era un progetto più sicuro che il produttore avrebbe dovuto usare. Dov'è, in tutto questo, il verbale che mostra quali scelte architetturali sono state fatte prima dell'implementazione, e perché?

Sono tornato ai cruscotti. Potevano dirle, in bellissimo dettaglio, cosa il sistema stesse facendo ora. Non potevano dirle perché fosse stato costruito nel modo in cui era, quali alternative il team avesse considerato e scartato, o cosa gli ingegneri sapessero sulle modalità di guasto nel momento in cui lo hanno rilasciato. Lo strato di governance monitorava il presente. La difesa di cui aveva bisogno viveva nel passato — in decisioni che nessuno aveva registrato come prove perché, all'epoca, nessuno sapeva che stava producendo prove.

Quello è stato il fallimento che ha ripagato tutto ciò che abbiamo fatto in seguito. Le piattaforme di governance monitorano e riferiscono. Non progettano. Non puoi imbullonare una difesa su un sistema che non è mai stato progettato per essere difeso, allo stesso modo in cui non puoi fotografare un crash-test che non è mai stato eseguito.

Cosa significa davvero "difendibile per progettazione"?

Così abbiamo abbandonato l'approccio incentrato sui cruscotti e lo abbiamo capovolto. La domanda ha smesso di essere come documentiamo questo sistema? ed è diventata come progettiamo un sistema la cui storia è la documentazione? Quel capovolgimento è ciò attorno a cui è costruita la practice di Difesa dalla Responsabilità da Prodotto dell'IA di Veriprajna — architettura difendibile e prove pronte per il contenzioso, non un altro strato di monitoraggio imbullonato su un sistema dopo i fatti.

In pratica ciò ha significato trattare il verbale delle decisioni architetturali come un artefatto di prima classe — con marca temporale prima dell'implementazione, che cattura ciò che il team ha provato, ciò che ha scartato e il ragionamento, in modo che la difesa del progetto alternativo ragionevole abbia materiale sorgente che precede la causa piuttosto che essere ricostruito a ritroso dopo che un reclamo è arrivato. Ha significato costruire piste di audit che sopravvivono alla discovery del contenzioso: non log applicativi che si sovrascrivono ogni trenta giorni, ma una catena preservata di prompt, output, versioni del modello e azioni di revisione umana, perché una comunicazione di litigation-hold per un sistema di IA deve nominare tutti questi come cose che ti sarà chiesto di produrre. La maggior parte dei team legali aziendali non ha aggiornato i propri modelli di hold per elencarne nemmeno uno — il che significa che il dovere di conservazione si sta già applicando a dati che l'azienda sta silenziosamente distruggendo con una rotazione dei log continua, molto prima che un reclamo arrivi mai. E ha significato progettare i controlli di supervisione umana come parti portanti del sistema che effettivamente controllano gli output — perché un assicuratore, e alla fine il perito di un attore, verificherà se il tuo "umano nel ciclo" ha davvero l'autorità e l'interfaccia per fermare un output sbagliato, o è una casella su un organigramma.

C'è qui una sottigliezza che separa le aziende che supereranno tutto questo da quelle che non lo faranno. Il segreto professionale non ti salva. Nel febbraio 2026, il giudice Rakoff ha stabilito che i documenti di IA di consumo di un'azienda non erano protetti dal segreto professionale avvocato-cliente quando i dipendenti avevano usato lo strumento senza la direzione di un legale. Non puoi avvolgere retroattivamente le tue decisioni sull'IA in una coperta di segreto professionale. Le prove saranno soggette a discovery, ed è proprio per questo che devono essere buone prove, create deliberatamente, fin dall'inizio.

Non puoi imbullonare una difesa su un sistema che non è mai stato progettato per essere difeso. L'architettura è l'alibi — e l'alibi deve esistere prima dell'incidente, non dopo.

Questo è anche il punto in cui l'ondata dell'agentic AI rende tutto più difficile. Quando un sistema agisce autonomamente — compiendo azioni senza che un umano prema il pulsante ogni volta — i vecchi disclaimer contrattuali si tendono oltre il punto di rottura. L'IMDA di Singapore ha rilasciato una bozza di Agentic AI Governance Framework nel gennaio 2026, e studi come Clifford Chance hanno segnalato il "divario di responsabilità" nei contratti standard che presumono silenziosamente che un umano sia sempre l'attore. L'AB 316 della California dice già che non puoi incolpare l'agente. Quindi l'autonomia che hai costruito per l'efficienza è, giuridicamente, ulteriore superficie di esposizione che ora possiedi. Ciò va progettato, non evitato con un disclaimer.

Perché i fornitori più ovvi non possono colmare questo divario?

Le persone mi pongono una domanda giusta: se le piattaforme di governance, gli studi legali e i grandi integratori di sistemi esistono tutti, perché c'è ancora qualcosa da costruire?

Perché ciascuno di essi fa parte del lavoro e nessuno di essi fa questa parte. Le piattaforme di governance — Credo AI, IBM, Holistic AI, OneTrust — governano sistemi che esistono già; non ristrutturano un wrapper in un'architettura difendibile, e non generano le prove delle decisioni di progettazione su cui si appoggia una mozione di rigetto. Gli studi legali ti danno la teoria giuridica — ti diranno esattamente cosa richiede la difesa del progetto alternativo ragionevole — ma non scrivono il codice né fanno le scelte architetturali che creano le prove. E i grandi integratori implementano le piattaforme con cui sono in partnership, il che li rende strutturalmente orientati verso Salesforce o Microsoft Copilot piuttosto che verso il sistema personalizzato, difendibile e neutrale rispetto al fornitore che la tua specifica esposizione richiede.

Il divario è la giuntura tra ciò che consiglia il consulente legale esterno e ciò che un team di ingegneri può effettivamente implementare. Ho visto quella giuntura fallire in tempo reale — un thread di Slack in cui l'avvocato continua a scrivere "ci serve un'architettura difendibile" e l'ingegnere continua a rispondere "dimmi quale file cambiare." Qualcuno deve stare in quel divario, qualcuno che sappia leggere la sentenza e il repository. Questo è il lavoro che fa il mio team — costruire attorno all'architettura e alle prove piuttosto che a cruscotti e report, così che l'avvocato e l'ingegnere puntino finalmente allo stesso artefatto.

La domanda su cui vale la pena soffermarsi

Ti lascio con la cosa a cui continuo a tornare. Il costo medio di una violazione dei dati nel 2025–2026 è stato di circa 4,44 milioni di dollari, e il settore ha costruito un'intera disciplina — budget, prodotti assicurativi, reportistica per il consiglio — attorno a quel numero. La responsabilità da prodotto dell'IA è un'esposizione a responsabilità oggettiva senza limite massimo, con le vie di fuga contrattuali che vengono chiuse per legge, e con gli assicuratori che la escludono attivamente dalle polizze che la coprivano. E la maggior parte delle aziende la gestisce con un raccoglitore di polizze e la clausola "così com'è" di un fornitore.

Un raccoglitore di polizze è ciò che consegni al regolatore. Non è ciò che sopravvive a una deposizione. Immagina il momento che sta ora arrivando per molte aziende: il perito di un attore siede di fronte ai tuoi ingegneri e chiede quale progetto più sicuro avete considerato prima di rilasciare. La risposta è o un verbale con marca temporale o un silenzio — e sotto la responsabilità oggettiva, il silenzio è il difetto. Quando le parole della tua IA sono diventate un prodotto, la tua architettura è diventata la tua difesa, e una difesa che non hai progettato prima dell'incidente è una difesa che non hai. Se non puoi aprire quel verbale oggi, non hai un problema di documentazione. Hai un prodotto indifeso sul mercato. Vale la pena sistemarlo prima del 9 dicembre, non dopo l'arrivo del reclamo — e colmare quel divario è il lavoro che facciamo.