Een rechtbank oordeelde dat je chatbot een 'product' is. Dat ene woord herschreef de AI-productaansprakelijkheid.

In januari 2026 schreef een federale rechtbank in Florida één woord op dat de meeste juridische afdelingen van bedrijven volgens mij nog steeds inprijzen alsof het niet was gebeurd. Dat woord was product.

De zaak was Garcia v. Character.AI. Een veertienjarige had zelfmoord gepleegd na maandenlange gesprekken met een chatbot, en de gezinnen stapten naar de rechter. Character.AI en Google grepen naar de twee schilden die internetbedrijven al een generatie lang beschermen — de immuniteit van Section 230 en het Eerste Amendement — en betoogden dat de woorden van de chatbot spraak waren, of hooguit inhoud van derden die zij louter hostten. De rechtbank trapte er niet in. Zij oordeelde dat de chatbot "een product was voor de doeleinden van de vorderingen van eiser die voortvloeien uit gebreken in de Character.AI-app, in plaats van ideeën of uitingen binnen de app." De bedrijven troffen een schikking met gezinnen in Florida, Colorado, Texas en New York. De productclassificatie bleef in de boeken staan.

Ik las de uitspraak de week dat ze uitkwam, en ik zal eerlijk zijn over mijn eerste reactie: ik dacht dat het een randgeval was. Een consumentenchatbot, een tragisch maar ongebruikelijk feitenpatroon, een rechtbank die naar een analogie grijpt. Dat instinct was verkeerd, en het kostte me een paar maanden en één ongemakkelijk gesprek met een general counsel om te begrijpen hoe verkeerd. Dit is het verhaal van wat er veranderde, wat mijn team eerst op de verkeerde manier bouwde, en waarom ik nu geloof dat AI-productaansprakelijkheid het meest onderprijsde risico is op de meeste balansen van ondernemingen.

Spraak heeft geen gebreken. Producten wel.

Hier is waarom dat ene woord er zoveel toe doet. Als de output van je AI spraak is, gaan de juridische vragen over uiting, opzet en immuniteit — en Section 230 heeft vijfentwintig jaar besteed aan het laten verdwijnen van die vragen voor platforms. Als de output van je AI een product is, ben je een compleet ander rechtsgebied binnengelopen. Producten hebben geen meningen. Ze hebben gebreken. En de fabrikant van een gebrekkig product is aansprakelijk voor de schade die het veroorzaakt, ongeacht of de fabrikant onzorgvuldig was.

Die laatste bijzin is het hele spel. Onder een nalatigheidsnorm — de wereld waarin juridische afdelingen tot dit jaar opereerden — moet een eiser bewijzen dat je hebt nagelaten redelijke zorgvuldigheid te betrachten. Onder risicoaansprakelijkheid voor producten hoeven ze dat niet. Ze bewijzen dat het product gebrekkig was en dat het gebrek schade veroorzaakte. Je zorgvuldigheid, je goede bedoelingen, je "we volgden best practices" — niets ervan is een verweer. Jij hebt het ding gefabriceerd. Het ding was gebrekkig. Jij betaalt.

Nalatigheid vraagt of je zorgvuldig was. Risicoaansprakelijkheid vraagt of je product gebrekkig was. De meeste bedrijfs-AI werd gebouwd om de eerste vraag te beantwoorden, en de rechtbanken stellen nu de tweede.

Twee andere zaken uit hetzelfde kwartaal maakten het patroon onmogelijk om als eenmalig af te doen. In Nippon Life v. OpenAI, ingediend in het Northern District of Illinois in maart 2026, klaagde een verzekeraar voor $10,3 miljoen nadat ChatGPT naar verluidt vierenveertig gerechtelijke stukken had opgesteld voor een procespartij zonder advocaat — compleet met verzonnen jurisprudentieverwijzingen — en haar had aangemoedigd om haar advocaat te ontslaan en verdere procedures aan te spannen. De verzekeraar gaf ongeveer $300.000 uit aan verweer tegen stukken die een machine had geschreven. Merk op wie daar schade opliep: niet de gebruiker van de AI, maar een derde partij stroomafwaarts van de output ervan. En in Bouck v. Meta, eveneens maart 2026, weigerde een rechtbank in Californië de immuniteit van Section 230 voor door AI gegenereerde advertenties, met het oordeel dat zodra Meta's systeem de advertentie-inhoud had gecreëerd en Meta daadwerkelijk kennis had verkregen dat deze frauduleus was, het platform niet kon beweren dat het slechts andermans woorden hostte.

Tegen februari 2026 waren er meer dan 2.200 lopende zaken waarin werd gesteld dat AI en op betrokkenheid gerichte algoritmen echte schade veroorzaken. Dit is geen grensgebied. Het is een rechtbankrol.

Het kwartaal waarin de wetgevers bijtrokken

Rechtbanken bewegen zaak voor zaak. Wetgevers bewegen in bulk, en in 2025 en 2026 bewogen ze sneller dan de meeste mensen die AI bouwen opmerkten.

Degene waar ik elke bedrijfs-GC als eerste op zou wijzen is de AI LEAD Act, het tweepartijenwetsvoorstel Durbin–Hawley dat in september 2025 werd ingediend. Het zou een federale grondslag voor productaansprakelijkheid creëren die specifiek voor AI-systemen geldt, met risicoaansprakelijkheid — de tekst reikt tot ontwikkelaars zelfs wanneer zij "alle mogelijke zorgvuldigheid" hebben betracht. Het bestrijkt ontwerpgebreken en waarschuwingsplicht-theorieën, kent een verjaringstermijn van vier jaar, en — dit is het deel dat een bepaald bestuurskamergesprek definitief zou moeten beëindigen — het verbiedt het afstand doen van die aansprakelijkheid via algemene voorwaarden. De clausule "door op Accepteren te klikken gaat u ermee akkoord dat dit as-is wordt geleverd" waar je leveranciers dol op zijn? Het wetsvoorstel is zo geschreven dat het die onafdwingbaar maakt voor deze categorie schade.

Californië wachtte niet op Washington. AB 316, van kracht sinds januari 2026, sluit uit wat ik het weesverweer ben gaan noemen — het argument dat "de AI het op eigen houtje deed, dus wij zijn niet verantwoordelijk." Je kunt niet langer naar de autonomie van je eigen systeem wijzen als reden dat je vrijuit gaat. En aan de overkant van de Atlantische Oceaan classificeert de EU-richtlijn productaansprakelijkheid 2024/2853 software, inclusief AI-systemen en grote taalmodellen, expliciet als producten onder risicoaansprakelijkheid. Lidstaten moeten deze omzetten vóór 9 december 2026. De hoogrisico-eisen van de EU AI Act worden volledig van toepassing op 2 augustus 2026, met boetes die oplopen tot €15 miljoen of 3% van de wereldwijde omzet.

Ik reciteer bewust niet de hele kaart — Colorado's SB 205 met zijn boetes van $20.000 per overtreding en handhavingsdatum van juni 2026, New Yorks voorgestelde RAISE Act met boetes tot $30 miljoen voor herhaalde overtredingen. Het punt is niet de catalogus. Het punt is de richting, en de richting is unaniem: over rechtsgebieden heen die het verder over niets eens zijn, convergeert de norm voor AI-schade op risicoaansprakelijkheid, en de contractuele ontsnappingsluiken worden dichtgelast.

Je verzekering las stilletjes dezelfde uitspraken

Advocaten debatteren. Verzekeraars prijzen. En de verzekeringsbranche prijsde dit sneller en meedogenlozer in dan bijna elke juridische afdeling waarmee ik heb gesproken had verwacht.

Sinds januari 2026 bestaat de standaardformulering om AI-claims volledig uit te sluiten nu, voorgeschreven en klaar om aan je verlenging te nieten. Het Insurance Services Office — het orgaan op wiens formulieren de meeste Amerikaanse commerciële polissen zijn gebouwd — bracht endorsement CG 40 47 uit, dat door generatieve AI veroorzaakt lichamelijk letsel, materiële schade en persoonlijk en advertentieletsel uitsluit van een standaard commerciële algemene aansprakelijkheidspolis. Er is een lichtere variant, CG 40 48, die alleen de dekking voor advertentieletsel uitsluit. En verzekeraars zoals W.R. Berkley zijn verder gegaan met "absolute" AI-uitsluitingen die in bestuurders- en toezichthouders-, beroeps- en fiduciaire polissen worden geschreven — formulering die dekking teniet doet voor elke claim "gebaseerd op, voortvloeiend uit of toe te schrijven aan" het gebruik, de inzet of de ontwikkeling van AI.

Ik heb inmiddels in genoeg verlengingsgesprekken gezeten om je te vertellen wat de vraag van de verzekeraar is geworden. Vroeger was het: gebruikt u AI? Nu is het: toon ons het gedocumenteerde governancebewijs voor elk AI-systeem dat u inzet. Toon ons de resultaten van de adversarial red-teaming. Toon ons de modelherkomst. Toon ons dat de controles voor menselijk toezicht daadwerkelijk draaien, niet alleen opgeschreven in een beleids-PDF die iemand vorig kwartaal heeft bijgewerkt.

De verzekeraar stopte met vragen of je AI gebruikt. Nu vragen ze je te bewijzen dat je systeem verdedigbaar is — en een beleidsdocument is geen bewijs.

Er zit een val binnen de val. Wanneer de CGL-uitsluitingen AI-blootstelling uit de algemene aansprakelijkheid duwen, verdampt dat risico niet — het migreert naar cyber- en technologie-E&O-polissen die nooit ontworpen zijn om productaansprakelijkheidsclaims op te vangen. Zo kan een bedrijf zijn polisstapel lezen, ergens "AI gedekt" zien, en catastrofaal fout zitten over welke polis en wat deze daadwerkelijk uitbetaalt. De bedrijven die met echte documentatie 2026 inliepen, ontdekten dat bewijs de valuta van verzekerbaarheid was geworden. De bedrijven zonder ontdekken dat hun verzekeraar het uitsluitingsendorsement al heeft opgesteld.

De versie die we eerst bouwden — en waarom die faalde

Dit is het deel dat ik verkeerd deed, en ik vertel het je liever dan je te laten aannemen dat we netjes bij het antwoord aankwamen.

Toen mijn team hier voor het eerst mee aan de slag ging met leiders in juridische zaken en engineering, was ons instinct het voor de hand liggende: het probleem is documentatie, dus bouw een governancelaag. Inventariseer de modellen, beoordeel de risico's, genereer auditklare rapporten, produceer de dashboards die een auditor wil zien. Het is een redelijk instinct — het is precies wat de volwassen governanceplatforms doen, en ze doen het goed. Credo AI, dat meer dan $45 miljoen heeft opgehaald en in 2026 op Fast Company's Most Innovative-lijst werd genoemd, levert kant-en-klare beleidspakketten in kaart gebracht op de EU AI Act, het NIST AI Risk Management Framework en ISO 42001. IBM's watsonx.governance doet levenscyclusgovernance over de hele bedrijfsstack. Holistic AI is sterk in het auditen van algoritmische vooringenomenheid; OneTrust brengt een erfenis in privacy-compliance mee. Wij bouwden in feite een dunnere versie daarvan.

Toen keek een general counsel die ik respecteer naar wat we hadden geproduceerd en stelde een vraag die ik niet kon beantwoorden. Ze zei, ruwweg: als dit systeem wordt aangeklaagd voor een gebrekkige output, ga ik het verweer van het redelijke alternatieve ontwerp opwerpen — ik ga betogen dat er geen veiliger ontwerp was dat de fabrikant had moeten gebruiken. Waar, in dit alles, is het dossier dat laat zien welke architecturale keuzes vóór de inzet zijn gemaakt, en waarom?

Ik ging terug naar de dashboards. Ze konden haar, in prachtig detail, vertellen wat het systeem nu deed. Ze konden haar niet vertellen waarom het gebouwd was zoals het gebouwd was, welke alternatieven het team had overwogen en verworpen, of wat de engineers wisten over de faalmodi op het moment dat ze het uitbrachten. De governancelaag monitorde het heden. Het verweer dat zij nodig had leefde in het verleden — in beslissingen die niemand als bewijs had vastgelegd omdat op dat moment niemand wist dat ze bewijs aan het maken waren.

Dat was de mislukking die betaalde voor alles wat we daarna deden. Governanceplatforms monitoren en rapporteren. Ze architecteren niet. Je kunt geen verweer op een systeem schroeven dat nooit ontworpen is om verdedigd te worden, net zoals je geen crashtest kunt fotograferen die nooit is uitgevoerd.

Wat betekent "verdedigbaar door ontwerp" eigenlijk?

Dus we gooiden de dashboard-eerst-aanpak overboord en keerden hem om. De vraag was niet langer hoe documenteren we dit systeem? en werd hoe ontwerpen we een systeem waarvan de geschiedenis de documentatie is? Die omkering is waar Veriprajna's AI Product Liability Defense-praktijk omheen is gebouwd — verdedigbare architectuur en procesklaar bewijs, niet weer een monitoringlaag die achteraf op een systeem wordt geschroefd.

In de praktijk betekende dat het behandelen van het dossier van architecturale beslissingen als een eersteklas artefact — voorzien van een tijdstempel vóór de inzet, vastleggend wat het team probeerde, wat het verwierp, en de redenering, zodat het verweer van het redelijke alternatieve ontwerp bronmateriaal heeft dat dateert van vóór de rechtszaak in plaats van achteraf gereconstrueerd te worden nadat een klacht binnenkomt. Het betekende het bouwen van audittrails die het discovery-proces van een rechtszaak overleven: geen applicatielogs die elke dertig dagen wegrollen, maar een bewaarde keten van prompts, outputs, modelversies en menselijke beoordelingsacties, want een litigation-hold-memo voor een AI-systeem moet al die zaken benoemen als dingen die je gevraagd zult worden te produceren. De meeste juridische afdelingen van bedrijven hebben hun hold-templates niet bijgewerkt om er ook maar één van te vermelden — wat betekent dat de bewaarplicht al kleeft aan gegevens die het bedrijf stilletjes vernietigt bij een doorlopende logrotatie, lang voordat er ooit een klacht binnenkomt. En het betekende het ontwerpen van de controles voor menselijk toezicht als dragende onderdelen van het systeem die outputs daadwerkelijk afschermen — omdat een verzekeraar, en uiteindelijk de deskundige van een eiser, zal testen of je "human in the loop" werkelijk de bevoegdheid en de interface heeft om een slechte output te stoppen, of een vinkje op een organigram is.

Er zit hier een subtiliteit die de bedrijven die dit doorstaan scheidt van de bedrijven die dat niet doen. Privilege redt je niet. In februari 2026 oordeelde rechter Rakoff dat de consumenten-AI-documenten van een bedrijf niet beschermd waren door het verschoningsrecht tussen advocaat en cliënt toen werknemers de tool zonder aansturing van een advocaat hadden gebruikt. Je kunt je AI-beslissingen niet met terugwerkende kracht in een verschoningsrechtdeken wikkelen. Het bewijs zal opvraagbaar zijn, en dat is precies waarom het goed bewijs moet zijn, bewust gecreëerd, vanaf het begin.

Je kunt geen verweer op een systeem schroeven dat nooit ontworpen is om verdedigd te worden. De architectuur is het alibi — en het alibi moet bestaan vóór het incident, niet erna.

Dit is ook waar de golf van agentic AI alles moeilijker maakt. Wanneer een systeem autonoom handelt — acties onderneemt zonder dat een mens telkens op de knop drukt — komen de oude contractuele disclaimers voorbij het breekpunt onder spanning te staan. Singapore's IMDA bracht in januari 2026 een concept Agentic AI Governance Framework uit, en firma's zoals Clifford Chance hebben gewezen op de "aansprakelijkheidskloof" in standaardcontracten die stilzwijgend aannemen dat een mens altijd de handelende partij is. Californië's AB 316 zegt al dat je de agent niet de schuld kunt geven. Dus de autonomie die je voor efficiëntie bouwde, is juridisch gezien extra oppervlak dat je nu bezit. Daar moet voor ontworpen worden, niet met een disclaimer weggewuifd.

Waarom kunnen de voor de hand liggende leveranciers deze kloof niet dichten?

Mensen stellen me een terechte vraag: als governanceplatforms, advocatenkantoren en de grote systeemintegrators allemaal bestaan, waarom valt er dan nog iets te bouwen?

Omdat elk van hen een deel van het werk doet en geen van hen dit deel doet. De governanceplatforms — Credo AI, IBM, Holistic AI, OneTrust — besturen systemen die al bestaan; ze herstructureren geen wrapper tot een verdedigbare architectuur, en ze genereren niet het ontwerpbeslissingsbewijs waar een motion to dismiss op leunt. Advocatenkantoren geven je de juridische theorie — ze vertellen je precies wat het verweer van het redelijke alternatieve ontwerp vereist — maar ze schrijven de code niet en maken de architecturale keuzes niet die het bewijs creëren. En de grote integrators implementeren de platforms waarmee ze partnerschappen hebben, wat hen structureel bevooroordeeld maakt richting Salesforce of Microsoft Copilot in plaats van het leveranciersneutrale, verdedigbare maatwerksysteem dat jouw specifieke blootstelling vereist.

De kloof is de naad tussen wat externe raadslieden adviseren en wat een engineeringteam daadwerkelijk kan implementeren. Ik heb die naad in realtime zien falen — een Slack-thread waar de advocaat steeds "we hebben verdedigbare architectuur nodig" blijft schrijven en de engineer steeds "vertel me welk bestand ik moet wijzigen" blijft antwoorden. Iemand moet in die kloof gaan staan die zowel de uitspraak als de repository kan lezen. Dat is het werk dat mijn team doet — bouwen rond architectuur en bewijs in plaats van dashboards en rapporten, zodat de advocaat en de engineer eindelijk naar hetzelfde artefact wijzen.

De vraag die het waard is om bij stil te staan

Ik laat je achter met het ding waar ik steeds op terugkom. De gemiddelde kosten van een datalek in 2025–2026 bedroegen ongeveer $4,44 miljoen, en de branche bouwde een hele discipline — budgetten, verzekeringsproducten, bestuursrapportage — rond dat getal. AI-productaansprakelijkheid is een risicoaansprakelijkheidsblootstelling zonder bovengrens, met de contractuele ontsnappingsluiken die wettelijk worden dichtgelast, en met verzekeraars die het actief uit de polissen schrijven die het vroeger dekten. En de meeste ondernemingen beheren het met een polismap en de as-is-clausule van een leverancier.

Een polismap is wat je aan de toezichthouder overhandigt. Het is niet wat een getuigenverhoor overleeft. Stel je het moment voor dat er nu op veel bedrijven afkomt: de deskundige van een eiser zit tegenover je engineers en vraagt welk veiliger ontwerp je overwoog voordat je het uitbracht. Het antwoord is ofwel een dossier met tijdstempel ofwel een stilte — en onder risicoaansprakelijkheid is de stilte het gebrek. Toen de woorden van je AI een product werden, werd je architectuur je verweer, en een verweer dat je niet vóór het incident hebt ontworpen is er een die je niet hebt. Als je dat dossier vandaag niet kunt openen, heb je geen documentatieprobleem. Je hebt een onverdedigd product op de markt. Dat is het waard om op te lossen vóór 9 december, niet nadat de klacht arriveert — en het dichten van die kloof is het werk dat wij doen.