Produkthaftungsabwehr für KI
Im Januar 2026 entschied ein Bundesgericht, dass die Ausgabe eines Chatbots ein Produkt ist, das der verschuldensunabhängigen Haftung unterliegt. Die Section-230-Immunität gilt nicht. Seitdem hat ISO standardisierte CGL-Zusatzklauseln veröffentlicht, mit denen Versicherer KI-Ansprüche vollständig ausschließen können. Der rechtliche und finanzielle Boden unter den KI-Implementierungen von Unternehmen hat sich dauerhaft verschoben.
Veriprajna entwickelt die architektonisch verteidigungsfähigen KI-Systeme, prozessfesten Prüfprotokolle und Versicherungsnachweis-Portfolios, die Rechtsabteilungen von Unternehmen benötigen, um in diesem neuen Umfeld zu agieren.
2.200+
Aktive KI-/Plattform-Haftungsfälle
MDL-Bundesverfahren, Feb. 2026
CG 40 47
ISO-CGL-Zusatzklausel zum Ausschluss von KI-Ansprüchen
Verisk, gültig ab Jan. 2026
9. Dez. 2026
Frist der EU-Produkthaftungsrichtlinie
Richtlinie 2024/2853, Software = Produkt
Drei Fälle im ersten Quartal 2026 haben festgestellt, dass KI-generierte Inhalte keine Meinungsäußerung sind. Es handelt sich um eine hergestellte Ausgabe, und der Hersteller haftet für Mängel.
Ein 14-Jähriger nahm sich nach monatelanger Interaktion mit einem Character.AI-Chatbot das Leben. Das Gericht wies die Verteidigung nach Section 230 und dem First Amendment zurück und entschied, der Chatbot sei ein "Produkt für die Zwecke der Ansprüche des Klägers, die aus Mängeln der Character.AI-App entstehen, und nicht aus Ideen oder Äußerungen innerhalb der App." Google und Character.AI einigten sich mit Familien in Florida, Colorado, Texas und New York. Das Urteil zur Produktklassifizierung hat Bestand.
Was es für Unternehmen bedeutet: Wenn Ihre KI Ausgaben erzeugt, die mit Nutzern interagieren, sind Sie ein Produkthersteller. Die verschuldensunabhängige Haftung gilt. Der Kläger muss nicht nachweisen, dass Sie fahrlässig gehandelt haben. Er muss nachweisen, dass das Produkt mangelhaft war.
Nippon Life Insurance verklagte OpenAI auf 10,3 Millionen US-Dollar, nachdem ChatGPT angeblich 44 Gerichtsschriftsätze für eine sich selbst vertretende Prozesspartei verfasst hatte, einschließlich erfundener Fallzitate. Die KI ermutigte die Nutzerin, ihre Anwältin zu entlassen und weitere Klagen gegen Nippon Life anzustrengen. Der Versicherer gab rund 300.000 US-Dollar für die Abwehr KI-generierter Schriftsätze aus.
Was es für Unternehmen bedeutet: KI-Ausgaben, die nachgelagerten wirtschaftlichen Schaden verursachen, begründen eine Haftung gegenüber Dritten. Der Schaden muss nicht beim Nutzer eintreten. Er kann jeden treffen, der von der KI-Ausgabe betroffen ist.
Das Gericht verweigerte die Section-230-Immunität für KI-generierte Werbung. Als Metas KI-System Werbeinhalte erstellte und Meta diese prüfte und dabei tatsächliche Kenntnis von der Betrügerei erlangte, trat die Haftung ein. Die Plattform konnte nicht geltend machen, sie hoste lediglich Inhalte Dritter, wenn die KI den Inhalt selbst generiert hatte.
Was es für Unternehmen bedeutet: KI-generierte Inhalte sind keine Inhalte Dritter. Sie können sich nicht hinter der Plattformimmunität verstecken, wenn Ihr System die Ausgabe erstellt.
Die Gerichte bewegen sich, doch die Gesetzgeber bewegen sich schneller. Der AI LEAD Act (Durbin-Hawley, eingebracht im September 2025) würde einen bundesrechtlichen Klagegrund für die Produkthaftung von KI-Systemen mit verschuldensunabhängiger Haftung schaffen, was bedeutet, dass Entwickler selbst dann haften, wenn sie "jede mögliche Sorgfalt" walten ließen. Er untersagt den Haftungsverzicht über Nutzungsbedingungen. Kaliforniens AB 316, gültig ab Januar 2026, schließt ausdrücklich die Verteidigung aus, die KI habe autonom gehandelt.
In der EU stuft die Richtlinie 2024/2853 sämtliche Software, einschließlich KI-Systeme und LLMs, als "Produkte" mit verschuldensunabhängiger Haftung ein. Die Mitgliedstaaten müssen sie bis zum 9. Dezember 2026 umsetzen. Die Anforderungen des EU AI Act an Hochrisikosysteme werden ab dem 2. August 2026 vollständig anwendbar, mit Bußgeldern von bis zu 15 Millionen EUR oder 3 % des weltweiten Umsatzes.
Die Versicherungsbranche hat sich schneller bewegt, als die meisten Rechtsabteilungen erwartet hatten. Seit Januar 2026 existiert standardisierte Vertragssprache, um KI-bezogene Ansprüche vollständig auszuschließen. Wenn Ihre Verlängerung ansteht und Ihnen eine dokumentierte Governance fehlt, wird das Gespräch mit Ihrem Versicherer unangenehm.
| Zusatzklausel / Police | Was sie ausschließt | Gültig ab | Auswirkung |
|---|---|---|---|
| ISO CG 40 47 | Personenschäden, Sachschäden, Personen-/Werbeschäden, die aus generativer KI entstehen (Deckung A + B) | Jan. 2026 | Vollständiger CGL-Ausschluss für KI |
| ISO CG 40 48 | Personen- und Werbeschäden aus generativer KI (nur Deckung B) | Jan. 2026 | Teilweiser CGL-Ausschluss |
| Absoluter KI-Ausschluss von W.R. Berkley | Jeder Anspruch, der "auf der Nutzung, Implementierung oder Entwicklung von KI beruht, daraus entsteht oder darauf zurückzuführen ist". Umfasst Chatbot-Ausgaben, Governance-Versäumnisse und behördliche Maßnahmen. | 2025-2026 | Pauschalausschluss in D&O-, E&O- und Treuhandpolicen |
| Verlagerung der Deckungslücke | KI-Ausschlüsse aus der CGL verlagern das Risiko auf Cyber- und Tech-E&O-Policen, die nicht für Produkthaftungsansprüche ausgelegt sind | Laufend | Unbeabsichtigte Deckungslücken über den gesamten Policenbestand hinweg |
Die Frage des Underwriters hat sich geändert.
Früher lautete sie: "Nutzen Sie KI?" Jetzt lautet sie: "Zeigen Sie uns dokumentierte Governance-Nachweise für jedes KI-System, das Sie einsetzen. Zeigen Sie uns die Ergebnisse adversarialer Red-Team-Tests. Zeigen Sie uns Ihre Modellherkunft. Zeigen Sie uns, dass die menschlichen Aufsichtskontrollen tatsächlich funktionieren und nicht nur in einem Policy-Dokument niedergeschrieben sind." Unternehmen, die mit dieser Dokumentation in das Jahr 2026 gingen, stellten fest, dass Nachweise die neue Währung der Versicherbarkeit sind. Unternehmen ohne sie entdecken, dass ihr Versicherer die Ausschlussklausel bereits formuliert hat.
Ihre Rechtsabteilung prüft die Optionen. Hier ist eine ehrliche Übersicht darüber, was jede Anbieterkategorie tatsächlich liefert und wo die Lücken liegen.
| Anbieterkategorie | Was sie gut können | Was sie nicht können | Typische Kosten |
|---|---|---|---|
| KI-Governance-Plattformen Credo AI, Holistic AI, OneTrust |
Policy-Management, Compliance-Dokumentation, Risikobewertung, prüfungsfähiges Reporting. Credo AIs Policy-Pakete für den EU AI Act und ISO 42001 sind der Branchenstandard. | Die zugrunde liegende KI-Architektur umstrukturieren. Ein Governance-Dashboard meldet, dass Ihr Chatbot eine hohe Risikobewertung hat. Es gestaltet den Chatbot nicht neu, um ihn architektonisch verteidigungsfähig zu machen. | 50.000-250.000 $/Jahr SaaS |
| IBM watsonx.governance | Lifecycle-Governance für ML und GenAI innerhalb des IBM-Stacks. On-Prem-Option für regulierte Branchen. Integriert jetzt Credo-AI-Policy-Pakete. | Herstellerneutrale Architektur. Für das IBM-Ökosystem konzipiert. Erstellt keine maßgeschneiderten Systeme für Nicht-IBM-Implementierungen. | 100.000-500.000+ $/Jahr Enterprise |
| Externe Rechtsberatung Kanzleien für Produkthaftung und Technologierecht |
Rechtsstrategie, Auslegung von Vorschriften, Prozessverteidigung, Vertragsprüfung. Unverzichtbar für die rechtliche Seite der KI-Haftung. | Technische Lösungen umsetzen. Eine Kanzlei kann raten, dass Sie deterministische Sicherheitsschichten und unveränderliche Prüfprotokolle benötigen. Sie kann sie nicht bauen. Die Lücke zwischen der Empfehlung der Rechtsberatung und der technischen Umsetzung ist der Punkt, an dem die meisten Unternehmen ins Stocken geraten. | 500-1.500 $/Std. |
| Big Four / große SIs Accenture, Deloitte, EY, PwC |
Skalierung, Markenglaubwürdigkeit für Vorstandspräsentationen, bestehende Unternehmensbeziehungen. Können große Teams für Governance-Bewertungen mobilisieren. | Herstellerneutrale, maßgeschneiderte KI-Architekturen bauen. Große SIs implementieren Plattformen (Microsoft Copilot, Salesforce Agentforce). Sie haben keinen Anreiz, maßgeschneiderte Systeme zu bauen. Projekte laufen typischerweise zwischen 500.000 und über 5 Mio. $ und dauern 6-18 Monate, ein Großteil davon für Erhebung und Dokumentation statt für den technischen Aufbau. | 500.000-5 Mio.+ $ |
| Veriprajna | Baut die verteidigungsfähigen KI-Systeme selbst. Architektur, die prozessfeste Nachweise per Design erzeugt. Herstellerneutral: funktioniert mit jedem LLM-Anbieter, jeder Governance-Plattform. | Rechtsberatung (dafür benötigen Sie externe Rechtsberatung). Laufende Lizenzierung einer Governance-Plattform (nutzen Sie Credo AI oder Vergleichbares). Organisatorisches Change-Management für Unternehmen mit 50.000 Mitarbeitenden (das ist ein SI-Projekt). | 75.000-500.000 $ pro Projekt |
Fünf Fähigkeiten, von denen jede eine spezifische Haftungsexposition adressiert, die Governance-Plattformen und Kanzleien allein nicht schließen können.
Wir erfassen jeden KI-Berührungspunkt in Ihrer Organisation, einschließlich Schatten-KI-Implementierungen, die Rechtsabteilungen typischerweise erst während eines Rechtsstreits entdecken. Jedes System wird anhand des Standards für "Konstruktionsmängel" der verschuldensunabhängigen Haftung mittels Risiko-Nutzen-Abwägung beurteilt: Existiert ein vernünftiges Alternativdesign, das das Risiko zu vertretbaren Kosten reduzieren würde?
Das Ergebnis ist keine Risikobewertung. Es ist ein prozessfestes Nachweisportfolio mit Architekturdiagrammen, Protokollen der Designentscheidungen mit dokumentierter Begründung und einem Fahrplan zur Behebung von Lücken. Dies ist die Dokumentation, die eine Verteidigung mit "vernünftigem Alternativdesign" stützt, falls Sie jemals mit einem Produkthaftungsanspruch konfrontiert werden.
Wir strukturieren bestehende KI-Implementierungen von Single-Model-Wrappern in Multi-Agenten-Systeme mit deterministischen Sicherheitsschichten um. Wir greifen auf eine Orchestrierung nach dem Supervisor-Muster zurück, weil sie klare Verantwortungsgrenzen schafft: Wenn eine schädliche Ausgabe auftritt, zeigen die Protokolle, welcher Agent sie erzeugt hat, welche Compliance-Schicht sie bewertet hat, welche Policy ausgelöst wurde und welche Entscheidung getroffen wurde.
Jede architektonische Entscheidung wird mit einer Begründung erfasst, der eine nicht technische Geschworenenjury folgen kann. "Wir haben uns für deterministisches Routing statt probabilistisches entschieden, weil es garantiert, dass krisenbezogene Eingaben unabhängig vom Konfidenzwert des Modells stets einen menschlichen Prüfer erreichen." Dieser Satz, untermauert durch Testergebnisse, ist es, worauf es vor Gericht ankommt.
Jede KI-Interaktion erzeugt einen unveränderlichen Datensatz: die Eingabe, interne Routing-Entscheidungen, ausgelöste Compliance-Prüfungen, die Ausgabe und Konfidenzwerte in jeder Phase. Mit Zeitstempel, manipulationssicher und in standardisierten eDiscovery-Formaten exportierbar.
Die meisten Unternehmen entdecken während einer Litigation Hold, dass die Standardaufbewahrung ihres KI-Anbieters 30 Tage beträgt. Bis dahin sind die Beweise verloren. Wir bauen eine Logging-Infrastruktur, die Entscheidungsketten-Daten vom ersten Tag an erfasst und sich in Ihre bestehenden eDiscovery-Workflows integriert.
Wir erstellen das technische Nachweisportfolio, das Versicherungs-Underwriter bewerten, wenn sie zwischen einem absoluten KI-Ausschluss (CG 40 47) und einer bestätigenden Zusatzklausel mit spezifischen Deckungsbedingungen entscheiden. Das Paket gleicht Ihre KI-Systeme mit den Kontrollen ab, die Versicherer prüfen: Ergebnisse adversarialer Red-Team-Tests, dokumentierte Modellherkunft, Verifizierung der menschlichen Aufsicht und ISO-42001-Konformität.
Der Unterschied zwischen der Vorlage dieser Nachweise bei der Verlängerung und dem Erscheinen ohne sie ist oft der Unterschied zwischen ausgehandelter Deckung und einem Pauschalausschluss. Wir können bestimmte Versicherungsergebnisse nicht garantieren, aber wir erstellen die Dokumentation, die das Gespräch verändert.
Ein KI-System, mehrere Compliance-Rahmenwerke. Wir entwerfen Architekturen, die die Mängelkriterien der EU-Produkthaftungsrichtlinie (Verbrauchererwartungstest, Haftung für Lernen nach der Implementierung), die Anforderungen des EU AI Act an Hochrisikosysteme (automatische Protokollierung, Konformitätsbewertung), den Maßstab der "angemessenen Sorgfalt" des Colorado AI Act (Folgenabschätzungen, Risikomanagementprogramme) sowie aufkommende bundesrechtliche Standards wie den AI LEAD Act erfüllen.
Die zentrale Erkenntnis ist, dass diese Rahmenwerke gemeinsame Anforderungen teilen: dokumentierte Designentscheidungen, deterministische Sicherheitsschichten, unveränderliche Prüfprotokolle und Nachweise, dass die menschliche Aufsicht operativ ist. Eine gut konzipierte Architektur erfüllt sie alle. Die Alternative, Compliance-Schicht um Compliance-Schicht aufzusetzen, schafft eine Komplexität, die selbst zu einem Haftungsrisiko wird.
Stellen Sie sich einen Chatbot eines Finanzdienstleistungsunternehmens vor, der Kontoinformationen und allgemeine Finanzberatung bereitstellt. Ein Nutzer fragt: "Soll ich meine gesamten Altersersparnisse in Krypto stecken?" Hier ist, was in einem Wrapper im Vergleich zu einem verteidigungsfähigen Multi-Agenten-System passiert.
Der Nutzer-Prompt trifft mit einem Mega-Prompt auf das LLM, der alle Geschäftsregeln, Compliance-Hinweise und Sicherheitsanweisungen in einem einzigen Kontextfenster enthält.
Das Modell entscheidet probabilistisch, ob es den Hinweis anzeigt. In einem langen Gespräch hat die Aufmerksamkeit für die ursprünglichen Sicherheitsanweisungen nachgelassen. Das Modell gibt eine nuancierte, aber nicht regelkonforme Antwort zu Krypto-Allokationsstrategien.
Der Nutzer verliert 180.000 $, weil er der impliziten Beratung des Chatbots folgt.
Im Rechtsstreit kann Ihre Rechtsabteilung nicht rekonstruieren, was geschehen ist. Die interne Argumentation des Modells ist undurchsichtig. Über das Eingabe-/Ausgabe-Paar hinaus existiert kein Prüfprotokoll. Sie können nicht nachweisen, dass eine Compliance-Prüfung stattgefunden hat, weil keine stattfand. Der Vorwurf des "Konstruktionsmangels" ist eindeutig: Ein vernünftiges Alternativdesign (deterministisches Compliance-Routing) existierte, und Sie entschieden sich, es nicht umzusetzen.
Der Supervisor-Agent klassifiziert die Eingabe. Intent-Klassifizierung: FINANCIAL_ADVICE. Risikostufe: HIGH. Dies löst ein deterministisches Routing zum Financial-Compliance-Agenten aus. Nicht probabilistisch. Garantiert.
Der Compliance-Agent bewertet die Anfrage anhand der Vorgaben von SEC und FINRA. Das System generiert eine Antwort, die allgemeine bildende Informationen über Grundsätze der Vermögensallokation bereitstellt und dabei ausdrücklich ablehnt, konkrete Anlagehandlungen zu empfehlen. Der Compliance-Hinweis bleibt nicht dem Ermessen des Modells überlassen. Er wird von einer deterministischen Schicht eingefügt.
Die vollständige Entscheidungskette wird protokolliert: Eingabe-Hash, Intent-Klassifizierungswert (0,94 FINANCIAL_ADVICE), Routing-Entscheidung, Ergebnis der Compliance-Prüfung, finale Ausgabe und Zeitstempel. Jeder Eintrag ist kryptografisch mit dem vorherigen verknüpft.
Im Rechtsstreit legt Ihre Rechtsabteilung das vollständige Prüfprotokoll vor. Das System erkannte das Risiko, leitete es korrekt weiter, wandte die passende Compliance-Prüfung an und erzeugte eine sichere Antwort. Die architektonische Entscheidung, deterministisches Routing zu verwenden, ist mit Begründung dokumentiert. Das Argument des "vernünftigen Alternativdesigns" wirkt zu Ihren Gunsten: Sie haben es umgesetzt.
Dies ist keine hypothetische Unterscheidung. Das Restatement (Third) of Torts fragt, ob ein vernünftiges Alternativdesign existierte, das das Risiko zu vertretbaren Kosten reduziert hätte. Im Wrapper-Szenario lautet die Antwort eindeutig ja. Im Multi-Agenten-Szenario haben Sie es bereits umgesetzt, und Sie verfügen über die Dokumentation, um es zu belegen.
Jedes Projekt ist anders, aber die Phasen sind konsistent. Wir definieren den Umfang eng, bauen iterativ und liefern in jeder Phase Nachweise.
Wir erfassen jedes KI-System in Ihrer Organisation: kundenseitige Chatbots, interne Entscheidungsunterstützungstools, automatisierte Workflows und Schatten-KI-Implementierungen, die Mitarbeitende ohne IT-Genehmigung eingeführt haben. Jedes System wird nach Haftungsstufe (Exposition gegenüber verschuldensunabhängiger Haftung, Exposition gegenüber Fahrlässigkeitshaftung oder minimales Risiko) und Anwendbarkeit der Rechtsordnung klassifiziert. Das Ergebnis ist ein vollständiges KI-Asset-Inventar mit Haftungsbewertungen.
Für jedes Hochrisikosystem führen wir eine formale Risiko-Nutzen-Analyse durch: Welchen Schaden könnte dieses System verursachen, wie hoch ist die Wahrscheinlichkeit, welche Alternativdesigns existieren und was würde jedes in der Umsetzung kosten? Dies ist keine theoretische Übung. Die Analyse erzeugt die Dokumentation, die Ihre externe Rechtsberatung benötigt, um eine Verteidigung mit "vernünftigem Alternativdesign" aufzubauen. Wir arbeiten mit Ihrer Rechtsabteilung zusammen, um sicherzustellen, dass die Analyse dort, wo angebracht, für das Prozessprivileg strukturiert ist.
Wir bauen priorisierte Systeme mit verteidigungsfähiger Architektur neu auf: Multi-Agenten-Orchestrierung, deterministische Sicherheitsschichten, Compliance-Routing und unveränderliche Audit-Protokollierung. Jede architektonische Entscheidung wird mit Begründung dokumentiert. Der Aufbau ist iterativ: Wir setzen Komponenten ein, testen sie gegen adversariale Szenarien und dokumentieren die Ergebnisse. Adversariale Red-Team-Tests sind kein Häkchen für die Schlussphase. Sie laufen während des gesamten Aufbaus kontinuierlich.
Das finale Ergebnis ist das Nachweisportfolio: Architekturdokumentation, Protokolle der Designentscheidungen, Berichte über Red-Team-Tests, Mapping der Compliance-Rahmenwerke (EU-PLD, EU AI Act, Colorado AI Act, ISO 42001) und das Versicherungspositionierungs-Paket. Ihre Rechtsabteilung erhält prozessfeste Dokumentation. Ihr Versicherungsmakler erhält für Underwriter aufbereitete Nachweise. Ihr Engineering-Team erhält operative Runbooks. Wir stellen außerdem ein speziell für KI-Systeme konzipiertes Litigation-Hold-Protokoll bereit, das Prompts, Ausgaben, Konfidenzwerte, Policy-Entscheidungen und die Herkunft der Trainingsdaten abdeckt.
Vorbehalt zum Zeitplan.
Der 12-wöchige Zeitplan setzt 3 bis 5 priorisierte KI-Systeme voraus. Größere Portfolios dauern länger. Organisationen, die prozessfestes Logging in ältere KI-Systeme nachrüsten müssen, sollten zusätzliche Integrationsarbeit einplanen. Wir definieren den Umfang von Anfang an eng, damit es keine Überraschungen gibt.
Beantworten Sie diese Fragen zu Ihren KI-Implementierungen, um Ihre aktuelle Haftungsexposition einzuschätzen und priorisierte Bereiche zur Behebung zu identifizieren. Die Ergebnisse werden lokal in Ihrem Browser berechnet. Es werden keine Daten an einen Server gesendet.
1. Wie viele kundenseitige KI-Systeme betreibt Ihre Organisation?
2. Welche Architektur verwenden Ihre primären KI-Systeme?
3. Führen Sie unveränderliche Prüfprotokolle aller KI-Interaktionen?
4. Haben Sie Designentscheidungen mit Begründung für jedes KI-System dokumentiert?
5. Wie ist der Status Ihres KI-bezogenen Versicherungsschutzes?
6. Adressiert Ihr Litigation-Hold-Protokoll KI-spezifische Daten?
7. Sind Sie in Rechtsordnungen mit KI-spezifischen Haftungsgesetzen tätig?
8. Interagieren Ihre KI-Systeme mit Minderjährigen oder schutzbedürftigen Bevölkerungsgruppen?
Ein typisches KI-Haftungsaudit dauert je nach Anzahl der einbezogenen KI-Systeme 4 bis 8 Wochen. Der Prozess beginnt mit einer Inventarphase, in der wir jeden KI-Berührungspunkt erfassen, einschließlich Schatten-KI-Implementierungen, von denen Rechtsabteilungen oft nichts wissen. Anschließend beurteilen wir jedes System anhand des Standards für Konstruktionsmängel der verschuldensunabhängigen Haftung, der Mängelkriterien der EU-Produkthaftungsrichtlinie und der anwendbaren bundesstaatlichen Gesetze.
Die Kosten skalieren mit der Komplexität. Ein Unternehmen aus dem Mittelstand mit 3 bis 5 KI-gestützten kundenseitigen Systemen liegt für ein umfassendes Audit, das prozessfeste Dokumentation erzeugt, typischerweise im Bereich von 75.000 bis 150.000 $. Ein Unternehmen mit über 20 Systemen in mehreren Rechtsordnungen ist ein größeres Projekt.
Das Ergebnis ist kein Foliensatz. Es ist ein technisch-rechtliches Nachweisportfolio: Architekturdiagramme, Protokolle der Designentscheidungen mit Begründung, Risiko-Nutzen-Analysen für jedes System und ein Fahrplan zur Behebung von Lücken. Dieses Portfolio wird zu Anlage A, falls Sie jemals vor Gericht eine Analyse des vernünftigen Alternativdesigns nachweisen müssen.
Credo AI ist stark in dem, was es tut: Policy-Management, Compliance-Dokumentation und Risikoberichterstattung über Ihr KI-Portfolio hinweg. Wir empfehlen es für diese Funktionen. Aber Governance-Plattformen überwachen bestehende Systeme. Sie strukturieren diese Systeme nicht so um, dass sie rechtlich verteidigungsfähig sind.
Betrachten Sie es so: Credo AI kann Ihnen sagen, dass Ihr kundenseitiger Chatbot eine hohe Risikobewertung hat. Es kann die Architektur dieses Chatbots nicht so umgestalten, dass jede Antwort eine deterministische Compliance-Schicht mit einem unveränderlichen Prüfprotokoll durchläuft, bevor sie den Nutzer erreicht. Diese architektonische Arbeit ist es, die die Nachweise für ein vernünftiges Alternativdesign erzeugt, auf die es in einem Produkthaftungsfall ankommt.
Wir arbeiten neben Governance-Plattformen, nicht an ihrer Stelle. Credo AI dokumentiert, dass Sie über Kontrollen verfügen. Wir bauen die Kontrollen selbst. Die Kombination ist es, was Versicherungs-Underwriter sehen möchten: Governance-Reporting plus architektonisch verteidigungsfähige Systeme darunter.
Wir können bestimmte Versicherungsergebnisse nicht garantieren, denn das ist letztlich eine Sache zwischen Ihnen und Ihrem Versicherer. Was wir tun können, ist, das Nachweisportfolio zu erstellen, das Underwriter bewerten, wenn sie zwischen einem absoluten KI-Ausschluss und einer bestätigenden Zusatzklausel entscheiden.
Seit Januar 2026 geben die ISO-CGL-Zusatzklauseln CG 40 47 und CG 40 48 den Versicherern standardisierte Formulierungen, um Ansprüche aus generativer KI auszuschließen. Der absolute KI-Ausschluss von W.R. Berkley in E&O- und D&O-Policen geht sogar noch weiter. Versicherer nutzen diese, weil sie das KI-Risiko ohne Governance-Nachweise nicht quantifizieren können.
Das Versicherungspositionierungs-Paket, das wir erstellen, gleicht Ihre KI-Systeme mit den spezifischen Kontrollen ab, die Underwriter prüfen: Ergebnisse adversarialer Red-Team-Tests, dokumentierte Modellherkunft, Verifizierung der menschlichen Aufsicht, unveränderliche Prüfprotokolle und ISO-42001-Konformität. Kunden, die diese Nachweise bei der Verlängerung vorlegen, gelangen typischerweise vom Bereich des absoluten Ausschlusses zu einer ausgehandelten Deckung mit spezifischen KI-Zusatzklauseln. Das Gespräch verschiebt sich von der Frage, ob KI überhaupt gedeckt wird, zu der Frage, welche Bedingungen und Prämie gelten.
Die meisten Litigation-Hold-Protokolle wurden für E-Mails und Dokumente verfasst. Sie berücksichtigen keine KI-spezifischen Daten: Prompts, Modellausgaben, Konfidenzwerte, Policy-Entscheidungen, Herkunft der Trainingsdaten und Systemzustand zum Zeitpunkt des Vorfalls. Eine Analyse von K&L Gates aus dem Februar 2026 bestätigt, dass KI-generierte Inhalte beweiserhebliche ESI sind, und Gerichte ordnen bereits die Aufbewahrung von KI-Interaktionsprotokollen an.
Wir bauen eine prozessfeste Logging-Infrastruktur, die diese Daten automatisch erfasst. Jede KI-Interaktion erzeugt einen unveränderlichen Datensatz: die Eingabe, die internen Routing-Entscheidungen des Systems, sämtliche ausgelösten Compliance-Prüfungen, die finale Ausgabe und die Konfidenzwerte in jeder Phase. Diese Datensätze sind mit Zeitstempel versehen, manipulationssicher und in standardisierten eDiscovery-Formaten exportierbar.
Für bestehende Systeme ohne diese Infrastruktur entwerfen wir einen Nachrüstplan. Der entscheidende Schritt besteht darin, sicherzustellen, dass die Auto-Lösch-Einstellungen auf KI-Plattformen für relevante Daten ausgesetzt werden, bevor eine Litigation Hold ausgelöst wird. Viele Unternehmen entdecken zu spät, dass die Standardaufbewahrung ihres KI-Anbieters 30 Tage beträgt.
Die EU-Produkthaftungsrichtlinie (2024/2853) und das US-Rahmenwerk der verschuldensunabhängigen Haftung nach Character.AI teilen eine zentrale Anforderung: Das KI-System darf nicht mangelhaft sein. Doch sie definieren Mangel unterschiedlich. Die EU-Richtlinie verwendet einen Verbrauchererwartungstest, modifiziert durch die Fähigkeit des Systems, nach der Implementierung zu lernen. Ein System, das bei der Veröffentlichung sicher war, aber durch fortgesetztes Lernen in schädliches Verhalten abdriftete, kann rückwirkend eine Haftung auslösen. Die US-amerikanische verschuldensunabhängige Haftung wendet typischerweise einen Risiko-Nutzen-Abwägungstest an und fragt, ob ein vernünftiges Alternativdesign existierte, das das Risiko zu vertretbaren Kosten reduziert hätte.
Wir entwerfen Architekturen, die beide erfüllen. Deterministische Sicherheitsschichten mit dokumentierter Designbegründung adressieren die US-amerikanische Anforderung des vernünftigen Alternativdesigns. Kontinuierliche Überwachung mit Drift-Erkennung und automatisierten Schranken für das erneute Training adressieren das Anliegen der EU bezüglich des Lernens nach der Implementierung. Die Audit-Infrastruktur erzeugt Nachweise in Formaten, die sowohl mit den EU-Anforderungen an die Konformitätsbewertung als auch mit der US-amerikanischen Beweiserhebung im Rechtsstreit kompatibel sind.
Ein System, zwei Compliance-Rahmenwerke, ein Satz architektonischer Entscheidungen, die gut genug dokumentiert sind, um sie in beiden Rechtsordnungen zu verteidigen.
Agentische KI potenziert jedes Haftungsrisiko auf dieser Seite. Wenn ein KI-Agent autonom Handlungen wie das Versenden von E-Mails, das Tätigen von Käufen oder das Ändern von Daten ausführt, wird die Verantwortungskette schwerer nachvollziehbar. Kaliforniens AB 316, gültig ab Januar 2026, schließt ausdrücklich die Verteidigung aus, die KI habe autonom gehandelt. Sie können nicht geltend machen, der Agent habe seine eigene Entscheidung getroffen. Der Betreiber ist verantwortlich.
Für agentische Systeme bauen wir das, was wir Verantwortungsgrenzen nennen: Jeder Agent in einem Multi-Agenten-System hat einen definierten Befugnisbereich, eine deterministische Policy-Schicht, die seine Handlungen einschränkt, und ein vollständiges Entscheidungsprotokoll. Wenn Agent A an Agent B delegiert, wird diese Delegation mit dem Autorisierungsumfang und den geltenden Policy-Beschränkungen protokolliert. Wenn Agent B eine Handlung vornimmt, die Schaden verursacht, zeigen die Protokolle genau, welche Befugnis er hatte, welche Beschränkungen galten und wo das System entweder wie vorgesehen funktionierte oder versagte.
Dies ist der Nachweis, der bestimmt, ob der Schaden aus einem Konstruktionsmangel oder aus dem Betrieb innerhalb der beabsichtigten Parameter resultierte. Ohne diese Grenzen ist jede autonome Handlung ein potenzieller Anspruch aus verschuldensunabhängiger Haftung ohne dokumentierte Verteidigung.
Die rechtliche und architektonische Analyse hinter dieser Lösungsseite gründet auf unserer veröffentlichten Forschung.
Rechtliche Analyse des Character.AI-Urteils, von Multi-Agenten-Governance-Architekturen und der versicherungstechnischen Auswirkungen der Verschiebung hin zur verschuldensunabhängigen Haftung für KI-Implementierungen von Unternehmen.
Unternehmen ohne dokumentierte KI-Governance-Nachweise sehen sich Pauschalausschlüssen gegenüber, die KI-bezogene Haftung vollständig unversichert lassen.
Die Kosten eines umfassenden KI-Haftungsaudits und einer Architektur-Behebung sind ein Bruchteil eines einzigen Produkthaftungsvergleichs. Nippon Life gab allein für die Abwehr KI-generierter Gerichtsschriftsätze 300.000 $ aus. Die Character.AI-Familien einigten sich auf nicht offengelegte Beträge nach einem Urteil, das nun für jedes Unternehmen gilt, das kundenseitige KI einsetzt.