Regulatorisches Risiko & Prozessbereitschaft

Ist Ihr KI-System einer gegnerischen Prüfung standhaft?

Unser Ansatz besteht darin, die technische Infrastruktur aufzubauen, die darauf ausgelegt ist, KI-Systeme einer rechtlichen Prüfung standhaft zu machen — nicht konform im Sinne eines Häkchens auf einer Liste, sondern verteidigungsfähig in dem Sinne, dass ein Prozessanwalt einer Jury darlegen kann, wie eine Entscheidung getroffen wurde, ein Unternehmensbeauftragter nach 30(b)(6) über das Verhalten des Systems ohne Ausflüchte aussagen kann und ein Sachverständiger einer Daubert -Anfechtung zur Interpretierbarkeit von Modellen standhalten kann.

Dies ist Ingenieursarbeit, keine Ausarbeitung von Richtlinien. Ein Auftrag wird so zugeschnitten, dass er Architekturen zur Beweissicherung, prozessfeste Dokumentation und für die Beweisaufnahme bereite Artefakte hervorbringt, die bereits existieren, bevor überhaupt jemand Klage erhebt.

Dies sind keine hypothetischen Risiken — es handelt sich um aktive Verfahren mit realem Schadenersatz, realen Beweisaufnahmeanordnungen und realen Abhilfeanforderungen. Die Frage für Organisationen, die KI einsetzen, lautet nicht, ob sie einem rechtlichen Risiko ausgesetzt sind. Sie lautet, ob ihre Systeme überstehen können, was als Nächstes geschieht: gegnerische Beweisaufnahme, Vernehmungen der Ingenieure, die die Modelle entwickelt haben, Sachverständigenaussagen über die Herkunft der Trainingsdaten und behördliche Prüfungen, bei denen „wir haben ein Anbieterwerkzeug verwendet“ keine Verteidigung ist — eine Haltung, die wir durch eigene Infrastruktur ersetzen, wie in einer funktionierenden Demo einer souveränen, privaten LLM-Bereitstellung gezeigt.

Wie die Beweisaufnahme in KI-Fällen aussieht (und warum die meisten Unternehmen daran scheitern)

Im September 2025 legte der Southern District of New York in dem Urheberrechtsstreit gegen OpenAI KI-Beweisaufnahmestandards fest. Gerichte erzwingen nun die Vorlage eines Grundsatzes von Artefakten, und die Anwälte der Kläger in Fällen algorithmischer Diskriminierung gehen erheblich weiter.

Der Grundsatz, den Gerichte nun erzwingen

• Nutzereingaben (Prompts)
• Modellausgaben und KI-generierte Entwürfe
• Metadaten mit Zeitstempeln und Modellkennungen
• Zugriffsprotokolle
• Konfigurationseinstellungen

Was Diskriminierungskläger zusätzlich verlangen

• Quellcode
• Zusammensetzung der Trainingsdaten
• Modellvalidierungsberichte
• A/B-Testergebnisse
• Interne Slack-Nachrichten über bekannte Verzerrungen
• Überwachungsdaten nach der Bereitstellung
• Jede Version des Modells, die im relevanten Zeitraum im Produktivbetrieb lief

Die meisten Unternehmen scheitern bei der Beweisaufnahme auf eine von zwei Weisen. Entweder existieren die Beweise nicht, weil niemand die Infrastruktur zu ihrer Erfassung aufgebaut hat — was zu Sanktionen wegen Beweisvernichtung und nachteiligen Beweisschlussanweisungen führt. Oder die Beweise existieren, sehen aber belastend aus, weil interne Kommunikation offenbart, dass Ingenieure Bedenken hinsichtlich Verzerrungen angemeldet haben, die nie ausgeräumt wurden, oder dass Modelländerungen ohne dokumentierte Tests bereitgestellt wurden.

Unser Ansatz begegnet beiden Fehlermodi. Für den ersten entwerfen wir Beweissicherungssysteme, die den Entscheidungskontext automatisch zum Zeitpunkt der Inferenz erfassen: den Hash der Modellversion, die Eingabemerkmale, den Zustand der Vorverarbeitung, die Konfidenzwerte und die aktiven Governance-Richtlinien. Für den zweiten entwerfen wir strukturierte Workflows zum Änderungsmanagement von Modellen, bei denen jede Modifikation mit Begründung, Testergebnissen und Genehmigungsketten dokumentiert wird — sodass der Beweisaufnahmedatensatz eine schlüssige Geschichte verantwortungsvoller Entwicklung erzählt statt willkürlicher Iteration.

Der Kalender der behördlichen Vollstreckung wartet nicht

Drei bedeutende Vollstreckungsfristen laufen Mitte 2026 zusammen.

• Colorado SB 205 tritt in Kraft am 30. Juni 2026, mit Strafen von bis zu 20.000 $ pro Verstoß und einer bejahenden Verteidigung, die nur Organisationen zur Verfügung steht, die die Einhaltung des NIST AI RMF nachweisen.
• Die Hochrisiko-Pflichten des EU AI Act beginnen mit der Vollstreckung am 2. August 2026, mit Strafen von bis zu 35 Millionen EUR oder 7 % des weltweiten Umsatzes. Artikel 73 verlangt die Meldung schwerwiegender Vorfälle innerhalb von 2 Tagen bei Todesfällen oder Störungen kritischer Infrastruktur und innerhalb von 15 Tagen bei sonstigen Vorfällen.
• Die bestehende Vollstreckung durch bundesstaatliche Generalstaatsanwälte ist bereits aktiv: Massachusetts einigte sich im Juli 2025 in einem Fall von KI-Diskriminierung bei der Kreditvergabe, und 36 bundesstaatliche Generalstaatsanwälte lehnten formell die bundesrechtliche Verdrängung ab, um ihre Vollstreckungsbefugnis zu wahren.

Die Vollstreckungslandschaft ist in sich widersprüchlich. Das CFPB schlug im November 2025 vor, die Vollstreckung bei mittelbarer Diskriminierung (disparate impact) nach dem ECOA zu beenden, während bundesstaatliche Generalstaatsanwälte KI-Diskriminierungsklagen nach UDAP-Gesetzen mit Strafen pro Verstoß einreichten. Die FTC hob im Februar 2026 ihre Rytr-Zustimmungsverfügung auf und erließ dann im März 2026 einen umfassenden Rahmen zur Vollstreckung bei KI-Agenten.

Organisationen, die Compliance-Programme auf ein einziges regulatorisches Signal hin aufgebaut haben, sind gefährdet, wenn sich dieses Signal ändert. Unser Ansatz besteht darin, Verteidigungsarchitekturen zu entwerfen, die auf die Pflichten selbst abgebildet sind, nicht auf die aktuelle Haltung eines einzelnen Regulierers (auf Grundlage von unserer Forschung zur algorithmischen Rechenschaftspflicht).

Prozessfeste Dokumentation vs. Compliance-Dokumentation

Es gibt einen wesentlichen Unterschied zwischen Dokumentation, die eine Compliance-Prüfung besteht, und Dokumentation, die eine gegnerische rechtliche Prüfung übersteht.

Das Publikum, die gegnerische Prüfung und der Beweismaßstab sind grundlegend verschieden.

Ein Auftrag wird so zugeschnitten, dass er Dokumentation nach dem prozessfesten Maßstab hervorbringt: Jede folgenreiche KI-Entscheidung ist aus ihrem Datensatz rekonstruierbar — die exakte Modellversion, die Eingabedaten, die Merkmalswerte, der Zustand der Vorverarbeitungspipeline und die Entscheidungslogik sind Monate oder Jahre später abrufbar.

Bereichsspezifische Verteidigungen, die wir dokumentieren

• KI im Beschäftigungswesen: die Verteidigung der Arbeitsplatzbezogenheit und geschäftlichen Notwendigkeit (das Beweislastverschiebungsschema nach Griggs/Wards Cove gemäß Title VII), auf der Ebene des Systementwurfs dokumentiert statt als nachträgliche Rationalisierung.
• KI in der Kreditvergabe und Versicherung: die Testmethodik für mittelbare Diskriminierung (disparate impact), mit ausreichender Strenge dokumentiert, sodass der statistische Sachverständige eines Klägers die Tests nicht als unzureichend anfechten kann.
• KI im Wohnungswesen: die Beweiskette, die zeigt, dass die Behandlung von Wohngeldinhabern nicht über Kredithistorie oder Schuldenfaktoren stellvertretend abgebildet wurde — genau der Angriffsvektor in Prozessen nach Art von SafeRent, bei denen der Algorithmus Bewerber anhand von Faktoren bewertete, die schwarze und hispanische Mieter unverhältnismäßig benachteiligten (ausführlich dargestellt in unserer Forschung zum SafeRent-Mandat für algorithmische Integrität).

Mock-Beweisaufnahme: Ihre Schwachstellen finden, bevor die Gegenseite es tut

Ein Auftrag kann gegnerische Übungen umfassen, bei denen unsere Ingenieure die Rolle des technischen Sachverständigen eines Klägers übernehmen und Ihre KI-Systeme auf die Schwachstellen abklopfen, die ein Prozess ausnutzen würde:

• Undokumentierte Modelländerungen
• Ungetestete Fairness-Eigenschaften über geschützte Gruppen hinweg
• Fehlende Folgenabschätzungen
• Lücken im Prüfpfad
• Interne Kommunikation, die veröffentlichten Richtlinien widerspricht
• Lücken in der Datenherkunft, die Aussagen zur Integrität der Trainingsdaten untergraben

Die Übung ist darauf ausgelegt, eine privilegierte Bewertung hervorzubringen — unter dem Mandantengeheimnis, wenn sie mit externen Anwälten kombiniert wird —, die Schwachstellen aufdeckt, bevor sie zu Beweisstücken im Gerichtssaal werden.

Dies ist keine Planübung. Wir entwerfen die Beweisfragen und Dokumentenanforderungen, die die Gegenseite zustellen würde, identifizieren Verwahrer, deren Akten durchsucht würden, prüfen, ob die Sicherungssysteme erfassen, was Gerichte verlangen (gemäß den KI-Beweisaufnahmestandards des SDNY von 2025), und bewerten, ob Ihr Beauftragter nach 30(b)(6) aussagen kann, ohne mehr Risiko zu schaffen, als er ausräumt. Das beabsichtigte Ergebnis ist ein Fahrplan zur Abhilfe, geordnet nach dem Schweregrad des Prozessrisikos, mit technischen Spezifikationen zum Schließen jeder Lücke.

Multijurisdiktionale Verteidigung ohne parallele Programme

Ein Unternehmen mit EU-Kunden, Beschäftigten in Colorado, Stellenbewerbern in Illinois und Versicherungsgeschäften in einem der 23 Bundesstaaten, die das NAIC AI Model Bulletin übernommen haben, steht mindestens fünf sich überschneidenden Regulierungsregimen für ein einziges KI-System gegenüber. Der Aufbau separater Compliance-Programme je Jurisdiktion skaliert nicht und schafft Widersprüche, die die Anwälte der Kläger ausnutzen:

„Sie sagten den Regulierern in Colorado, Ihre Methodik zur Verzerrungsprüfung sei X, aber Ihre EU-Konformitätsbewertung beschreibt sie als Y. Was denn nun?“

Unser Ansatz besteht darin, einen einheitlichen Verteidigungsrahmen aufzubauen, bei dem der strengste anwendbare Standard die Grundlinie setzt.

• Ein Testprotokoll für mittelbare Diskriminierung (disparate impact), das den Standard für algorithmische Diskriminierung des Colorado SB 205 erfüllt, erzeugt gleichzeitig Beweise für die Datengovernance-Anforderungen nach Artikel 10 des EU AI Act und für die Verteidigung der geschäftlichen Notwendigkeit nach Title VII.
• Ein Verfahren zur Vorfallreaktion, das die 2-Tage-Meldefrist nach Artikel 73 erfüllt, genügt automatisch dem 72-Stunden-Fenster des New York RAISE Act und den Meldeerwartungen bundesstaatlicher Generalstaatsanwälte.

Jurisdiktionsspezifische Dokumentationsschichten erzeugen die richtigen Artefakte für jeden Regulierer oder jedes Gericht, ohne dass parallele Programme unterhalten werden müssen. Wenn ein neues bundesstaatliches Gesetz verabschiedet wird oder das EU AI Office Vollstreckungsleitlinien herausgibt, aktualisiert sich die Überlagerung. Die Basiskontrollen ändern sich selten, weil sie bereits auf den höchsten Maßstab hin gebaut sind.

Haftung auf Vorstandsebene und die Frage der Treuepflicht

Versäumnisse in der KI-Governance schaffen ein persönliches Haftungsrisiko für Vorstandsmitglieder nach dem Caremark-Standard von Delaware. Vorstände, die es versäumen, Berichtssysteme für KI-Risiken einzurichten, sehen sich abgeleiteten Aktionärsklagen (derivative shareholder claims) gegenüber. Die SEC führte KI unter ihren obersten Prüfprioritäten für 2025–2026 auf, und von Vorständen wird erwartet, dass sie bis zur Hauptversammlungssaison 2026 KI-Aufsichtsrahmen in Proxy Statements dokumentieren.

Ein Auftrag wird so zugeschnitten, dass er die an den Vorstand gerichteten Ergebnisse hervorbringt, die darauf ausgelegt sind, diese Lücke zu schließen:

• Briefing-Materialien für Führungskräfte, die technisches KI-Risiko in Governance-Sprache übersetzen
• Risikoregister, die auf Treuepflichten abgebildet sind
• Überwachungssysteme, die Vorstandsmitgliedern dokumentierte Beweise für aktive Aufsicht liefern

Kein vierteljährliches Foliendeck — ein strukturiertes Informationssystem, das die Grundlage bietet, um eine gutgläubige Aufsicht über KI-Risiken nachzuweisen, den konkreten Standard, den Caremark verlangt.