AI-Washing-Strafen sind da: Ist Ihre KI-Behauptung die nächste?

Das Problem

Die SEC verhängte gegen zwei Investmentfirmen insgesamt 400.000 US-Dollar Strafe, weil sie über ihre KI logen. Nicht dafür, schlechte KI gebaut zu haben. Sondern dafür, behauptet zu haben, sie hätten KI, die sie nie tatsächlich entwickelt hatten.

Im März 2024 erhob die SEC gegen Delphia (USA) Inc. und Global Predictions Inc. Anklage wegen falscher Angaben zu ihrem Einsatz künstlicher Intelligenz. Delphia erzählte Kunden, es verwende ein „prädiktives algorithmisches Modell“, das Ausgabenmuster und Social-Media-Daten analysiere, um „vorherzusagen, welche Unternehmen und Trends kurz davor stehen, groß herauszukommen“. Die Prüfer der SEC stellten fest, dass Delphia diese Daten nie tatsächlich in seinen Investitionsprozess integriert hatte. Das Unternehmen machte diese Behauptungen von 2019 bis 2023 weiter — selbst nachdem die SEC ihm 2021 gewarnt hatte, damit aufzuhören.

Global Predictions nannte sich den „ersten regulierten KI-Finanzberater“. Als die Aufsichtsbehörden technische Dokumentation zur Untermauerung dieser Behauptung anforderten, konnte das Unternehmen sie nicht vorlegen. Delphia zahlte 225.000 US-Dollar. Global Predictions zahlte 175.000 US-Dollar.

Das waren keine komplexen Betrugsschemata. Es waren Marketingbehauptungen, die der technischen Realität davoneilten. Und sie stehen für eine neue Kategorie unternehmerischen Risikos, mit der Ihre Rechts- und Compliance-Teams sich jetzt sofort vertraut machen müssen. Wenn Ihr Unternehmen irgendwo „KI-gestützt“ sagt — auf Ihrer Website, in Investor-Materialien, in Kundenpitches —, ist Ihr Unternehmen genau demselben Durchsetzungsrisiko ausgesetzt. Die SEC nutzte bestehende Antifraud-Gesetze, keine neuen KI-spezifischen Vorschriften. Das bedeutet: Der rechtliche Rahmen, der Ihr Unternehmen bestrafen kann, existiert bereits heute.

Warum dies für Ihr Unternehmen wichtig ist

Die 400.000 US-Dollar an SEC-Strafen waren nur der Auftakt. Mehrere Bundesbehörden sind inzwischen aktiv auf der Jagd nach KI-Behauptungen, die sie anfechten können.

Die FTC startete „Operation AI Comply“, um irreführende KI-Behauptungen in der Konsumwirtschaft ins Visier zu nehmen. Im Januar 2025 stoppte die FTC DoNotPay — einen Dienst, der sich als „weltweiter erster Roboteranwalt“ vermarktete —, weil das Unternehmen nicht nachweisen konnte, dass seine KI tatsächlich einen menschlichen Anwalt ersetzen könnte. Die FTC ging zudem gegen Evolv Technologies vor, weil das Unternehmen angeblich falsch darstellte, wie gut seine KI-Sensoren Waffen an Schulen erkennen konnten.

Das Justizministerium kündigte seine Initiative „Justice AI“ an. Bundesstaatsanwälte bewerten nun die Fähigkeit Ihres Unternehmens, KI-Risiken zu managen, als Teil von Unternehmens-Compliance-Prüfungen. Sie wurden angewiesen, härtere Strafen anzustreben, wenn KI zur Begehung von White-Collar-Kriminalität eingesetzt wird.

Was das für Ihr Endergebnis bedeutet:

• Regulierungsstrafen sind das Minimum, nicht das Maximum. Die Strafe von 225.000 US-Dollar gegen Delphia ist gering im Vergleich zum Reputationsschaden und dem verlorenen Geschäft, das einer öffentlichen Durchsetzungsmaßnahme folgt.
• Ihre KI-Anbieter erzeugen Ihre Haftung. Die FTC hat festgestellt, dass Anbieter und Enterprise-Kunde gleichermaßen verantwortlich gemacht werden können, wenn ein KI-Tool als „Instrumentalität“ für Täuschung dient.
• Generalstaatsanwälte der Bundesstaaten machen mit. Sie nutzen bestehende Verbraucherschutzgesetze, um KI-Marketingbehauptungen auf Landesebene zu verfolgen.
• Vorstandshaftung ist real. Wenn Ihr Unternehmen KI-gestützte Fähigkeiten in SEC-Einreichungen oder Investorenpräsentationen behauptet, tragen Ihre Führungskräfte eine persönliche Haftung nach bestehenden Antifraud-Vorschriften.

Das ist kein Zukunftsproblem. Die Durchsetzungsinfrastruktur ist gebaut und aktiv.

Was tatsächlich unter der Haube passiert

Die Ursache von AI-Washing ist ein technisches Missverständnis darüber, wie moderne KI tatsächlich funktioniert. Die meisten KI-Anwendungen heute — einschließlich derer, die Ihnen Anbieter womöglich verkaufen — basieren auf Systemen, die das wahrscheinlichste nächste Wort in einer Sequenz vorhersagen. Sie überprüfen keine Fakten. Sie generieren Text, der plausibel klingt.

Denken Sie an Autocomplete auf Ihrem Smartphone, nur hochskaliert auf die Größe des Internets. Ihr Smartphone weiß nicht, ob das nächste Wort stimmt. Es weiß nur, welches Wort normalerweise als Nächstes kommt. Large Language Models (LLMs) — die KI-Systeme hinter Tools wie ChatGPT — funktionieren genauso, nur mit mehr Daten und mehr Mathematik. Das Modell hat kein internes Konzept von Wahrheit. Es sagt die wahrscheinlichste Zeichenfolge auf Basis der Muster in seinen Trainingsdaten voraus.

Deshalb „halluzinieren“ KI-Systeme — sie generieren Quellenangaben, die nicht existieren, Finanzzahlen, die falsch sind, oder Rechtsprechung, die nie entschieden wurde. In einem regulierten Umfeld ist „meistens korrekt“ rechtlich dasselbe wie „falsch“. Eine halluzinierte Rechtsquelle begründet aktive rechtliche Haftung für Ihre Organisation.

Was es noch schlimmer macht: Der Großteil der heute an Unternehmen verkauften „KI-Lösungen“ besteht aus dem, was die Branche „Wrapper“ nennt. Das sind Anwendungen, die über eine API — im Wesentlichen einen Stecker — eine Verbindung zu einem öffentlichen KI-Dienst herstellen und darauf eine Benutzeroberfläche setzen. Sie sind darauf ausgelegt, Kosten zu minimieren, oft auf Kosten der Genauigkeit. Sie können ihr eigenes Schlussfolgern nicht überprüfen. Sie reichen einfach weiter, was das zugrunde liegende Modell generiert, unabhängig davon, ob es wahr ist. Ihr Unternehmen setzt dann seinen Namen und Ruf hinter diese Ausgabe.

Was funktioniert (und was nicht)

Beginnen wir mit dem, was Sie nicht schützt:

• Prompt-Engineering allein. Ihre Anweisungen an eine KI sorgfältig zu formulieren, verhindert deren Halluzinationen nicht. Es reduziert die Häufigkeit, beseitigt aber das Risiko nicht.
• Dünne API-Wrapper. Eine Verbindung zu einem öffentlichen KI-Modell herzustellen und Ihr Branding hinzuzufügen, gibt Ihnen null Kontrolle über Genauigkeit, Datenschutz oder Audit-Trails. Diese Wrapper sind anfällig für fehlerhafte Eingaben, die falsche Ausgaben verursachen — ein Problem namens „Retrieval Poisoning“.
• Manuelle Stichprobenprüfung. Einen Menschen eine zufällige Stichprobe der KI-Ausgaben prüfen zu lassen, findet die Fehler in den Ausgaben nicht, die niemand geprüft hat. Es erzeugt ein falsches Sicherheitsgefühl.

Was tatsächlich funktioniert, ist eine grundlegend andere Architektur. So funktioniert sie in drei Schritten:

1. Grounded Retrieval über Wissensgraphen. Statt die KI lose nach verwandten Informationen suchen zu lassen, bauen Sie eine strukturierte Karte Ihres Domänenwissens auf — einen Knowledge Graph. Im juristischen KI-Bereich etwa ist jede Gerichtsentscheidung über spezifische Beziehungen wie CITES, OVERRULES oder AFFIRMS mit anderen Entscheidungen verknüpft. Das System kann nur auf das verweisen, was in dieser verifizierten Struktur existiert. Dadurch wird Retrieval von einer statistischen Vermutung zu einem verifizierten Pfad.

2. Multi-Agenten-Verifikation. Statt ein einzelnes KI-Modell recherchieren, überprüfen und schreiben zu lassen, verteilen Sie die Arbeit auf spezialisierte Agenten. Ein „Research Agent“ ruft die Rohdaten ab. Ein „Verification Agent“ gleicht sie mit Ihrem Wissensgraphen ab. Ein „Writer Agent“ erstellt die endgültige Ausgabe ausschließlich mit verifizierten Fakten. Diese Agenten prüfen gegenseitig ihre Arbeit in Zyklen, bevor ein Mensch das Ergebnis sieht.

3. Sovereign Deployment auf Ihrer eigenen Infrastruktur. Ihre KI läuft innerhalb Ihrer eigenen Firewall — entweder On-Premises oder in einer privaten Cloud, isoliert vom öffentlichen Internet. Dies stellt sicher, dass keinerlei Daten abfließen. Ihr geistiges Eigentum, Ihre Kundendaten und Geschäftsgeheimnisse berühren niemals externe Server. Dies ist zwingend erforderlich für die Compliance mit HIPAA, DSGVO und CCPA.

Der Audit-Trail-Vorteil macht diesen Ansatz verteidigungsfähig. Jede Ausgabe lässt sich über verifizierte Verknüpfungen bis zu konkreten Quelldokumenten zurückverfolgen. Wenn ein Regulierer, Auditor oder Anwalt der Gegenpartei fragt: „Wie kommt Ihre KI zu diesem Schluss?“, können Sie den exakten Pfad zeigen — von den Quelldaten über die Verifikation bis zur endgültigen Ausgabe. Das ist der Unterschied zwischen einem System, das Sie verteidigen können, und einem System, das zu Ihrer nächsten Haftungsquelle wird.

Ihr Governance-Framework sollte das NIST AI Risk Management Framework für taktische Risikokontrollen mit ISO/IEC 42001 für zertifizierbare, von Dritten auditierbare Compliance kombinieren. ISO 42001 ist der einzige zertifizierbare internationale Standard für KI-Managementsysteme. Ein Drittauditor kann Ihre Compliance verifizieren — so erhalten Sie die Dokumentation, die Sie für Beschaffungsprüfungen, Vorstandsberichte und regulatorische Einreichungen benötigen.

Bauen Sie schließlich ein AI Bill of Materials (AIBOM) auf — einen vollständigen, maschinenlesbaren Datensatz jeder Komponente in Ihrem KI-System. Dazu gehören Trainingsdatensätze, Basismodelle, Bibliotheken von Drittanbietern und Infrastrukturdetails. Ihre AIBOM wird die zentrale Quelle der Wahrheit, die belegt, dass Ihre KI-Behauptungen Ihrer technischen Realität entsprechen. Genau diese Dokumentation konnten Delphia und Global Predictions nicht vorlegen, als die SEC anklopfte.