Elf Wörter im Geschäftsbericht können jetzt Wertpapierbetrug sein
Als ich AI-Washing zum ersten Mal wirklich verstand, starrte ich auf einen einzigen Absatz im Geschäftsbericht eines Unternehmens. Elf Wörter, so etwas wie "unsere KI-gestützte Plattform analysiert Risiken in Echtzeit." Ein sauberer, selbstbewusster Satz. Die Art von Zeile, die ein Marketingteam in fünf Minuten schreibt und ein CEO ohne mit der Wimper zu zucken absegnet.
Dann fragte ich die Ingenieure, welches Modell diese Analyse erzeugte, mit welchen Daten es lief und an welcher Stelle im Entscheidungsablauf es tatsächlich ausgelöst wurde. Im Raum wurde es still. Nicht weil sie etwas verbargen. Sondern weil niemand diesen Satz je mit einem System in Verbindung gebracht hatte. Die Behauptung lebte im Bericht. Das System lebte in der Produktion. Und dazwischen gab es nichts — kein Dokument, keine Karte, keinen Nachweis —, das die beiden verband.
Diese Lücke ist die ganze Geschichte. Bei AI-Washing geht es nicht um schlechte KI. Es geht um die Distanz zwischen dem, was Sie behauptet haben, dass Ihre KI tut, und dem, was Ihre KI tatsächlich tut — und darum, ob Sie diese Distanz auf Verlangen schließen können. Die SEC, die FTC und die Generalstaatsanwälte der Bundesstaaten haben alle erkannt, dass in dieser Lücke die Fälle liegen. Ich habe Veriprajnas Praxis für KI-Verifizierung und Anti-AI-Washing aufgebaut, weil ich immer wieder erlebte, wie Unternehmen die Lücke erst entdeckten, nachdem der Brief des Prüfers eingetroffen war.
Der Tag, an dem "funktioniert Ihre KI" aufhörte, die Frage zu sein
Ich kam über die Wertpapieraufsichtsarbeit dazu, die unglamouröse Seite — das Zusammenstellen der Aktenordner, die Unternehmen einem Prüfer übergeben, wenn das Dokumentenanforderungsschreiben eintrifft. Also las ich jedes AI-Washing-Verfahren so, wie ich einen alten Betrugsfall lese: was haben sie gesagt, was haben sie getan, und wie groß war der Zwischenraum zwischen beidem.
Das Muster ist brutal konsistent. Delphia und Global Predictions, die ersten beiden AI-Washing-Vergleiche im März 2024, zahlten zusammen 400.000 US-Dollar, nicht weil ihre KI schlecht war, sondern weil Delphia ein machine-learning-gestütztes Investieren behauptete, das es nie tatsächlich integriert hatte. Die Daten, mit deren Einspeisung ins Modell sie prahlten? Sie erreichten das Modell nie.
Dann Presto Automation, Januar 2025 — der erste AI-Washing-Fall gegen ein börsennotiertes Unternehmen. Prestos Drive-Thru-Sprach-KI wurde damit beworben, die menschliche Bestellannahme zu eliminieren. Die SEC stellte fest, dass mehr als 70 % der Bestellungen weiterhin einen Menschen erforderten, und an manchen Standorten waren es 100 %. Das System war real. Es tat nur nicht das, was das Marketing behauptete.
Und dann Nate. Im April 2025 reichten die SEC und das DOJ parallele Verfahren gegen den Gründer von Nate Inc. ein, der mehr als 42 Millionen US-Dollar auf das Versprechen einer KI-gestützten Shopping-App eingesammelt hatte. Die tatsächliche Automatisierungsrate lag, in den Worten der SEC, im Wesentlichen bei null — Hunderte von Auftragnehmern auf den Philippinen schlossen die Käufe manuell ab, die die KI erledigen sollte. Die DOJ-Anklagepunkte reichen bis zu 20 Jahre. Das ist der Fall, an den ich denke, wenn mir jemand sagt, AI-Washing sei eine Fußnote zur Marketing-Offenlegung. Es gab eine Pressemitteilung mit dem Namen eines Gründers darauf und darunter eine strafrechtliche Betrugsanklage.
Jeder einzelne dieser Fälle dreht sich um denselben Zwischenraum: was der Bericht versprach und was das System in der Produktion tatsächlich tat.
Im Februar 2025 machte die SEC es strukturell: Sie richtete innerhalb der Division of Enforcement eine eigene Cybersecurity and Emerging Technologies Unit ein. Und ihre Prüfungsprioritäten für 2026 sagen es unmissverständlich — Prüfer werden "die Darstellungen der Registranten hinsichtlich ihrer KI-Fähigkeiten auf Richtigkeit prüfen." Dieser Satz ist ein Dokumentenanforderungsschreiben, das nur darauf wartet, verschickt zu werden.
Drei Behörden, ein Zug
Was mich überraschte, sobald ich das zu kartieren begann, war, wie wenig die Durchsetzungstheorie zwischen den Behörden variiert. Sie ziehen alle dasselbe Spiel auf: die Behauptung der Realität gegenüberstellen und dann den Nachweis verlangen.
Die FTC ging über Section 5 des FTC Act heran — unlautere oder irreführende Praktiken — im Rahmen einer Kampagne, die sie Operation AI Comply nannte und im September 2024 startete. DoNotPay, der selbsternannte "weltweit erste Roboter-Anwalt", einigte sich über Behauptungen, die es nicht belegen konnte. Workado bewarb ein KI-Erkennungstool als zu 98 % genau; die eigenen Tests der FTC ergaben eine reale Genauigkeit von rund 53 %. Grob ein Münzwurf, verkauft als nahezu Gewissheit. Das Detail, das jeden Chefsyndikus erschrecken sollte, ist die Instrumentalitätstheorie der FTC: Die Haftung läuft die Kette hinunter, vom Basismodell-Entwickler über das Unternehmen, das es einsetzt, bis zum Endnutzer. Wenn Sie die Genauigkeitszahl eines Anbieters in Ihren eigenen Materialien wiederholen, behandelt die FTC sie als Ihre Behauptung — nicht die des Anbieters.
Ich kann das nicht genug betonen, denn es ist die Falle, in die ich kluge Unternehmen tappen sehe. Sie lizenzieren ein Drittanbietermodell, Sie übernehmen den Benchmark des Anbieters in Ihr 10-K oder Ihr Investoren-Deck, und Sie gehen davon aus, dass diese Zahl dem Anbieter gehört. Tut sie nicht. In dem Moment, in dem sie in Ihrem Bericht erscheint, ist sie Ihre Darstellung, und "unser Anbieter hat uns das gesagt" ist keine unabhängige Substantiierung.
Die Bundesstaaten legten mit ihren eigenen Instrumenten nach. New Yorks KI-Begleiter-Gesetz sieht Strafen von bis zu 15.000 US-Dollar pro Tag und Verstoß vor. Colorados AI Act, gültig ab dem 30. Juni 2026, verlangt Folgenabschätzungen, Verbraucherbenachrichtigung und angemessene Sorgfalt für Hochrisikosysteme, bei 20.000 US-Dollar pro Verstoß. Texas' Responsible AI Governance Act, seit dem 1. Januar 2026 in Kraft, gibt dem Generalstaatsanwalt weitreichende zivilrechtliche Ermittlungsbefugnis auf eine einzige Beschwerde hin — ein Verbraucherbrief und die Dokumentenanforderung liegt auf Ihrem Schreibtisch. Und als die Bundesregierung ins Spiel brachte, staatliche KI-Gesetze zu verdrängen, stellte sich eine überparteiliche Koalition von 36 Generalstaatsanwälten der Bundesstaaten dagegen. Was auch immer die Gerichte letztlich entscheiden, die Durchsetzer warten nicht.
Sogar die private Anwaltschaft schloss sich an. Das Stanford Securities Class Action Clearinghouse zählte in der ersten Hälfte des Jahres 2025 53 KI-bezogene Wertpapier-Sammelklagen mit einem mittleren Vergleich von 11,5 Millionen US-Dollar. Eine davon, Tucker v. Apple, eingereicht im Juni 2025, behauptet, dass Apples WWDC-Versprechen zu Apple Intelligence Investoren zum Einstieg bewegten aufgrund von Funktionen, die laut Klageschrift keinen funktionsfähigen Prototyp hatten. Eine Keynote-Folie wurde zum Beweisstück A.
Warum rettet "wir haben eine KI-Governance-Richtlinie" Sie nicht?
Hier ist der Teil, in dem ich früh falsch lag, und es kostete mich ein paar Monate, das Falsche zu bauen.
Als ich anfing, dafür zu entwerfen, ging ich davon aus, die Antwort sei Governance — die Kategorie, die Plattformen wie Credo AI, IBMs watsonx.governance, Holistic AI, OneTrust und Fiddler bereits gut bedienen. Wir bauten auf eine Governance-Haltung hin: Richtlinien, ein KI-Inventar, Dashboards, Aufsichts-Workflows. Ich führte einem Compliance-Beauftragten eines mittelständischen Unternehmens eine frühe Version vor und fühlte mich gut damit. Sie ließ mich ausreden und stellte dann die einzige Frage, die zählte: Wenn ein Prüfer den Nachweis verlangte, dass eine bestimmte Behauptung wahr war, welchen Knopf sollte sie drücken?
Es gab keinen Knopf. Es gab kein Dokument. Was ich gebaut hatte, sagte ihr, sie solle ihre Systeme dokumentieren. Es enthielt die Dokumentation nicht. Ich hatte etwas gebaut, das auf die Lücke zeigte, anstatt sie zu füllen. Das war das Scheitern, das das ganze Unternehmen für mich neu definierte.
Governance sagt Ihnen, dass Sie Ihre KI dokumentieren sollten. Substantiierung ist die Dokumentation — getestet, datiert und bereit für einen Prüfer, der sie kalt liest.
Die Governance-Plattformen sind gut in dem, was sie tun. Sie überwachen, sie inventarisieren, sie setzen Richtlinien durch. Aber es gibt eine Schicht darunter, die fast niemand baut: die tatsächliche Nachweiskette, die ein SEC-Prüfer oder ein Generalstaatsanwalt eines Bundesstaates zu sehen verlangt. Das ist die Lücke, um die herum ich die Praxis neu aufgebaut habe.
Was verlangt ein Prüfer tatsächlich von Ihnen zu erbringen?
Als ich mich hinsetzte, um zu definieren, was wir liefern würden, begann ich nicht mit einer Produktspezifikation. Ich begann mit der "bitte erbringen"-Liste — der wörtlichen Dokumentenanforderung, die ein Durchsetzungsschreiben enthält — und arbeitete rückwärts. Ein belastbares Substantiierungspaket, das Ding, das wir jetzt bauen, hat einige tragende Bestandteile.
Es beginnt mit einer Behauptungs-zu-System-Karte: jede öffentliche KI-Behauptung — aus dem 10-K, der Website, den Pressemitteilungen, dem Pitch-Deck — verknüpft mit dem spezifischen Modell, der Datenpipeline und dem Entscheidungspunkt, der sie erbringt. Wenn ein Bericht "KI-gestützte Risikoanalyse" sagt, benennt die Karte, welches Modell, welche Daten, welche Entscheidung. Das ist das Artefakt, das Delphia gerettet hätte, denn es erzwingt die Frage "ist diese Behauptung tatsächlich mit einem System verdrahtet?", bevor eine Aufsichtsbehörde sie stellt.
Dann ein technischer Nachweisordner — Architektur, Trainingsmethodik und Leistungsbenchmarks, gemessen an genau der Kennzahl, die Sie behauptet haben. Getestet, nicht theoretisch. Wenn Ihre Materialien eine Zahl nennen, zeigt der Ordner den Test, der sie unter einer realitätsnahen Methodik erzeugte, nicht eine herausgepickte Demo. Workado ist die warnende Geschichte: 98 % in der Broschüre, 53 % im Test.
Dann operative Validierung, und genau daran starb Presto. Das System existierte. Was fehlte, war der Beweis, dass die KI tatsächlich die Entscheidungen trieb, die das Marketing beschrieb, statt neben Menschen herzulaufen, die die eigentliche Arbeit erledigten. Die operative Realität zu beweisen ist schwieriger, als die Existenz eines Modells zu beweisen, und genau das prüfen Prüfer jetzt.
Unter alldem sitzt eine AIBOM — eine AI Bill of Materials, ein maschinenlesbares Inventar jeder Komponente: Herkunft der Trainingsdaten, Modellversionen, Drittanbieter-Abhängigkeiten, Infrastruktur. Die Standards existieren endlich, um das ordentlich zu tun; SPDX 3.0 fügte im Oktober 2024 ein KI-Profil hinzu und CycloneDX 1.6 unterstützt Machine-Learning-Stücklisten, wobei das OWASP-AIBOM-Projekt die Werkzeuge vorantreibt. Die ehrliche Wahrheit ist, dass die meisten Firmen dies heute immer noch in einer Tabelle verfolgen, die in dem Moment veraltet, in dem ein Modell neu trainiert wird. Ich habe Model Cards geöffnet, die eine Versionsnummer zwei Neutrainings-Zyklen alt trugen — Dokumentation, die ein System beschreibt, das nicht mehr existiert. Eine AIBOM, die sich mit der Pipeline aktualisiert, ist der Unterschied zwischen einer Momentaufnahme und einem lebendigen Verzeichnis.
Und schließlich Nachweise kontinuierlicher Überwachung — Drift-Erkennungsergebnisse, automatisierte Testprotokolle, der fortlaufende Beweis, dass die Behauptung auch nach dem Start wahr blieb. Ein Substantiierungspaket ist kein einmaliger Ordner, den man ablegt und vergisst. Es ist ein Verzeichnis, das weiteratmet, weil sich Ihr Modell ständig ändert und Ihr Bericht nicht.
Die Halluzinationsrechnung, die niemand in die Bilanz aufnimmt
Es gibt eine zweite Front hierbei, und es ist diejenige, die mich über Wertpapierberichte hinaus in die Inhalte selbst zog.
Eine Behauptung ist nicht nur etwas, das Sie in einer Offenlegung über Ihre KI sagen. Es ist auch jeder Output, den Ihre KI erzeugt und auf den Sie Ihren Namen setzen — der Bericht, die Analyse, die kundenorientierte Zusammenfassung. Und diese Outputs halluzinieren. Stanfords RegLab fand heraus, dass große Sprachmodelle bei spezifischen juristischen Anfragen zwischen 69 % und 88 % der Zeit halluzinieren. Es gibt inzwischen mehr als 600 dokumentierte Fälle von KI-Halluzinationen, die in Gerichtsakten auftauchen, mit über 100 belasteten Anwälten und Richtern, die Sanktionen von mehr als 10.000 US-Dollar verhängen.
Die Kosten für Unternehmen sind gewaltig und seltsam unsichtbar. Eine Analyse bezifferte die globalen Verluste durch KI-Halluzinationen im Jahr 2024 auf 67,4 Milliarden US-Dollar, wobei Unternehmen rund 14.200 US-Dollar pro Mitarbeiter und Jahr allein für die Eindämmung ausgeben — die Stunden, die Menschen mit dem Faktencheck ihrer eigenen Werkzeuge verbrennen. Wenn nahezu die Hälfte der Unternehmens-KI-Nutzer eine wichtige Entscheidung auf Basis halluzinierter Inhalte getroffen hat, ist "die KI hat es erzeugt" keine Verteidigung. Es ist das Eingeständnis.
Deshalb gehört die Inhaltsverifizierung in dieselbe Praxis wie die Behauptungssubstantiierung: Bei beiden geht es um Provenienz. Artikel 50 des EU AI Act, gültig ab August 2026, verlangt, dass KI-generierte Inhalte maschinenlesbar und als solche erkennbar sind, wobei begleitend ein Verhaltenskodex zur Inhaltskennzeichnung erscheint. Der C2PA-Provenienzstandard — derjenige, mit dem die Flaggschiff-Telefone von Samsung und Google bereits nativ signieren — wird zur Verrohrung, um zu beweisen, woher ein Inhaltselement stammt. Wenn Ihre KI einen Bericht erzeugt hat und sich später herausstellt, dass er eine Erfindung enthält, ist das Einzige, was zwischen Ihnen und der Haftung steht, ein Prüfpfad zurück zur Quelle. Die meisten Unternehmen haben keinen.
Provenienz schneidet auch in die andere Richtung. Fünfundsechzig Prozent der Unternehmen meldeten 2023 einen Deepfake-Vorfall, und der Erkennungsmarkt rast von 5,5 Milliarden US-Dollar auf prognostizierte 15,7 Milliarden US-Dollar bis 2026 zu. Zu beweisen, dass Ihre eigenen Inhalte echt sind, wird ebenso dringlich, wie zu beweisen, dass die eines anderen gefälscht sind — und dieselbe C2PA-Signatur, die den Output Ihrer KI authentifiziert, ist diejenige, mit der Sie eine Fälschung von sich weisen können, die Ihre Marke trägt.
Die Fragen, die ich bekomme, und die, die ich mir wünschte zu bekommen
Leute fragen mich immer, ob eine ISO-42001-Zertifizierung all das abdeckt. Sie hilft — es ist ein echter, prüfbarer Standard, und eine Drittanbieter-Zertifizierung hat Gewicht bei Vorständen und im Einkauf. Aber sie kostet im ersten Jahr 90.000 bis über 200.000 US-Dollar und braucht den Großteil eines Jahres zum Aufbau, und sie zertifiziert, dass Sie ein Managementsystem haben, nicht dass irgendeine bestimmte Marketingbehauptung wahr ist. Zertifizierung und Substantiierung sind verschiedene Aufgaben. Sie können zertifiziert sein und dennoch außerstande, die Frage des Prüfers zu einem einzigen Satz in Ihrem 10-K zu beantworten.
Die andere Frage, meist von Gründern, ist, ob dies nur ein Problem großer Unternehmen ist. Nate sammelte 42 Millionen US-Dollar ein und der Gründer sieht sich strafrechtlichen Anklagen gegenüber. Delphia war kein Begriff, den jeder kennt. Der Generalstaatsanwalt von Texas kann auf eine einzige Beschwerde hin eine Ermittlung einleiten. Die Größe des Durchsetzungsrisikos richtet sich nach der Größe der Behauptung, die Sie aufgestellt haben, nicht nach der Größe Ihres Unternehmens.
Die Frage ist nicht mehr, ob Ihre KI funktioniert. Es ist, ob Sie beweisen können, dass sie das tut, was Ihre Berichte behaupten, dass sie tut.
Wenn ich einen einzigen Gedanken in jeden Chefsyndikus und jeden Chief Compliance Officer pflanzen könnte, der dies liest, dann diesen: dass die Lücke zwischen Marketing und technischer Realität jetzt eine rechtliche Haftung mit einer Dollarzahl darauf ist — und das Einzige, was sie schließt, ist ein Nachweis, den Sie erstellt haben, bevor irgendjemand danach fragte. Das ist die gesamte Prämisse dessen, was wir bei Veriprajna bauen: nicht ein weiteres Dashboard, das Ihnen sagt, Ihre KI zu dokumentieren, sondern das Substantiierungspaket selbst — die Behauptungs-zu-System-Karte, der Nachweisordner, die AIBOM, der Provenienzpfad —, zusammengestellt und getestet, bevor das Dokumentenanforderungsschreiben eintrifft.
Ich komme immer wieder auf diesen Geschäftsbericht zurück. Elf Wörter, eingereicht und vergessen, mit nichts dahinter — keine Karte, kein Ordner, kein Protokoll, das den Satz mit einem System verbindet. Das Modell darunter funktionierte wahrscheinlich einwandfrei; die meisten tun es. Was fehlte, war das eine, wonach ein SEC-Prüfer, ein FTC-Ermittler und ein Anwalt der Klägerseite alle in demselben nüchternen Satz fragen: zeigen Sie es mir. Schreiben Sie die Behauptung, die Sie beweisen können, und bauen Sie den Beweis, bevor irgendjemand fragt.
