Ihr Algorithmus verkaufte 1,4 Milliarden Dollar, bevor jemand auf Abbrechen drückte. Können Sie erklären, warum?
Es gibt eine einzige Frage, die die meisten aufsichtsrechtlichen Prüfungen beendet, bevor sie richtig begonnen haben. Es ist nicht "Haben Sie Kontrollen?" Jeder hat Kontrollen. Sie ist leiser als das, und schlimmer:
"Erklären Sie mir ganz genau, was dieser Algorithmus am 5. August um 9:47 Uhr morgens gemacht hat."
Ich habe schon zugesehen, wie kluge, gut finanzierte Firmen bei dieser Frage erstarrten. Sie können die Orderprotokolle vorlegen. Sie können Ihnen die Trades zeigen. Was sie nicht können, ist die Entscheidungskette zu rekonstruieren — warum das Modell die Position so dimensioniert hat, wie es das tat, warum die Risikoschwelle dort lag, wo sie lag, warum eine Codeänderung drei Wochen zuvor bei niemandem den Alarm auslöste. Und im Jahr 2026 ist genau diese Lücke das ganze Spiel. Die Compliance im algorithmischen Handel hat sich stillschweigend verlagert — vom Nachweis, dass man Schutzvorkehrungen hat, hin zum Nachweis, dass man im Nachhinein jeden Zug erklären kann, den die Maschine gemacht hat.
Ich möchte Ihnen erzählen, wie ich zu dieser Überzeugung kam, denn zuerst lag ich falsch — teuer falsch — und die Art, wie ich falsch lag, ist genau dieselbe Art, wie der Großteil der Branche noch immer falsch liegt.
Die 189 Milliarden Dollar, die durchkamen
Beginnen wir mit Citigroup, denn das ist die klarste Lektion, die ich kenne.
Im Mai 2022 wollte ein Citi-Händler einen Korb von Aktien im Wert von 58 Millionen Dollar verkaufen. Durch einen manuellen Fehler erzeugte er stattdessen einen Korb im Wert von 444 Milliarden Dollar. Citis Pre-Trade-Kontrollen erfüllten ihre Aufgabe — größtenteils. Sie blockierten 255 Milliarden Dollar. Doch 189 Milliarden Dollar rutschten an den Kontrollen vorbei und erreichten einen Handelsalgorithmus, der sie pflichtbewusst in Verkaufsorders zerhackte und rund 1,4 Milliarden Dollar in die europäischen Märkte drückte, bevor jemand auf Abbrechen drückte. Es löste einen Flash-Crash über die europäischen Börsen hinweg aus.
Hier ist der Teil, der Compliance-Verantwortliche nachts wachhalten sollte. Als die BaFin und die britischen Aufsichtsbehörden anrückten, lautete die belastende Frage nicht "was ist passiert". Das konnte Citi beantworten. Die Frage war warum — warum ließen die Kontrollen 189 Milliarden Dollar durch, und warum waren die Schwellenwerte so kalibriert, wie sie es waren? Citi konnte die Orders zeigen. Sie konnten die Argumentation des Algorithmus nicht angemessen rekonstruieren oder die Parameter verteidigen, die ihn steuerten.
Diese Lücke kostete sie. Die BaFin verhängte gegen Citi eine Geldbuße von 12,975 Millionen Euro; zwei Tage zuvor hatten die britischen Aufsichtsbehörden für denselben Vorfall 61,6 Millionen Pfund draufgesetzt. Rund 92 Millionen Dollar für ein einziges algorithmisches Versagen, über drei Rechtsordnungen hinweg.
Nicht die Kontrollen waren das Versagen. Das Versagen war die Unfähigkeit, die Kontrollen zu erklären.
Ich komme immer wieder darauf zurück, weil es umkehrt, wie die meisten Firmen budgetieren. Sie geben Geld dafür aus, mehr Kontrollen zu bauen, und fast nichts dafür, sie unter Eid erzählen zu können.
Was fragt der Prüfer eigentlich?
Als ich anfing, mit Compliance-Leitern bei Mittelstandsbanken und Vermögensverwaltern zu sprechen — den Firmen unterhalb der Bulge-Bracket-Ebene — bat ich sie, mit mir eine Prüfung im Rollenspiel durchzuspielen. Es entwirrte sich immer in denselben drei Schritten.
"Zeigen Sie mir Ihr Algorithmus-Inventar." Das ist der Auftakt, und es ist ein leiser Killer. Die britische Financial Conduct Authority führte im August 2025 eine Mehr-Firmen-Überprüfung von zehn Eigenhandelsfirmen durch und stellte fest, dass die meisten unvollständige oder veraltete Dokumentation hatten — kein sauberes Inventar darüber, wer für welchen Algorithmus verantwortlich ist, an welchen Märkten er handelt, welche Risikoparameter ihn steuern. Einige Firmen hatten ganze RTS-6-Elemente aus ihren Selbstbewertungen weggelassen. (RTS 6 ist das MiFID-II-Regelwerk für algorithmische Handelsfirmen — Governance, Tests, Risikokontrollen.) Wenn Sie kein aktuelles, vollständiges Inventar vorlegen können, das die registrierte verantwortliche Person für jede Strategie benennt, endet die Prüfung faktisch dort. Nach den Regeln der FINRA müssen die Personen, die Handelsalgorithmen entwerfen oder wesentlich verändern, als Securities Traders registriert sein — "wem gehört dieser Algo" ist also keine Quizfrage, sondern eine regulatorische, mit einem Namen dahinter.
"Erklären Sie mir, was dieser eine an jenem Morgen gemacht hat." Das ist die Citigroup-Frage. Die meisten Firmen können die Orders zeigen. Fast keine kann die Entscheidung rekonstruieren. Und wenn Sie ein Vermögensverwalter statt ein Broker-Dealer sind, landet diese Frage nicht auf einem Handelstisch — sie landet bei Ihrem Quant-Research-Team, wo ein einzelner manipulierter Parameter, vergraben in einem Modell, monatelang unentdeckt laufen kann. (Two Sigma bekam das auf die harte Tour zu spüren; dazu später mehr.)
"Wie überprüfen Ihre Compliance-Mitarbeiter diese Algorithmen technisch?" Die FCA hatte eine wunderbar diplomatische Formulierung für das, was sie hier vorfand: "variables technisches Wissen in der Compliance." Übersetzt heißt das, dass Compliance-Teams zwar einen Alarmbericht lesen können, aber die Logik des Modells nicht durchleuchten, einen Risikoparameter nicht in Frage stellen oder nicht überprüfen können, ob die Codeänderung des letzten Sprints nicht stillschweigend ein neues regulatorisches Loch geöffnet hat. Die Antwort der Branche war, quant-versierte Compliance-Mitarbeiter einzustellen — nur sind die Leute, die sowohl die Marktzugangsregeln der CFTC als auch Graph-Neural-Network-Architekturen wirklich verstehen, verschwindend selten, und sie werden bezahlt wie die Hedgefonds, die sie ebenfalls haben wollen.
Die aufsichtsrechtliche Richtung hinter allen drei Fragen ist nicht subtil. Die SEC und die CFTC brachten 2024 gemeinsam rekordverdächtige 25,3 Milliarden Dollar an Durchsetzungsmaßnahmen ein. Der EU AI Act verlangt, dass hochriskante Finanz-KI-Systeme bis zum 2. August 2026 über technische Dokumentation, Risikomanagement und menschliche Aufsichtsfähigkeit verfügen. DORA — das EU-Regime für operationelle Resilienz — ist seit Januar 2025 in Kraft. Und in Indien verlangt SEBI nun für jede Strategie eine eindeutige Algo-ID und eine Börsengenehmigung, bevor sie live geht. Die Frage ist nicht mehr, ob Ihre Algorithmen geprüft werden. Sie lautet, ob sie die Prüfung überleben.
Das Ding, das ich baute und das niemand wollte
Also ging ich hin und baute einen besseren Detektor.
Das war mein Fehler, und ich möchte ehrlich sein, wie verführerisch er war. Der Käuferschmerz, über den sich alle am lautesten beklagen, ist die Alarmmüdigkeit — in einer Umfrage unter Banken und Broker-Dealern meldeten 70 % Fehlalarmquoten über 25 % in ihrer Handelsüberwachung. Compliance-Teams, die im Rauschen ertrinken und Phantom-Spoofing-Alarmen hinterherjagen. Also bauten wir etwas, das wirklich gut darin war, Fehlalarme zu reduzieren: Verhaltenskontext, Bewusstsein für Marktregime, adaptive Schwellenwerte. In den Tests war es sauber und schnell. Ich war stolz darauf.
Dann ließen wir es vor einer echten Compliance-Verantwortlichen aus dem Mittelstand laufen. Sie beobachtete das Dashboard, nickte mit und stellte die Frage, die drei Monate Arbeit sprengte:
"Das ist schön. Aber wenn der Prüfer fragt, warum das Modell ausgelöst hat — oder warum es nicht ausgelöst hat — was zeige ich ihm dann?"
Ich hatte keine Antwort im Produkt. Wir hatten eine schnellere Möglichkeit gebaut, Alarme zu erzeugen. Wir hatten keine Möglichkeit gebaut, sie zu erklären. Und ich erkannte, wie ich dort saß, dass ich genau das reproduziert hatte, was die Aufsichtsbehörden bestraften: eine Black Box, die Ausgaben erzeugt, ohne eine rekonstruierbare Argumentationskette. Eine bessere Black Box ist immer noch eine Black Box.
Das war der Wendepunkt. Die Erkennung war nie der unerfüllte Bedarf. Der unerfüllte Bedarf war die Prüfungsbereitschaft — algorithmische Entscheidungen in Erklärungen zu verwandeln, die ein nicht-quantitativer Compliance-Verantwortlicher überprüfen, in Frage stellen und in einen Prüfungsraum mitnehmen kann. Wir warfen die Rahmung über Bord und fingen von vorne an.
Für den Prüfer bauen, nicht für den Alarm
Das System, das wir letztlich bauten — die Intelligenzschicht für die Compliance im algorithmischen Handel, die wir heute einsetzen — geht von einem anderen Grundprinzip aus: Jede Entscheidung, die ein Produktionsalgorithmus trifft, sollte eine prüfungsbereite, mit Zeitstempel versehene Erklärung des Warum hinterlassen, nicht nur des Was.
Das klingt offensichtlich, bis man es versucht. Das erste Designproblem war, dass die Menschen, die die Erklärung brauchen, das Modell nicht lesen können. Also mussten die Erklärungen die Logik des Algorithmus — seine Eingaben, die Marktsignale, die er gewichtete, die Schwelle, gegen die er testete, die menschlichen Übersteuerungen — in etwas übersetzen, das ein Compliance-Verantwortlicher durchleuchten kann, ohne Quellcode zu lesen. Kein Konfidenzwert. Eine Darstellung der Argumentation.
Das zweite Problem war das Inventar selbst. Wir behandeln das Algorithmus-Inventar so, wie ein Entwicklungsteam Code behandelt: Jede Strategie in Produktion trägt ihre genehmigten Märkte, Positionslimits, den registrierten Eigentümer und eine vollständige Änderungshistorie, sodass die Frage "zeigen Sie mir Ihr Inventar" zu einer Abfrage wird, nicht zu einer Feuerübung. Dasselbe Rückgrat ordnet jede Kontrolle mehreren regulatorischen Rahmenwerken gleichzeitig zu — SEC Rule 15c3-5, RTS 6 der MiFID II, dem EU AI Act, DORA, dem Algo-ID-Regime der SEBI — weil Mittelstandsfirmen grenzüberschreitend handeln und kein etablierter Anbieter Kontrollen über sie alle hinweg von einem Ort aus zuordnet. Heute stricken die meisten grenzüberschreitend tätigen Firmen separate Compliance-Prozesse pro Regulierungsbehörde zusammen. Genau diese Redundanz ist die Art von Arbeit, die Software auffressen sollte.
Das dritte Problem war der Not-Aus-Schalter. Citis Kontrollen fehlten nicht — sie fingen 255 Milliarden Dollar ab. Sie waren nur nicht abgestuft. Die meisten Schutzschalter sind binär: an oder aus. Also bauten wir intelligente, mehrstufige Schutzschalter — eine Erkennung von Verhaltensanomalien, die eine verhältnismäßige Reaktion auslöst statt eines einzigen Panikknopfs, der Unterschied zwischen dem Abfangen von 255 Milliarden Dollar und dem Abfangen der 189 Milliarden Dollar, die durchrutschten.
Warum kauft nicht einfach jeder eine Plattform?
Das ist der Einwand, den ich am häufigsten höre, und er verdient eine echte Antwort.
Der Markt für Handelsüberwachung entwickelt sich von rund 1,3–3 Milliarden Dollar im Jahr 2025 auf 4,2–9,3 Milliarden Dollar bis 2033, und die fünf größten Anbieter halten davon 55–59 %. NICE Actimize, Nasdaqs Surveillance AI, Eventus' Validus — das sind wirklich leistungsfähige Plattformen. Ich bin nicht hier, um Ihnen zu sagen, dass sie nicht funktionieren.
Ich bin hier, um Ihnen zu sagen, was sie kosten und wo sie aufhören. Eine vollständige NICE-Actimize-Implementierung kostet 1–5 Millionen Dollar und mehr pro Jahr, bepreist und konzipiert für Tier-1-Institute. Sie sind hervorragend in der assetübergreifenden Erkennung und schwach in genau dem, wonach der Prüfer nun fragt: der Erklärbarkeit von Algo-Entscheidungen und der einheitlichen Zuordnung über mehrere Regulierungsbehörden hinweg. Nasdaqs Plattform ist börsenzentriert, gebaut für die Sell-Side. Eventus ist erkennungsorientiert. Keine von ihnen wurde um das Prüfungstag-Problem des Compliance-Verantwortlichen herum entworfen.
So steht eine Tier-2-Bank oder ein mittelgroßer Vermögensverwalter vor derselben regulatorischen Messlatte wie JPMorgan — mit einem Bruchteil des Budgets und ohne eigene Quant-Bank im Haus. Ihre Optionen waren bisher: zu viel für eine Unternehmensplattform zahlen, die nicht passt, sie selbst bauen für 2–10 Millionen Dollar plus eine Million Dollar pro Jahr an Wartung, während man mit der Vergütung von Hedgefonds um die Talente konkurriert, oder eine Big-Four-Firma engagieren — die, nach meiner Erfahrung, dazu berät, was zu bauen ist, einem eine PowerPoint-Präsentation mit einem Target-Operating-Model in die Hand drückt und dann doch nach demselben Tier-1-Anbieter greift, den sie ohnehin empfohlen hätte.
Es gibt eine Leere in der Mitte dieses Marktes: Firmen mit Bulge-Bracket-Verpflichtungen und Mittelstandsbudgets, die von niemandem bedient werden.
Für diese Leere bauen wir. Maßgeschneiderte Compliance-Intelligenz zu einem Preispunkt, der kein Unternehmens-Lösegeld ist, ohne Anbieterbindung.
Das schwierigere Problem, das kommt: autonome Agenten
Wenn Erklärbarkeit das Problem von heute ist, dann ist agentische KI das Problem des nächsten Jahres, und fast niemand ist darauf vorbereitet.
Von rund 44 % der Finanzteams wird erwartet, dass sie 2026 agentische KI einsetzen — ein Sprung von mehr als 600 % — und eine Firma meldet bereits 60 autonome Agenten in Produktion mit Plänen für 200 weitere. Diese Systeme können bis zu 70 % der manuellen Compliance-Arbeit automatisieren. Sie können auch Trades auslösen, Risikomodelle anpassen und Transaktionen eigenständig autorisieren.
Was jeden erschreckt, der schon einmal eine Prüfung durchgestanden hat, ist das, was als Nächstes kommt. Das Governance-Rahmenwerk, auf das sich die gesamte Branche stützt — die Model-Risk-Leitlinie SR 11-7 der Fed und des OCC — wurde 2011 für Modelle mit stabilem, deterministischem Verhalten geschrieben. Wie die Risikoanalysten von GARP Anfang 2026 formulierten, bleibt SR 11-7 "einer der wenigen stabilen Bezugspunkte für Modell-Governance" — und agentische KI durchbricht ihre Kernannahmen, indem sie Undurchsichtigkeit, Zufälligkeit und Autonomie einführt, oft auf einer Drittanbieter-Infrastruktur reitend, die sich ohne Vorwarnung ändern kann. Man kann die Entscheidung eines Systems nicht rekonstruieren, das jedes Mal anders entscheidet und von einem Modell eines Anbieters abhängt, das man nicht kontrolliert.
Um klarzumachen, wo wir tatsächlich stehen: Die Praktiker-Reviews des FMSB stellen fest, dass marktnahe KI noch nicht autonom agiert — sie ist in die Handelsinfrastruktur unter menschlicher Aufsicht eingebettet. Gut. Das ist das Zeitfenster. Der richtige Zeitpunkt, Governance für autonome Handelsagenten zu bauen, ist bevor sie autonom handeln, nicht in der Nachbetrachtung. Wir konstruieren diese Erklärbarkeits- und Aufsichtsschicht jetzt, damit der Prüfpfad existiert, bevor die Aufsichtsbehörde danach fragt.
Hier gibt es auch echten technischen Hebel. Graphbasierte Modelle — Graph Neural Networks, die das Netz von Kontrahentenrisiken abbilden — haben in Forschungssettings AUC-ROC-Werte um 0,891 zur Erkennung von Risikoansteckung erreicht, weit vor konventionellen Methoden, mit Frühwarn-Vorlaufzeiten, die um fast zwölf Tage verlängert wurden. Fast kein Überwachungsanbieter bietet graphbasierte Ansteckungsanalyse als Standardfunktion an. Für eine Firma mit vernetztem Kontrahentenrisiko ist das der Unterschied zwischen dem Herannahen einer Kaskade zu erkennen und in einer Durchsetzungsverfügung darüber zu lesen.
"Ist das nicht einfach nur noch mehr Compliance-Software?"
Die Leute stellen mir eine Variante davon, und die faire Antwort lautet: nicht, wenn sie richtig gebaut ist.
Der Grund, warum sich Compliance wie reine Kosten anfühlt — große Banken geben mehr als 200 Millionen Dollar pro Jahr dafür aus, und die Zeit, die ihre Mitarbeiter darauf verwenden, wuchs in einem Jahrzehnt um 61 % — ist, dass das meiste davon manuelle Rekonstruktion von Dingen ist, die die Systeme automatisch hätten aufzeichnen sollen. Wenn die Erklärung erzeugt wird, während der Algorithmus läuft, hört die Prüfung auf, eine archäologische Ausgrabung zu sein. Das Inventar ist eine Abfrage. Die Entscheidungskette ist bereits aufgeschrieben. Die grenzüberschreitende Zuordnung ist ein Modell, nicht fünf.
Die andere Sache, die die Leute fragen, ist, ob Erklärbarkeit die Algorithmen verlangsamt — ob man Mikrosekunden gegen Papierkram eintauscht. Tut man nicht. Die Argumentationserfassung sitzt neben der Ausführung; sie ist eine Aufzeichnung, keine Bremse. Die Firmen, die das gelöst haben, hörten auf, Compliance als eine Steuer auf Geschwindigkeit zu behandeln, und begannen, sie als eine Eigenschaft des Systems zu behandeln, präsent von der ersten Codezeile an, statt vor der Prüfung angeschraubt.
Ich denke hier an den Two-Sigma-Fall. Ein leitender Researcher veränderte über fast zwei Jahre hinweg still und leise vierzehn Anlagemodelle — indem er einen einzigen Parameter anstupste — und produzierte 165 Millionen Dollar an Kundenverlusten, bevor es jemand bemerkte; die Firma zahlte 90 Millionen Dollar zur Beilegung. Diese Modelle waren nicht dem Namen nach unbeaufsichtigt. Sie waren in der Praxis unerklärbar. Niemand konnte in Echtzeit sehen, dass die Argumentation korrumpiert worden war. Das ist kein Erkennungsversagen. Das ist ein Erklärbarkeitsversagen, das die Kleider eines Erkennungsversagens trägt.
Der 444-Milliarden-Dollar-Fehler des Citi-Händlers dauerte Sekunden zu begehen und Jahre zu verhandeln. Das, was aus einem peinlichen Fehler einen 92-Millionen-Dollar-Fehler machte, war nicht die Größe des Korbes. Es war, dass, als die Aufsichtsbehörden nachhakten und fragten warum, die Antwort ein Schulterzucken war.
Jede Firma, die Algorithmen betreibt, ist nur einen schlechten Morgen von dieser Frage entfernt. Die, die in Ordnung sein werden, sind nicht die mit den meisten Kontrollen oder der teuersten Plattform. Es sind die, die, wenn der Prüfer auf 9:47 Uhr morgens deutet, die Entscheidung aufrufen und sie Zeile für Zeile durchgehen können — und die diese Fähigkeit in die Compliance-Schicht eingebaut haben, lange bevor sie sie brauchten. Bauen Sie die Erklärung, während die Maschine noch handelt. Wenn jemand fragt, ist es bereits zu spät, um damit anzufangen, sie aufzuschreiben.
