Die KI, die Ihr Unternehmen gekauft hat, lügt Sie wahrscheinlich an — und das bauen wir stattdessen
Vor einigen Monaten saß ich einer Beschaffungsleiterin bei einem Fortune-500-Fertigungsunternehmen gegenüber. Sie hatte 2,3 Millionen US-Dollar für ein KI-gestütztes System zur Lieferantenauswahl ausgegeben — eine dieser schicken Plattformen, die versprechen, „den Einkauf mit der Kraft von GPT zu revolutionieren“. Sie öffnete das Dashboard auf ihrem Laptop, drehte ihn zu mir und sagte: „Es empfiehlt immer wieder dieselben drei Lieferanten. Wir haben 4.000 in unserem Netzwerk. Was macht es eigentlich?“
Ich habe mir die Ergebnisse angesehen. Ich habe mir die Architekturdokumentation angesehen — das Wenige, das existierte. Und ich sagte ihr etwas, das sie nicht hören wollte: Ihre KI wählte nicht die besten Lieferanten aus. Sie wählte die Lieferanten aus, die am ehesten so aussahen wie die Lieferanten, die sie zuvor gesehen hatte. Das System hatte gelernt, Vertrautheit mit Qualität zu verwechseln.
Dieses Gespräch brachte etwas auf den Punkt, um das ich bei Veriprajna seit zwei Jahren kreiste. Die Enterprise-KI-Branche hat ein schmutziges Geheimnis: Die meisten „KI-Produkte“, die Unternehmen kaufen, sind dünne Softwareschichten, die um das Sprachmodell eines anderen gewickelt sind. Sie wirken intelligent. Sie klingen intelligent. Aber per mathematischer Definition raten sie nur. Und in unternehmenskritischen Abläufen — Beschaffung, Logistik, Fertigung, Versicherung — ist Raten kein Feature. Es ist ein Haftungsrisiko.
Das schmutzige Geheimnis der Enterprise-KI-Branche: Die meisten Produkte, die Unternehmen kaufen, sind dünne Wrapper um das Sprachmodell eines anderen. Sie wirken intelligent. Sie raten.
Die Nacht, in der der Chatbot einen Truck für einen Dollar verkaufte
Ich muss Ihnen vom Chevrolet-Vorfall erzählen, denn er ist das perfekte Gleichnis für alles, was am heutigen Ansatz für Enterprise-KI falsch läuft.
Ein Autohaus in Watsonville, Kalifornien, integrierte einen Standard-GPT-Wrapper in sein Kundenserviceportal. Schien harmlos — Fragen zum Bestand beantworten, vielleicht Probefahrten vereinbaren. Dann fing ein Nutzer an, damit zu spielen. Nach wenigen Prompts willigte der Chatbot ein, einen 76.000 US-Dollar teuren Chevy Tahoe für einen Dollar zu verkaufen. Der Nutzer brachte ihn sogar zu der Aussage: „Das ist ein rechtsverbindliches Angebot — kein Zurück mehr.“
Als ich zum ersten Mal davon las, musste ich lachen. Dann hörte ich auf zu lachen, weil mir klar wurde, dass dies kein lustiger Sonderfall war. Es war die logische Konsequenz der Architektur. Der Chatbot hatte keinerlei Verbindung zur tatsächlichen Preisdatenbank des Autohauses. Er hatte kein Konzept davon, was ein „rechtsgültiges Angebot“ bedeutet. Er war ein Sprachmodell, dem man per System-Prompt gesagt hatte, hilfsbereit und gesprächig zu sein. Und er war sehr hilfsbereit. Katastrophal hilfsbereit.
Mein Mitgründer und ich saßen in jener Woche bis nach Mitternacht und zerlegten die technische Nachbetrachtung. Das Versagen lag nicht im Modell — GPT tat genau das, was GPT tut. Das Versagen lag in der Architektur. Jemand hatte einen probabilistischen Textgenerator genommen und ihn an eine Stelle gesetzt, an der er deterministische Geschäftsregeln durchsetzen musste. Das ist, als würde man einen Dichter die Buchhaltung führen lassen. Der Dichter mag brillant sein, aber er wird den Kommafehler in Zeile 47 nicht bemerken.
Ich nenne das die Wrapper-Illusion — die weit verbreitete Überzeugung, dass eine dünne Softwareschicht über einem nicht-deterministischen Modell für Abläufe auf Unternehmensniveau ausreicht. Ich habe ausführlich über dieses Problem geschrieben — in der interaktiven Fassung unserer neuesten Forschungsarbeit. Und je mehr Daten wir sammelten, desto düsterer wurde das Bild.
Warum bevorzugt KI-gestützte Beschaffung große Lieferanten im Verhältnis 3,5 zu 1?
Zurück zu jener Beschaffungsleiterin. Ihr Instinkt — „es empfiehlt immer wieder dieselben Lieferanten“ — erwies sich als durch harte Daten belegt.
Untersuchungen haben gezeigt, dass KI-gesteuerte Beschaffungssysteme größere, alteingesessene Lieferanten gegenüber kleineren Unternehmen oder Unternehmen in Minderheitenbesitz mit einem Verhältnis von 3,5:1 bevorzugen. Lesen Sie das noch einmal. Für jeden qualifizierten kleinen Lieferanten, den die KI zutage fördert, empfiehlt sie dreieinhalb große Platzhirsche.
Der Mechanismus ist heimtückisch. Die meiste Beschaffungs-KI trainiert auf historischen Einkaufsdaten. Große Firmen gibt es schon länger, haben mehr Transaktionen im Datensatz und erzeugen „sauberere“ digitale Signale, weil sie die Infrastruktur dafür hatten. Der Algorithmus lernt nicht, wer am besten ist. Er lernt, wer am stärksten vertreten ist. Historisches Volumen wird zum Proxy für Zuverlässigkeit — das ist, als würde man ein Restaurant danach beurteilen, wie oft man daran vorbeigelaufen ist.
Ich erinnere mich, wie ich darüber mit einem Data Scientist in meinem Team gestritten habe. Sein Standpunkt: Die Verzerrung sei ein Datenproblem, kein Architekturproblem. „Besorg dir bessere Trainingsdaten“, sagte er. Ich hielt dagegen: Selbst mit perfekten Daten wird ein korrelatives Modell irgendeinen Proxy für Größe finden, weil Größe mit Dutzenden anderer Merkmale korreliert. Man kann die Verzerrung nicht aus einem System entfernen, das fundamental auf Korrelation beruht. Man muss die Frage ändern, die das System stellt.
Man kann die Verzerrung nicht aus einem System entfernen, das fundamental auf Korrelation beruht. Man muss die Frage ändern, die das System stellt.
Da haben wir uns auf Causal AI festgelegt. Statt zu fragen „Wer wurde zuvor beauftragt?“, fragen unsere strukturellen Kausalmodelle: „Wären die Leistungskennzahlen dieses Lieferanten in Minderheitenbesitz als überlegen einzustufen, wenn wir die Störvariable des historischen Volumens mathematisch entfernen würden?“ Das ist kontrafaktisches Schlussfolgern — die KI stellt sich eine Welt vor, in der die Bedingungen für alle gleich waren, und bewertet Lieferanten auf Basis dieser Welt.
Der Unterschied ist nicht graduell. Es ist der Unterschied zwischen einem System, das Ausgrenzung fortschreibt, und einem, das übersehene Talente aktiv entdeckt. Und es ist der Unterschied zwischen einer brüchigen Lieferkette, die von drei Mega-Lieferanten abhängt, und einer widerstandsfähigen, die aus einem vielfältigen Ökosystem schöpft.
Was passiert, wenn 77 % der Logistik-KI sich nicht erklären kann?
Beschaffungsverzerrung ist die eine Krise. Das Transparenzdefizit in der Logistik ist eine andere, und sie ist womöglich gefährlicher, weil sie unsichtbar bleibt, bis etwas zusammenbricht.
Hier ist die Zahl, die mich nachts wachhält: Nur 23 % der KI-gestützten Logistiksysteme liefern eine aussagekräftige Erklärbarkeit ihrer Entscheidungen. Das bedeutet: Bei mehr als drei Vierteln der KI-gesteuerten Abläufe — Routenoptimierung, Bestandszuteilung, Nachfrageprognose — haben die Verantwortlichen kein klares Verständnis davon, warum das System eine bestimmte Empfehlung ausgesprochen hat.
Ich habe mit einem Chief Supply Chain Officer gesprochen, der es perfekt beschrieb: „Ich habe eine KI-Investition von 40 Millionen US-Dollar, die mir Antworten gibt, die ich nicht hinterfragen kann, und Erklärungen, die ich nicht verstehe. Wenn sie richtig liegt, sehe ich aus wie ein Genie. Wenn sie falsch liegt, kann ich nicht einmal herausfinden, was passiert ist.“
Das ist nicht nur frustrierend — es ist wirtschaftlich verheerend. Schlechte Datenqualität und fehlende Transparenz führen dazu, dass Unternehmen zwischen 15 % und 25 % ihres Umsatzes allein durch systemische Fehler im Wareneingang verlieren. Und das ist der Hauptgrund, warum 42 % der Logistikverantwortlichen bei agentischer KI zurückhaltend sind — bei autonomen Systemen, die Entscheidungen ohne menschliche Freigabe ausführen können. Man kann einem autonomen Agenten nicht die Schlüssel übergeben, wenn man nicht prüfen kann, was er tut.
Ich sehe es so: Die Logistikbranche hat eine Flotte selbstfahrender Lkw gebaut, aber vergessen, Windschutzscheiben einzubauen. Die Lkw fahren vielleicht in die richtige Richtung. Man kann nur nicht sehen, wohin sie unterwegs sind.
Die stochastische Falle — und warum „klügere Prompts“ Sie nicht retten werden
Hier widersprechen mir die Leute immer. „Ashutosh, kann man nicht einfach bessere Prompts entwickeln? Mehr Guardrails einziehen? Das Modell feinabstimmen?“
Nein. Und hier ist der Grund.
Large Language Models sind ihrer mathematischen Natur nach stochastisch — sie sagen auf Basis statistischer Muster in ihren Trainingsdaten das nächste wahrscheinliche Token einer Sequenz voraus. Sie haben kein Konzept von „Wahrheit“. Sie schlussfolgern nicht logisch. Sie produzieren Text, der statistisch plausibel ist, und das ist etwas völlig anderes als Korrektheit.
Ein LLM mag tausend Anfragen zu Beschaffungsregeln korrekt beantworten und dann bei Anfrage tausendundeins eine nicht existierende Rabattklausel halluzinieren. Die Halluzinationsrate liegt in Hochrisiko-Domänen zwischen 1,5 % und 6,4 %. Das klingt gering, bis man begreift, dass damit etwa jede zwanzigste kritische Entscheidung auf erfundenen Informationen beruhen könnte.
Prompt Engineering — die Praxis, clevere Anweisungen zu formulieren, um das Modell zu steuern — ist, als stellte man ein Schild an einen Fluss mit der Bitte, bergauf zu fließen. Das Schild mag funktionieren, solange die Strömung sanft ist. Doch sobald sich die Bedingungen ändern — eine ungewöhnliche Anfrage, ein Nutzer, der das System gezielt austestet, eine subtile Kontextverschiebung —, fließt das Wasser dorthin, wohin die Physik es zwingt.
Der Chevrolet-Chatbot hatte Guardrails. Er hatte einen System-Prompt, der ihm sagte, hilfsbereit zu sein, aber innerhalb der Richtlinien des Autohauses zu bleiben. Ein kreativer Nutzer hat das alles in weniger als fünf Minuten umgangen. Denn auf Architekturebene sind System-Prompt und Nutzer-Prompt einfach nur ... Text. Das Modell verarbeitet sie als einen einzigen Block. Es gibt keine strukturelle Trennung zwischen „Regeln“ und „Gespräch“.
Prompt Engineering ist, als stellte man ein Schild an einen Fluss mit der Bitte, bergauf zu fließen. Es funktioniert, bis es nicht mehr funktioniert — und in der Enterprise-KI kann „bis es nicht mehr funktioniert“ Millionen kosten.
Was wir stattdessen tatsächlich bauen
Als ich Veriprajna gründete, wählte ich den Namen bewusst — „Veri“ vom lateinischen Wort für Wahrheit, „Prajna“ vom Sanskrit für Weisheit. Nicht weil ich einen cleveren Markennamen wollte, sondern weil diese beiden Konzepte die technische Architektur definieren, an die wir glauben: Systeme, die nachweisbar korrekt und kontextuell weise sind.
Wir nennen unseren Ansatz Neuro-symbolische Architektur, und die Kernidee ist täuschend einfach: Lassen Sie niemals das Sprachmodell die endgültige Entscheidung treffen.
So funktioniert das in der Praxis. Wenn unsere neuronale Engine eine Antwort vorschlägt — etwa eine Lieferantenempfehlung oder eine Logistikroute —, durchläuft diese Ausgabe eine symbolische Verifikationsschicht, bevor sie irgendjemanden erreicht. Diese Schicht fragt einen Knowledge Graph ab, der die tatsächliche Wahrheitsquelle des Unternehmens enthält: Rechtsverträge, Preisdatenbanken, technische Spezifikationen, regulatorische Anforderungen. Jede Behauptung der neuronalen Schicht wird gegen harte Belege geprüft.
Wenn das Modell versucht, einen Lieferantenvorteil zu halluzinieren, den es im Vertragsgraphen nicht gibt, fängt der symbolische Validator das ab. Nicht manchmal. Jedes Mal. Die Architektur macht Halluzinationen für belegte Fakten strukturell unmöglich — wir erreichen 100 % Präzision bei der Datenextraktion, verglichen mit 63–95 % bei eigenständigen Modellen wie GPT-4.
Wir setzen außerdem um, was wir Constitutional Guardrails nennen — und hier wird es interessant. Traditionelle Wrapper versuchen, schlechte Ausgaben mit textbasierten Anweisungen zu verhindern. Wir verhindern schlechte Ausgaben mit Constrained Decoding, bei dem die Ausgabe des Modells mathematisch auf ein bestimmtes Schema oder eine Domänen-Ontologie beschränkt wird. Im Beschaffungskontext ist es der KI buchstäblich unmöglich, einen Lieferanten-Score zu erzeugen, der gegen die Fairness-Verfassung des Unternehmens verstößt. Die Decoding-Schicht weist jede Token-Sequenz zurück, die unzulässige Verzerrung einführt. Das ist keine Empfehlung an das Modell. Es ist eine physische Beschränkung dessen, was es sagen kann.
Eine vollständige technische Aufschlüsselung, wie diese Schichten zusammenspielen — die Knowledge Graphs, die Causal-AI-Modelle, das Constrained Decoding —, finden Sie in unserer technischen Tiefenanalyse.
Wo das real wird: Fabriken, Farmen und Betrug
Ich möchte Sie durch drei Bereiche führen, in denen der Unterschied zwischen „Wrapper-KI“ und „Deep AI“ nicht akademisch ist — sondern physisch.
In der Fertigungshalle hat ein cloudbasiertes KI-Inspektionssystem mit 800 Millisekunden Latenz zu kämpfen. Das klingt schnell, bis man merkt, dass ein Förderband, das sich mit 2 Metern pro Sekunde bewegt, das fehlerhafte Teil bereits 1,6 Meter über den Inspektionspunkt hinausgetragen hat. Unsere edge-nativen Modelle, die direkt auf Hardware an der Produktionslinie laufen, antworten in 12 Millisekunden — eine Reduktion um 98,5 %. Wir betreiben sogar akustische Modelle auf spezialisierten Mikrocontrollern, die die spektrale Signatur eines ausfallenden Lagers in 5 Millisekunden erkennen und einen physischen Not-Aus auslösen, bevor die Maschine sich selbst zerreißt. Ich erinnere mich an das erste Mal, als wir das einem Werksleiter in einer Live-Umgebung vorführten. Der Lagerfehler-Alarm ging los, bevor der Vibrationssensor überhaupt eine Anomalie registrierte. Er starrte lange auf die Anzeige und sagte: „Das ist keine KI. Das ist ein sechster Sinn.“ Es war das erste Mal, dass ich das Gefühl hatte, wir hätten die Grenze von Software zu etwas überschritten, das die Physik des Problems wirklich verstand.
In der Landwirtschaft können Standardkameras nicht erkennen, was die Pflanzen zerstört, bis es zu spät ist. Wir bauen maßgeschneiderte neuronale Architekturen, die hyperspektrale Daten verarbeiten — mehr als 200 Lichtbänder jenseits dessen, was das menschliche Auge wahrnehmen kann. Indem wir atmosphärische Störungen modellieren und rechnerisch herausfiltern, können wir Nährstoffmängel oder Schädlingsbefall Tage vor ihrer Sichtbarkeit erkennen, was eine Senkung der Vorvisualisierungskosten um 60 % ermöglicht.
In der Versicherung ersetzen wir generische Bildklassifikation durch forensische Computer Vision: semantische Segmentierung, um exakte Schadensgrenzen auf Pixelebene zu bestimmen, monokulare Tiefenschätzung, um das Dellenvolumen ohne 3D-Scanner zu berechnen, und die Analyse spiegelnder Reflexionen, um manipulierte Fotos zu erkennen. Die KI rät nicht, ob ein Schadensfall betrügerisch ist. Sie zeigt Ihnen die Physik dahinter, warum die Lichtmuster im Bild inkonsistent sind.
Woran erkennen Sie, dass Ihre KI-Architektur fehlerhaft ist?
Es gibt eine Frage, die mir in fast jedem Executive Briefing gestellt wird, meist mit einer Mischung aus Skepsis und ehrlicher Sorge: „Wir haben bereits Millionen in unseren aktuellen KI-Stack investiert. Woran erkenne ich, ob es wirklich ein Problem ist?“
Meine ehrliche Antwort: Wenn Ihr KI-System Ihnen nicht sagen kann, warum es eine bestimmte Entscheidung getroffen hat — mit Belegen zu konkreten Datenpunkten —, dann ist das ein Problem. Wenn sich die Lieferantenvielfalt Ihrer Beschaffungs-KI seit der Einführung nicht verbessert hat, ist das ein Problem. Wenn Ihr Operations-Team Behelfslösungen entwickelt hat — Tabellen, die es parallel zum KI-System pflegt, „nur für den Fall“ —, ist das ein Problem.
Die Behelfslösungen sind das verräterische Zeichen. Ich habe Organisationen gesehen, in denen das KI-Dashboard auf dem einen Monitor läuft und die „echte“ Tabelle zur Entscheidungsunterstützung auf dem anderen. Niemand spricht offen darüber. Aber es bedeutet, dass das Team dem System nicht vertraut — und es hat recht damit.
Eine weitere Frage, die ich höre: „Ist das nicht einfach eine Frage der Reife? Werden die Modelle nicht besser?“ Sie werden besser in Sprache. Sie werden nicht besser in Wahrheit. Ein leistungsfähigeres LLM ist ein überzeugenderer Rater, kein zuverlässigerer. Die Architektur muss sich ändern.
Der Zusammenbruch von Sports Illustrated und was auf dem Spiel steht, wenn man das falsch macht
Ich habe einen Screenshot auf meinem Desktop, als Erinnerung. Er stammt vom November 2023, als Sports Illustrated — eine 70 Jahre alte Medieninstitution — dabei erwischt wurde, Artikel unter gefälschten, KI-generierten Verfassernamen zu veröffentlichen. Namen wie „Drew Ortiz“, komplett mit gefälschten Porträtfotos und erfundenen Biografien. Die Inhalte waren roboterhaft, tautologisch und wurden ohne jede Verifikationsschicht veröffentlicht.
Das Ergebnis: ein Kurssturz von 27 % an einem einzigen Tag. Lizenzentzug. Massenentlassungen. Eine Traditionsmarke, ausgeweidet.
Das LLM tat genau das, was LLMs tun — es vervollständigte Muster. Eine Autorenbiografie ist ein statistisch wahrscheinlicher Bestandteil einer Produktbesprechung, also generierte das Modell eine. Zu einer Autorenbiografie gehört ein Porträtfoto, also generierte jemand auch das. Niemand hatte ein System gebaut, das fragt: „Existiert diese Person? Ist dieser Inhalt faktisch verifiziert? Können wir jede Behauptung bis zu einer Quelle zurückverfolgen?“
Das ist der Preis der Wrapper-Illusion im großen Maßstab. Kein lustiger Chatbot-Vorfall. Ein Auslöschungsereignis für ein Unternehmen.
Warum können Sie nicht einfach weiter die API nutzen?
Es gibt eine letzte Dimension, über die die meisten KI-Anbieter nicht sprechen wollen: Datensouveränität.
Wenn Ihr Unternehmen auf eine Drittanbieter-API angewiesen ist — OpenAI, Google, Anthropic —, mieten Sie Intelligenz, die Sie nicht kontrollieren. Sie haben keinen Einblick in die Trainingsdaten des Modells. Sie werden nicht gewarnt, wenn der Anbieter die Gewichte aktualisiert, was das Verhalten Ihres Systems still und leise verändern kann (das nennt sich Model Drift und ist ein Albtraum für regulierte Branchen). Sie haben keine Garantie, dass Ihre proprietären Daten — Geschäftsgeheimnisse, Kundeninformationen, Wettbewerbsinformationen — nicht auf einer Infrastruktur verarbeitet werden, die Sie nicht prüfen können.
Wir betreiben souveräne Enterprise-Modelle auf der eigenen Infrastruktur unserer Kunden. Keine Daten verlassen die Firewall. Keine externen Abhängigkeiten. Volle Kontrolle über den gesamten Lebenszyklus, einschließlich individuellem Fine-Tuning auf proprietären Ontologien und regulatorischen Vorgaben.
Das ist anfangs teurer als ein API-Abonnement. Es ist unendlich billiger als ein Datenleck, eine regulatorische Strafe oder die Entdeckung, dass sich das Verhalten Ihrer KI geändert hat, weil ein Anbieter in San Francisco an einem Dienstagnachmittag ein Update ausgerollt hat.
Das 18-Monats-Fenster
Hier werde ich deutlich, denn ich halte den Zeitrahmen für wichtig.
Organisationen, die 2026 auf deterministische KI-Architekturen umsteigen, haben ein Fenster von 12 bis 18 Monaten echter Wettbewerbsdifferenzierung. Danach wird dieser Ansatz zur Grundvoraussetzung — zur Mindesterwartung an Enterprise-KI in regulierten Branchen.
Die Beschaffungsverzerrung von 3,5:1 wird sich nicht von selbst beheben. Die Erklärbarkeitsquote von 23 % wird sich nicht durch besseres Prompting verbessern. Das Halluzinationsproblem wird mit dem nächsten Modell-Release nicht verschwinden. Das sind architektonische Fehler, und sie erfordern architektonische Lösungen.
Ich sage nicht, dass jedes Unternehmen bauen muss, was wir gebaut haben. Ich sage, dass jedes Unternehmen verstehen muss, was es tatsächlich gekauft hat. Öffnen Sie die Motorhaube. Fragen Sie Ihren Anbieter: Wo ist die Verifikationsschicht? Wo ist der Knowledge Graph? Was passiert, wenn das Modell halluziniert — gibt es eine strukturelle Beschränkung oder nur einen Prompt, der sagt „bitte nicht halluzinieren“?
Wenn die Antwort ein Prompt ist, haben Sie kein KI-System. Sie haben einen sehr teuren Briefkasten für Verbesserungsvorschläge.
Wenn die Antwort Ihres KI-Anbieters auf „Wie verhindern Sie Halluzinationen?“ ein besserer Prompt ist, haben Sie kein KI-System. Sie haben einen sehr teuren Briefkasten für Verbesserungsvorschläge.
Die Ära der probabilistischen Enterprise-KI geht zu Ende — nicht weil die Modelle nicht beeindruckend wären, sondern weil beeindruckend nicht dasselbe ist wie zuverlässig, und im Unternehmen zählt allein Zuverlässigkeit. Wir bauen keine KI, die richtig klingt. Wir bauen KI, die richtig ist — und es beweisen kann.
Das ist kein Verkaufsargument. Das ist eine technische Anforderung. Und die Unternehmen, die das zuerst erkennen, werden diejenigen sein, die noch stehen, wenn die Wrapper auseinanderfallen.
