Warum ich aufgehört habe, KI zu vertrauen — und stattdessen Oracles baue

Die E-Mail traf an einem Dienstag um 23:47 Uhr ein. Ein Batteriehersteller, mit dem wir im Gespräch waren, hatte gerade eine Lieferung Zellen aus der Fertigung genommen. Nicht weil sie einen Test nicht bestanden hätten — sondern weil ihr KI-gestütztes Materialscreening-Tool einen Kandidaten-Elektrolyten durchgelassen hatte, der sich, als ein menschlicher Chemiker schließlich die Zahlen durchrechnete, oberhalb von 150 °C als thermodynamisch instabil erwies. Das Material wäre in einem Batteriepack zerfallen. Der Zerfall hätte Wärme freigesetzt. Die Wärme hätte ausgelöst, was die Branche euphemistisch „thermisches Durchgehen“ nennt — und was der Rest von uns Feuer nennt.

Niemand kam zu Schaden. Aber ich saß an meinem Schreibtisch, starrte auf diese E-Mail und dachte über das Wort „plausibel“ nach. Die KI hatte sich in keiner offensichtlichen Weise geirrt. Die von ihr empfohlene Molekülstruktur wirkte vernünftig. Die von ihr vorhergesagte Bildungsenergie lag in der richtigen Größenordnung. Sie war plausibel. Sie war nur nicht wahr.

Diese Unterscheidung — zwischen plausibel und wahr — ist die Bruchlinie, die derzeit durch die gesamte KI-Branche verläuft. Und sie ist der Grund, warum ich Veriprajna gegründet habe.

Die Wrapper-Ökonomie hat ein Wahrheitsproblem

Das ist es, was die meisten Menschen über die aktuelle Welle von KI-Produkten nicht begreifen: Die überwiegende Mehrheit von ihnen sind dünne Schnittstellenschichten — „Wrapper“ —, die auf universellen Large Language Models aufsitzen. Das LLM sagt den nächsten wahrscheinlichsten Token voraus. Der Wrapper lässt es wie eine App aussehen. Der Nutzer nimmt an, er bekomme Antworten. Er bekommt Wahrscheinlichkeiten.

Zum Verfassen von Werbetexten oder zum Zusammenfassen von Besprechungsnotizen ist das in Ordnung. Wahrscheinlichkeiten sind gut genug. Aber die Unternehmen, mit denen ich arbeite, haben nicht den Luxus von „gut genug“. Sie bauen Batterien, die in Elektrofahrzeuge eingebaut werden. Sie produzieren Audioinhalte, die weltweit ausgestrahlt werden. Für sie ist eine Antwort, die zu 99 % plausibel, aber zu 1 % physikalisch unmöglich ist, kein Rundungsfehler. Sie ist ein thermisches Ereignis oder eine Urheberrechtsklage.

Wenn Ihre KI für etwas verantwortlich ist, das Feuer fangen oder Sie vor Gericht bringen kann, ist „statistisch wahrscheinlich“ nicht dasselbe wie „korrekt“.

Ich habe begonnen, dies die Bifurkation der KI zu nennen. Auf der einen Seite die Wrapper-Ökonomie — schnell, zugänglich, auf stochastischer Vorhersage aufgebaut. Auf der anderen das, was wir bei Veriprajna tun: Deep AI, bei der jede Ausgabe gegen unveränderliche Regeln validiert wird, bevor ein Mensch sie je zu Gesicht bekommt. Physik. Logik. Provenienz. Die Dinge, die sich nicht um die Verteilung Ihrer Trainingsdaten scheren.

Was passiert, wenn KI Chemie vorhersagt, die sie nicht versteht?

Lassen Sie mich das am Batterieproblem konkret machen, denn es lässt mich nicht los.

Lithium-Ionen-Batterien versagen durch eine deterministische Abfolge chemischer Zersetzungen. Sie beginnt bei etwa 80–100 °C, wenn sich die Schutzschicht an der Anode — die sogenannte Solid Electrolyte Interphase — zersetzt. Bei 110–135 °C schmilzt der Separator und der Elektrolyt beginnt, in brennbare Gase zu zerfallen. Oberhalb von 200 °C bricht die Kathode zusammen, setzt Sauerstoff frei, und es kommt zur Verbrennung.

Der Elektrolyt ist die kritische Variable. Herkömmliche Flüssigelektrolyte — typischerweise Lithiumhexafluorophosphat, gelöst in Carbonat-Lösungsmitteln — sind bei erhöhten Temperaturen chemisch instabil. Sie sind buchstäblich die Brennstoffquelle beim Verbrennungsereignis. Um thermisches Durchgehen zu verhindern, insbesondere in Hochspannungs- oder Hochtemperaturanwendungen, brauchen wir Elektrolyte mit Zersetzungsenergien, die sie weit über diese Schwelle von 200 °C hinaus stabil halten.

Das Problem ist, sie zu finden. Der chemische Raum möglicher anorganischer Kristalle umfasst schätzungsweise 10^100 Kombinationen. Jahrzehntelang haben Materialwissenschaftler diesen Raum so erkundet, wie Edison Glühfäden testete: eine Struktur vermuten, sie im Labor synthetisieren, sie testen, monatelang auf Ergebnisse warten. Und die menschliche Intuition verleitet uns zu Modifikationen bekannter Familien — Granate, Perowskite — statt uns in wirklich neues Kompositionsterritorium vorzuwagen.

Also wandte sich die Branche der KI zu. Ergibt Sinn. Aber hier ging es für viele Teams schief: Sie richteten ein LLM auf das Problem. Ein LLM, das Millionen von Chemie-Aufsätzen „gelesen“ hatte, konnte Molekülstrukturen vorhersagen — aber es sagt Tokens voraus, nicht Elektronendichten. Es hat kein Konzept von Wertigkeitsregeln, kein Verständnis quantenmechanischer Kräfte. Es kann eine Kristallstruktur halluzinieren, die auf dem Papier richtig aussieht, aber die Gesetze der Physik auf eine Weise verletzt, die sich erst zeigt, wenn man versucht, sie zu bauen.

Genau das geschah mit jener nächtlichen E-Mail. Die KI schlug einen Kandidaten vor. Der Kandidat war plausibel. Er war nicht real.

Die Oracle-Architektur: Wie wir das tatsächlich lösen

Nach diesem Vorfall führten mein Team und ich ein langes, unbequemes Gespräch darüber, was wir wirklich bauten. Bauten wir eine KI, die Antworten generiert? Oder eine KI, die Wahrheit entdeckt?

Wir haben uns für die Wahrheit entschieden. Und Wahrheit erfordert ein Oracle.

Unsere Architektur für die Materialentdeckung koppelt Google DeepMinds GNoME — Graph Networks for Materials Exploration — mit einer rigorosen Validierung durch Dichtefunktionaltheorie. Die zentrale Erkenntnis ist diese: Wir nutzen KI nicht zur Beantwortung der Frage. Wir nutzen KI zum Vorschlagen von Kandidaten aus einem riesigen Suchraum, und dann validieren wir jeden einzelnen gegen die Gesetze der Physik, bevor er irgendwohin gelangt.

GNoME behandelt Kristallstrukturen als Graphen — Atome sind Knoten, chemische Bindungen sind Kanten. Anders als ein LLM, das linearen Text verarbeitet, versteht GNoME 3D-Geometrie und Topologie. Es ist so konstruiert, dass es das ist, was Physiker E(3)-äquivariant nennen, das heißt, seine Vorhersagen ändern sich nicht, wenn man den Kristall im Raum dreht. Das ist kein Merkmal, das man nachträglich anschraubt. Es ist eine mathematische Einschränkung, die in die Architektur eingebacken ist. Das Modell kann nicht gegen die Rotationssymmetrie verstoßen.

Aber selbst GNoME ist probabilistisch. Es sagt Bildungsenergien voraus — die Energie, die nötig ist, um einen Kristall aus seinen Elementen zusammenzusetzen —, aber diese Vorhersagen sind mit Unsicherheit behaftet. Ein Kristall mag dem neuronalen Netz stabil erscheinen und dennoch thermodynamisch gegenüber anderen möglichen Phasen nicht konkurrenzfähig sein.

Also bauten wir die Oracle-Schicht.

Warum ist die DFT-Validierung für die Batteriesicherheit wichtig?

Die Dichtefunktionaltheorie ist eine quantenmechanische Methode, die die Lösung der Schrödinger-Gleichung annähert. Sie berechnet Elektronendichte und Gesamtenergie mit hoher Präzision. Sie ist rechenintensiv — eine einzige Berechnung kann Hunderte von CPU-Stunden dauern —, aber sie halluziniert nicht. Sie löst Gleichungen. Die Antwort ist entweder richtig, oder sie ist ein numerischer Fehler, den man quantifizieren und eingrenzen kann.

Wir fahren eine gestufte Validierungsstrategie. Machine-Learning-Kraftfelder übernehmen die anfängliche geometrische Relaxation — und filtern Kandidaten heraus, die offensichtlich defekt sind. Dann führen Berechnungen auf PBE-Niveau ein Hochdurchsatz-Screening durch. Die Überlebenden werden mit r²SCAN validiert, einem Meta-GGA-Funktional, das Gitterkonstanten und Bildungsenergien für stark gebundene Systeme präzise vorhersagt. Übergangsmetalle erhalten eine zusätzliche Hubbard-U-Korrektur, um Selbstwechselwirkungsfehler in d-Orbitalen zu behandeln.

Mir ist klar, dass ich Ihnen gerade eine Menge Physik-Fachjargon zugeworfen habe. Der Kernpunkt ist einfacher als die Details: Wir haben mehrere Schichten zunehmend teurer und genauer physikalischer Simulation, und jeder Kandidat muss sie alle überstehen, bevor wir ihn je für eine Batterie empfehlen würden.

Die Metrik, die am meisten zählt, ist das, was wir „Distance to Hull“ (Abstand zur Hülle) nennen. Stellen Sie sich vor, jedes mögliche Material in einem gegebenen Kompositionsraum in ein Diagramm einzuzeichnen — die Zusammensetzung auf der einen Achse, die Energie auf der anderen. Die stabilen Materialien bilden eine untere Grenze, eine „konvexe Hülle“. Alles oberhalb dieser Hülle zerfällt spontan in die Materialien auf ihr. Ein Material mit einem Abstand zur Hülle von null ist der thermodynamische Grundzustand. Ein Material mit einem Abstand von mehr als 100 meV/Atom wird mit ziemlicher Sicherheit auseinanderfallen — und in einer Batterie bedeutet Auseinanderfallen, Wärme freizusetzen.

Die konvexe Hülle schert sich nicht um den Konfidenzwert Ihres neuronalen Netzes. Ein Material ist entweder thermodynamisch stabil oder nicht.

Das Schwungrad, das über Nacht schlauer wird

Was dies zu mehr als einer einmaligen Pipeline macht, ist die Schleife des aktiven Lernens. GNoME erzeugt Tausende von Kandidatenstrukturen. Wir wählen jene aus, die das Modell für am vielversprechendsten hält und jene, bei denen es am unsichersten ist — Ausnutzung und Erkundung zugleich. Diese gehen an den DFT-Cluster. Die wahren Energien kommen zurück und werden in GNoMEs Trainingssatz eingespeist. Das Modell trainiert neu. Seine interne Physik wird korrigiert.

Ich erinnere mich an das erste Mal, als wir die Trefferquote steigen sahen — den Prozentsatz der von der KI vorgeschlagenen Materialien, die sich nach der DFT-Validierung tatsächlich als stabil erwiesen. Die traditionelle Zufallssuche liegt unter 1 %. Standard-Machine-Learning bringt Sie auf vielleicht 50 %. Nach mehreren Zyklen aktiven Lernens übertraf unsere GNoME-gesteuerte Pipeline 80 %.

Mein Mitgründer sah auf das Dashboard und sagte: „Es rät nicht mehr. Es lernt, was Stabilität bedeutet.“ Das war der Moment, in dem ich wusste, dass wir etwas hatten. Nicht weil die Zahl für sich genommen beeindruckend war, sondern weil das System durch Iteration auf die physikalische Realität zusteuerte, nicht durch Auswendiglernen.

Ausführlicher habe ich über diese Architektur in der interaktiven Version unserer Forschung geschrieben, falls Sie den vollständigen Workflow sehen möchten.

Die andere Art der Explosion: Urheberrecht bei generativem Audio

Lassen Sie mich Ihnen nun von einer völlig anderen Domäne erzählen, in der dieselbe Architekturphilosophie — vorschlagen, dann validieren — uns vor einer anderen Art von Katastrophe bewahrte.

Ein Medienunternehmen trat mit dem Anliegen an uns heran, Audioinhalte in großem Maßstab zu generieren. Es verfügte über eine riesige Bibliothek lizenzierter Musik und Sprachaufnahmen. Es wollte KI nutzen, um aus dieser Bibliothek neue Inhalte zu schaffen — lokalisierte Voiceover, neu abgemischte Soundtracks, solche Dinge. Es hatte mit generativen Audio-Tools von der Stange experimentiert.

Ich stellte eine einzige Frage: „Können Sie für eine beliebige Ausgabe genau nachweisen, welche lizenzierten Quellen dazu beigetragen haben?“

Stille.

Das ist das Blackbox-Problem in generativen Medien. Diffusionsmodelle — die Architektur hinter den meisten KI-Audio- und Bildgeneratoren — werden auf riesigen, aus dem Internet abgeschöpften Datensätzen trainiert. Wenn sie eine Ausgabe erzeugen, durchqueren sie einen hochdimensionalen latenten Raum, um etwas Neues zu synthetisieren. Die Ausgabe ist eine mathematische Verschmelzung der Trainingsdaten. Sie können nicht nachverfolgen, welche Trainingsbeispiele welche Teile des Ergebnisses beeinflusst haben.

Für einen Verbraucher, der mit KI-Musik-Tools herumspielt, ist das eine Kuriosität. Für ein globales Medienunternehmen ist es ein existenzielles Rechtsrisiko. Wenn ein generierter Audiotrack eine vier Takte lange Schleife enthält, die mit einem urheberrechtlich geschützten Song identisch ist, haftet das Unternehmen für die Verletzung — selbst wenn es niemand beabsichtigt hat. Die Gerichte verhandeln derzeit aktiv, ob das Training mit urheberrechtlich geschützten Daten eine faire Nutzung (Fair Use) darstellt (Andersen v. Stability AI, New York Times v. OpenAI). Ein Unternehmen, dessen Content-Pipeline von diesen Tools abhängt, könnte eines Morgens aufwachen und seine gesamte Asset-Bibliothek rechtlich kontaminiert vorfinden.

Ein Medienunternehmen, das die Provenienz seiner KI-generierten Inhalte nicht nachweisen kann, baut auf Sand — rechtlichem Sand, der sich mit jedem Gerichtsurteil verschiebt.

Wie baut man KI-Audio, das seine eigene Unschuld beweisen kann?

Wir haben das Paradigma „aus Rauschen generieren“ vollständig verworfen. Stattdessen haben wir das gebaut, was ich als Retrieval-Augmented Generation für Audio betrachte — denselben konzeptionellen Schritt, den RAG in den Text gebracht hat, aber angewandt auf Klang.

Die Pipeline hat zwei Phasen: Dekonstruktion und Rekonstruktion.

Für die Dekonstruktion verwenden wir Hybrid Transformer Demucs — ein Quellentrennungsmodell, das gemischtes Audio nimmt und in einzelne Stems isoliert: Gesang, Schlagzeug, Bass, andere Instrumente. Die Architektur ist ein U-Net mit Skip-Connections (das hochfrequente Details bewahrt, die sonst in der Kompression verloren gingen) und einem Transformer-Encoder am Flaschenhals, der Self-Attention nutzt, um die gesamte Audiosequenz zu analysieren. Es verarbeitet Audio gleichzeitig im Zeitbereich und im Frequenzbereich und fügt Informationen aus beiden zusammen.

Wir ließen Demucs über das gesamte lizenzierte Archiv des Kunden laufen. Tausende Stunden gemischten Audios, getrennt in saubere, isolierte Stems, jeder nach Audiomerkmalen — Klangfarbe, Tonhöhe, Rhythmus — getaggt und indexiert. Wir hatten ihren Backkatalog von einer Sammlung fertiger Songs in eine riesige Bibliothek von Bausteinen verwandelt.

Für die Rekonstruktion — speziell für Sprachinhalte — verwenden wir Retrieval-Based Voice Conversion. Das unterscheidet sich grundlegend von Text-to-Speech oder diffusionsbasierter Stimmgenerierung. RVC ist Speech-to-Speech: Es nimmt eine Eingabeaufnahme (etwa einen Kreativdirektor, der ein Skript auf seinem Telefon liest) und transformiert die Klangfarbe so, dass sie zu einer lizenzierten Zielstimme passt, während die Intonation und der Rhythmus der ursprünglichen Darbietung erhalten bleiben.

Der entscheidende Mechanismus steckt im Namen: Retrieval. Wir verwenden HuBERT, um sprecherunabhängige Inhaltsmerkmale aus der Eingabe zu extrahieren. Dann fragen wir für jeden Frame einen FAISS-Index von Merkmalsvektoren ab, die aus den Aufnahmen des lizenzierten Synchronsprechers abgeleitet sind. Wir holen die am besten passenden akustischen Details — die Behauchtheit, die Resonanz, die spezifische stimmliche Qualität — aus tatsächlich autorisierten Aufnahmen. Die Ausgabe klingt wie die Zielstimme, weil wir spezifische Datenpunkte aus ihrem lizenzierten Index gezogen haben, nicht weil ein neuronales Netz eine Annäherung erträumt hat.

Ich kann nicht genug betonen, wie sehr das rechtlich zählt. In einem Deepfake-Modell existiert die Zielstimme als undurchsichtige Gewichte eines neuronalen Netzes. In unserem System lässt sich jedes akustische Detail auf eine bestimmte, mit Zeitstempel versehene, lizenzierte Aufnahme zurückführen. Die Kette der Rechteinhaberschaft ist ungebrochen.

Die Unterlagen, die mit dem Klang mitreisen

Provenienz-sauberes Audio zu generieren ist notwendig, aber nicht ausreichend. Das Asset muss seinen eigenen Nachweis mit sich führen. Wir implementieren den C2PA-Standard — Coalition for Content Provenance and Authenticity —, der manipulationsevidente Provenienzdaten mittels Public-Key-Kryptografie direkt in Mediendateien einbettet.

Jede Audiodatei, die wir generieren, wird mit einem signierten Manifest ausgeliefert: dem Hash des Eingabe-Leittracks, der ID des lizenzierten Stimmmodells, der vollständigen Abfolge der Verarbeitungsvorgänge und der Tool-Version. Jeder nachgelagerte Nutzer — eine Streaming-Plattform, ein Rundfunkanbieter — kann die Signatur validieren und bestätigen, dass das Asset vollständig aus autorisierten Quellen erstellt wurde.

Wir haben außerdem den Structural Similarity Index für die Audioqualitätskontrolle angepasst. Durch den Vergleich der Spektrogramme des Eingabe-Leittracks und der Ausgabe erkennen wir Fälle, in denen die KI die Darbietung verzerrt hat — ein Wort ausgelassen, den Rhythmus verändert, eine Pause halluziniert. Alles unterhalb einer SSIM-Schwelle von 0,95 wird automatisch zur menschlichen Überprüfung markiert.

Für die vollständige technische Aufschlüsselung sowohl der Material- als auch der Audioarchitekturen siehe unser Forschungspapier.

Und was ist mit einfach besseren Prompts?

Menschen widersprechen diesem Ansatz. Sie sagen mir, wir würden das Problem überkonstruieren. „Nutzen Sie einfach ein besseres Modell.“ „Feintunen Sie einfach auf Ihren Domänendaten.“ „Fügen Sie einfach einen Haftungsausschluss hinzu.“

Ein Investor sagte mir einmal unverblümt: „Nutzen Sie einfach GPT mit einem guten System-Prompt und sparen Sie sich die Infrastrukturkosten.“ Ich fragte ihn, ob er seine Familie in ein Elektrofahrzeug setzen würde, dessen Batterieelektrolyt von einem System-Prompt ausgewählt wurde. Er wechselte das Thema.

Der tiefere Einwand betrifft Kosten und Komplexität. Ja, DFT-Berechnungen auf einem HPC-Cluster durchzuführen ist teurer als der Aufruf einer API. Ja, eine FAISS-indexierte Stem-Datenbank mit C2PA-Signierung aufzubauen ist schwieriger, als ein Diffusionsmodell auf einen Textprompt zu richten. Aber die Frage ist nicht, ob die deterministische Validierung teurer ist als die probabilistische Generierung. Die Frage ist, ob sie teurer ist als ein Batterierückruf. Oder eine Urheberrechtsklage, die Ihre gesamte Inhaltsbibliothek ungültig macht.

Andere fragen, ob dieser Ansatz skaliert. Das tut er — genau dafür ist das Schwungrad des aktiven Lernens da. Das System wird mit jedem Zyklus effizienter. Die Trefferquote steigt. Die Kosten pro validiertem Kandidaten sinken. Die Stem-Datenbank wächst. Sie lösen nicht nur das heutige Problem; Sie bauen einen Motor, der sich potenziert.

Das Ende des KI-Tourismus

Ich glaube, wir stehen an einem Wendepunkt. Die Ära des Experimentierens mit KI — Chatbots im Empfangsbereich, Copilots in der Seitenleiste, Wrapper auf allem — geht zu Ende. Nicht weil diese Tools nicht nützlich wären, sondern weil die Unternehmen, die am meisten zählen, nun versuchen, KI in den Kern ihres Betriebs zu bringen. In das F&E-Labor. In das Produktionsstudio. In die Systeme, in denen Versagen Konsequenzen hat, die in thermischen Ereignissen und Rechtsstreitigkeiten gemessen werden, nicht in unbeholfenen Chatbot-Antworten.

In diesen Umgebungen ist die Toleranz für Halluzinationen null. Nicht niedrig. Null.

Die Architektur, die wir bei Veriprajna gebaut haben — für Batterien, für Audio, für jede Domäne, in der Wahrheit nicht verhandelbar ist —, beruht auf einem einzigen Prinzip: Die generative Kraft des neuronalen Netzes muss der prüfenden Kraft des Oracles strikt untergeordnet sein. Die KI schlägt vor. Die Physik entscheidet. Die KI setzt zusammen. Die Provenienz beweist. Die kreative Kapazität dieser Modelle ist außergewöhnlich. Aber Kreativität ohne Rechenschaft ist nur ausgeklügeltes Raten.

Für den Batteriehersteller ist eine Halluzination ein Feuer. Für das Medienunternehmen ist eine Halluzination eine Klage. Die einzige tragfähige Architektur beschränkt die Generierung durch Verifizierung — jedes Mal, ohne Ausnahme.

Ich glaube nicht, dass die Zukunft der KI den Modellen gehört, die die überzeugendsten Ausgaben generieren. Ich glaube, sie gehört den Systemen, die beweisen können, dass ihre Ausgaben wahr sind. Einschränkungen begrenzen nicht die Intelligenz. Sie erschaffen Realität.