ChatGPT-Verbot gescheitert – jetzt lecken Ihre Daten

Das Problem

Im Mai 2023 fügten Ingenieure in der Halbleiterdivision von Samsung proprietären Quellcode ein, um ihn mit ChatGPT zu debuggen. Sie luden Chip-Yield-Daten hoch – eines der am strengsten gehüteten Geheimnisse der Halbleiterindustrie. Ein dritter Mitarbeiter speiste eine Aufzeichnung einer internen Besprechung in das Tool ein, um daraus ein Protokoll zu erstellen. Keiner von ihnen beabsichtigte einen Schaden. Es waren leistungsstarke Ingenieure, die ihre Arbeit „debuggen“ und die „Produktivität und Effizienz der Mitarbeitenden steigern“ wollten. Sie behandelten ChatGPT wie einen Taschenrechner – etwas eintippen, eine Antwort bekommen, weitermachen. Ihnen war nicht bewusst, dass OpenAIs Nutzungsbedingungen dem Anbieter erlaubten, ihre Eingaben für das Modelltraining zu speichern.

Samsung reagierte mit einem unternehmensweiten Verbot generativer KI und Kündigungsdrohungen. Doch der Schaden war bereits angerichtet. Ihre proprietäre Fertigungslogik, ihr Fehlererkennungscode und ihre vertraulichen strategischen Diskussionen waren allesamt auf den Servern eines Dritten gelandet.

Diese Geschichte ist nicht auf Samsung beschränkt. Sie ist das vorhersehbare Ergebnis einer Politik, die Mitarbeitenden ein „Nein“ entgegengesetzt, ohne ihnen eine sichere Alternative zu bieten. Ihre Belegschaft steht unter demselben Druck. Wenn Menschen Sicherheitsrichtlinien als Hindernisse bei ihrer Arbeit betrachten, umgehen sie diese. Die Frage ist nicht, ob Ihre Mitarbeitenden KI-Tools nutzen. Die Frage ist, ob Sie sehen können, was sie versenden.

Warum das für Ihr Unternehmen wichtig ist

Die Zahlen erzählen eine Geschichte, die jeden Verantwortlichen für Risiko, Compliance oder finanzielle Performance beunruhigen sollte.

• 50 % der Wissensarbeitenden nutzen inzwischen KI-Tools bei der Arbeit. Die Hälfte Ihrer Belegschaft arbeitet außerhalb der IT-Governance mit ungeprüften Tools.
• 46 % der Beschäftigten sagen, dass sie KI auch dann weiter nutzen würden, wenn ihre Organisation sie verbietet. Ihre Richtlinie ist nicht durchsetzbar.
• 38 % der Beschäftigten geben zu, sensible Arbeitsdaten – geistiges Eigentum, personenbezogene Daten, Finanzdaten – mit KI-Tools zu teilen, ohne ihrem Arbeitgeber davon zu erzählen.
• 72 % der KI-Nutzung in Unternehmen läuft über private Konten. Ihre Organisation hat keinerlei Einblick in die Datenspeicherungsbedingungen, denen diese Mitarbeitenden zugestimmt haben.
• Das an generative KI-Apps gesendete Datenvolumen ist im Jahresvergleich um das 30-Fache gestiegen. Der in diese Tools eingefügte Quellcode sprang um 485 %.

Bedenken Sie, was dies für Ihre Bilanz bedeutet. Ein einziger Datenvorfall mit Geschäftsgeheimnissen kann Wettbewerbsvorteile auslöschen, die über Jahre aufgebaut wurden. Regulatorische Bußgelder nach DSGVO oder sektorspezifischen Vorschriften können zweistellige Millionenbeträge erreichen. Und wenn Ihre Daten auf US-amerikanischen Servern liegen – auch über eine API –, erlaubt der US CLOUD Act amerikanischen Strafverfolgungsbehörden, den Zugriff auf diese Daten zu erzwingen, unabhängig davon, wo der Server physisch steht. Für jede Organisation mit europäischen Aktivitäten schafft dies einen direkten Konflikt mit der DSGVO.

Sie können kein Risiko managen, das Sie nicht sehen. Shadow AI – Mitarbeitende, die nicht freigegebene KI-Tools nutzen – ist das neue Datenleck, nur dass in diesem Fall Ihre eigenen Leute die Daten freiwillig aushändigen.

Was unter der Haube tatsächlich passiert

Die meisten Organisationen reagieren auf KI-Risiken auf eine von zwei Arten: Sie blockieren sie vollständig, oder sie kaufen einen „AI Wrapper“ – eine dünne Softwareschicht, die sich über einen öffentlichen KI-Dienst wie OpenAIs API legt. Keiner dieser Ansätze löst das Kernproblem.

Blockieren scheitert, weil Ihre Mitarbeitenden private Smartphones mit eigenen 5G-Verbindungen bei sich tragen. Ein Netzwerkfilter des Unternehmens erreicht ein privates Gerät auf dem Schreibtisch eines Mitarbeiters nicht. Die „Air Gap“ zwischen Firmenlaptop und privatem Telefon wird jedes Mal überbrückt, wenn jemand Daten eintippt oder abfotografiert und in ein öffentliches KI-Tool einfügt. Und es sind nicht nur drei oder vier KI-Apps zu blockieren. Das Sicherheitsunternehmen Netskope verzeichnet über 317 verschiedene generative KI-Apps in Unternehmensnutzung. Blockieren Sie die großen Namen, und Ihre Leute weichen einfach auf kleinere, weniger sichere Startups mit schlechteren Datenschutzrichtlinien aus.

Wrapper scheitern aus einem anderen Grund. Denken Sie sich einen AI Wrapper wie einen Geldautomaten mit fremdem Branding bei einer ausländischen Bank. Der Bildschirm sieht anders aus, aber Ihr Geld fließt trotzdem durch das System eines anderen. Ein AI Wrapper nimmt den Prompt Ihres Mitarbeiters, fügt eventuell eine versteckte Anweisung hinzu („Sie sind ein hilfreicher Rechtsassistent“) und sendet ihn direkt an die Server des API-Anbieters. Ihre Daten verlassen weiterhin Ihr Netzwerk. Das Souveränitätsproblem – wer kontrolliert die Daten und unter welcher Rechtshoheit – bleibt völlig ungelöst. Sie zahlen nur für eine hübschere Version desselben Risikos.

Das eigentliche Versagen liegt in der Architektur. Wenn Ihre Daten Ihren Perimeter verlassen und in die Cloud eines Drittanbieters gelangen, verlieren Sie die technische Kontrolle. Selbst „Enterprise“-API-Stufen, die null Datenspeicherung versprechen, behalten Daten oft bis zu 30 Tage zum Missbrauchsmonitoring. Das ist ein 30-Tage-Fenster, in dem Ihre sensibelsten Informationen auf dem Speicher eines anderen liegen.

Was funktioniert (und was nicht)

Drei gängige Ansätze, die scheitern:

KI vollständig verbieten: Ihre Mitarbeitenden ignorieren das Verbot. 46 % sagen das offen. Die Nutzung geht in den Untergrund und schafft mehr Risiko, nicht weniger.

Domains mit Firewalls blockieren: Mitarbeitende umgehen das mit Privatgeräten und mobilen Hotspots. Es gibt über 317 KI-Apps – Sie können nicht alle blockieren.

Einen API Wrapper kaufen: Ihre Daten reisen weiterhin zur Verarbeitung in die Cloud eines Drittanbieters. Sie bekommen ein schöneres Interface, aber dieselbe Datensexposition. Der US CLOUD Act gilt weiterhin.

Was funktioniert, ist der Einsatz eines Private Enterprise LLM – eines großen Sprachmodells, das vollständig innerhalb Ihrer eigenen Infrastruktur läuft. So funktioniert die Architektur in drei Schritten:

1. Die Eingabe bleibt innerhalb Ihrer Wände. Wenn ein Entwickler einen Prompt mit proprietärem Code sendet, reist dieser Code vom Laptop zu einem GPU-Server innerhalb Ihrer eigenen Virtual Private Cloud (VPC) – Ihrem abgesicherten, privaten Bereich der Cloud. Er überquert nie das öffentliche Internet. Er berührt nie einen Server eines Drittanbieters.

2. Die Verarbeitung erfolgt auf Hardware, die Sie kontrollieren. Open-Weight-Modelle wie Metas Llama 3 können auf Ihrer eigenen GPU-Infrastruktur laufen. Die 70-Milliarden-Parameter-Version liefert eine Reasoning-Qualität, die mit GPT-4 vergleichbar ist. Sie laden die Modellgewichte einmal herunter und führen sie lokal aus. Sie mieten keine Intelligenz über eine API. Sie besitzen die Fähigkeit.

3. Die Ausgabe folgt Ihren Regeln, nicht denen eines Anbieters. Sie legen Guardrails um das Modell – im Wesentlichen eine Firewall für KI-Prompts. Tools wie NVIDIA NeMo Guardrails scannen jede Eingabe auf personenbezogene Daten, bevor sie das Modell erreicht. Sie blockieren themenfremde Anfragen. Sie erkennen Jailbreak-Versuche. Und entscheidend: Das System respektiert Ihre bestehenden Zugriffskontrollen. Wenn ein Mitarbeitender keine Berechtigung hat, ein Dokument in SharePoint zu sehen, ruft die KI es nicht ab, um seine Frage zu beantworten.

Der Audit-Trail-Vorteil ist das, was dies für Ihre Compliance- und Legal-Teams real macht. Sie kontrollieren jedes Protokoll. Sie können genau sehen, wer wann was gefragt hat und was die KI zurückgegeben hat. Sie können die Datenherkunft und Rückverfolgbarkeit bei jeder Interaktion überprüfen. Ihr General Counsel kann den Aufsichtsbehörden gegenüber belegen, dass sensible Daten Ihre Umgebung nie verlassen haben – nicht durch eine vertragliche Zusicherung eines Anbieters, sondern durch eine technische Architektur, die sie überprüfen können.

Auch die Ökonomie kippt bei Skalierung zu Ihren Gunsten. Ein mittelständisches Unternehmen, das eine Milliarde Token pro Monat verarbeitet, zahlt für eine GPT-4-Klasse-API möglicherweise 5.000 bis 15.000 USD monatlich. Dieselbe Arbeitslast auf einem selbst gehosteten Llama 3 auf zwei A100-GPUs kostet grob 2.000 bis 4.000 USD pro Monat – eine Reduktion um 50 bis 70 Prozent. Und Datenschutz ist ohne Aufpreis inklusive.

Sicherheit im Zeitalter der KI bedeutet nicht mehr, „Nein“ sagen zu können. Es geht um die architektonische Fähigkeit, „Ja, sicher“ sagen zu können. Ihre Mitarbeitenden haben Ihnen bereits zu verstehen gegeben, dass sie KI wollen. Die Frage ist, ob Sie ihnen eine sichere, souveräne Bereitstellung geben – oder ob Sie es zulassen, dass sie Ihre Geheimnisse weiterhin in das System eines anderen einspeisen.

Die Organisationen, die gedeihen werden, sind nicht die, die KI am härtesten verboten haben. Es werden die sein, die die Infrastruktur besaßen und die Daten kontrollierten.