Jenseits des 0.001%-Trugschlusses: Architektonische Integrität und regulatorische Rechenschaftspflicht in Enterprise Generative AI

Die Industrialisierung der generativen künstlichen Intelligenz hat einen kritischen Wendepunkt erreicht, an dem die anfängliche Euphorie rascher Einführung durch die nüchternen Realitäten regulatorischer Prüfung und technischer Grenzen abgelöst wird. Im September 2024 veränderte sich die Landschaft der KI-Rechenschaftspflicht grundlegend, als der Attorney General von Texas eine wegweisende Einigung mit Pieces Technologies erzielte, einem auf das Gesundheitswesen spezialisierten KI-Unternehmen mit Sitz in Dallas.¹ Im Zentrum der Durchsetzungsmaßnahme stand die Behauptung des Unternehmens, dass seine klinische Dokumentationssoftware eine „kritische Halluzinationsrate“ von weniger als 0.001 % aufweise – eine Kennzahl, die der Staat sowohl als ungenau als auch als irreführend einstufte.³ Dieser Vorfall stellt nicht bloß ein Marketingversagen dar; er dient als systemische Diagnose der Risiken, die „wrapper-basierten“ KI-Strategien innewohnen, und unterstreicht die Notwendigkeit eines Übergangs zu Deep-AI-Lösungen, die architektonische Integrität über statistische Übertreibung stellen.

Für Unternehmensführung und technische Architekten liefert der Fall Pieces Technologies einen Bauplan für die sich wandelnden Standards der KI-Governance. Die betreffende Software wurde in mindestens vier großen texanischen Krankenhäusern eingesetzt – darunter Houston Methodist, Children’s Health System of Texas, Texas Health Resources und Parkland Hospital & Health System –, wo sie zur Zusammenfassung von Patientenakten, zum Entwurf klinischer Notizen und zur Verfolgung von Entlassungshindernissen genutzt wurde.⁴ Wenn KI-Systeme in solch risikoreiche Umgebungen integriert werden, ist die Fehlertoleranz nicht bloß eine statistische Kuriosität, sondern eine Frage der klinischen Sicherheit und des öffentlichen Interesses.¹ Dieses Whitepaper untersucht die technischen, rechtlichen und operativen Dimensionen dieses Wandels und liefert einen rigorosen Rahmen, mit dem Unternehmen KI-Systeme bewerten, implementieren und überwachen können, die über einfache API-Abstraktionen hinaus zu verifizierbarer, tief integrierter Intelligenz fortschreiten.

Die technische Anatomie der 0.001-Prozent-Behauptung

Die Behauptung einer Halluzinationsrate von weniger als eins zu 100.000 ist im Kontext von Large Language Models (LLMs) mathematisch und operativ bedeutsam. LLMs sind grundlegend probabilistische Engines, die Tokens auf Basis gelernter Muster vorhersagen und nicht auf deterministischer Logik beruhen. Das mathematische Fundament dieses Prozesses stützt sich auf die bedingte Wahrscheinlichkeit einer Sequenz, wobei die Wahrscheinlichkeit einer generierten Ausgabe das Produkt der Wahrscheinlichkeiten jedes einzelnen Tokens in dieser Sequenz ist.⁸ Diese Beziehung lässt sich ausdrücken als:

In dieser Gleichung steht für den Eingabeprompt, ist das -te generierte Token, und steht für die Parameter des Modells.⁸ Halluzinationen treten auf, wenn das Modell einem Token eine hohe Wahrscheinlichkeit zuweist, der linguistisch plausibel, angesichts des Eingabekontexts aber faktisch falsch ist. Diese Fehler mit der Präzision von 0.001 % zu messen, erfordert einen außerordentlich großen und perfekt annotierten „Goldstandard“-Datensatz, der für den stark fragmentierten und idiosynkratischen Bereich klinischer Zusammenfassungen derzeit nicht existiert.⁴

Die Untersuchung des Texas Attorney General kam zu dem Schluss, dass die Kennzahlen, mit denen Pieces Technologies seine Produkte bewarb, „wahrscheinlich ungenau“ waren und Krankenhauskunden potenziell über die Sicherheit und Genauigkeit der Tools irreführten.⁴ Während das Unternehmen seine Fehlerrate verteidigte und sich auf seine proprietäre „SafeRead“-Plattform sowie den Einsatz adversarieller KI zur Kennzeichnung von Halluzinationen berief, konzentrierte sich die Aufsichtsbehörde auf den Mangel an Transparenz darüber, wie diese Kennzahlen definiert und berechnet wurden.⁴ Dies verdeutlicht eine grundlegende Spannung in der Branche: Anbieter entwickeln häufig interne Benchmarks, denen die für eine Validierung auf Unternehmensniveau erforderliche Strenge und Unabhängigkeit fehlt.¹

Vergleichende Leistungskennzahlen in der klinischen KI

Kennzahltyp	Standarddefinition	Behauptungen im Pieces-Fall	Regulatorische Erwartung
Kritische Halluzinationsrate	Anteil der Ausgaben mit Fehlern, die zu klinischem Schaden führen könnten.	<0.001% (oder <1 pro 100.000).1	Belegt durch unabhängige Drittaudits.11
Schwere Halluzinationsrate	Anteil der Ausgaben mit erfundenen medizinischen Fakten oder Diagnosen.	<0.001%.3	Klare Offenlegung der „Bedeutung oder Definition“ der Kennzahl.1
Retrieval-Präzision	Verhältnis der relevanten abgerufenen Dokumente zu allen abgerufenen Dokumenten.	Nicht explizit in Prozenten vermarktet.	Muss offengelegt werden, wenn damit Genauigkeit behauptet wird.11
Faithfulness/Groundedness	Ausmaß, in dem die Antwort ausschließlich aus dem bereitgestellten Kontext abgeleitet wird.	Gesteuert durch adversarielle KI.9	Offenlegung der Methoden zur Berechnung dieser Messwerte.11

Dekonstruktion des regulatorischen Rahmens: Die Einigung mit dem Texas AG

Die im September 2024 abgeschlossene Einigung war die erste ihrer Art, die ein generatives KI-Unternehmen im Gesundheitswesen wegen irreführender Marketingpraktiken nach dem Texas Deceptive Trade Practices–Consumer Protection Act (DTPA) ins Visier nahm.¹ Für Unternehmensführer ist es wichtig zu erkennen, dass der Attorney General keine neue KI-spezifische Gesetzgebung benötigte, um tätig zu werden; bestehende Verbraucherschutz- und Datenschutzgesetze reichten aus, um die mutmaßlichen Falschdarstellungen anzugehen.¹⁰

Die von Pieces Technologies eingegangene Assurance of Voluntary Compliance (AVC) schreibt einen fünfjährigen Zeitraum erhöhter Transparenz und Offenlegung vor.¹¹ Dieses Rechtsinstrument setzt einen bedeutenden Präzedenzfall dafür, wie KI-Unternehmen mit ihren Kunden und der Öffentlichkeit interagieren müssen. Eine der kritischsten Anforderungen lautet, dass das Unternehmen allen aktuellen und künftigen Kunden „klare und auffällige Offenlegungen“ zu „bekannten oder vernünftigerweise erkennbaren schädlichen oder potenziell schädlichen Nutzungen oder Fehlanwendungen“ seiner Produkte bereitstellen muss.¹ Dadurch verschiebt sich die Risikolast vom Krankenhaus zum Anbieter, der proaktiv die Grenzen seiner Technologie identifizieren und kommunizieren muss.

Darüber hinaus verpflichtet die Einigung Pieces, die spezifischen Daten und Modelle offenzulegen, die zum Training seiner Produkte verwendet wurden, sowie die Methodik zur Berechnung aller beworbenen Leistungskennzahlen.¹ Dieses Maß an Transparenz soll sicherstellen, dass klinisches Personal versteht, inwieweit es sich bei der Patientenversorgung sicher auf KI-generierte Dokumentation verlassen kann.¹⁰ Die Einigung erlaubt zudem alternativ die Beauftragung eines unabhängigen Drittauditors zur Verifizierung dieser Kennzahlen – eine Praxis, die für hochkritische KI-Beschaffungen voraussichtlich zur Standardanforderung wird.¹¹

Zentrale Verpflichtungen unter der Assurance of Voluntary Compliance (AVC)

Verpflichtung	Beschreibung	Angestrebtes Ergebnis
Kennzahlentransparenz	Definitionen und Berechnungsmethoden für alle Genauigkeitsbenchmarks offenlegen.1	Verwendung proprietärer oder irreführender Erfolgsmetriken verhindern.
Risikooffenlegung	Kunden über „bekannte oder vernünftigerweise erkennbare“ schädliche Nutzungen informieren.2	Fundierte Entscheidungsfindung durch klinisches und operatives Personal ermöglichen.
Trainingsoffenlegungen	Dokumentation zu Trainingsdaten und verwendeten Modelltypen bereitstellen.1	Modellbeobachtbarkeit und Erklärbarkeit verbessern.
Compliance-Monitoring	Informationsanfragen des AG innerhalb von 30 Tagen beantworten.12	Laufende Einhaltung der Einigungsbedingungen über fünf Jahre sicherstellen.

Der Trugschluss des Wrapper-Modells und der Übergang zu Deep AI

Der Vorfall Pieces Technologies legt die inhärente Fragilität des „Wrapper“-Modells in Unternehmensumgebungen offen. Ein Wrapper-Modell bezeichnet typischerweise eine Softwareanwendung, die Benutzerprompts an eine Foundation-Model-API (wie OpenAIs GPT-4) sendet und die zurückgegebene Antwort mit minimaler domänenspezifischer Verarbeitung oder Grounding anzeigt.¹⁶ Dieser Ansatz ermöglicht zwar einen schnellen Markteintritt, entbehrt jedoch der technischen Schutzmaßnahmen, die nötig sind, um Halluzinationen, Datenlecks und Prompt-Injection-Angriffe zu mindern.¹⁸

Deep-AI-Lösungen hingegen integrieren das Modell in das zentrale Datengefüge des Unternehmens und setzen Techniken wie Retrieval-Augmented Generation (RAG), Fine-Tuning auf domänenspezifischen Korpora sowie mehrschichtige Human-in-the-Loop-(HITL-)Überwachung ein.⁸ Veriprajna positioniert sich als Anbieter dieser Deep-AI-Lösungen und erkennt an, dass die „Refactoring Wall“ generische LLMs oft daran hindert, Kontext in komplexen Unternehmensworkflows zu halten.¹⁹ Studien haben beispielsweise gezeigt, dass 65 % der Entwickler berichten, KI „verliere relevanten Kontext“ bei komplexen Refactoring-Aufgaben, was zur Einführung subtiler Bugs oder architektonischer Inkonsistenzen führt.¹⁹

Die Risiken des Wrapper-Modells verstärken sich im Gesundheitswesen, wo die Komplexität elektronischer Gesundheitsakten (Electronic Health Records, EHR) und die Nuancen klinischer Kommunikation die Neigung zu Halluzinationen erhöhen können.⁹ Ein einfacher API-Aufruf an ein Allzweckmodell kann die longitudinale Historie eines Patienten oder den spezifischen Autorenschaftsstil eines Arztes nicht berücksichtigen.²¹ Um die für klinische Sicherheit erforderlichen Genauigkeitsniveaus zu erreichen, müssen Systeme „Sculpted AI“ nutzen, das Modelle auf die Ebene der spezifischen Einheit, Fachrichtung oder sogar des einzelnen Arztes zuschneidet.⁵ Das erfordert eine anspruchsvolle Orchestrierung mehrerer Modelle und klinischer Wissensgraphen, um Inhalte gegen Echtzeit-Patientenakten zu validieren.⁹

Risikovergleich: Wrapper vs. Deep-AI-Integration

Risikofaktor	Profil des Wrapper-Modells	Profil der Deep-AI-Lösung
Kontextretention	Begrenzt durch das Token-Fenster des Modells und fehlenden externen Speicher.	Verstärkt durch RAG und langfristigen Vektorspeicher.19
Data Poisoning	Anfällig für manipulierte Eingaben aus externen Quellen.18	Gemildert durch Eingabesäuberung und kuratierte Trainingssets.18
Halluzinationskontrolle	Stützt sich auf die generischen Schutzmaßnahmen des Foundation Models.	Implementiert adversarielle Erkennung und klinische Wissensgraphen.9
Sicherheit/Compliance	Beinhaltet häufig Datentransit zu Drittanbietern.	Unterstützt souveräne KI-Deployments innerhalb lokaler Infrastruktur.23

Evaluierungsrahmen für hochkritische KI

Um das „stille Scheitern“ von KI-Implementierungen zu überwinden – bei dem Investitionen mangels messbarer Wirkung stillschweigend hinter den Erwartungen zurückbleiben –, müssen Unternehmen rigorose Evaluierungsrahmen übernehmen.²⁴ Die rasche Verbreitung generativer KI hat die Entwicklung von Standardmetriken überholt und zu einer Abhängigkeit von grundlegenden technischen Kennzahlen wie Sensitivität und Spezifität geführt, die reale klinische Wirkung oft nicht erfassen.²⁵

Der Med-HALT (Medical Domain Hallucination Test) ist ein solcher Benchmark, der speziell für Healthcare-LLMs entwickelt wurde. Er geht über einfache Genauigkeitswerte hinaus und bewertet sowohl Reasoning- als auch gedächtnisbasierte Halluzinationen anhand eines multinationalen Datensatzes aus medizinischen Prüfungen.²⁷ Der Med-HALT-„False Confidence Test“ (FCT) prüft beispielsweise, ob ein Modell die Gültigkeit einer zufällig vorgeschlagenen „richtigen“ Antwort bewerten kann – und damit seine Fähigkeit, Übervertrauen angesichts von Fehlinformationen zu widerstehen.²⁷ Ebenso fordert der „None of the Above“-(Nota-)Test Modelle heraus zu erkennen, wann bereitgestellte Optionen falsch sind – eine kritische Fähigkeit zur Vermeidung „erzwungener“ Halluzinationen.²⁸

Ein weiterer umfassender Ansatz ist FAIR-AI (Framework for the Appropriate Implementation and Review of AI) im Gesundheitswesen. Dieser Rahmen gliedert die klinische Evaluation in Domänen wie Validierung, Fairness (Equity), Nützlichkeit und Transparenz.²⁵ Er schreibt die Erstellung eines „AI Label“ vor, das Informationen für Endnutzer bündelt und sicherstellt, dass der Kliniker, der das Tool nutzt, dessen Ursprünge und bekannte Fehlermodi versteht.²⁵ Diese strukturelle Transparenz ist der Grundpfeiler verantwortungsvoller KI-Einführung.

Kernkomponenten des Med-HALT-Evaluierungsrahmens

Testmodalität	Ziel	Mechanismus
Reasoning: False Confidence	Übervertrauen bei falschen Antworten erkennen.27	Eine Frage mit einer falschen, aber „vorgeschlagenen“ Antwort präsentieren.
Reasoning: Fake Questions	Sinnlose Anfragen angemessen handhaben.27	Mit erfundenen oder logisch unmöglichen medizinischen Fragen testen.
Memory: PMID-to-Title	Faktischen Abruf aus Trainingsdaten verifizieren.27	Eine PubMed-ID bereitstellen und den exakten Artikeltitel anfordern.
Memory: Title-to-Link	Genauigkeit der Link-/Quellengenerierung bewerten.27	Einen Titel bereitstellen und die verifizierbare URL oder DOI anfordern.
Reasoning: Nota Test	Fehlen korrekter Informationen identifizieren.27	Eine Multiple-Choice-Frage bereitstellen, bei der die richtige Option „None of the Above“ ist.

Fortgeschrittene Mitigation: Adversarielle KI und Human-in-the-Loop

Die Verteidigung von Pieces Technologies gegen die Vorwürfe des Texas AG stützte sich auf den Einsatz „adversarieller und kollaborativer KI“ zusammen mit Human-in-the-Loop-(HITL-)Systemen.⁵ Obwohl die behauptete Rate bestritten wurde, ist die Strategie, ein KI-Modell zur Kontrolle eines anderen einzusetzen, ein Schlüsselbestandteil der Deep-AI-Architektur. Dabei kommt ein Adversarial Detection Module (ADM) zum Einsatz, das generierte Zusammenfassungen scannt, um Diskrepanzen zwischen der KI-Ausgabe und den zugrunde liegenden klinischen Daten zu identifizieren.⁹

In der Pieces-„SafeRead“-Plattform werden vom ADM markierte Zusammenfassungen an board-zertifizierte Ärzte zur Prüfung und Korrektur verwiesen.⁹ So entsteht ein gestuftes Sicherheitsmodell, in dem risikoreiche Ausgaben dem Endnutzer nie ohne menschliche Validierung präsentiert werden. Technische Analysen dieses Systems zeigten, dass das ADM klinisch bedeutsame Halluzinationen 7,5-mal effektiver identifizierte als Zufallsstichproben.⁹ Dies legt nahe, dass ein korrekt konfiguriertes ADM eine wesentliche Komponente ist, um KI-generierte klinische Dokumentation sicher zu skalieren.

Die Wirksamkeit von HITL-Systemen hängt jedoch von der „Effective Remedy Time“ ab – der Geschwindigkeit, mit der ein markierter Fehler korrigiert werden kann. Für die von Pieces analysierten Zusammenfassungen lag die mediane Remedy Time bei 3,7 Stunden.⁹ In der Akutversorgung kann diese Verzögerung für Verlaufsnotizen akzeptabel sein, für Echtzeit-Entscheidungsunterstützung jedoch katastrophal. Das unterstreicht die Notwendigkeit, dass Unternehmen ihre KI-Anwendungsfälle nach Risiko und erforderlicher Interventionsgeschwindigkeit stufen.

Das AI Safety Level (ASL) Framework für das Gesundheitswesen

Stufe	Beschreibung	Beispielhafter Anwendungsfall	Aufsichtsanforderung
ASL 1-2	Aufgaben mit geringem Impact und minimalem Risiko für Sicherheit oder Privatsphäre.	Entwurf administrativer E-Mails oder Terminplanung.31	Periodische Audits und Standard-Datenschutzkontrollen.
ASL 3	Mittlerer Impact; unterstützt klinische oder operative Entscheidungen.	Dokumentationsassistenten für Verlaufsnotizen.31	Obligatorische Klinikerprüfung und Transparenzprotokolle.25
ASL 4	Hoher Impact; beeinflusst direkte Patientenversorgung oder Sicherheit.	Prädiktives Risiko-Scoring für Wiederaufnahme oder Rückfall.31	Erklärbare Ausgaben und Human-in-the-Loop-Validierung.31
ASL 5	Kritischer Impact; autonome Interaktion mit Patienten.	Chatbots für Krisenintervention oder Therapie.31	Eskalationsprotokolle und strenge Guardrails zum Nutzungsumfang.31

Strategische Realitäten des Enterprise-KI-ROI: Die 5%-Regel

Das Versprechen generativer KI ist oft von ihrer wirtschaftlichen Realität entkoppelt. Untersuchungen zeigen, dass trotz massiver Unternehmensinvestitionen nur 5 % der Unternehmen messbaren Geschäftswert im Maßstab erzielen.¹⁹ Diese „Leader“ differenzieren sich, indem sie auf Datenqualität und Neugestaltung der Belegschaft setzen statt nur auf technische Fähigkeiten.¹⁹ Sie folgen einer „70:20:10“-Regel bei der Umsetzung: 10 % des Aufwands gelten dem Algorithmus, 20 % dem Technologie-Stack und 70 % der organisatorischen Transformation.¹⁹

Für Unternehmen wie Veriprajna liegt der Wert darin, diese Lücke zu schließen. Das beinhaltet einen Übergang zu plattformgeführter KI, die nachweislich die Kosten pro Anwendungsfall um bis zu 15 % senken kann.²⁴ Ein Plattformansatz ermöglicht einheitliche Governance und verhindert die Entstehung von „KI-Inseln“, die Komplexität und Risiko erhöhen.²⁴ Darüber hinaus ist die „Buy vs. Build“-Entscheidung kritisch; Unternehmen, die spezialisierte KI-Tools von Anbietern kaufen, haben eine Erfolgsrate von 67 %, während jene, die interne Tools von Grund auf bauen, nur in 33 % der Fälle Erfolg haben.¹⁹ Das legt nahe, dass der Unternehmenswert von KI nicht durch die Schaffung neuer Modelle erschlossen wird, sondern durch die tiefe Integration bestehender spezialisierter Modelle in gesteuerte Workflows.

ROI-Differenzierer für KI-Leader vs. Nachzügler

Faktor	Leader (die 5 %)	Nachzügler (die 95 %)
Datenstrategie	Starke Investition in Datenqualität und Governance vor dem Skalieren.19	Skalierung von Modellen auf „messy“ oder siloisierten Daten.19
Erfolgsmetriken	Fokus auf Geschäftsergebnisse und P&L-Wirkung.19	Fokus auf technische Fähigkeiten und Pilotvolumen.19
Belegschaftsstrategie	Umfangreiche Neugestaltung von Rollen und Workflows.19	Fokus allein auf KI-Fluency/Weiterbildung ohne Rollenänderungen.23
Integrationsmodell	Modulare, cloud-native Plattformen mit Secure-by-Design-Prinzipien.23	Fragmentierte, isolierte KI-Projekte mit inkonsistenter Aufsicht.24

Fazit: Eine Roadmap für resiliente KI-Implementierung

Die Einigung des Texas Attorney General mit Pieces Technologies markiert das Ende der spekulativen Ära der KI im Gesundheitswesen und in risikoreichen Unternehmenssektoren. Sie etabliert einen klaren rechtlichen und technischen Standard: Wer Genauigkeit vermarktet, muss sie mit Transparenz definieren, berechnen und belegen können.¹ Für das Unternehmen erfordert dies den Abschied von generischen LLM-Wrappern hin zu tiefen, integrierten KI-Lösungen, die Sicherheit und Verifizierbarkeit priorisieren.

Um dies zu erreichen, sollten Organisationen die folgenden strategischen Imperative umsetzen:

●​ Eine mehrstufige Evaluierungsstrategie etablieren: Frameworks wie Med-HALT und FAIR-AI nutzen, um Modellleistung an domänenspezifischen klinischen und operativen Anforderungen zu benchmarken.²⁵

●​ Transparenz operationalisieren: „AI Labels“ oder Model Cards für jedes eingesetzte Tool entwickeln und Trainingsdaten, Modellversion sowie bekannte Fehlermodi dem Endnutzer offenlegen.²⁵

●​ Adversarielle Kontrollen integrieren: Unabhängige Erkennungsmodule implementieren, die KI-Ausgaben gegen die „Ground-Truth“-Daten des Unternehmens validieren – etwa EHR-Akten oder Finanzbücher.⁹

●​ Menschliche Aufsicht priorisieren: Eine strenge Human-in-the-Loop-Anforderung für alle risikoreichen Anwendungsfälle aufrechterhalten und sicherstellen, dass Kliniker oder Domänenexperten die letzte Instanz bei KI-beeinflussten Entscheidungen bleiben.²⁰

●​ Governance auf Plattformebene übernehmen: Über isolierte Piloten hinaus zu einer einheitlichen KI-Plattform übergehen, die Unternehmensstandards für Qualität, Interoperabilität und Security-by-Design durchsetzt.²³

Indem sie diese Prinzipien annehmen, können Unternehmen die sich wandelnde regulatorische Landschaft meistern und zugleich das transformative Potenzial generativer KI erschließen. Das Ziel ist nicht mehr nur, Text zu generieren, sondern Wert zu generieren, der sicher, nachhaltig und durch rigorose technische Integrität gestützt ist. Veriprajna steht bereit, Partner durch diesen Übergang zu führen und sicherzustellen, dass ihre KI-Implementierungen nicht nur im Marketing „hochgenau“ sind, sondern in der Praxis nachweislich resilient.

Literaturverzeichnis

1. AI Firm Reaches Settlement With Texas Attorney General Over Misleading Accuracy Claims, abgerufen am 6. Februar 2026, https://www.bakerdonelson.com/ai-firm-reaches-settlement-with-texas-attorney-general-over-misleading-accuracy-claims

2. Rising AI Enforcement: Insights From State Attorney General ... - Sidley, abgerufen am 6. Februar 2026, https://www.sidley.com/en/insights/newsupdates/2024/12/rising-ai-enforcement-insights-from-state-attorney-general-settlement-and-us-ftc-sweep

3. Takeaways From Texas AG's Novel AI Health Settlement - Troutman Pepper Locke, abgerufen am 6. Februar 2026, https://www.troutman.com/insights/takeaways-from-texas-ags-novel-ai-health-settlement/

4. Texas attorney general, generative AI company settle over accuracy allegations, abgerufen am 6. Februar 2026, https://www.healthcaredive.com/news/texas-attorney-general-ken-paxton-settles-pieces-technologies-generative-ai-accuracy/727699/

5. Pieces Pioneers “Sculpted AI” for Health Systems using Amazon Bedrock, abgerufen am 6. Februar 2026, https://www.piecestech.com/media/pieces-pioneers-sculpted-ai-for-health-systems-using-amazon-bedrock

6. Pieces Pioneers "Sculpted AI" for Health Systems using Amazon Bedrock - PR Newswire, abgerufen am 6. Februar 2026, https://www.prnewswire.com/news-releases/pieces-pioneers-sculpted-ai-for-health-systems-using-amazon-bedrock-301987253.html

7. Texas attorney general, healthcare gen AI company settle ..., abgerufen am 6. Februar 2026, https://www.fiercehealthcare.com/ai-and-machine-learning/texas-ag-pieces-technologies-settle-allegations-inaccurate-generative-ai

8. LLM Hallucination Detection and Mitigation: Best Techniques - Deepchecks, abgerufen am 6. Februar 2026, https://www.deepchecks.com/llm-hallucination-detection-and-mitigation-best-techniques/

9. System to Classify, Detect and Prevent Hallucinatory Error in Clinical ..., abgerufen am 6. Februar 2026, https://cdn.prod.website-files.com/6697ef98eaaeed02377be5ef/678060c7be019cd6a113ebbc_Pieces%20Technical%20Paper%20V11.13-combined.pdf

10. Lessons From Texas' Healthcare Generative AI Investigation - Securiti, abgerufen am 6. Februar 2026, https://securiti.ai/lessons-from-texas-healthcare-generative-ai-investigation/

11. Texas Attorney General Reaches Novel Generative AI Settlement ..., abgerufen am 6. Februar 2026, https://www.orrick.com/en/Insights/2024/09/Texas-Attorney-General-Reaches-Novel-Generative-AI-Settlement

12. Texas Attorney General Settles with Healthcare AI Firm Over False Claims on Product Accuracy and Safety | Privacy World, abgerufen am 6. Februar 2026, https://www.privacyworld.blog/2024/09/texas-attorney-general-settles-with-healthcare-ai-firm-over-false-claims-on-product-accuracy-and-safety/

13. Texas Attorney General Settles Deceptive Marketing Allegations ..., abgerufen am 6. Februar 2026, https://www.manatt.com/insights/newsletters/client-alert/texas-attorney-general-settles-deceptive-marketing

14. Top 5 Tools to Evaluate RAG Performance in 2026 - Maxim AI, abgerufen am 6. Februar 2026, https://www.getmaxim.ai/articles/top-5-tools-to-evaluate-rag-performance-in-2026/

15. Texas Attorney General Obtains Settlement of Alleged False and Misleading Statements About Healthcare Artificial Intelligence Product Accuracy - Quarles, abgerufen am 6. Februar 2026, https://www.quarles.com/newsroom/publications/texas-attorney-general-obtains-settlement-of-alleged-false-and-misleading-statements-about-healthcare-artificial-intelligence-product-accuracy

16. AI Fire Daily - Rss, abgerufen am 6. Februar 2026, https://media.rss.com/ai-fire-daily/feed.xml

17. Impact Measurement Platforms Market in China | Report - IndexBox - Prices, Size, Forecast, and Companies, abgerufen am 6. Februar 2026, https://www.indexbox.io/store/china-impact-measurement-platforms-market-analysis-forecast-size-trends-and-insights/

18. Engaging with artificial intelligence | Cyber.gov.au, abgerufen am 6. Februar 2026, https://www.cyber.gov.au/business-government/secure-design/artificial-intelligence/engaging-with-artificial-intelligence

19. Enterprise AI ROI Analysis Report: What Actually Works in 2025 | by Xue Langping, abgerufen am 6. Februar 2026, https://ai.plainenglish.io/enterprise-ai-roi-analysis-report-what-actually-works-in-2025-87b6f35a7841

20. Reducing Hallucinations in Large Language Models for Healthcare - Cognome, abgerufen am 6. Februar 2026, https://cognome.com/blog/reducing-hallucinations-in-large-language-models-for-healthcare

21. Pieces Technologies Unveils Pieces in Your Pocket, abgerufen am 6. Februar 2026, https://www.piecestech.com/products/pieces-in-your-pocket

22. Puzzle Solved: How GenAI Improves Clinical Documentation - Healthcare Huddle, abgerufen am 6. Februar 2026, https://www.healthcarehuddle.com/p/puzzle-solved-genai-improves-clinical-documentation

23. The State of AI in the Enterprise - 2026 AI report | Deloitte US, abgerufen am 6. Februar 2026, https://www.deloitte.com/us/en/what-we-do/capabilities/applied-artificial-intelligence/content/state-of-ai-in-the-enterprise.html

24. Build vs. Buy: Expert Guidance on Scaling Enterprise AI | Kore.ai + BCG Whitepaper, abgerufen am 6. Februar 2026, https://www.kore.ai/whitepaper/bcg-beyond-ai-islands

25. A practical framework for appropriate implementation and review of ..., abgerufen am 6. Februar 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12340025/

26. AI for IMPACTS Framework for Evaluating the Long-Term Real-World Impacts of AI-Powered Clinician Tools: Systematic Review and Narrative Synthesis - PMC, abgerufen am 6. Februar 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC11840377/

27. Med-HALT: Medical Domain Hallucination Test for Large Language Models - GitHub, abgerufen am 6. Februar 2026, https://github.com/medhalt/medhalt

28. Medical Hallucination in Foundation Models and Their Impact on Healthcare - arXiv, abgerufen am 6. Februar 2026, https://arxiv.org/html/2503.05777v2

29. MedVH: Toward Systematic Evaluation of Hallucination for Large Vision Language Models in the Medical Context - NIH, abgerufen am 6. Februar 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12363988/

30. Pieces Technologies Awarded $2M From National Cancer Institute, Part of the National Institutes of Health, to Advance Use of Conversational AI to Improve the Care of Cancer Patients, abgerufen am 6. Februar 2026, https://www.piecestech.com/media/pieces-technologies-awarded-2m-from-national-cancer-institute-part-of-the-national-institutes-of-health-to-advance-use-of-conversational-ai-to-improve-the-care-of-cancer-patients

31. AI Safety in Healthcare: Applying the ASL Framework to Responsible Innovation - Netsmart, abgerufen am 6. Februar 2026, https://www.ntst.com/blog/2025/ai-safety-in-healthcare

32. Are You Generating Value from AI? The Widening Gap | BCG, abgerufen am 6. Februar 2026, https://www.bcg.com/publications/2025/are-you-generating-value-from-ai-the-widening-gap

33. E-Briefings – Volume 22, No. 2, March 2025 - The Governance Institute, abgerufen am 6. Februar 2026, https://www.governanceinstitute.com/page/EBriefings_V22N2Mar2025