Het klinische imperatief voor verankerde AI: voorbij de LLM-wrapper in zorgcommunicatie

De gezondheidszorg staat op een precair kruispunt waar de urgente noodzaak om burn-out bij clinici te verminderen is gebotst op de snelle, vaak ongetoetste inzet van generatieve kunstmatige intelligentie. De administratieve last voor huisartsen (PCP’s) heeft een kritische drempel bereikt, waarbij sommige clinici gemiddeld 10 uur per maand uitsluitend besteden aan berichten via het patiëntenportaal—werk dat historisch niet factureerbaar is geweest en een primaire aanjager van professionele uitputting.¹ Als reactie daarop is de integratie van large language models (LLM’s) om patiëntcommunicatie te automatiseren geprezen als een revolutionaire efficiencywinst. Een baanbrekende cross-sectionele simulatestudie, gepubliceerd in The Lancet Digital Health in april 2024—uitgevoerd door onderzoekers van Harvard Medical School, Yale School of Medicine en de University of Wisconsin—heeft echter systemische kwetsbaarheden in deze aanpak blootgelegd.¹ De studie vond dat generatieve AI weliswaar de ervaren cognitieve werklast significant verlaagt, maar ernstige risico’s voor patiëntveiligheid introduceert die bestaande "human-in-the-loop"-waarborgen vaak niet opvangen.³

Deze whitepaper, opgesteld door Veriprajna, betoogt dat de huidige afhankelijkheid van de sector van "LLM-wrappers"—toepassingen die in wezen gebruikersgegevens doorgeven aan een generalistisch model met minimale klinische verankering—ontoereikend is voor de high-stakes-omgeving van klinische zorg. Nu California Assembly Bill 3030 (AB 3030) AI-transparantie voor patiëntcommunicatie vanaf januari 2025 verplicht stelt, moet het tijdperk van experimentele automatisering wijken voor diepgaande, evidence-based AI-engineering.⁶ Echte klinische veiligheid vereist een architecturale verschuiving naar Retrieval-Augmented Generation (RAG), medische kennisgrafen en rigoureuze adversariële red teaming.

Het forensische bewijs: analyse van de Lancet-bevindingen van april 2024

De Lancet-studie is een van de strengste evaluaties tot nu toe van generatieve AI in een gesimuleerde klinische omgeving. Onderzoekers beoordeelden de prestaties van GPT-4 bij het opstellen van antwoorden op 156 berichten via het patiëntenportaal binnen een gesimuleerd elektronisch patiëntendossier (EHR).¹ De resultaten bieden een dubbel narratief: één van enorm productiviteitspotentieel en één van catastrofaal risico.

Statistische uitsplitsing van AI-schade en toezicht door artsen

De kwantitatieve bevindingen van de studie tonen aan dat LLM’s, wanneer gebruikt zonder diepe klinische verankering, in staat zijn zeer overtuigende maar medisch gevaarlijke content te genereren. Van de 156 door AI gegenereerde concepten werd 7,1% gecategoriseerd als een risico op ernstige schade voor de patiënt.¹ Het meest alarmerend was dat 0,6% van de antwoorden—specifiek één geval in de simulatie—een direct risico op overlijden vormde.¹ Deze schadelijke outputs kwamen typisch voort uit het onvermogen van het model om klinische urgentie te herkennen of uit de neiging om verouderd en onjuist medisch advies te geven.³

Maatstaf van AI-prestaties en -risico	Statistische waarde	Bron
Risico op ernstige schade (ongecorrigeerde AI-concepten)	7.1%	4
Direct overlijdensrisico (ongecorrigeerde AI-concepten)	0.6%	4
Overeenstemming artsen: AI verminderde cognitieve werklast	80%	3
Vertrouwen van artsen in de prestaties van de AI-tool	90%	3
Gemiddeld gemiste foutieve concepten door artsen	66.6%	3
Foutieve concepten volledig ongecorrigeerd ingediend	35% – 45%	3
Waarschijnlijkheid dat een foutief concept wordt gemist (p-waarde)	< 0.001	3

De klinische betekenis van deze cijfers wordt vergroot wanneer ze worden afgezet tegen de prestaties van de beoordelende artsen. De studie zette 20 praktiserende huisartsen in om de door AI gegenereerde antwoorden te beoordelen. Ondanks hun expertise misten deze clinici gemiddeld 2,67 van de 4 opzettelijk foutieve concepten.³ Slechts één deelnemer van de twintig was in staat alle vier de foutieve berichten te identificeren en adequaat aan te pakken.³ Deze discrepantie belicht een fundamentele psychologische kwetsbaarheid in het "doctor-in-the-loop"-model: automatiseringsbias.

Het faalmechanisme: automatiseringsbias en hallucinatie

Automatiseringsbias treedt op wanneer menselijke operators te sterk steunen op geautomatiseerde suggesties en vaak niet hetzelfde niveau van kritisch toezicht toepassen dat zij op hun eigen werk of dat van een menselijke collega zouden toepassen.⁵ In de Lancet-simulatie creëerden de hoge linguïstische kwaliteit en empathische toon van de GPT-4-concepten een vals gevoel van veiligheid.¹ Artsen rapporteerden een vertrouwensniveau van 90% in de prestaties van de tool, terwijl zij kritische fouten misten.³

De fouten zelf waren geen typfouten, maar inhoudelijke tekortkomingen in klinisch redeneren. Deze "hallucinaties" omvatten het verzinnen van medische informatie, het gebruik van verouderde protocollen en, het meest kritiek, een falen om de "acuity" van de situatie van de patiënt te beoordelen.³ Het geval dat bijvoorbeeld als "overlijdensrisico" werd gecategoriseerd, deed zich voor omdat de AI naliet de patiënt te instrueren onmiddellijk spoedeisende zorg te zoeken voor een levensbedreigend symptoom, en in plaats daarvan een standaard, niet-urgent antwoord gaf.¹

Regelgevende evolutie: California AB 3030 en het transparantiemandaat

Naarmate de technische risico’s van generatieve AI kwantificeerbaar worden, beginnen wetgevende organen kaders in te voeren om patiënten te beschermen. California’s AB 3030, in september 2024 tot wet ondertekend, markeert een significante verschuiving naar verplichte transparantie in AI in de gezondheidszorg.⁷

Compliancevereisten voor 2025

Met ingang van 1 januari 2025 verplicht AB 3030 alle zorginstellingen, klinieken en artsenpraktijken patiënten te informeren wanneer generatieve AI wordt gebruikt om "klinische patiëntinformatie" te communiceren.⁶ Dit omvat alle informatie met betrekking tot de gezondheidsstatus van een patiënt, terwijl administratieve taken zoals afspraakplanning of facturering zijn vrijgesteld.⁶

Communicatiemedium	Meldingsstandaard onder AB 3030	Bron
Schriftelijk (brieven, e-mails)	Disclaimer prominent weergegeven aan het begin van elke communicatie	6
Online (chatgebaseerd, telehealth)	Disclaimer prominent weergegeven gedurende de hele interactie	6
Audio (voicemails, telefoongesprekken)	Mondelinge disclaimer zowel aan het begin als aan het einde	6
Videocommunicatie	Disclaimer prominent weergegeven gedurende de hele interactie	6

Naast eenvoudige openbaarmaking verplicht de wet dat patiënten duidelijke instructies krijgen over hoe zij contact kunnen opnemen met een menselijke zorgverlener of geschikt personeel.⁷ Niet-naleving van deze bepalingen stelt zorginstellingen bloot aan boetes en licentieacties, terwijl individuele artsen disciplinaire maatregelen tegen hun medische vergunning kunnen riskeren.⁹

De "human-in-the-loop"-vrijstelling en de implicaties ervan

Een kritische clausule in AB 3030 stelt dat de disclaimer- en instructievereisten niet van toepassing zijn als de door AI gegenereerde communicatie "gelezen en beoordeeld" is door een bevoegde of gecertificeerde menselijke zorgverlener.⁶ Op het eerste gezicht biedt dit een pad voor zorgsystemen om AI-opstelhulpmiddelen te blijven gebruiken zonder het gebruik ervan tegenover patiënten te vermelden.

De Lancet-studie biedt echter een vernietigend tegenpunt bij deze vrijstelling: als clinici door automatiseringsbias 66% van de fouten missen, kan de standaard "gelezen en beoordeeld" een vals gevoel van compliance bieden terwijl een hoog klinisch risico blijft bestaan.¹ Veriprajna stelt dat de juridische en ethische "safe harbor" van menselijke review alleen geldig is als die review wordt ondersteund door technologie die passieve acceptatie actief ontmoedigt en de reviewer de noodzakelijke context biedt om hallucinaties te identificeren.

De beperking van het "LLM-wrapper"-model

De dominante aanpak bij huidige AI-startups in de gezondheidszorg is de inzet van "wrappers"—dunne softwarelagen die interacties faciliteren tussen een EHR-systeem en een commerciële LLM-API (zoals OpenAI’s GPT-4 of Google’s Gemini). Hoewel deze wrappers snel kunnen worden ontwikkeld, erven zij verschillende fundamentele gebreken die hen ongeschikt maken voor klinische besluitvormingsondersteuning.

De autoregressieve redeneerkloof

Standaard-LLM’s zijn autoregressief; zij voorspellen het volgende token (woord of subwoord) op basis van statistische waarschijnlijkheid in plaats van een gestructureerd begrip van de medische wetenschap.⁸ Deze "token-level prediction" mist het "concept-level reasoning" dat de geneeskunde vereist.¹³ In gespecialiseerde domeinen zoals radiologie of oncologie hebben LLM’s vaak moeite om de long-range dependencies en complexe semantische relaties te vatten die essentieel zijn voor genuanceerde diagnostische interpretatie.¹³

Knowledge cutoffs en contextuele blindheid

Publieke versies van LLM’s zijn getraind op statische datasets met vaste knowledge cutoffs, waardoor zij de nieuwste klinische richtlijnen of de meest recente laboratoriumuitslagen van een patiënt niet kunnen raadplegen zonder externe dataintegratie.¹⁴ Bovendien ontbreekt een wrappergebaseerd systeem vaak de mogelijkheid om multimodale data—zoals röntgenfoto’s, golfvormen (ECG’s) of genomische profielen—te integreren, wat resulteert in "generalistische" antwoorden die de kritieke details missen die complexe medische situaties vereisen.¹⁵

Beveiliging en HIPAA-compliance

Veel generalistische LLM-interfaces zijn niet inherent HIPAA-compliant, en het gebruik ervan met patiëntgegevens zonder een specifiek Business Associate Agreement (BAA) en rigoureuze dataprotocollen voor masking creëert ernstige privacyrisico’s.¹⁵ Wrapper-ontwikkelaars onderschatten vaak de diepte van kwetsbaarheden zoals "data poisoning" of "prompt injection", waarbij adversariële inputs het model potentieel kunnen misleiden tot het vrijgeven van gevoelige interne context of patiëntgegevens.¹⁶

Architecturale oplossingen voor Deep AI: het Veriprajna-raamwerk

Om voorbij het wrappermodel te komen, moeten AI-oplossingen vanaf de grond worden gebouwd met klinische veiligheid als primaire architecturale randvoorwaarde. Dit vereist een verschuiving van puur probabilistische modellen naar verankerde, hybride systemen.

Retrieval-Augmented Generation (RAG) in de gezondheidszorg

Retrieval-Augmented Generation (RAG) mitigeert het hallucinatieprobleem door het model een "source of truth" te bieden om naar te refereren voordat een antwoord wordt gegenereerd.¹⁴ In een RAG-gebaseerd systeem haalt de AI eerst relevante documenten op uit een geverifieerd corpus—zoals de klinische notities van de patiënt, peer-reviewed medische tijdschriften en institutionele richtlijnen—en conditioneert vervolgens het antwoord op deze opgehaalde informatie.²⁰

RAG-component	Functie in klinische veiligheid	Voordeel ten opzichte van standalone LLM
Sparse Retriever (BM25)	Exacte keywordmatching voor specifieke medicijnen of codes	Hoge precisie voor objectieve data
Dense Retriever (Neural)	Semantische matching voor complexe symptomen en synoniemen	Vangt medische intentie voorbij tekst
RAG-prompting	Beperkt de LLM tot "gebruik alleen de verstrekte context"	Significante reductie van hallucinaties
Geverifieerde citatie	Koppelt elke AI-uitspraak terug aan een brondocument	Versterkt review en vertrouwen door clinici

Medische kennisgrafen en Neo4j-integratie

De meest geavanceerde aanpak van klinische verankering maakt gebruik van medische kennisgrafen (KG’s). Deze grafen representeren klinische kennis niet als tekststrings, maar als netwerken van onderling gerelateerde concepten.²¹ Een KG kan bijvoorbeeld expliciet de relatie modelleren tussen een specifiek geneesmiddel, het werkingsmechanisme, de contraindicaties en de typische dosering voor een patiënt met nierinsufficiëntie.

Systemen zoals MediGRAF (Medical Graph Retrieval Augmented Framework) gebruiken Neo4j om Text2Cypher-mogelijkheden—het vertalen van natuurlijke taal naar precieze graafqueries—te combineren met vector-embeddings voor narratieve retrieval.²² Dit stelt de AI in staat de "volledige patiëntreis" te doorlopen, waarbij feitelijke queryresultaten met 100% recall worden geïdentificeerd terwijl hoge veiligheidsnormen voor complexe inferentie worden gehandhaafd.²²

Concept-level modeling (LCM) versus token-level prediction

Toekomstbestendige klinische AI moet bewegen naar Large Concept Models (LCM’s). In tegenstelling tot LLM’s die tokens verwerken, opereren LCM’s op het niveau van ideeën en hiërarchisch redeneren.¹³

Kenmerk	Large Language Models (LLM)	Large Concept Models (LCM)
Abstractieniveau	Token-level prediction (woord-voor-woord)	Concept-level prediction (idee-voor-idee)
Redeneervermogen	Primair lokale voorspellingen; ontbreekt logica	Expliciet hiërarchisch redeneren/plannen
Representatie	Taalspecifieke tokens	Taalonafhankelijke zinsembeddings
Klinisch nut	Hoog risico op linguïstische hallucinaties	Geoptimaliseerd voor gestructureerd redeneren

Validatie en veiligheidstesten: de nieuwe standaard

Traditioneel softwaretesten is ontoereikend voor generatieve AI. Enterprise-grade-oplossingen vereisen een continue cyclus van adversariële testing en benchmarkevaluatie.

Med-HALT en klinische benchmarks

De Med-HALT (Medical Domain Hallucination Test) is een multinationale benchmark die specifiek is ontworpen om hallucinaties in LLM’s voor de gezondheidszorg te identificeren.²³ Deze maakt gebruik van reasoning hallucination tests (RHT’s) zoals de False Confidence Test—waarbij het model wordt uitgedaagd een willekeurig voorgesteld antwoord te evalueren—en de Fake Questions Test, die bepaalt of het model nonsensicale of gefabriceerde medische queries kan herkennen.²³

Bovendien wijst onderzoek uit dat de onderprestatie van "medisch-gespecialiseerde" modellen zoals MedGemma (die in sommige tests slechts 28%–61% nauwkeurigheid behaalden) ten opzichte van bredere redeneermodellen zoals Gemini-2.⁵ Pro onderstreept dat veiligheid voortkomt uit "sophisticated reasoning capabilities developed during large-scale pretraining," niet enkel uit domeinspecifieke fine-tuning.²⁴

Geautomatiseerde red teaming voor veiligheid en beveiliging

Red teaming omvat het simuleren van adversarieel gedrag om faalwijzen te identificeren vóór inzet.¹⁹ Voor de gezondheidszorg omvat dit:

1.​ Directe adversariële probing: pogingen om systeeminstructies te overschrijven om onveilig medisch advies te genereren.¹⁹

2.​ Extractie van gevoelige data: het model bevragen om te zien of het PHI lekt via indirecte vragen of prompt injection.²⁶

3.​ Jailbreak-patronen: role-play of herformulering gebruiken om contentrestricties en klinische guardrails te omzeilen.¹⁹

Aansprakelijkheid en de verschuivende zorgstandaard

De integratie van AI in de klinische praktijk is niet alleen een technische, maar ook een juridische uitdaging. In medische malpractice-geschillen is de centrale vraag of een arts zich heeft gehouden aan de "standard of care"—de zorg die een redelijke zorgverlener onder vergelijkbare omstandigheden zou leveren.²⁷

De ABCD’s van AI-nalatigheid

Naarmate AI de "nieuwe collega in de spreekkamer" wordt, evolueert de juridische definitie van professionele verantwoordelijkheid.²⁹

●​ Duty (plicht): De zorgverlener heeft de plicht AI-tools passend te gebruiken. Het nalaten een gevalideerde AI-tool te gebruiken die een fout had kunnen voorkomen, kan binnenkort als schending van die plicht worden beschouwd.²⁹

●​ Breach (schending): Als een AI-systeem een aanbeveling doet die tot schade leidt door modelopaciteit of onjuiste data, kan de arts worden geacht zijn plicht te hebben geschonden als hij de aanbeveling blind heeft geaccepteerd.³⁰

●​ Causation (causaliteit): Het vaststellen van een duidelijke causale link tussen een AI-output en patiëntschade is uitdagend door de "black box"-aard van sommige modellen en vereist een grondig onderzoek van het besluitvormingsproces.³⁰

●​ Damages (schade): De patiënt moet daadwerkelijke schade lijden. Algoritmische bias die leidt tot vertraagde diagnose of ongelijke triage vormt een significante schadebron die rechtbanken inmiddels erkennen.³⁰

Verzekering en model drift

Het fenomeen "model drift" of "model collapse"—waarbij de prestaties van een AI in de loop van de tijd afnemen naarmate het wordt hertraind op eigen of nieuwe data—vormt een unieke uitdaging voor malpractice-verzekeringen.³³ Nieuwere verzekeringsproducten beginnen juridische claims te dekken die worden veroorzaakt door AI-hallucinaties en defecte chatbots, maar deze hebben doorgaans lage limieten en vereisen gedocumenteerd bewijs van menselijk toezicht.³³ Voor zorgsystemen is het vermogen om auditlogs te produceren die de gebruikte modelversie en de specifieke redeneerstappen tonen, essentieel voor de verdediging in malpractice-zaken.²⁷

Ethische overwegingen: mens-AI-samenwerking

Ethische AI in de gezondheidszorg moet patiëntagency en autonomie van clinici prioriteren. Het doel is niet menselijke interactie te automatiseren, maar deze te versterken.

Transparantie versus patiënttevredenheid

Onderzoek toont aan dat patiënten weliswaar de empathie en detailrijkdom van AI-berichten waarderen, maar dat hun tevredenheidsscores licht dalen wanneer zij vernemen dat AI betrokken was.¹ Dit belicht de "reverse automation bias" bij patiënten: zij waarderen de klinische relatie en de overtuiging dat hun clinicus persoonlijk betrokken is bij hun zorg.¹ Daarom moet AI worden gebruikt voor routinematige en gestructureerde taken, zodat de clinicus zich kan richten op de genuanceerde, mens-tot-mens-interactie die technologie niet kan repliceren.

Biasmitigatie en billijkheid

Algoritmen weerspiegelen de data waarop zij zijn getraind, die vaak systemische biases tegen ondervertegenwoordigde groepen bevatten.¹⁵ Veriprajna bepleit "EquityGuard"-systemen—tweefasige debiasingprocessen die post hoc fairness-constraints toepassen op AI-outputs voordat deze de clinicus bereiken.¹⁶ Dit zorgt ervoor dat trial-matchingaanbevelingen of triagescores niet worden scheefgetrokken door demografische labels.

Conclusie: de strategische roadmap van Veriprajna

De Lancet-studie van april 2024 leverde het bewijs, en AB 3030 levert de juridische impuls: het huidige traject van AI in de gezondheidszorg is onhoudbaar zonder diepgaande, gespecialiseerde engineering.³ Voor zorgsystemen en softwareleveranciers vereist de weg vooruit een transitie van experimentele pilotprogramma’s naar enterprise-grade AI-ecosystemen.

1.​ Elimineer wrapperafhankelijkheid: stap weg van eenvoudige API-integraties. Investeer in hybride RAG-architecturen die LLM’s verankeren in een persistente, gevalideerde medische kennisgraaf.²²

2.​ Implementeer robuuste red teaming: veiligheid mag geen bijzaak zijn. Geautomatiseerde red-teaming-agents moeten het systeem dagelijks beproeven op hallucinaties, datalekken en klinische onjuistheden.¹⁹

3.​ Bereid u voor op openbaarmakingsmandaten: ontwerp systemen die zinvolle menselijke review faciliteren, zodat clinici hun validatie van AI-concepten kunnen documenteren en voldoen aan wetten zoals AB 3030 zonder efficiency te verliezen.⁷

4.​ Prioriteer klinische verankering boven generatieve flair: in de geneeskunde is nauwkeurigheid de enige metric die telt. Systemen moeten worden geoptimaliseerd voor concept-level reasoning in plaats van token-level probability.¹³

Door deze principes te omarmen kan de gezondheidszorg de transformerende kracht van kunstmatige intelligentie benutten om de burn-outcrisis onder artsen op te lossen, terwijl het meest heilige principe van de geneeskunde wordt gehandhaafd: Primum non nocere—Ten eerste, doe geen schade. Veriprajna staat klaar om deze transitie te leiden, voorbij de wrapper naar de deep-AI-oplossingen die de toekomst van de gezondheidszorg eist.

Geraadpleegde bronnen

1. Patients Not Told AI Drafted Messages From Their Doctors - MHA Online, geraadpleegd op 6 februari 2026, https://www.mhaonline.com/blog/ai-messages-from-doctors

2. When AI Writes Back: Ethical Considerations by Physicians on AI-Drafted Patient Message Replies - ResearchGate, geraadpleegd op 6 februari 2026, https://www.researchgate.net/publication/394687833_When_AI_Writes_Back_Ethical_Considerations_by_Physicians_on_AI-Drafted_Patient_Message_Replies

3. Opportunities and risks of artificial intelligence in patient portal messaging in primary care, geraadpleegd op 6 februari 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12022076/

4. Mass General Brigham research identifies pitfalls and opportunities for generative artificial intelligence in patient messaging systems | EurekAlert!, geraadpleegd op 6 februari 2026, https://www.eurekalert.org/news-releases/1041892

5. Critics bristle over creating MyChart messages with AI: 4 things to know | Becker's, geraadpleegd op 6 februari 2026, https://www.beckershospitalreview.com/patient-experience/critics-bristle-over-creating-mychart-messages-with-ai-4-things-to-know/

6. GenAI Notification Requirements | Medical Board of California, geraadpleegd op 6 februari 2026, https://www.mbc.ca.gov/Resources/Medical-Resources/GenAI-Notification.aspx

7. California Requires Disclaimers for Health Care Providers' AI-Generated Patient Communications | ArentFox Schiff, geraadpleegd op 6 februari 2026, https://www.afslaw.com/perspectives/alerts/california-requires-disclaimers-health-care-providers-ai-generated-patient

8. The Clinicians' Guide to Large Language Models: A General Perspective With a Focus on Hallucinations - Interactive Journal of Medical Research, geraadpleegd op 6 februari 2026, https://www.i-jmr.org/2025/1/e59823

9. New Law Regulates Use of Generative Artificial Intelligence in Healthcare - Fenton & Keller, geraadpleegd op 6 februari 2026, https://fentonkeller.com/fk-articles/new-law-regulates-use-of-generative-artificial-intelligence-in-healthcare/

10. Bill Text: CA AB3030 | 2023-2024 | Regular Session | Amended - LegiScan, geraadpleegd op 6 februari 2026, https://legiscan.com/CA/text/AB3030/id/3012689

11. U.S. State AI Law Tracker – All States, geraadpleegd op 6 februari 2026, https://ai-law-center.orrick.com/us-ai-law-tracker-see-all-states/

12. California Turns to the Use of AI in Healthcare | BCLP - Bryan Cave Leighton Paisner, geraadpleegd op 6 februari 2026, https://www.bclplaw.com/en-US/events-insights-news/california-turns-to-the-use-of-ai-in-healthcare.html

13. Large language models and large concept models in radiology: Present challenges, future directions, and critical perspectives - PMC - PubMed Central, geraadpleegd op 6 februari 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12679190/

14. Reducing Hallucinations in Large Language Models for Healthcare - Cognome, geraadpleegd op 6 februari 2026, https://cognome.com/blog/reducing-hallucinations-in-large-language-models-for-healthcare

15. The dangers of using non-medical LLMs in healthcare communication - Paubox, geraadpleegd op 6 februari 2026, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

16. Challenges of Implementing LLMs in Clinical Practice: Perspectives - PMC, geraadpleegd op 6 februari 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12429116/

17. Risk Management: Artificial Intelligence in Clinical Practice - PMC - NIH, geraadpleegd op 6 februari 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC11709444/

18. Large Language Models Are Highly Vulnerable to Adversarial Hallucination Attacks in Clinical Decision Support: A Multi-Model Assurance Analysis | medRxiv, geraadpleegd op 6 februari 2026, https://www.medrxiv.org/content/10.1101/2025.03.18.25324184v1.full-text

19. How AI red teaming fixes vulnerabilities in your AI systems | Invisible Blog, geraadpleegd op 6 februari 2026, https://invisibletech.ai/blog/ai-red-teaming-2026

20. Retrieval-Augmented Generation (RAG) in Healthcare: A Comprehensive Review - MDPI, geraadpleegd op 6 februari 2026, https://www.mdpi.com/2673-2688/6/9/226

21. Use case: Building a medical intelligence application with augmented patient data, geraadpleegd op 6 februari 2026, https://docs.aws.amazon.com/prescriptive-guidance/latest/rag-healthcare-use-cases/case-1.html

22. Unlocking Electronic Health Records: A Hybrid Graph RAG Approach to Safe Clinical AI for Patient QA - arXiv, geraadpleegd op 6 februari 2026, https://arxiv.org/html/2602.00009v1

23. Med-HALT: Medical Domain Hallucination Test for Large Language Models - GitHub, geraadpleegd op 6 februari 2026, https://github.com/medhalt/medhalt

24. mitmedialab/medical_hallucination: Medical Hallucination in Foundation Models and Their Impact on Healthcare (2025) - GitHub, geraadpleegd op 6 februari 2026, https://github.com/mitmedialab/medical_hallucination

25. What Is AI Red Teaming? Why You Need It and How to Implement - Palo Alto Networks, geraadpleegd op 6 februari 2026, https://www.paloaltonetworks.com/cyberpedia/what-is-ai-red-teaming

26. AI Red Teaming Agent (preview) - Microsoft Foundry, geraadpleegd op 6 februari 2026, https://learn.microsoft.com/en-us/azure/ai-foundry/concepts/ai-red-teaming-agent?view=foundry-classic

27. AI in Medical Malpractice: Liability, Risk, & What Physicians Need to Know - Indigo, geraadpleegd op 6 februari 2026, https://www.getindigo.com/blog/ai-in-medical-malpractice-liability-risk-guide

28. Healthcare AI 2025 - USA – California | Global Practice Guides | Chambers and Partners, geraadpleegd op 6 februari 2026, https://practiceguides.chambers.com/practice-guides/healthcare-ai-2025/usa-california/trends-and-developments

29. A New Duty of Care: How AI Is Rewriting Medical Liability | Gyrus Group, geraadpleegd op 6 februari 2026, https://gyrusgroup.com/news/a-new-duty-of-care-how-ai-is-rewriting-medical-liability/

30. Artificial Intelligence: The Legalities of AI in Health Care and the Day-to-Day Use of AI in the Clinical Setting - Oncology Issues, geraadpleegd op 6 februari 2026, https://journals.accc-cancer.org/view/artificial-intelligence-the-legalities-of-ai-in-health-care-and-the-day-to-day-use-of-ai-in-the-clinical-setting

31. Understanding Liability Risk from Using Healthcare AI Tools - Illinois Health and Hospital Association, geraadpleegd op 6 februari 2026, https://www.team-iha.org/getmedia/3d7473d7-192e-40b8-ad2e-b40b27be43ae/K_Understanding-Liability-K-2025.pdf

32. Appendix E — The Clinical AI Morgue - The Physician AI Handbook, geraadpleegd op 6 februari 2026, https://physicianaihandbook.com/appendices/failures.html

33. AI regulation in insurance: Risk-based pricing and fairness - Browne Jacobson LLP, geraadpleegd op 6 februari 2026, https://www.brownejacobson.com/insights/the-word-may-2025/ai-hallucinations

34. Legal AI Hallucinations and Your Attorney Malpractice Insurance Coverage, geraadpleegd op 6 februari 2026, https://www.l2insuranceagency.com/blog/legal-ai-hallucinations-and-your-attorney-malpractice-insurance-coverage/