Algoritmische billijkheid en de Deep AI-imperatief: systemische bias in klinische besluitvormingsondersteuning herstellen

De integratie van kunstmatige intelligentie in de klinische omgeving is overgegaan van een theoretische belofte naar een structurele noodzaak. Naarmate zorgorganisaties echter steeds vaker vertrouwen op geautomatiseerde systemen om diagnostische precisie en triage-efficiëntie te versterken, is er een kritieke kloof ontstaan tussen algoritmische prestaties in gecontroleerde omgevingen en de geleefde realiteit van patiëntuitkomsten. De recente toename van empirisch bewijs—van hardwarematige onnauwkeurigheden van pulsoximetrie tot architecturale mislukkingen van propriëtaire sepsismodellen—laat zien dat veel huidige AI-implementaties niet louter neutrale hulpmiddelen zijn, maar actieve deelnemers aan de bestendiging van historische zorgongelijkheden. De crisis in de moedergezondheid van zwarte vrouwen, waar de sterftecijfers driemaal hoger blijven dan die van witte populaties, vormt de meest aangrijpende indicator van dit systemische falen. Dit rapport, gepresenteerd door Veriprajna, betoogt dat de oplossing voor deze ongelijkheden niet ligt in de oppervlakkige toepassing van Large Language Model (LLM)-"wrappers," maar in een fundamentele heroriëntatie op Deep AI-oplossingen die fysiologische integriteit, demografische pariteit en rigoureuze externe validatie prioriteren.

De vertrouwenscrisis: voorbij de LLM-wrapper-valkuil

Het huidige technologische landschap is verzadigd met "wrapper"-toepassingen—softwarelagen die een dunne gebruikersinterface bieden over algemene publieke API’s zoals OpenAI’s GPT, Google’s Gemini of Anthropic’s Claude. Hoewel deze tools uitblinken in administratief opstellen en oppervlakkige datasamenvatting, zijn ze fundamenteel ongeschikt voor de high-stakes, multimodale eisen van klinische besluitvormingsondersteuning. Een LLM is een statistische motor die is getraind op taalwaarschijnlijkheden; het beschikt niet over een conceptueel begrip van pathofysiologie, noch is het inherent verankerd in de strenge beperkingen van klinisch bewijs.¹ In de context van moedergezondheid of acute sepsisbehandeling introduceert de "wrapper"-benadering onaanvaardbare risico’s, waaronder hallucinaties, de versterking van biases op internetschaal, en een gebrek aan uitlegbaarheid waardoor de "black box"-aard van het model een aansprakelijkheid wordt in plaats van een troef.³

Veriprajna positioneert zich als aanbieder van Deep AI-oplossingen en pleit voor een methodologie die realtime fysiologische signalen, door experts gelabelde datasets en fairness-aware verliesfuncties integreert. Het falen van "kant-en-klare" modellen—zoals het Epic Sepsis Model—om te generaliseren over diverse patiëntenpopulaties toont aan dat nauwkeurigheidsmetrieken die over een populatie worden gemiddeld vaak dodelijke tekortkomingen binnen gemarginaliseerde subgroepen maskeren.⁵ Ware klinische intelligentie vereist een architectuur die rekening houdt met de onderlinge afhankelijkheid van hardwaresensoren, sociaaleconomische determinanten van gezondheid (SDOH) en de fysiologische variaties over demografische cohorten.

Fysiologische dataintegriteit: de pulsoximeter en de basis van bias

De doeltreffendheid van elk AI-systeem is onlosmakelijk verbonden met de kwaliteit van de data die het opneemt. In triage- en early-warning-systemen dient pulsoximetrie als een primaire inputbron voor het bepalen van ademnood en sepsisrisico. Het fysische mechanisme van deze apparaten bevat echter een al lang gedocumenteerde maar vaak genegeerde bias: de differentiële lichtabsorptie door melanine.

De fysica van optische interferentie

Pulsoximeters werken door rood en infrarood licht door het weefsel te zenden en de absorptieverhouding van geoxygeneerd en gedeoxygeneerd hemoglobine te meten. Melanine absorbeert echter ook licht over deze golflengten. Wanneer deze apparaten voornamelijk worden gekalibreerd op populaties met een lichtere huid, wordt de extra absorptie bij patiënten met een donkerdere huid vaak door het apparaat verkeerd geïnterpreteerd als een hogere concentratie geoxygeneerd hemoglobine.⁸ Dit leidt tot "occulte hypoxemie"—een toestand waarbij het apparaat een perifere zuurstofsaturatie ( ) binnen het normale bereik rapporteert, terwijl de werkelijke arteriële zuurstofsaturatie ( ) gevaarlijk laag is.

Recente bevindingen gepubliceerd in de New England Journal of Medicine (NEJM) en de British Medical Journal (BMJ) onderstrepen de omvang van deze meetfout en de daaropvolgende impact op AI-gestuurde triagelogica. Onderzoek wijst erop dat zwarte patiënten bijna driemaal zo vaak occulte hypoxemie ervaren als witte patiënten—een ongelijkheid die sinds de jaren 1990 aanhoudt zonder adequate regulatoire interventie.⁸

Parameter	Impact op lichtere huidtonen	Impact op donkerdere huidtonen	Bron
Gemiddelde overschatting	Baseline	0.6 tot 1.5 procentpunten hoger	8
Vals-negatiefpercentage (SpO₂)	1.2% - 26.9%	7.6% - 62.2%	8
Incidentie van occulte hypoxemie	Baseline	~3x hogere frequentie	8
Falen van pediatrische detectie	0% gemist	7% gemist bij de donkerste huidtonen	11

Het cascaderende effect op AI-triage

Wanneer een AI-triagesysteem als kernkenmerk gebruikt, erft het deze bias op hardwareniveau.

Als een algoritme is ontworpen om een "high-priority"-alert te activeren voor een onder 92%, zal het systematisch zwarte patiënten niet markeren bij wie de werkelijke arteriële zuurstof op 88% ligt, maar bij wie de pulsoximeteraflezing op 93% blijft. Dit leidt tot een systemische vertraging in de toediening van aanvullende zuurstof, een verhoogd risico op orgaanfalen en hogere sterfte in het ziekenhuis.⁹

Voor een Deep AI-aanbieder als Veriprajna onthullen deze data dat "schone" EHR-data een illusie zijn. Een geavanceerd model moet zo worden ontworpen dat het demografisch-specifieke kalibratie-offsets toepast of multimodale sensoren gebruikt (zoals oximetrie combineren met hartritmevariabiliteit en ademhalingsfrequentie) om de werkelijke klinische toestand van een patiënt te trianguleren. De Vanderbilt-studie van 2024 (POSTer-Child) benadrukte dat zelfs in pediatrische populaties gangbare pulsoximetrieapparaten lage zuurstof niet detecteerden bij 7% van de patiënten met de donkerste huidtonen, terwijl zij nul gevallen misten bij patiënten met de lichtste tonen.¹¹ Dit suggereert dat de huidige FDA-richtlijnen, die tot voor kort tests op slechts tien proefpersonen vereisten, fundamenteel ontoereikend zijn om de veiligheid te waarborgen van AI-systemen die op deze sensoren zijn gebouwd.¹⁰

Predictief falen in acute zorg: een analyse van het Epic Sepsis Model

De overgang van hardwarebias naar algoritmische bias is het duidelijkst zichtbaar in de wijdverspreide adoptie van het Epic Sepsis Model (ESM). Geïntegreerd in de Electronic Health Records (EHR) van honderden ziekenhuizen werd het ESM gemarket als een proactief hulpmiddel om sepsis te identificeren vóór klinische herkenning. De realiteit van de uitrol kenmerkt zich echter door slechte generalisatie en significante raciale prestatieverschillen.

De generalisatiekloof

Interne validatie door de ontwikkelaar claimde een Area Under the Curve (AUC) van 0.76 tot 0.83. Onafhankelijke externe validatie uitgevoerd bij Michigan Medicine liet echter een dramatische prestatieterugval zien, met een AUC van slechts 0.63.⁵ Deze discrepantie illustreert de "site-specific overfitting" die gebruikelijk is bij propriëtaire modellen. Wanneer een model wordt gekalibreerd op een specifieke patiëntenpopulatie (bijv. drie Amerikaanse gezondheidssystemen uit 2013-2015), faalt het vaak wanneer het wordt geconfronteerd met de andere demografische samenstellingen, klinische praktijken en documentatiegewoonten van een nieuwe instelling.⁵

Prestatiemetriek	Claims van de ontwikkelaar	Externe validatie (Michigan)	Bron
Sensitiviteit (true positive)	Hoog	33% (mist 67% van de gevallen)	6
Positive Predictive Value	N/A	12% (88% vals-alarmpercentage)	7
Voordeel van vroege detectie	Gepromoot	6% van de gevallen (zeldzame alert vóór clinicus)	13
Alertbelasting	Beheerd	Hoog (significante alertmoeheid)	7

Raciale ongelijkheden en het labelbiasprobleem

Het falen van het ESM is niet louter een kwestie van lage sensitiviteit; het is een kwestie van ongelijke bescherming. Zwarte en Hispanic patiënten ervaren bijna het dubbele van de sepsisincidentie vergeleken met witte patiënten en presenteren zich vaak op jongere leeftijd.¹⁴ Toch merken studies op dat het ESM een slechte "kalibratie" over deze groepen vertoont en vaak geen rekening houdt met de specifieke fysiologische trajecten van sepsis in gemarginaliseerde populaties.¹⁴

Een primaire drijfveer van dit falen is "labelbias." Veel sepsismodellen worden getraind op klinische definities of factureringscodes die zelf producten zijn van bevooroordeelde menselijke oordeelsvorming. Als clinici historisch trager zijn met het aanvragen van bloedkweken of het herkennen van sepsis bij zwarte patiënten, leert de AI "sepsis" te associëren met de datasignaturen van witte patiënten en wordt die effectief "blind" voor de presentatie van de ziekte bij zwarte patiënten.¹⁴ Dit creëert een dodelijke feedbacklus: de AI mist de patiënt omdat de historische data bevooroordeeld was, en de clinicus mist de patiënt omdat die te sterk steunt op een AI die geen alert heeft gegeven.

De moedergezondheidscrisis: systemische verwaarlozing en algoritmisch falen

Misschien toont geen enkel medisch domein de kruising van structureel racisme en technologisch falen duidelijker dan moedergezondheid. De Centers for Disease Control and Prevention (CDC) rapporteert dat zwarte vrouwen een zwangerschapsgerelateerd sterftecijfer van 50.3 per 100.000 levendgeborenen hebben—bijna 3.5 maal hoger dan de 14.5 die voor witte vrouwen is geregistreerd.¹⁷ Deze ongelijkheid houdt stand zelfs bij correctie voor opleiding en inkomen, wat suggereert dat de grondoorzaak ligt in de zorgkwaliteit en de structurele biases van het zorgsysteem.¹⁹

Bevindingen van het California Maternal Data Center (MDC)

Californië is historisch een leider geweest in kwaliteitsverbetering van moedergezondheid via de California Maternal Quality Care Collaborative (CMQCC). Zelfs in deze datarijke omgeving hebben AI-early-warning-systemen (EWS) echter kritieke tekortkomingen laten zien. Het MDC stelde vast dat geautomatiseerde early-warning-systemen 40% van de gevallen van ernstige morbiditeit bij zwarte patiënten misten.²⁰

Severe Maternal Morbidity (SMM) is een maat voor levensbedreigende complicaties, zoals bloeding, pre-eclampsie en sepsis, die 100 maal vaker voorkomen dan moedersterfte.²¹ Het falen van AI om deze gevallen bij zwarte vrouwen te markeren wordt vaak gekoppeld aan het "weathering"-effect—de fysiologische manifestatie van chronische stress veroorzaakt door systemisch racisme, die kan leiden tot hogere baselinebloeddrukken en veranderde cardiovasculaire responsen die de AI als "normaal" voor die persoon kan interpreteren.²⁰

Uitkomstmaat	Zwart niet-Hispanic	Wit niet-Hispanic	Hispanic	Bron
Moedersterfte (per 100k)	50.3	14.5	12.4	17
Prematuur geboortecijfer	14.7%	9.4%	10.1%	19
Late of geen prenatale zorg	10.4%	4.7%	9.7%	19
Misbehandeling in de kraamzorg	1 op 3	1 op 5 (gemiddelde)	N/A	23

Het "failure to rescue" en de economische imperatief

De ongelijkheid zit niet alleen in de incidentie van complicaties, maar in het "failure to rescue." Zwarte vrouwen hebben 1,79 maal meer kans om te overlijden zodra een ernstige morbiditeit is opgetreden, vergeleken met witte vrouwen.²⁴ Dit geeft aan dat wanneer een AI-systeem er niet in slaagt te alarmeren, of wanneer de alert wordt genegeerd door impliciete bias, het venster voor levensreddende interventie sneller sluit voor zwarte patiënten.

McKinsey’s analyse over het dichten van de kloof in de moedergezondheid van zwarte vrouwen onderstreept dat het aanpakken van deze ongelijkheden niet alleen een morele noodzaak is, maar ook een economische. Het herstellen van gezonde levensjaren voor zwarte vrouwen zou $24.4 billion aan het Amerikaanse BBP kunnen toevoegen en $385 million aan jaarlijkse vermijdbare zorgkosten kunnen besparen.²⁵ Dit vereist een overgang van passieve observatie naar proactieve, AI-ondersteunde interventiestrategieën die "Count, Study, Care, Include, and Invest" prioriteren.²⁵

Deep AI versus LLM-wrappers: een technische kritiek

De opkomst van generatieve AI heeft geleid tot een toename van klinische "chatbots" en samenvattingstools. Voor een high-stakes-omgeving zoals maternale triage of sepsisdetectie zijn deze "wrappers" echter fundamenteel ontoereikend. Veriprajna pleit voor een onderscheid tussen deze probabilistische taalmodellen en Deep AI-architecturen die zijn ontworpen voor klinisch nut.

De beperkingen van statistische waarschijnlijkheid

Large Language Models (LLM’s) werken op woordwaarschijnlijkheden, niet op klinische logica. In een medische omgeving uit zich dat als:

1.​ Klinische onnauwkeurigheid: Studies vonden dat LLM’s slechts 16.7% nauwkeurigheid behaalden bij dosisaanpassingen bij nierfunctiestoornissen wanneer patiëntspecifieke variabelen complex waren.²⁶

2.​ Gebrek aan realtime verankering: De meeste publieke LLM’s zijn getraind op statische datasets en hebben geen toegang tot realtime klinische databases of bijgewerkte richtlijnen.¹

3.​ Black-box-ondoorzichtigheid: LLM’s kunnen geen transparante redeneerketen leveren die een clinicus kan verifiëren, wat een vereiste is onder de Europese GDPR en evoluerende Amerikaanse gezondheidsregelgeving.²

4.​ Adversariële hallucinatie: Systemen kunnen worden gemanipuleerd of content per abuis transcriberen, wat leidt tot het invoegen van gefabriceerde klinische data in het patiëntendossier.¹

Het Veriprajna Deep AI-paradigma

Een Deep AI-oplossing, zoals gedefinieerd door Veriprajna, moet zijn:

●​ Multimodaal: Integratie van golfvormdata (EKG/oximetrie), gestructureerde labwaarden en ongestructureerde verpleegkundige notities in plaats van uitsluitend te vertrouwen op tekstgebaseerde inputs.¹³

●​ Expert-gevalideerd: Gebruik van labels die voortkomen uit geadjudiceerde expertreview in plaats van ruisige factureringscodes.⁶

●​ Fairness-aware by design: Implementatie van wiskundige beperkingen tijdens de trainingsfase om demografische pariteit te waarborgen.²⁸

Wiskundige grondslagen van algoritmische fairness

Om voorbij het theoretische te gaan en tot enterprisekwaliteit te komen, moeten we de wiskundige structuur van bias aanpakken. Traditionele optimalisatie beoogt het empirische risico (gemiddelde fout) over de gehele dataset te minimaliseren. Dit begunstigt van nature de meerderheidsgroep. Veriprajna implementeert fairness-aware verliesfuncties om dit te corrigeren.

Fairness-aware verliesfuncties

Een benadering is de integratie van een "fairness penalty" in de standaard verliesfunctie. Als is de standaard cross-entropieverlies, minimaliseert een fairness-aware model:

waarbij is een maat voor ongelijkheid over beschermde groepen (bijv. ras of geslacht) en is een regularisatieparameter die de afweging stuurt tussen algehele nauwkeurigheid en groepsfairness.²⁸

Worst-Group Loss-optimalisatie

In veel medische scenario’s zijn we geïnteresseerd in het minimaliseren van het risico voor de meest kwetsbare populatie. De Worst-Group Loss-benadering beoogt het maximale verlies over alle demografische subgroepen te minimaliseren:

waarbij is de verzameling van alle subgroepen (bijv. Black non-Hispanic, White, Hispanic). Onderzoek naar geautomatiseerde depressiedetectie heeft aangetoond dat deze benadering de algehele nauwkeurigheid enigszins kan verlagen, maar de uitkomsten voor ondervertegenwoordigde groepen significant verbetert, zoals Hispanic deelnemers, die vaak door standaardmodellen verkeerd worden geclassificeerd.³⁰

Equalized Odds en demografische pariteit

Deep AI-modellen worden ook geëvalueerd met metrieken die verder gaan dan eenvoudige nauwkeurigheid.

●​ Demografische pariteit: Waarborgt dat de waarschijnlijkheid van een positieve voorspelling (bijv. "Hoog risico") gelijk is over alle groepen: .

●​ Equalized Odds: Vereist dat zowel de True Positive Rate (sensitiviteit) als de False Positive Rate (1-specificiteit) gelijk zijn over groepen:

.

Bij sepsisdetectie is het bereiken van Equalized Odds cruciaal. Als een model 80% sensitiviteit heeft voor witte patiënten maar slechts 40% voor zwarte patiënten, levert het effectief een ander zorgniveau op basis van ras.¹²

Architecturale strategieën voor mitigatie van klinische bias

Het technische framework van Veriprajna voor Deep AI-oplossingen omvat een vierlagige aanpak om te waarborgen dat modellen robuust, billijk en generaliseerbaar zijn.

Laag 1: Representation Alignment

Vóór training moet de dataset worden onderzocht op "hidden stratification." Als bijvoorbeeld een thoraxfoto-model wordt getraind op een dataset waarin "portable" röntgenfoto’s (meestal gebruikt voor zieker, bedlegerige patiënten) vaker voorkomen voor één demografische groep, kan het model leren om de aanwezigheid van portable apparatuur te associëren met ziekte in plaats van met de werkelijke pathologie.¹³ We gebruiken "adversarial debiasing," waarbij een hulpmodel wordt getraind om het beschermde attribuut (ras) te voorspellen uit de interne kenmerken van het primaire model. Het primaire model wordt vervolgens bestraft als de adversary slaagt, waardoor het wordt gedwongen kenmerken te leren die "blind" zijn voor ras maar "sightful" voor klinische pathologie.³⁵

Laag 2: Domeinspecifieke fine-tuning

In tegenstelling tot LLM-wrappers die generalistische gewichten gebruiken, moeten Deep AI-modellen worden gefinetuned op gespecialiseerde klinische corpora. Voor moedergezondheid omvat dit training op het Obstetric Comorbidity Scoring System van het California Maternal Data Center, dat Severe Maternal Morbidity met een hogere mate van nauwkeurigheid voorspelt dan algemene metrieken door te corrigeren voor specifieke comorbiditeiten zoals chronische hypertensie en diabetes.²¹

Laag 3: Multimodale signaalfusie

Om de pulsoximetriekloof aan te pakken, behandelen onze modellen niet als op zichzelf staande grondwaarheid. In plaats daarvan gebruiken zij "temporal regression of nonlinear dynamics" om oximetrie met andere markers te fuseren. Als de hartslag en lactaatwaarden van een patiënt stijgen terwijl stabiel blijft, markeert de Deep AI een "signaaldiscrepantie"-alert, die de clinicus aanspoort om een gouden-standaard arteriële bloedgasanalyse (ABG) aan te vragen.⁹

Laag 4: Externe validatie en continue auditing

Modeldrift is een significant risico in de zorg. Naarmate klinische protocollen veranderen of patiëntendemografie verschuift, kan de prestatie van een model degraderen. Veriprajna implementeert een "Local Validation"-framework waarbij elke uitrol begint met een retrospectieve audit van de eigen data van de instelling. We meten de "Population Stability Index" (PSI) om te kwantificeren hoezeer de lokale populatie verschilt van het trainingscohort, zodat het model opnieuw wordt gekalibreerd voor de specifieke gemeenschap die het bedient.⁷

De rol van Deep AI-consultancy: strategische governance

Voor zorgbestuurders is de beslissing niet langer of AI moet worden geadopteerd, maar hoe dat te doen zonder catastrofale aansprakelijkheid te introduceren of gezondheidsongelijkheden te verergeren. De "Veriprajna Method" biedt een framework voor AI-governance op enterpriseniveau.

Eis transparantie en model cards

AI-leveranciers moeten aan een hogere standaard van transparantie worden gehouden. Algemene claims van "99% nauwkeurigheid" zijn vaak betekenisloos. Ondernemingen moeten eisen:

●​ Subgroepprestatiemetrieken: Gedetailleerde uitsplitsingen van sensitiviteit, specificiteit en PPV naar leeftijd, geslacht en ras.⁷

●​ Kalibratiecurves: Bewijs dat een "90% waarschijnlijkheid" van sepsis daadwerkelijk betekent dat 9 van de 10 van zulke patiënten de aandoening hebben.⁷

●​ Peer-reviewed validatie: Afwijzing van leverancierswhitepapers ten gunste van onafhankelijke, externe studies zoals die uitgevoerd door Wong et al. of het EXAKT-studieteam.⁶

Implementatie van "human-in-the-loop"-toezicht

AI moet klinische rollen transformeren, niet vervangen. In moedergezondheid betekent dit AI gebruiken om tijd vrij te maken zodat clinici zich kunnen richten op activiteiten met hoge waarde zoals actief luisteren en lichamelijk onderzoek.³⁸ Recht en ethiek vereisen echter dat geautomatiseerde systemen nooit de enige besluitvormers zijn.² Wij pleiten voor "collaborative intelligence," waarbij de AI de datagedreven "nudge" levert, maar het uiteindelijke diagnostische en therapeutische pad wordt bepaald door een menselijke clinicus die is getraind om algoritmische bias te herkennen en te corrigeren.³

Toekomstperspectief: het narratief van innovatie heroveren

Het huidige tijdperk van "AI-hype" heeft ertoe geleid dat veel organisaties genoegen nemen met het gemak van LLM-wrappers. De data van de CDC, NEJM en het California Maternal Data Center dienen echter als een scherpe herinnering dat in de geneeskunde gemak niet ten koste mag gaan van billijkheid. De "Deep AI"-benadering die Veriprajna voorstaat, vertegenwoordigt een terugkeer naar wetenschappelijke strengheid.

Door de hardwarebeperkingen van sensoren aan te pakken, de labelbiases in historische datasets te corrigeren en fairness-aware wiskundige architecturen te implementeren, kunnen we een zorgsysteem bouwen waarin technologie de sterftekloof dicht in plaats van die te verbreden. De economische en sociale winst van zo’n onderneming—het redden van duizenden moeders en zuigelingen elk jaar—is de ware succesmetriek voor de volgende generatie kunstmatige intelligentie.²⁵

Veriprajna is toegewijd aan deze deep-work-filosofie en gaat voorbij de API-aanroep om de fundamenten te bouwen van een werkelijk billijke klinische toekomst. De integratie van high-fidelity-data, demografisch bewustzijn en expertvalidatie is niet louter een technische uitdaging; het is de nieuwe zorgstandaard.

Samenvatting van enterprise mitigeringsmaatregelen voor klinische AI-risico’s

Risicocategorie	Zwakte van wrapper/propriëtair model	Deep AI/Veriprajna-oplossing
Databias	Erft hardwarebias (bijv. oximetrie)	Multimodale triangulatie en sensorspecifieke offsets
Labelbias	Getraind op bevooroordeelde facturerings-/klinische codes	Door experts geadjudiceerde grondwaarheidslabels
Generalisatie	Site-specific overfitting; faalt op nieuwe pop.	Lokale validatie en Population Stability Index (PSI)-audits
Uitlegbaarheid	Black-box-output; hoog hallucinatierisico	Transparante featureweging en klinische redeneerketens
Billijkheid	Optimaliseert voor het meerderheidsgemiddelde	Worst-group loss- en Equalized Odds-beperkingen
Compliance	Publieke API’s missen HIPAA/GDPR-waarborgen	On-premise of private-cloudarchitectuur van medische kwaliteit

Concluderend vereist het pad naar klinische excellentie in het AI-tijdperk een afwijzing van het oppervlakkige. Zoals de crisis in moedersterfte en het falen van sepsismodellen aantonen, staan er niets minder dan de levens van onze meest kwetsbare patiënten op het spel. Deep AI is het enige levensvatbare pad vooruit voor een zorgsysteem van enterprisekwaliteit dat zowel innovatie als rechtvaardigheid waardeert.

Geraadpleegde bronnen

1. The dangers of using non-medical LLMs in healthcare communication - Paubox, geraadpleegd op 6 februari 2026, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

2. LLMs in Healthcare: what's helpful, harmful and what do you need to know? - Cranium, geraadpleegd op 6 februari 2026, https://www.cranium.eu/llms-in-healthcare-whats-helpful-harmful-and-what-do-you-need-to-know/

3. Challenges and barriers of using large language models (LLM) such as ChatGPT for diagnostic medicine with a focus on digital pathology – a recent scoping review - PMC, geraadpleegd op 6 februari 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC10898121/

4. The Limitations of Large Language Models (in Medical Environments). | by Juan Placer Mendoza, geraadpleegd op 6 februari 2026, https://jpm75.medium.com/the-limitations-of-large-language-models-in-medical-environments-3843054bb042

5. The Epic Sepsis Model Falls Short—The Importance of External Validation - ResearchGate, geraadpleegd op 6 februari 2026, https://www.researchgate.net/publication/352593220_The_Epic_Sepsis_Model_Falls_Short-The_Importance_of_External_Validation

6. External Validation of a Widely Implemented Proprietary Sepsis Prediction Model in Hospitalized Patients - PMC, geraadpleegd op 6 februari 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC8218233/

7. Evaluating AI Clinical Decision Support Systems - The Physician AI Handbook, geraadpleegd op 6 februari 2026, https://physicianaihandbook.com/implementation/evaluation.html

8. The impact of skin tone on performance of pulse oximeters used by ..., geraadpleegd op 6 februari 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12801414/

9. Pulse oximeters overestimate blood oxygen levels in patients with darker skin, geraadpleegd op 6 februari 2026, https://www.news-medical.net/news/20260114/Pulse-oximeters-overestimate-blood-oxygen-levels-in-patients-with-darker-skin.aspx

10. Racial Bias in Pulse Oximetry Measurement - AI & Digital Health Innovation, geraadpleegd op 6 februari 2026, https://aidhi.umich.edu/impact-stories-blog/racial-bias-in-pulse-oximetry-measurement

11. Skin tone may affect accuracy of blood oxygen measurement in children: study - VUMC News, geraadpleegd op 6 februari 2026, https://news.vumc.org/2025/03/04/skin-tone-may-affect-accuracy-of-blood-oxygen-measurement-in-children-study/

12. Mitigating AI Risks in Healthcare: Why Local Validation Matters - EisnerAmper, geraadpleegd op 6 februari 2026, https://www.eisneramper.com/insights/blogs/health-care-blog/mitigating-ai-risks-in-healthcare-0625/

13. AI in Diagnostic and Clinical Decision Support - The Public Health AI Handbook, geraadpleegd op 6 februari 2026, https://publichealthaihandbook.com/applications/clinical.html

14. Full article: Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis - Taylor & Francis Online, geraadpleegd op 6 februari 2026, https://www.tandfonline.com/doi/full/10.1080/15265161.2025.2497971

15. Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis, geraadpleegd op 6 februari 2026, https://www.tandfonline.com/doi/pdf/10.1080/15265161.2025.2497971

16. Sepsis Prediction Models are Trained on Labels that Diverge from Clinician-Recommended Treatment Times - NIH, geraadpleegd op 6 februari 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12099352/

17. Health E-Stats, February 2025, Maternal Mortality Rates in the United States, 2023 - CDC, geraadpleegd op 6 februari 2026, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/Estat-maternal-mortality.pdf

18. Health E-Stat 100: Maternal Mortality Rates in the United States, 2023 - CDC, geraadpleegd op 6 februari 2026, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/maternal-mortality-rates-2023.htm

19. Racial Disparities in Maternal and Infant Health: Current Status and Key Issues | KFF, geraadpleegd op 6 februari 2026, https://www.kff.org/racial-equity-and-health-policy/racial-disparities-in-maternal-and-infant-health-current-status-and-key-issues/

20. How California is taking on inequity for Black patients during pregnancy, childbirth, geraadpleegd op 6 februari 2026, https://med.stanford.edu/news/insights/2024/01/california-inequity-black-patients-pregnancy-childbirth.html

21. CA-PAMR Recent Data | California Maternal Quality Care ..., geraadpleegd op 6 februari 2026, https://www.cmqcc.org/education-research/maternal-mortality-review-ca-pamr/ca-pamr-recent-data

22. CENTERING BLACK MOTHERS IN CALIFORNIA - CDPH, geraadpleegd op 6 februari 2026, https://www.cdph.ca.gov/Programs/CFH/DMCAH/CDPH%20Document%20Library/Centering-Black-Mothers/Centering-Black-Mothers-Report-2023.pdf

23. Disrespected and Ignored: Black Pregnant Women Demand Congressional Action, geraadpleegd op 6 februari 2026, https://nationalpartnership.org/disrespected-and-ignored-black-pregnant-women-demand-congressional-action/

24. Racial and Ethnic Disparities in Death Associated With Severe Maternal Morbidity in the United States: Failure to Rescue | Request PDF - ResearchGate, geraadpleegd op 6 februari 2026, https://www.researchgate.net/publication/350768676_Racial_and_Ethnic_Disparities_in_Death_Associated_With_Severe_Maternal_Morbidity_in_the_United_States_Failure_to_Rescue

25. Black maternal health disparities: reducing mortality rates | McKinsey, geraadpleegd op 6 februari 2026, https://www.mckinsey.com/institute-for-economic-mobility/our-insights/closing-the-black-maternal-health-gap-healthier-lives-stronger-economies

26. Navigating the potential and pitfalls of large language models in patient-centered medication guidance and self-decision support - PMC, geraadpleegd op 6 februari 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC11798948/

27. AI Horizons Institute: AI In Healthcare Workgroup Introduction - University of Rochester, geraadpleegd op 6 februari 2026, https://www.rochester.edu/warner/lida/wp-content/uploads/2025/02/AI-Horizons-Healthcare-White-Paper.pdf

28. Bias in AI systems: integrating formal and socio-technical approaches - PMC, geraadpleegd op 6 februari 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12823528/

29. From Lab to Clinic: Addressing Bias and Generalizability in AI Diagnostic Systems, geraadpleegd op 6 februari 2026, https://journalwjarr.com/sites/default/files/fulltext_pdf/WJARR-2025-4249.pdf

30. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, geraadpleegd op 6 februari 2026, https://arxiv.org/html/2509.25795v1

31. Fair Machine Learning in Healthcare: A Survey | Request PDF - ResearchGate, geraadpleegd op 6 februari 2026, https://www.researchgate.net/publication/384486736_Fair_Machine_Learning_in_Healthcare_A_Survey

32. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches | Request PDF - ResearchGate, geraadpleegd op 6 februari 2026, https://www.researchgate.net/publication/398470731_Assessing_Algorithmic_Bias_in_Language-Based_Depression_Detection_A_Comparison_of_DNN_and_LLM_Approaches

33. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, geraadpleegd op 6 februari 2026, https://www.arxiv.org/pdf/2509.25795

34. False hope of a single generalisable AI sepsis prediction model: bias and proposed mitigation strategies for improving performance based on a retrospective multisite cohort study - ResearchGate, geraadpleegd op 6 februari 2026, https://www.researchgate.net/publication/390249394_False_hope_of_a_single_generalisable_AI_sepsis_prediction_model_bias_and_proposed_mitigation_strategies_for_improving_performance_based_on_a_retrospective_multisite_cohort_study

35. A Comprehensive Survey on Bias and Fairness in Gen- erative AI: Legal, Ethical, and Technical Responses - OpenReview, geraadpleegd op 6 februari 2026, https://openreview.net/pdf/7bd31cd005e56d87b5ed85b266cf1d1ad2693958.pdf

36. Effects of post-training mitigation on classifier performance and... - ResearchGate, geraadpleegd op 6 februari 2026, https://www.researchgate.net/figure/Effects-of-post-training-mitigation-on-classifier-performance-and-fairness-Different_fig3_382523592

37. ICLR 2025 Papers, geraadpleegd op 6 februari 2026, https://iclr.cc/virtual/2025/papers.html

38. Principles for Artificial Intelligence (AI) and its application in healthcare | BMA, geraadpleegd op 6 februari 2026, https://www.bma.org.uk/media/njgfbmnn/bma-principles-for-artificial-intelligence-ai-and-its-application-in-healthcare.pdf

39. Whitepaper for the ITU/WHO Focus Group on Artificial Intelligence for Health, geraadpleegd op 6 februari 2026, https://www.itu.int/en/ITU-T/focusgroups/ai4h/Documents/FG-AI4H_Whitepaper.pdf

40. Despite high Black maternal death rate, California hospitals ignored training about bias in care - CalMatters, geraadpleegd op 6 februari 2026, https://calmatters.org/health/2023/10/despite-high-black-maternal-death-rate-california-hospitals-ignored-training-about-bias-in-care/