Equità algoritmica e l'imperativo della Deep AI: correggere il bias sistemico nel supporto decisionale clinico

L'integrazione dell'intelligenza artificiale nell'ambiente clinico è passata da una promessa teorica a una necessità strutturale. Tuttavia, man mano che le organizzazioni sanitarie si affidano sempre più a sistemi automatizzati per potenziare la precisione diagnostica e l'efficienza del triage, è emerso un divario critico tra le prestazioni algoritmiche in ambienti controllati e la realtà vissuta degli esiti dei pazienti. Il recente aumento delle evidenze empiriche—dalle inesattezze a livello hardware della pulsossimetria ai fallimenti architetturali dei modelli proprietari di sepsi—rivela che molte implementazioni attuali di IA non sono meri strumenti neutri, ma partecipanti attivi nella perpetuazione delle disuguaglianze storiche in sanità. La crisi della salute materna delle donne nere, dove i tassi di mortalità restano tre volte superiori a quelli delle popolazioni bianche, rappresenta l'indicatore più sconvolgente di questi fallimenti sistemici. Questo report, presentato da Veriprajna, sostiene che la soluzione a tali disparità non risiede nell'applicazione superficiale di "wrapper" basati su Large Language Model (LLM), ma in un riorientamento fondamentale verso soluzioni Deep AI che privilegiano l'integrità fisiologica, la parità demografica e una rigorosa validazione esterna.

La crisi di fiducia: oltre la trappola del wrapper LLM

Il panorama tecnologico attuale è saturo di applicazioni "wrapper"—strati software che forniscono una sottile interfaccia utente su API pubbliche generalizzate come GPT di OpenAI, Gemini di Google o Claude di Anthropic. Sebbene questi strumenti eccellano nella redazione amministrativa e nella sintesi superficiale dei dati, sono fondamentalmente inadeguati alle esigenze multimodali ad alto rischio del supporto decisionale clinico. Un LLM è un motore statistico addestrato sulle probabilità linguistiche; non possiede una comprensione concettuale della fisiopatologia, né è intrinsecamente ancorato ai rigorosi vincoli dell'evidenza clinica.¹ Nel contesto della salute materna o della gestione della sepsi acuta, l'approccio "wrapper" introduce rischi inaccettabili, tra cui allucinazioni, il rafforzamento di bias su scala internet e una mancanza di spiegabilità che rende la natura "black box" del modello una liability piuttosto che un asset.³

Veriprajna si posiziona come fornitore di soluzioni Deep AI, promuovendo una metodologia che integra segnali fisiologici in tempo reale, dataset etichettati da esperti e funzioni di perdita consapevoli dell'equità. Il fallimento dei modelli "off-the-shelf"—come l'Epic Sepsis Model—nel generalizzare su popolazioni di pazienti diverse dimostra che le metriche di accuratezza mediate su una popolazione spesso mascherano carenze letali all'interno dei sottogruppi marginalizzati.⁵ Una vera intelligenza clinica richiede un'architettura che tenga conto dell'interdipendenza tra sensori hardware, determinanti socioeconomici della salute (SDOH) e variazioni fisiologiche tra le coorti demografiche.

Integrità dei dati fisiologici: il pulsossimetro e le fondamenta del bias

L'efficacia di qualsiasi sistema di IA è indissolubilmente legata alla qualità dei dati che ingerisce. Nei sistemi di triage e di allerta precoce, la pulsossimetria costituisce una fonte primaria di input per determinare la distress respiratorio e il rischio di sepsi. Tuttavia, il meccanismo fisico di questi dispositivi contiene un bias documentato da tempo ma frequentemente ignorato: l'assorbimento differenziale della luce da parte della melanina.

La fisica dell'interferenza ottica

I pulsossimetri funzionano trasmettendo luce rossa e infrarossa attraverso il tessuto e misurando il rapporto di assorbimento dell'emoglobina ossigenata e deossigenata. La melanina, tuttavia, assorbe anch'essa la luce su queste lunghezze d'onda. Quando questi dispositivi sono calibrati principalmente su popolazioni a pelle più chiara, l'assorbimento aggiuntivo nei pazienti a pelle più scura viene spesso interpretato erroneamente dal dispositivo come una concentrazione più elevata di emoglobina ossigenata.⁸ Ciò porta all'"ipossiemia occulta"—una condizione in cui il dispositivo riporta una saturazione periferica di ossigeno ( ) entro l'intervallo normale mentre la vera saturazione arteriosa di ossigeno ( ) è pericolosamente bassa.

Recenti risultati pubblicati sul New England Journal of Medicine (NEJM) e sul British Medical Journal (BMJ) sottolineano l'entità di questo errore di misurazione e il suo successivo impatto sulla logica di triage guidata dall'IA. La ricerca indica che i pazienti neri hanno quasi tre volte più probabilità di sperimentare ipossiemia occulta rispetto ai pazienti bianchi, una disparità che persiste dagli anni '90 senza un adeguato intervento normativo.⁸

Parametro	Impatto sui toni di pelle più chiari	Impatto sui toni di pelle più scuri	Fonte
Sovrastima media	Baseline	da 0.6 a 1.5 punti percentuali in più	8
Tasso di falsi negativi (SpO₂)	1.2% - 26.9%	7.6% - 62.2%	8
Incidenza di ipossiemia occulta	Baseline	frequenza ~3x superiore	8
Fallimento del rilevamento pediatrico	0% mancati	7% mancati nei toni di pelle più scuri	11

L'effetto a cascata sul triage IA

Quando un sistema di triage IA utilizza come feature centrale, eredita questo bias a livello hardware.

Se un algoritmo è progettato per attivare un allarme ad "alta priorità" per un inferiore al 92%, non riuscirà sistematicamente a segnalare i pazienti neri la cui vera ossigenazione arteriosa è all'88% ma la cui lettura del pulsossimetro rimane al 93%. Ciò comporta un ritardo sistemico nella somministrazione di ossigeno supplementare, un rischio maggiore di insufficienza d'organo e una mortalità ospedaliera più elevata.⁹

Per un fornitore di Deep AI come Veriprajna, questi dati rivelano che i dati EHR "puliti" sono un'illusione. Un modello sofisticato deve essere progettato per applicare offset di calibrazione specifici per demografia o per utilizzare sensori multimodali (ad esempio combinando ossimetria con variabilità della frequenza cardiaca e frequenza respiratoria) per triangolare il vero stato clinico del paziente. Lo studio Vanderbilt 2024 (POSTer-Child) ha evidenziato che anche nelle popolazioni pediatriche i comuni dispositivi di pulsossimetria non riuscivano a rilevare un basso livello di ossigeno nel 7% dei pazienti con i toni di pelle più scuri, mentre non mancavano alcun caso in quelli con i toni più chiari.¹¹ Ciò suggerisce che le attuali linee guida FDA, che fino a poco tempo fa richiedevano test su soli dieci soggetti, sono fondamentalmente inadeguate a garantire la sicurezza dei sistemi di IA costruiti su questi sensori.¹⁰

Fallimento predittivo nella cura acuta: un'analisi dell'Epic Sepsis Model

La transizione dal bias hardware al bias algoritmico è più evidente nella diffusa adozione dell'Epic Sepsis Model (ESM). Integrato nelle Cartelle Cliniche Elettroniche (EHR) di centinaia di ospedali, l'ESM è stato commercializzato come strumento proattivo per identificare la sepsi prima del riconoscimento clinico. Tuttavia, la realtà del suo dispiegamento è stata caratterizzata da scarsa generalizzazione e significative disparità di prestazione razziali.

Il divario di generalizzazione

La validazione interna dello sviluppatore rivendicava un'Area Under the Curve (AUC) da 0.76 a 0.83. Tuttavia, una validazione esterna indipendente condotta presso Michigan Medicine ha rivelato un crollo stupefacente delle prestazioni, con un AUC di soli 0.63.⁵ Questa discrepanza illustra l'"overfitting sito-specifico" comune nei modelli proprietari. Quando un modello è calibrato su una specifica popolazione di pazienti (ad es. tre sistemi sanitari USA dal 2013-2015), spesso fallisce di fronte a mix demografici, pratiche cliniche e abitudini di documentazione diversi di una nuova istituzione.⁵

Metrica di prestazione	Rivendicazioni dello sviluppatore	Validazione esterna (Michigan)	Fonte
Sensibilità (veri positivi)	Alta	33% (manca il 67% dei casi)	6
Valore predittivo positivo	N/A	12% (tasso di falsi allarmi dell'88%)	7
Vantaggio di rilevamento precoce	Commercializzato	6% dei casi (allarme raro prima del clinico)	13
Carico di allarmi	Gestito	Alto (significativa alert fatigue)	7

Disparità razziali e il problema del bias di etichetta

Il fallimento dell'ESM non è soltanto una questione di bassa sensibilità; è una questione di protezione ineguale. I pazienti neri e ispanici sperimentano quasi il doppio dell'incidenza di sepsi rispetto ai pazienti bianchi e spesso si presentano a età più giovani.¹⁴ Tuttavia, gli studi hanno osservato che l'ESM mostra una scarsa "calibrazione" tra questi gruppi, spesso non riuscendo a tenere conto delle traiettorie fisiologiche specifiche della sepsi nelle popolazioni marginalizzate.¹⁴

Un fattore primario di questo fallimento è il "bias di etichetta." Molti modelli di sepsi sono addestrati su definizioni cliniche o codici di fatturazione che sono essi stessi prodotti di giudizi umani distorti. Se i clinici sono storicamente più lenti a ordinare emocolture o a riconoscere la sepsi nei pazienti neri, l'IA impara ad associare la "sepsi" alle firme di dati dei pazienti bianchi, diventando di fatto "cieca" alla presentazione della malattia nei pazienti neri.¹⁴ Ciò crea un feedback loop letale: l'IA manca il paziente perché i dati storici erano distorti, e il clinico manca il paziente perché si affida eccessivamente a un'IA che non ha attivato un allarme.

La crisi della salute materna: negligenza sistemica e fallimento algoritmico

Forse nessuna area della medicina dimostra l'intersezione tra razzismo strutturale e fallimento tecnologico più chiaramente della salute materna. I Centers for Disease Control and Prevention (CDC) riportano che le donne nere affrontano un tasso di mortalità correlata alla gravidanza di 50.3 per 100,000 nati vivi—quasi 3.5 volte superiore ai 14.5 registrati per le donne bianche.¹⁷ Questa disparità persiste anche controllando per istruzione e reddito, suggerendo che la causa radice risieda nella qualità delle cure e nei bias strutturali del sistema sanitario.¹⁹

I risultati del California Maternal Data Center (MDC)

La California è storicamente stata leader nel miglioramento della qualità della salute materna attraverso la California Maternal Quality Care Collaborative (CMQCC). Tuttavia, anche in questo ambiente ricco di dati, i sistemi di allerta precoce (EWS) basati su IA hanno mostrato carenze critiche. L'MDC ha rilevato che i sistemi automatizzati di allerta precoce hanno mancato il 40% dei casi di morbidità grave nelle pazienti nere.²⁰

La Severe Maternal Morbidity (SMM) è una misura delle complicanze potenzialmente letali, come emorragia, preeclampsia e sepsi, che si verificano 100 volte più frequentemente della morte materna.²¹ Il fallimento dell'IA nel segnalare questi casi nelle donne nere è spesso collegato all'effetto "weathering"—la manifestazione fisiologica dello stress cronico causato dal razzismo sistemico, che può portare a pressioni sanguigne basali più elevate e a risposte cardiovascolari alterate che l'IA può interpretare come "normali" per quell'individuo.²⁰

Misura di esito	Nere non ispaniche	Bianche non ispaniche	Ispaniche	Fonte
Mortalità materna (per 100k)	50.3	14.5	12.4	17
Tasso di nascite pretermine	14.7%	9.4%	10.1%	19
Cure prenatali tardive o assenti	10.4%	4.7%	9.7%	19
Maltrattamento nelle cure di maternità	1 su 3	1 su 5 (media)	N/A	23

Il "failure to rescue" e l'imperativo economico

La disparità non riguarda solo l'incidenza delle complicanze ma anche il "failure to rescue." Le donne nere hanno 1.79 volte più probabilità di morire una volta verificatasi una morbidità grave rispetto alle donne bianche.²⁴ Ciò indica che quando un sistema di IA non riesce ad allertare, o quando il suo allarme viene ignorato a causa di bias implicito, la finestra per un intervento salvavita si chiude più rapidamente per le pazienti nere.

L'analisi di McKinsey sulla chiusura del divario di salute materna delle donne nere evidenzia che affrontare queste disparità non è solo una necessità morale ma anche economica. Ripristinare anni di vita in salute per le donne nere potrebbe aggiungere $24.4 miliardi al PIL degli Stati Uniti e risparmiare $385 milioni in costi sanitari annuali prevenibili.²⁵ Ciò richiede una transizione dall'osservazione passiva a strategie di intervento proattivo abilitate dall'IA che privilegiano "Contare, Studiare, Curare, Includere e Investire".²⁵

Deep AI vs. wrapper LLM: una critica tecnica

L'ascesa dell'IA generativa ha portato a un'ondata di "chatbot" clinici e strumenti di sintesi. Tuttavia, per un ambiente ad alto rischio come il triage materno o il rilevamento della sepsi, questi "wrapper" sono fondamentalmente inadeguati. Veriprajna sostiene una distinzione tra questi modelli linguistici probabilistici e le architetture Deep AI progettate per l'utilità clinica.

I limiti della probabilità statistica

I Large Language Models (LLM) operano sulle probabilità delle parole, non sulla logica clinica. In un ambiente medico, ciò si manifesta come:

1.​ Inaccuratezza clinica: gli studi hanno rilevato che gli LLM hanno raggiunto solo il 16.7% di accuratezza negli aggiustamenti di dose per disfunzione renale quando le variabili specifiche del paziente erano complesse.²⁶

2.​ Mancanza di ancoraggio in tempo reale: la maggior parte degli LLM pubblici è addestrata su dataset statici e non ha accesso a database clinici in tempo reale o a linee guida aggiornate.¹

3.​ Opacità black box: gli LLM non possono fornire una catena di ragionamento trasparente che un clinico possa verificare, requisito previsto dal GDPR europeo e dalle normative sanitarie USA in evoluzione.²

4.​ Allucinazione avversariale: i sistemi possono essere manipolati o trascrivere erroneamente contenuti, portando all'inserimento di dati clinici fabbricati nella cartella del paziente.¹

Il paradigma Deep AI di Veriprajna

Una soluzione Deep AI, come definita da Veriprajna, deve essere:

●​ Multimodale: integrare dati di forma d'onda (ECG/ossimetria), laboratori strutturati e note infermieristiche non strutturate piuttosto che affidarsi esclusivamente a input basati su testo.¹³

●​ Validata da esperti: utilizzare etichette derivate da revisione esperta aggiudicata piuttosto che da codici di fatturazione rumorosi.⁶

●​ Consapevole dell'equità by design: implementare vincoli matematici durante la fase di addestramento per garantire la parità demografica.²⁸

Fondamenti matematici dell'equità algoritmica

Per andare oltre il teorico e arrivare al livello enterprise, dobbiamo affrontare la struttura matematica del bias. L'ottimizzazione tradizionale mira a minimizzare il rischio empirico (errore medio) sull'intero dataset. Ciò favorisce naturalmente il gruppo di maggioranza. Veriprajna implementa funzioni di perdita consapevoli dell'equità per correggere questo.

Funzioni di perdita consapevoli dell'equità

Un approccio è l'integrazione di una "penalità di equità" nella funzione di perdita standard. Se è la perdita di cross-entropy standard, un modello consapevole dell'equità minimizza:

dove è una misura della disparità tra i gruppi protetti (ad es. razza o genere) e è un parametro di regolarizzazione che controlla il compromesso tra accuratezza complessiva ed equità di gruppo.²⁸

Ottimizzazione della Worst-Group Loss

In molti scenari medici, siamo interessati a minimizzare il rischio per la popolazione più vulnerabile. L'approccio Worst-Group Loss cerca di minimizzare la perdita massima tra tutti i sottogruppi demografici:

dove è l'insieme di tutti i sottogruppi (ad es. neri non ispanici, bianchi, ispanici). La ricerca sul rilevamento automatico della depressione ha mostrato che, sebbene questo approccio possa abbassare leggermente l'accuratezza complessiva, migliora significativamente gli esiti per i gruppi sottorappresentati, come i partecipanti ispanici, spesso classificati erroneamente dai modelli standard.³⁰

Equalized Odds e parità demografica

I modelli Deep AI sono inoltre valutati con metriche che vanno oltre la semplice accuratezza.

●​ Parità demografica: garantisce che la probabilità di una predizione positiva (ad es. "Alto rischio") sia uguale tra tutti i gruppi: .

●​ Equalized Odds: richiede che sia il True Positive Rate (sensibilità) sia il False Positive Rate (1-specificità) siano uguali tra i gruppi:

.

Nel rilevamento della sepsi, raggiungere gli Equalized Odds è critico. Se un modello ha l'80% di sensibilità per i pazienti bianchi ma solo il 40% per i pazienti neri, sta di fatto fornendo un livello di cura diverso basato sulla razza.¹²

Strategie architetturali per la mitigazione del bias clinico

Il framework tecnico di Veriprajna per le soluzioni Deep AI implica un approccio a quattro livelli per garantire che i modelli siano robusti, equi e generalizzabili.

Livello 1: allineamento della rappresentazione

Prima dell'addestramento, il dataset deve essere scrutinato per "hidden stratification." Ad esempio, se un modello di radiografia del torace è addestrato su un dataset in cui le radiografie "portatili" (di solito usate per pazienti più gravi, allettati) sono più comuni per una demografia, il modello potrebbe imparare ad associare la presenza di attrezzatura portatile alla malattia piuttosto che alla patologia effettiva.¹³ Utilizziamo il "debiasing avversariale," in cui un modello ausiliario è addestrato a predire l'attributo protetto (razza) dalle feature interne del modello primario. Il modello primario viene quindi penalizzato se l'avversario ha successo, costringendolo a apprendere feature "cieche" alla razza ma "sensibili" alla patologia clinica.³⁵

Livello 2: fine-tuning domain-specific

A differenza dei wrapper LLM che usano pesi generalisti, i modelli Deep AI devono essere fine-tuned su corpus clinici specializzati. Per la salute materna, ciò include l'addestramento sull'Obstetric Comorbidity Scoring System del California Maternal Data Center, che predice la Severe Maternal Morbidity con un grado di accuratezza superiore alle metriche generali, aggiustando per comorbidità specifiche come ipertensione cronica e diabete.²¹

Livello 3: fusione multimodale dei segnali

Per affrontare il divario della pulsossimetria, i nostri modelli non trattano come ground truth a sé stante. Invece, utilizzano la "regressione temporale delle dinamiche non lineari" per fondere l'ossimetria con altri marker. Se la frequenza cardiaca e i livelli di lattato di un paziente aumentano mentre rimane stabile, la Deep AI segnala un allarme di "discrepanza del segnale", spingendo il clinico a ordinare un test gold-standard di emogasanalisi arteriosa (ABG).⁹

Livello 4: validazione esterna e auditing continuo

Il model drift è un rischio significativo in sanità. Man mano che i protocolli clinici cambiano o le demografie dei pazienti si spostano, le prestazioni di un modello possono degradarsi. Veriprajna implementa un framework di "validazione locale" in cui ogni deployment inizia con un audit retrospectivo dei dati dell'istituzione stessa. Misuriamo il "Population Stability Index" (PSI) per quantificare quanto la popolazione locale differisca dalla coorte di addestramento, assicurando che il modello sia ricalibrato per la comunità specifica che serve.⁷

Il ruolo della consulenza Deep AI: governance strategica

Per i dirigenti sanitari, la decisione non è più se adottare l'IA, ma come farlo senza introdurre responsabilità catastrofiche o aggravare le disuguaglianze sanitarie. Il "Metodo Veriprajna" fornisce un framework per la governance dell'IA a livello enterprise.

Esigere trasparenza e Model Card

I fornitori di IA devono essere tenuti a uno standard di trasparenza più elevato. Affermazioni generiche di "accuratezza al 99%" sono spesso prive di significato. Le imprese dovrebbero esigere:

●​ Metriche di prestazione per sottogruppo: scomposizioni dettagliate di sensibilità, specificità e PPV per età, sesso e razza.⁷

●​ Curve di calibrazione: prova che una "probabilità del 90%" di sepsi significhi effettivamente che 9 pazienti su 10 in tali condizioni hanno la patologia.⁷

●​ Validazione peer-reviewed: rifiuto dei whitepaper dei vendor a favore di studi indipendenti ed esterni come quelli condotti da Wong et al. o dal team dello studio EXAKT.⁶

Implementare la supervisione "human-in-the-loop"

L'IA dovrebbe trasformare, non sostituire, i ruoli clinici. Nella salute materna, ciò significa usare l'IA per liberare tempo ai clinici affinché si concentrino su attività ad alto valore come l'ascolto attivo e la valutazione fisica.³⁸ Tuttavia, il diritto e l'etica richiedono che i sistemi automatizzati non siano mai gli unici decisori.² Sosteniamo l'"intelligenza collaborativa," in cui l'IA fornisce il "nudge" basato sui dati, ma il percorso diagnostico e terapeutico finale è determinato da un clinico umano formato a riconoscere e correggere il bias algoritmico.³

Prospettive future: riconquistare la narrativa dell'innovazione

L'attuale era dell'"hype sull'IA" ha portato molte organizzazioni ad accontentarsi della comodità dei wrapper LLM. Tuttavia, i dati del CDC, del NEJM e del California Maternal Data Center servono da netto monito: in medicina, la comodità non può arrivare a scapito dell'equità. L'approccio "Deep AI" sostenuto da Veriprajna rappresenta un ritorno al rigore scientifico.

Affrontando i limiti hardware dei sensori, correggendo i bias di etichetta nei dataset storici e implementando architetture matematiche consapevoli dell'equità, possiamo costruire un sistema sanitario in cui la tecnologia serve a chiudere il divario di mortalità piuttosto che ad ampliarlo. I guadagni economici e sociali di tale impegno—salvare migliaia di madri e neonati ogni anno—sono la vera metrica di successo per la prossima generazione di intelligenza artificiale.²⁵

Veriprajna è impegnata in questa filosofia di lavoro profondo, andando oltre la chiamata API per costruire le fondamenta di un futuro clinico davvero equo. L'integrazione di dati ad alta fedeltà, consapevolezza demografica e validazione esperta non è solo una sfida tecnica; è il nuovo standard di cura.

Sintesi della mitigazione del rischio dell'IA clinica enterprise

Categoria di rischio	Debolezza del modello wrapper/proprietario	Soluzione Deep AI/Veriprajna
Bias dei dati	Eredita il bias hardware (ad es. ossimetria)	Triangolazione multimodale e offset specifici per sensore
Bias di etichetta	Addestrato su codici di fatturazione/clinici distorti	Etichette di ground truth aggiudicate da esperti
Generalizzazione	Overfitting sito-specifico; fallisce su nuove pop.	Validazione locale e audit del Population Stability Index (PSI)
Spiegabilità	Output black-box; alto rischio di allucinazione	Pesatura trasparente delle feature e catene di ragionamento clinico
Equità	Ottimizza per la media della maggioranza	Vincoli di worst-group loss e Equalized Odds
Conformità	Le API pubbliche mancano di salvaguardie HIPAA/GDPR	Architettura medical-grade on-premise o Private Cloud

In conclusione, il percorso verso l'eccellenza clinica nell'era dell'IA richiede un rifiuto del superficiale. Come dimostrano la crisi della mortalità materna e i fallimenti dei modelli di sepsi, la posta in gioco non è altro che la vita dei nostri pazienti più vulnerabili. La Deep AI è l'unica via praticabile per un sistema sanitario di livello enterprise che valorizzi sia l'innovazione sia la giustizia.

Opere citate

1. The dangers of using non-medical LLMs in healthcare communication - Paubox, consultato il 6 febbraio 2026, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

2. LLMs in Healthcare: what's helpful, harmful and what do you need to know? - Cranium, consultato il 6 febbraio 2026, https://www.cranium.eu/llms-in-healthcare-whats-helpful-harmful-and-what-do-you-need-to-know/

3. Challenges and barriers of using large language models (LLM) such as ChatGPT for diagnostic medicine with a focus on digital pathology – a recent scoping review - PMC, consultato il 6 febbraio 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC10898121/

4. The Limitations of Large Language Models (in Medical Environments). | by Juan Placer Mendoza, consultato il 6 febbraio 2026, https://jpm75.medium.com/the-limitations-of-large-language-models-in-medical-environments-3843054bb042

5. The Epic Sepsis Model Falls Short—The Importance of External Validation - ResearchGate, consultato il 6 febbraio 2026, https://www.researchgate.net/publication/352593220_The_Epic_Sepsis_Model_Falls_Short-The_Importance_of_External_Validation

6. External Validation of a Widely Implemented Proprietary Sepsis Prediction Model in Hospitalized Patients - PMC, consultato il 6 febbraio 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC8218233/

7. Evaluating AI Clinical Decision Support Systems - The Physician AI Handbook, consultato il 6 febbraio 2026, https://physicianaihandbook.com/implementation/evaluation.html

8. The impact of skin tone on performance of pulse oximeters used by ..., consultato il 6 febbraio 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12801414/

9. Pulse oximeters overestimate blood oxygen levels in patients with darker skin, consultato il 6 febbraio 2026, https://www.news-medical.net/news/20260114/Pulse-oximeters-overestimate-blood-oxygen-levels-in-patients-with-darker-skin.aspx

10. Racial Bias in Pulse Oximetry Measurement - AI & Digital Health Innovation, consultato il 6 febbraio 2026, https://aidhi.umich.edu/impact-stories-blog/racial-bias-in-pulse-oximetry-measurement

11. Skin tone may affect accuracy of blood oxygen measurement in children: study - VUMC News, consultato il 6 febbraio 2026, https://news.vumc.org/2025/03/04/skin-tone-may-affect-accuracy-of-blood-oxygen-measurement-in-children-study/

12. Mitigating AI Risks in Healthcare: Why Local Validation Matters - EisnerAmper, consultato il 6 febbraio 2026, https://www.eisneramper.com/insights/blogs/health-care-blog/mitigating-ai-risks-in-healthcare-0625/

13. AI in Diagnostic and Clinical Decision Support - The Public Health AI Handbook, consultato il 6 febbraio 2026, https://publichealthaihandbook.com/applications/clinical.html

14. Full article: Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis - Taylor & Francis Online, consultato il 6 febbraio 2026, https://www.tandfonline.com/doi/full/10.1080/15265161.2025.2497971

15. Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis, consultato il 6 febbraio 2026, https://www.tandfonline.com/doi/pdf/10.1080/15265161.2025.2497971

16. Sepsis Prediction Models are Trained on Labels that Diverge from Clinician-Recommended Treatment Times - NIH, consultato il 6 febbraio 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12099352/

17. Health E-Stats, February 2025, Maternal Mortality Rates in the United States, 2023 - CDC, consultato il 6 febbraio 2026, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/Estat-maternal-mortality.pdf

18. Health E-Stat 100: Maternal Mortality Rates in the United States, 2023 - CDC, consultato il 6 febbraio 2026, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/maternal-mortality-rates-2023.htm

19. Racial Disparities in Maternal and Infant Health: Current Status and Key Issues | KFF, consultato il 6 febbraio 2026, https://www.kff.org/racial-equity-and-health-policy/racial-disparities-in-maternal-and-infant-health-current-status-and-key-issues/

20. How California is taking on inequity for Black patients during pregnancy, childbirth, consultato il 6 febbraio 2026, https://med.stanford.edu/news/insights/2024/01/california-inequity-black-patients-pregnancy-childbirth.html

21. CA-PAMR Recent Data | California Maternal Quality Care ..., consultato il 6 febbraio 2026, https://www.cmqcc.org/education-research/maternal-mortality-review-ca-pamr/ca-pamr-recent-data

22. CENTERING BLACK MOTHERS IN CALIFORNIA - CDPH, consultato il 6 febbraio 2026, https://www.cdph.ca.gov/Programs/CFH/DMCAH/CDPH%20Document%20Library/Centering-Black-Mothers/Centering-Black-Mothers-Report-2023.pdf

23. Disrespected and Ignored: Black Pregnant Women Demand Congressional Action, consultato il 6 febbraio 2026, https://nationalpartnership.org/disrespected-and-ignored-black-pregnant-women-demand-congressional-action/

24. Racial and Ethnic Disparities in Death Associated With Severe Maternal Morbidity in the United States: Failure to Rescue | Request PDF - ResearchGate, consultato il 6 febbraio 2026, https://www.researchgate.net/publication/350768676_Racial_and_Ethnic_Disparities_in_Death_Associated_With_Severe_Maternal_Morbidity_in_the_United_States_Failure_to_Rescue

25. Black maternal health disparities: reducing mortality rates | McKinsey, consultato il 6 febbraio 2026, https://www.mckinsey.com/institute-for-economic-mobility/our-insights/closing-the-black-maternal-health-gap-healthier-lives-stronger-economies

26. Navigating the potential and pitfalls of large language models in patient-centered medication guidance and self-decision support - PMC, consultato il 6 febbraio 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC11798948/

27. AI Horizons Institute: AI In Healthcare Workgroup Introduction - University of Rochester, consultato il 6 febbraio 2026, https://www.rochester.edu/warner/lida/wp-content/uploads/2025/02/AI-Horizons-Healthcare-White-Paper.pdf

28. Bias in AI systems: integrating formal and socio-technical approaches - PMC, consultato il 6 febbraio 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12823528/

29. From Lab to Clinic: Addressing Bias and Generalizability in AI Diagnostic Systems, consultato il 6 febbraio 2026, https://journalwjarr.com/sites/default/files/fulltext_pdf/WJARR-2025-4249.pdf

30. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, consultato il 6 febbraio 2026, https://arxiv.org/html/2509.25795v1

31. Fair Machine Learning in Healthcare: A Survey | Request PDF - ResearchGate, consultato il 6 febbraio 2026, https://www.researchgate.net/publication/384486736_Fair_Machine_Learning_in_Healthcare_A_Survey

32. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches | Request PDF - ResearchGate, consultato il 6 febbraio 2026, https://www.researchgate.net/publication/398470731_Assessing_Algorithmic_Bias_in_Language-Based_Depression_Detection_A_Comparison_of_DNN_and_LLM_Approaches

33. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, consultato il 6 febbraio 2026, https://www.arxiv.org/pdf/2509.25795

34. False hope of a single generalisable AI sepsis prediction model: bias and proposed mitigation strategies for improving performance based on a retrospective multisite cohort study - ResearchGate, consultato il 6 febbraio 2026, https://www.researchgate.net/publication/390249394_False_hope_of_a_single_generalisable_AI_sepsis_prediction_model_bias_and_proposed_mitigation_strategies_for_improving_performance_based_on_a_retrospective_multisite_cohort_study

35. A Comprehensive Survey on Bias and Fairness in Gen- erative AI: Legal, Ethical, and Technical Responses - OpenReview, consultato il 6 febbraio 2026, https://openreview.net/pdf/7bd31cd005e56d87b5ed85b266cf1d1ad2693958.pdf

36. Effects of post-training mitigation on classifier performance and... - ResearchGate, consultato il 6 febbraio 2026, https://www.researchgate.net/figure/Effects-of-post-training-mitigation-on-classifier-performance-and-fairness-Different_fig3_382523592

37. ICLR 2025 Papers, consultato il 6 febbraio 2026, https://iclr.cc/virtual/2025/papers.html

38. Principles for Artificial Intelligence (AI) and its application in healthcare | BMA, consultato il 6 febbraio 2026, https://www.bma.org.uk/media/njgfbmnn/bma-principles-for-artificial-intelligence-ai-and-its-application-in-healthcare.pdf

39. Whitepaper for the ITU/WHO Focus Group on Artificial Intelligence for Health, consultato il 6 febbraio 2026, https://www.itu.int/en/ITU-T/focusgroups/ai4h/Documents/FG-AI4H_Whitepaper.pdf

40. Despite high Black maternal death rate, California hospitals ignored training about bias in care - CalMatters, consultato il 6 febbraio 2026, https://calmatters.org/health/2023/10/despite-high-black-maternal-death-rate-california-hospitals-ignored-training-about-bias-in-care/