L'imperativo clinico per un'AI ancorata: oltre il wrapper LLM nelle comunicazioni sanitarie

Il settore sanitario si trova a un crocevia delicato in cui l'urgente necessità di mitigare il burnout dei clinici si è scontrata con la diffusione rapida, e spesso non verificata, dell'intelligenza artificiale generativa. Il carico amministrativo sui medici di assistenza primaria (PCP) ha raggiunto una soglia critica: alcuni clinici dedicano in media 10 ore al mese esclusivamente ai messaggi del portale pazienti—lavoro che storicamente non è stato fatturabile ed è un fattore primario di esaurimento professionale.¹ In risposta, l'integrazione dei Large Language Models (LLM) per automatizzare le comunicazioni con i pazienti è stata celebrata come un guadagno rivoluzionario di efficienza. Tuttavia, uno studio di simulazione trasversale di riferimento pubblicato su The Lancet Digital Health nell'aprile 2024—condotto da ricercatori di Harvard Medical School, Yale School of Medicine e University of Wisconsin—ha messo in luce vulnerabilità sistemiche di questo approccio.¹ Lo studio ha rilevato che, se da un lato l'IA generativa riduce in modo significativo il carico cognitivo percepito, dall'altro introduce gravi rischi per la sicurezza del paziente che le esistenti salvaguardie "human-in-the-loop" spesso non riescono a intercettare.³

Questo whitepaper, preparato da Veriprajna, sostiene che l'attuale dipendenza del settore dai "wrapper LLM"—applicazioni che in sostanza passano i dati dell'utente a un modello generalista con un ancoraggio clinico minimo—è insufficiente per l'ambiente ad alto rischio della cura clinica. Mentre la California Assembly Bill 3030 (AB 3030) si prepara a imporre la disclosure dell'IA nelle comunicazioni con i pazienti a partire da gennaio 2025, l'era dell'automazione sperimentale deve cedere il passo a un'ingegneria dell'IA profonda e basata sull'evidenza.⁶ La vera sicurezza clinica richiede uno spostamento architetturale verso la Retrieval-Augmented Generation (RAG), i Medical Knowledge Graphs e un rigoroso adversarial red teaming.

Le prove forensi: analisi dei risultati Lancet dell'aprile 2024

Lo studio Lancet rappresenta una delle valutazioni più rigorose finora dell'IA generativa in un ambiente clinico simulato. I ricercatori hanno valutato le prestazioni di GPT-4 nella stesura di risposte a 156 messaggi del portale pazienti all'interno di una piattaforma di cartella clinica elettronica (EHR) simulata.¹ I risultati offrono una doppia narrazione: da un lato un enorme potenziale di produttività, dall'altro un rischio catastrofico.

Analisi statistica del danno da IA e della supervisione medica

I risultati quantitativi dello studio dimostrano che gli LLM, se usati senza un ancoraggio clinico profondo, sono in grado di generare contenuti altamente persuasivi ma medicalmente pericolosi. Delle 156 bozze generate dall'IA, il 7.1% è stato classificato come rischio di danno grave per il paziente.¹ Ancora più allarmante, lo 0.6% delle risposte—nello specifico un'istanza nella simulazione—ha posto un rischio diretto di morte.¹ Questi output dannosi tipicamente derivavano dall'incapacità del modello di riconoscere l'urgenza clinica o dalla sua tendenza a fornire consigli medici obsoleti e scorretti.³

Metrica di prestazioni e rischio dell'IA	Valore statistico	Fonte
Rischio di danno grave (bozze IA non modificate)	7.1%	4
Rischio diretto di morte (bozze IA non modificate)	0.6%	4
Accordo dei medici: l'IA ha ridotto il carico cognitivo	80%	3
Fiducia dei medici nelle prestazioni dello strumento IA	90%	3
Media delle bozze errate non rilevate dai medici	66.6%	3
Bozze errate inviate interamente senza modifiche	35% – 45%	3
Probabilità che una bozza errata non venga rilevata (p-value)	< 0.001	3

La rilevanza clinica di questi numeri aumenta quando li si confronta con le prestazioni dei medici revisori. Lo studio ha coinvolto 20 PCP in attività per revisionare le risposte generate dall'IA. Nonostante la loro competenza, questi clinici hanno mancato in media 2.67 su 4 bozze intenzionalmente errate.³ Solo un singolo partecipante su venti è riuscito a identificare e affrontare in modo adeguato tutti e quattro i messaggi errati.³ Questa discrepanza evidenzia una vulnerabilità psicologica fondamentale nel modello "doctor-in-the-loop": l'automation bias.

Il meccanismo del fallimento: automation bias e allucinazione

L'automation bias si verifica quando gli operatori umani si affidano eccessivamente ai suggerimenti automatizzati, spesso senza esercitare lo stesso livello di scrutinio critico che applicherebbero al proprio lavoro o a quello di un collega umano.⁵ Nella simulazione Lancet, l'elevata qualità linguistica e il tono empatico delle bozze GPT-4 hanno creato un falso senso di sicurezza.¹ I medici hanno riferito un livello di fiducia del 90% nelle prestazioni dello strumento, anche mentre mancavano errori critici.³

Gli errori stessi non erano meri refusi, ma fallimenti sostanziali nel ragionamento clinico. Queste "allucinazioni" includevano la fabbricazione di informazioni mediche, l'uso di protocolli obsoleti e, in modo più critico, l'incapacità di valutare l'"acutezza" della situazione del paziente.³ Ad esempio, l'istanza classificata come "rischio di morte" si è verificata perché l'IA non ha istruito il paziente a cercare cure di emergenza immediate per un sintomo potenzialmente letale, fornendo invece una risposta standard e non urgente.¹

Evoluzione normativa: California AB 3030 e il mandato di trasparenza

Man mano che i rischi tecnici dell'IA generativa diventano quantificabili, i legislatori iniziano ad adottare framework per proteggere i pazienti. L'AB 3030 della California, firmata in legge a settembre 2024, segna un passaggio significativo verso la trasparenza obbligatoria nell'IA sanitaria.⁷

Requisiti di conformità per il 2025

A partire dal 1° gennaio 2025, l'AB 3030 richiede a tutte le strutture sanitarie, cliniche e studi medici di notificare i pazienti ogni volta che l'IA generativa viene usata per comunicare "informazioni cliniche del paziente".⁶ Ciò include qualsiasi informazione relativa allo stato di salute di un paziente, esentando invece i compiti amministrativi come la prenotazione di appuntamenti o la fatturazione.⁶

Mezzo di comunicazione	Standard di notifica ai sensi dell'AB 3030	Fonte
Scritto (lettere, email)	Disclaimer visualizzato in modo prominente all'inizio di ogni comunicazione	6
Online (chat, telehealth)	Disclaimer visualizzato in modo prominente durante l'intera interazione	6
Audio (messaggi vocali, chiamate)	Disclaimer verbale fornito sia all'inizio sia alla fine	6
Comunicazioni video	Disclaimer visualizzato in modo prominente durante l'intera interazione	6

Oltre alla semplice disclosure, la legge impone che ai pazienti siano fornite istruzioni chiare su come contattare un operatore sanitario umano o personale appropriato.⁷ La mancata conformità a queste disposizioni espone le strutture sanitarie a sanzioni e azioni sul titolo abilitativo, mentre i singoli medici possono affrontare azioni disciplinari contro le proprie licenze mediche.⁹

L'esenzione "human-in-the-loop" e le sue implicazioni

Una clausola critica dell'AB 3030 afferma che i requisiti di disclaimer e istruzioni non si applicano se la comunicazione generata dall'IA è "letta e revisionata" da un operatore sanitario umano abilitato o certificato.⁶ In apparenza, ciò offre alle organizzazioni sanitarie una via per continuare a usare strumenti di bozza IA senza dichiararne l'uso ai pazienti.

Tuttavia, lo studio Lancet fornisce un contrappunto devastante a questa esenzione: se i clinici mancano il 66% degli errori a causa dell'automation bias, lo standard "letto e revisionato" può offrire un falso senso di conformità mantenendo un alto livello di rischio clinico.¹ Veriprajna sostiene che il "safe harbor" legale ed etico fornito dalla revisione umana è valido solo se quella revisione è supportata da tecnologia che scoraggia attivamente l'accettazione passiva e fornisce al revisore il contesto necessario per identificare le allucinazioni.

I limiti del modello "wrapper LLM"

L'approccio dominante nelle attuali startup di IA sanitaria è il deployment di "wrapper"—sottili strati software che facilitano le interazioni tra un sistema EHR e una API LLM commerciale (come GPT-4 di OpenAI o Gemini di Google). Sebbene questi wrapper possano essere sviluppati rapidamente, ereditano diversi difetti fondamentali che li rendono inadatti al supporto decisionale clinico.

Il gap di ragionamento auto-regressivo

Gli LLM standard sono auto-regressivi; predicono il token successivo (parola o sotto-parola) sulla base della probabilità statistica piuttosto che di una comprensione strutturata della scienza medica.⁸ Questa "predizione a livello di token" manca del "ragionamento a livello di concetto" richiesto dalla medicina.¹³ In domini specializzati come radiologia o oncologia, gli LLM spesso faticano a cogliere le dipendenze a lungo raggio e le relazioni semantiche complesse essenziali per un'interpretazione diagnostica sfumata.¹³

Cutoff di conoscenza e cecità contestuale

Le versioni pubbliche degli LLM sono addestrate su dataset statici con cutoff di conoscenza fissi, e quindi non possono fare riferimento alle linee guida cliniche più recenti o ai risultati di laboratorio più aggiornati di un paziente senza un'integrazione di dati esterni.¹⁴ Inoltre, un sistema basato su wrapper spesso non è in grado di integrare dati multimodali—come radiografie, waveform (ECG) o profili genomici—producendo risposte "generaliste" che perdono il dettaglio critico richiesto nelle situazioni mediche complesse.¹⁵

Sicurezza e conformità HIPAA

Molte interfacce LLM generaliste non sono intrinsecamente conformi a HIPAA, e usarle con dati dei pazienti senza un Business Associate Agreement (BAA) specifico e rigorosi protocolli di data-masking crea gravi rischi per la privacy.¹⁵ Gli sviluppatori di wrapper spesso sottovalutano la profondità delle vulnerabilità di "data poisoning" o "prompt injection", in cui input avversari potrebbero indurre il modello a rivelare contesto interno sensibile o dati dei pazienti.¹⁶

Soluzioni architetturali per la Deep AI: il framework Veriprajna

Per andare oltre il modello wrapper, le soluzioni di IA devono essere costruite fin dalle fondamenta con la sicurezza clinica come vincolo architetturale primario. Ciò implica il passaggio da modelli puramente probabilistici a sistemi ibridi ancorati.

Retrieval-Augmented Generation (RAG) in ambito sanitario

La Retrieval-Augmented Generation (RAG) mitiga il problema delle allucinazioni fornendo al modello una "fonte di verità" a cui fare riferimento prima di generare una risposta.¹⁴ In un sistema basato su RAG, l'IA recupera prima documenti rilevanti da un corpus verificato—come le note cliniche del paziente, riviste mediche peer-reviewed e linee guida istituzionali—e poi condiziona la risposta su queste informazioni recuperate.²⁰

Componente RAG	Funzione nella sicurezza clinica	Vantaggio rispetto a un LLM standalone
Sparse Retriever (BM25)	Corrispondenza esatta di parole chiave per farmaci o codici specifici	Alta precisione per dati oggettivi
Dense Retriever (Neural)	Corrispondenza semantica per sintomi complessi e sinonimi	Cattura l'intento medico oltre il testo
RAG Prompting	Vincola l'LLM a "usare solo il contesto fornito"	Riduzione significativa delle allucinazioni
Citazione verificata	Collega ogni affermazione dell'IA a un documento sorgente	Rafforza la revisione e la fiducia del clinico

Medical Knowledge Graphs e integrazione Neo4j

L'approccio più sofisticato all'ancoraggio clinico prevede l'uso di Medical Knowledge Graphs (KG). Questi grafi rappresentano la conoscenza clinica non come stringhe di testo, ma come reti di concetti interrelati.²¹ Ad esempio, un KG può modellare esplicitamente la relazione tra un farmaco specifico, il suo meccanismo d'azione, le sue controindicazioni e il dosaggio tipico per un paziente con compromissione renale.

Sistemi come MediGRAF (Medical Graph Retrieval Augmented Framework) utilizzano Neo4j per combinare capacità Text2Cypher—traducendo il linguaggio naturale in query grafo precise—con embedding vettoriali per il recupero narrativo.²² Ciò consente all'IA di attraversare il "percorso completo del paziente," identificando risultati fattuali delle query con recall al 100% e mantenendo al contempo elevati standard di sicurezza per l'inferenza complessa.²²

Modellazione a livello di concetto (LCM) vs. predizione a livello di token

Un'IA clinica pronta per il futuro deve orientarsi verso i Large Concept Models (LCM). A differenza degli LLM che elaborano token, gli LCM operano a livello di idee e di ragionamento gerarchico.¹³

Caratteristica	Large Language Models (LLM)	Large Concept Models (LCM)
Livello di astrazione	Predizione a livello di token (parola per parola)	Predizione a livello di concetto (idea per idea)
Capacità di ragionamento	Previsioni principalmente locali; manca di logica	Ragionamento/pianificazione gerarchica esplicita
Rappresentazione	Token specifici della lingua	Embedding di frasi language-agnostic
Utilità clinica	Alto rischio di allucinazioni linguistiche	Ottimizzati per il ragionamento strutturato

Validazione e test di sicurezza: il nuovo standard

Il testing software tradizionale è insufficiente per l'IA generativa. Le soluzioni enterprise-grade richiedono un ciclo continuo di testing avversariale e di valutazione su benchmark.

Med-HALT e benchmark clinici

Il Med-HALT (Medical Domain Hallucination Test) è un benchmark multinazionale progettato specificamente per identificare le allucinazioni negli LLM sanitari.²³ Utilizza reasoning hallucination tests (RHT) come il False Confidence Test—in cui il modello è sfidato a valutare una risposta suggerita a caso—e il Fake Questions Test, che verifica se il modello riesce a identificare query mediche nonsenso o fabbricate.²³

Inoltre, la ricerca indica che la sottoperformance di modelli "medical-specialized" come MedGemma (che ha raggiunto solo il 28%–61% di accuratezza in alcuni test) rispetto a modelli di ragionamento più ampi come Gemini-2.⁵ Pro sottolinea che la sicurezza emerge da "capacità di ragionamento sofisticate sviluppate durante il pretraining su larga scala," non solo dal fine-tuning specifico di dominio.²⁴

Automated Red Teaming per sicurezza e protezione

Il red teaming consiste nel simulare comportamenti avversari per identificare le modalità di fallimento prima del deployment.¹⁹ Per l'ambito sanitario, ciò include:

1.​ Probing avversariale diretto: tentativi di sovrascrivere le istruzioni di sistema per generare consigli medici non sicuri.¹⁹

2.​ Estrazione di dati sensibili: probing del modello per verificare se rivelerà PHI tramite domande indirette o prompt injection.²⁶

3.​ Pattern di jailbreak: uso di role-play o reframing per aggirare le restrizioni sui contenuti e i guardrail clinici.¹⁹

Responsabilità e lo standard di cura in evoluzione

L'integrazione dell'IA nella pratica clinica non è solo una sfida tecnica, ma anche legale. Nel contenzioso per malpractice medica, la domanda centrale è se un medico abbia rispettato lo "standard of care"—la cura che un fornitore medico ragionevole erogherebbe in circostanze simili.²⁷

Gli ABCD della negligenza da IA

Man mano che l'IA diventa il "nuovo collega nella sala visite," la definizione legale di responsabilità professionale sta evolvendo.²⁹

●​ Dovere (Duty): il provider ha il dovere di usare gli strumenti di IA in modo appropriato. Non usare uno strumento di IA validato che avrebbe potuto prevenire un errore potrà presto essere considerato una violazione del dovere.²⁹

●​ Violazione (Breach): se un sistema di IA fornisce una raccomandazione che causa danno a causa dell'opacità del modello o di dati incorretti, il medico può essere ritenuto in violazione del proprio dovere se ha accettato la raccomandazione alla cieca.³⁰

●​ Nesso causale (Causation): stabilire un nesso causale chiaro tra l'output di un'IA e il danno al paziente è difficile a causa della natura "black box" di alcuni modelli, e richiede un'indagine approfondita sul processo decisionale.³⁰

●​ Danni (Damages): il paziente deve subire un danno effettivo. Il bias algoritmico che porta a diagnosi ritardate o a triage ineguale rappresenta una fonte significativa di danno che i tribunali stanno ora riconoscendo.³⁰

Assicurazione e model drift

Il fenomeno del "model drift" o "model collapse"—in cui le prestazioni di un'IA diminuiscono nel tempo mentre viene riaddestrata sui propri dati o su dati nuovi—pone una sfida unica per l'assicurazione malpractice.³³ Prodotti assicurativi più recenti iniziano a coprire le rivendicazioni legali causate da allucinazioni dell'IA e chatbot malfunzionanti, ma tipicamente hanno limiti bassi e richiedono prova documentata di supervisione umana.³³ Per i sistemi sanitari, la capacità di produrre audit log che mostrino la versione del modello usata e i passaggi di ragionamento specifici seguiti è essenziale per la difesa nei casi di malpractice.²⁷

Considerazioni etiche: collaborazione umano-IA

Un'IA sanitaria etica deve dare priorità all'agency del paziente e all'autonomia del clinico. L'obiettivo non è automatizzare l'interazione umana, ma potenziarla.

Trasparenza vs. soddisfazione del paziente

La ricerca mostra che, sebbene i pazienti apprezzino l'empatia e il dettaglio dei messaggi IA, le loro valutazioni di soddisfazione diminuiscono leggermente quando scoprono che l'IA è stata coinvolta.¹ Ciò evidenzia il "reverse automation bias" nei pazienti: valorizzano la relazione clinica e la convinzione che il proprio clinico sia personalmente coinvolto nella loro cura.¹ Pertanto, l'IA deve essere usata per gestire i compiti di routine e strutturati, liberando il clinico per concentrarsi sull'interazione umana sfumata che la tecnologia non può replicare.

Mitigazione del bias e equità

Gli algoritmi riflettono i dati su cui sono addestrati, che spesso contengono bias sistemici contro gruppi sottorappresentati.¹⁵ Veriprajna sostiene sistemi "EquityGuard"—processi di debiasing a due stadi che applicano vincoli di fairness post hoc agli output dell'IA prima che raggiungano il clinico.¹⁶ Ciò garantisce che le raccomandazioni di trial-matching o i punteggi di triage non siano distorti da etichette demografiche.

Conclusione: la roadmap strategica Veriprajna

Lo studio Lancet dell'aprile 2024 ha fornito le evidenze, e l'AB 3030 fornisce l'impulso legale: la traiettoria attuale dell'IA in sanità è insostenibile senza un'ingegneria profonda e specializzata.³ Per i sistemi sanitari e i fornitori di software, la via da seguire richiede una transizione dai programmi pilota sperimentali a ecosistemi di IA enterprise-grade.

1.​ Eliminare la dipendenza dai wrapper: allontanarsi dalle semplici integrazioni API. Investire in architetture RAG ibride che ancorino gli LLM a un Medical Knowledge Graph persistente e validato.²²

2.​ Implementare un red teaming robusto: la sicurezza non può essere un ripensamento. Agenti di red-teaming automatizzati devono sondare il sistema quotidianamente per allucinazioni, data leakage e inaccuratezze cliniche.¹⁹

3.​ Prepararsi ai mandati di disclosure: progettare sistemi che facilitino una revisione umana significativa, consentendo ai clinici di documentare la validazione delle bozze IA e di conformarsi a leggi come l'AB 3030 senza perdere efficienza.⁷

4.​ Dare priorità all'ancoraggio clinico rispetto allo stile generativo: in medicina, l'accuratezza è l'unica metrica che conta. I sistemi devono essere ottimizzati per il ragionamento a livello di concetto piuttosto che per la probabilità a livello di token.¹³

Adottando questi principi, il settore sanitario può sfruttare il potere trasformativo dell'intelligenza artificiale per risolvere la crisi del burnout dei medici, mantenendo al contempo il principio più sacro della medicina: Primum non nocere—Primo, non nuocere. Veriprajna è pronta a guidare questa transizione, andando oltre il wrapper per fornire le soluzioni di Deep AI che il futuro della sanità richiede.

Opere citate

1. Patients Not Told AI Drafted Messages From Their Doctors - MHA Online, consultato il 6 febbraio 2026, https://www.mhaonline.com/blog/ai-messages-from-doctors

2. When AI Writes Back: Ethical Considerations by Physicians on AI-Drafted Patient Message Replies - ResearchGate, consultato il 6 febbraio 2026, https://www.researchgate.net/publication/394687833_When_AI_Writes_Back_Ethical_Considerations_by_Physicians_on_AI-Drafted_Patient_Message_Replies

3. Opportunities and risks of artificial intelligence in patient portal messaging in primary care, consultato il 6 febbraio 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12022076/

4. Mass General Brigham research identifies pitfalls and opportunities for generative artificial intelligence in patient messaging systems | EurekAlert!, consultato il 6 febbraio 2026, https://www.eurekalert.org/news-releases/1041892

5. Critics bristle over creating MyChart messages with AI: 4 things to know | Becker's, consultato il 6 febbraio 2026, https://www.beckershospitalreview.com/patient-experience/critics-bristle-over-creating-mychart-messages-with-ai-4-things-to-know/

6. GenAI Notification Requirements | Medical Board of California, consultato il 6 febbraio 2026, https://www.mbc.ca.gov/Resources/Medical-Resources/GenAI-Notification.aspx

7. California Requires Disclaimers for Health Care Providers' AI-Generated Patient Communications | ArentFox Schiff, consultato il 6 febbraio 2026, https://www.afslaw.com/perspectives/alerts/california-requires-disclaimers-health-care-providers-ai-generated-patient

8. The Clinicians' Guide to Large Language Models: A General Perspective With a Focus on Hallucinations - Interactive Journal of Medical Research, consultato il 6 febbraio 2026, https://www.i-jmr.org/2025/1/e59823

9. New Law Regulates Use of Generative Artificial Intelligence in Healthcare - Fenton & Keller, consultato il 6 febbraio 2026, https://fentonkeller.com/fk-articles/new-law-regulates-use-of-generative-artificial-intelligence-in-healthcare/

10. Bill Text: CA AB3030 | 2023-2024 | Regular Session | Amended - LegiScan, consultato il 6 febbraio 2026, https://legiscan.com/CA/text/AB3030/id/3012689

11. U.S. State AI Law Tracker – All States, consultato il 6 febbraio 2026, https://ai-law-center.orrick.com/us-ai-law-tracker-see-all-states/

12. California Turns to the Use of AI in Healthcare | BCLP - Bryan Cave Leighton Paisner, consultato il 6 febbraio 2026, https://www.bclplaw.com/en-US/events-insights-news/california-turns-to-the-use-of-ai-in-healthcare.html

13. Large language models and large concept models in radiology: Present challenges, future directions, and critical perspectives - PMC - PubMed Central, consultato il 6 febbraio 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12679190/

14. Reducing Hallucinations in Large Language Models for Healthcare - Cognome, consultato il 6 febbraio 2026, https://cognome.com/blog/reducing-hallucinations-in-large-language-models-for-healthcare

15. The dangers of using non-medical LLMs in healthcare communication - Paubox, consultato il 6 febbraio 2026, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

16. Challenges of Implementing LLMs in Clinical Practice: Perspectives - PMC, consultato il 6 febbraio 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12429116/

17. Risk Management: Artificial Intelligence in Clinical Practice - PMC - NIH, consultato il 6 febbraio 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC11709444/

18. Large Language Models Are Highly Vulnerable to Adversarial Hallucination Attacks in Clinical Decision Support: A Multi-Model Assurance Analysis | medRxiv, consultato il 6 febbraio 2026, https://www.medrxiv.org/content/10.1101/2025.03.18.25324184v1.full-text

19. How AI red teaming fixes vulnerabilities in your AI systems | Invisible Blog, consultato il 6 febbraio 2026, https://invisibletech.ai/blog/ai-red-teaming-2026

20. Retrieval-Augmented Generation (RAG) in Healthcare: A Comprehensive Review - MDPI, consultato il 6 febbraio 2026, https://www.mdpi.com/2673-2688/6/9/226

21. Use case: Building a medical intelligence application with augmented patient data, consultato il 6 febbraio 2026, https://docs.aws.amazon.com/prescriptive-guidance/latest/rag-healthcare-use-cases/case-1.html

22. Unlocking Electronic Health Records: A Hybrid Graph RAG Approach to Safe Clinical AI for Patient QA - arXiv, consultato il 6 febbraio 2026, https://arxiv.org/html/2602.00009v1

23. Med-HALT: Medical Domain Hallucination Test for Large Language Models - GitHub, consultato il 6 febbraio 2026, https://github.com/medhalt/medhalt

24. mitmedialab/medical_hallucination: Medical Hallucination in Foundation Models and Their Impact on Healthcare (2025) - GitHub, consultato il 6 febbraio 2026, https://github.com/mitmedialab/medical_hallucination

25. What Is AI Red Teaming? Why You Need It and How to Implement - Palo Alto Networks, consultato il 6 febbraio 2026, https://www.paloaltonetworks.com/cyberpedia/what-is-ai-red-teaming

26. AI Red Teaming Agent (preview) - Microsoft Foundry, consultato il 6 febbraio 2026, https://learn.microsoft.com/en-us/azure/ai-foundry/concepts/ai-red-teaming-agent?view=foundry-classic

27. AI in Medical Malpractice: Liability, Risk, & What Physicians Need to Know - Indigo, consultato il 6 febbraio 2026, https://www.getindigo.com/blog/ai-in-medical-malpractice-liability-risk-guide

28. Healthcare AI 2025 - USA – California | Global Practice Guides | Chambers and Partners, consultato il 6 febbraio 2026, https://practiceguides.chambers.com/practice-guides/healthcare-ai-2025/usa-california/trends-and-developments

29. A New Duty of Care: How AI Is Rewriting Medical Liability | Gyrus Group, consultato il 6 febbraio 2026, https://gyrusgroup.com/news/a-new-duty-of-care-how-ai-is-rewriting-medical-liability/

30. Artificial Intelligence: The Legalities of AI in Health Care and the Day-to-Day Use of AI in the Clinical Setting - Oncology Issues, consultato il 6 febbraio 2026, https://journals.accc-cancer.org/view/artificial-intelligence-the-legalities-of-ai-in-health-care-and-the-day-to-day-use-of-ai-in-the-clinical-setting

31. Understanding Liability Risk from Using Healthcare AI Tools - Illinois Health and Hospital Association, consultato il 6 febbraio 2026, https://www.team-iha.org/getmedia/3d7473d7-192e-40b8-ad2e-b40b27be43ae/K_Understanding-Liability-K-2025.pdf

32. Appendix E — The Clinical AI Morgue - The Physician AI Handbook, consultato il 6 febbraio 2026, https://physicianaihandbook.com/appendices/failures.html

33. AI regulation in insurance: Risk-based pricing and fairness - Browne Jacobson LLP, consultato il 6 febbraio 2026, https://www.brownejacobson.com/insights/the-word-may-2025/ai-hallucinations

34. Legal AI Hallucinations and Your Attorney Malpractice Insurance Coverage, consultato il 6 febbraio 2026, https://www.l2insuranceagency.com/blog/legal-ai-hallucinations-and-your-attorney-malpractice-insurance-coverage/