O Imperativo Clínico para a IA Fundamentada: Além do Wrapper de LLM nas Comunicações em Saúde

O setor de saúde encontra-se em uma encruzilhada precária, na qual a necessidade urgente de mitigar o burnout dos clínicos colidiu com a implantação rápida e frequentemente não validada da inteligência artificial generativa. A carga administrativa sobre os médicos de atenção primária (PCPs) atingiu um limiar crítico, com alguns clínicos dedicando em média 10 horas mensais apenas a mensagens do portal do paciente — trabalho que historicamente não é faturável e é um dos principais motores da exaustão profissional.¹ Em resposta, a integração de Modelos de Linguagem de Grande Escala (LLMs) para automatizar as comunicações com pacientes tem sido celebrada como um ganho revolucionário de eficiência. No entanto, um estudo transversal de simulação de referência publicado no The Lancet Digital Health em abril de 2024 — conduzido por pesquisadores da Harvard Medical School, da Yale School of Medicine e da University of Wisconsin — expôs vulnerabilidades sistêmicas nessa abordagem.¹ O estudo constatou que, embora a IA generativa reduza significativamente a carga cognitiva percebida, ela introduz riscos graves à segurança do paciente que as salvaguardas existentes de "humano no circuito" frequentemente falham em capturar.³

Este whitepaper, preparado pela Veriprajna, argumenta que a atual dependência do setor em "wrappers de LLM" — aplicações que essencialmente encaminham dados do usuário a um modelo de propósito geral com fundamentação clínica mínima — é insuficiente para o ambiente de alto risco do cuidado clínico. À medida que a California Assembly Bill 3030 (AB 3030) se prepara para tornar obrigatória a divulgação de IA nas comunicações com pacientes a partir de janeiro de 2025, a era da automação experimental deve ceder lugar a uma engenharia de IA profunda e baseada em evidências.⁶ A verdadeira segurança clínica exige uma mudança arquitetônica em direção à Geração Aumentada por Recuperação (RAG), a Grafos de Conhecimento Médico e a um red teaming adversarial rigoroso.

A Evidência Forense: Analisando os Achados do Lancet de Abril de 2024

O estudo do Lancet representa uma das avaliações mais rigorosas da IA generativa em um ambiente clínico simulado até hoje. Os pesquisadores avaliaram o desempenho do GPT-4 na elaboração de respostas a 156 mensagens de portal do paciente em uma plataforma simulada de prontuário eletrônico (EHR).¹ Os resultados oferecem uma narrativa dupla: uma de imenso potencial de produtividade e outra de risco catastrófico.

Detalhamento Estatístico do Dano por IA e da Supervisão Médica

Os achados quantitativos do estudo demonstram que os LLMs, quando usados sem fundamentação clínica profunda, são capazes de gerar conteúdo altamente persuasivo, porém medicamente perigoso. Dos 156 rascunhos gerados por IA, 7,1% foram categorizados como representando risco de dano grave ao paciente.¹ Mais alarmante ainda, 0,6% das respostas — especificamente uma instância na simulação — representou risco direto de morte.¹ Esses resultados prejudiciais tipicamente decorreram da falha do modelo em reconhecer a urgência clínica ou de sua tendência a fornecer conselhos médicos desatualizados e incorretos.³

Métrica de Desempenho e Risco da IA	Valor Estatístico	Fonte
Risco de Dano Grave (Rascunhos de IA Não Editados)	7.1%	4
Risco Direto de Morte (Rascunhos de IA Não Editados)	0.6%	4
Concordância dos Médicos: A IA Reduziu a Carga Cognitiva	80%	3
Confiança dos Médicos no Desempenho da Ferramenta de IA	90%	3
Média de Rascunhos Errôneos Não Detectados pelos Médicos	66.6%	3
Rascunhos Errôneos Enviados Inteiramente Sem Edição	35% – 45%	3
Probabilidade de um Rascunho Errôneo Não Ser Detectado (valor-p)	< 0.001	3

A significância clínica desses números é amplificada quando contraposta ao desempenho dos médicos revisores. O estudo utilizou 20 PCPs em exercício para revisar as respostas geradas por IA. Apesar de sua expertise, esses clínicos deixaram de detectar, em média, 2,67 de 4 rascunhos intencionalmente errôneos.³ Apenas um único participante entre vinte foi capaz de identificar e abordar adequadamente todas as quatro mensagens errôneas.³ Essa discrepância destaca uma vulnerabilidade psicológica fundamental no modelo de "médico no circuito": o viés de automação.

O Mecanismo da Falha: Viés de Automação e Alucinação

O viés de automação ocorre quando operadores humanos confiam excessivamente em sugestões automatizadas, frequentemente deixando de exercer o mesmo nível de escrutínio crítico que aplicariam ao próprio trabalho ou ao de um colega humano.⁵ Na simulação do Lancet, a alta qualidade linguística e o tom empático dos rascunhos do GPT-4 criaram uma falsa sensação de segurança.¹ Os médicos relataram um nível de confiança de 90% no desempenho da ferramenta, mesmo enquanto deixavam passar erros críticos.³

Os erros em si não eram meros erros tipográficos, mas falhas substantivas no raciocínio clínico. Essas "alucinações" incluíram a fabricação de informações médicas, o uso de protocolos desatualizados e, de forma mais crítica, a falha em avaliar a "acuidade" da situação do paciente.³ Por exemplo, a instância categorizada como "risco de morte" ocorreu porque a IA falhou em instruir o paciente a buscar atendimento de emergência imediato para um sintoma potencialmente fatal, fornecendo em vez disso uma resposta padrão e não urgente.¹

Evolução Regulatória: California AB 3030 e o Mandato de Transparência

À medida que os riscos técnicos da IA generativa se tornam quantificáveis, os órgãos legislativos começam a estabelecer frameworks para proteger os pacientes. A AB 3030 da Califórnia, sancionada em setembro de 2024, marca uma mudança significativa em direção à transparência obrigatória na IA em saúde.⁷

Requisitos de Conformidade para 2025

A partir de 1º de janeiro de 2025, a AB 3030 exige que todas as unidades de saúde, clínicas e consultórios médicos notifiquem os pacientes sempre que a IA generativa for usada para comunicar "informações clínicas do paciente".⁶ Isso inclui qualquer informação relativa ao estado de saúde de um paciente, isentando tarefas administrativas como agendamento de consultas ou faturamento.⁶

Meio de Comunicação	Padrão de Notificação sob a AB 3030	Fonte
Escrito (Cartas, E-mails)	Aviso exibido de forma proeminente no início de cada comunicação	6
Online (Baseado em chat, telessaúde)	Aviso exibido de forma proeminente ao longo de toda a interação	6
Áudio (Correio de voz, Chamadas)	Aviso verbal fornecido tanto no início quanto no final	6
Comunicações em Vídeo	Aviso exibido de forma proeminente ao longo de toda a interação	6

Além da simples divulgação, a lei determina que os pacientes recebam instruções claras sobre como contatar um profissional de saúde humano ou pessoal apropriado.⁷ O descumprimento dessas disposições sujeita as unidades de saúde a multas e ações de licenciamento, enquanto médicos individuais podem enfrentar medidas disciplinares contra suas licenças médicas.⁹

A Isenção de "Humano no Circuito" e Suas Implicações

Uma cláusula crítica da AB 3030 estabelece que os requisitos de aviso e instrução não se aplicam se a comunicação gerada por IA for "lida e revisada" por um profissional de saúde humano licenciado ou certificado.⁶ Na superfície, isso oferece um caminho para que os sistemas de saúde continuem usando ferramentas de elaboração por IA sem revelar seu uso aos pacientes.

No entanto, o estudo do Lancet oferece um contraponto devastador a essa isenção: se os clínicos deixam de detectar 66% dos erros devido ao viés de automação, o padrão de "lida e revisada" pode oferecer uma falsa sensação de conformidade enquanto mantém um alto nível de risco clínico.¹ A Veriprajna afirma que o "porto seguro" legal e ético proporcionado pela revisão humana só é válido se essa revisão for apoiada por tecnologia que desencoraje ativamente a aceitação passiva e forneça ao revisor o contexto necessário para identificar alucinações.

A Limitação do Modelo de "Wrapper de LLM"

A abordagem predominante nas startups atuais de IA em saúde é a implantação de "wrappers" — camadas finas de software que facilitam interações entre um sistema de EHR e uma API comercial de LLM (como o GPT-4 da OpenAI ou o Gemini do Google). Embora esses wrappers possam ser desenvolvidos rapidamente, eles herdam várias falhas fundamentais que os tornam inadequados para suporte à decisão clínica.

A Lacuna do Raciocínio Autorregressivo

Os LLMs padrão são autorregressivos; eles preveem o próximo token (palavra ou subpalavra) com base em probabilidade estatística, e não em uma compreensão estruturada da ciência médica.⁸ Essa "predição em nível de token" carece do "raciocínio em nível de conceito" exigido pela medicina.¹³ Em domínios especializados como radiologia ou oncologia, os LLMs frequentemente têm dificuldade em capturar as dependências de longo alcance e as relações semânticas complexas essenciais para uma interpretação diagnóstica matizada.¹³

Cortes de Conhecimento e Cegueira Contextual

As versões públicas de LLMs são treinadas em conjuntos de dados estáticos com cortes de conhecimento fixos, tornando-as incapazes de referenciar as diretrizes clínicas mais recentes ou os resultados laboratoriais mais recentes de um paciente sem integração de dados externos.¹⁴ Além disso, um sistema baseado em wrapper frequentemente carece da capacidade de integrar dados multimodais — como raios X, formas de onda (ECGs) ou perfis genômicos — resultando em respostas "generalistas" que deixam de lado o detalhe crítico exigido em situações médicas complexas.¹⁵

Segurança e Conformidade com a HIPAA

Muitas interfaces de LLM de propósito geral não são inerentemente compatíveis com a HIPAA, e usá-las com dados de pacientes sem um Business Associate Agreement (BAA) específico e protocolos rigorosos de mascaramento de dados cria riscos graves à privacidade.¹⁵ Os desenvolvedores de wrappers frequentemente negligenciam a profundidade das vulnerabilidades de "envenenamento de dados" ou "injeção de prompt", nas quais entradas adversariais poderiam potencialmente enganar o modelo a revelar contexto interno sensível ou dados de pacientes.¹⁶

Soluções Arquitetônicas para Deep AI: O Framework Veriprajna

Para ir além do modelo de wrapper, as soluções de IA devem ser construídas desde a base com a segurança clínica como a principal restrição arquitetônica. Isso envolve a transição de modelos puramente probabilísticos para sistemas híbridos e fundamentados.

Geração Aumentada por Recuperação (RAG) na Saúde

A Geração Aumentada por Recuperação (RAG) mitiga o problema das alucinações ao fornecer ao modelo uma "fonte da verdade" a ser referenciada antes de gerar uma resposta.¹⁴ Em um sistema baseado em RAG, a IA primeiro recupera documentos relevantes de um corpus verificado — como as anotações clínicas do paciente, periódicos médicos revisados por pares e diretrizes institucionais — e então condiciona sua resposta a essas informações recuperadas.²⁰

Componente de RAG	Função na Segurança Clínica	Benefício em Relação ao LLM Isolado
Recuperador Esparso (BM25)	Correspondência exata de palavras-chave para medicamentos ou códigos específicos	Alta precisão para dados objetivos
Recuperador Denso (Neural)	Correspondência semântica para sintomas complexos e sinônimos	Captura a intenção médica além do texto
Prompting de RAG	Restringe o LLM a "usar apenas o contexto fornecido"	Redução significativa de alucinações
Citação Verificada	Vincula cada afirmação da IA de volta a um documento-fonte	Aprimora a revisão e a confiança do clínico

Grafos de Conhecimento Médico e Integração com Neo4j

A abordagem mais sofisticada à fundamentação clínica envolve o uso de Grafos de Conhecimento Médico (KGs). Esses grafos representam o conhecimento clínico não como cadeias de texto, mas como redes de conceitos inter-relacionados.²¹ Por exemplo, um KG pode modelar explicitamente a relação entre um fármaco específico, seu mecanismo de ação, suas contraindicações e sua dosagem típica para um paciente com comprometimento renal.

Sistemas como o MediGRAF (Medical Graph Retrieval Augmented Framework) utilizam o Neo4j para combinar capacidades Text2Cypher — traduzindo linguagem natural em consultas precisas a grafos — com embeddings vetoriais para recuperação narrativa.²² Isso permite que a IA percorra a "jornada completa do paciente", identificando resultados factuais de consultas com 100% de recall, ao mesmo tempo em que mantém altos padrões de segurança para inferências complexas.²²

Modelagem em Nível de Conceito (LCM) vs. Predição em Nível de Token

A IA clínica preparada para o futuro deve avançar em direção a Large Concept Models (LCMs). Diferentemente dos LLMs que processam tokens, os LCMs operam no nível de ideias e raciocínio hierárquico.¹³

Característica	Modelos de Linguagem de Grande Escala (LLM)	Large Concept Models (LCM)
Nível de Abstração	Predição em nível de token (palavra por palavra)	Predição em nível de conceito (ideia por ideia)
Capacidade de Raciocínio	Predições principalmente locais; carece de lógica	Raciocínio/planejamento hierárquico explícito
Representação	Tokens específicos de idioma	Embeddings de sentença agnósticos em relação ao idioma
Utilidade Clínica	Alto risco de alucinações linguísticas	Otimizado para raciocínio estruturado

Validação e Testes de Segurança: O Novo Padrão

Os testes tradicionais de software são insuficientes para a IA generativa. Soluções de nível empresarial exigem um ciclo contínuo de testes adversariais e avaliação por benchmarks.

Med-HALT e Benchmarks Clínicos

O Med-HALT (Medical Domain Hallucination Test) é um benchmark multinacional projetado especificamente para identificar alucinações em LLMs de saúde.²³ Ele utiliza testes de alucinação de raciocínio (RHTs), como o False Confidence Test — em que o modelo é desafiado a avaliar uma resposta sugerida aleatoriamente — e o Fake Questions Test, que determina se o modelo consegue identificar consultas médicas sem sentido ou fabricadas.²³

Além disso, pesquisas indicam que o desempenho inferior de modelos "especializados em medicina" como o MedGemma (que alcançou apenas 28%–61% de acurácia em alguns testes) em comparação com modelos de raciocínio mais amplos como o Gemini-2.⁵ Pro ressalta que a segurança emerge de "capacidades sofisticadas de raciocínio desenvolvidas durante o pré-treinamento em larga escala", e não apenas do fine-tuning específico de domínio.²⁴

Red Teaming Automatizado para Segurança e Proteção

O red teaming envolve simular comportamento adversarial para identificar modos de falha antes da implantação.¹⁹ Para a área da saúde, isso inclui:

1.​ Sondagem Adversarial Direta: Tentativas de sobrescrever as instruções do sistema para gerar conselhos médicos inseguros.¹⁹

2.​ Extração de Dados Sensíveis: Sondar o modelo para ver se ele vaza PHI por meio de questionamento indireto ou injeção de prompt.²⁶

3.​ Padrões de Jailbreak: Usar dramatização (role-play) ou reformulação para contornar restrições de conteúdo e salvaguardas clínicas.¹⁹

Responsabilidade e o Padrão de Cuidado em Transformação

A integração da IA na prática clínica não é apenas um desafio técnico, mas também jurídico. Em litígios de má prática médica, a questão central é se o médico aderiu ao "padrão de cuidado" — o cuidado que um prestador médico razoável entregaria em circunstâncias semelhantes.²⁷

Os ABCDs da Negligência em IA

À medida que a IA se torna o "novo colega na sala de consultório", a definição legal de responsabilidade profissional está evoluindo.²⁹

●​ Dever (Duty): O prestador tem o dever de usar ferramentas de IA de forma apropriada. Deixar de usar uma ferramenta de IA validada que poderia ter prevenido um erro pode em breve ser considerado uma violação do dever.²⁹

●​ Violação (Breach): Se um sistema de IA fornece uma recomendação que leva a dano devido à opacidade do modelo ou a dados incorretos, o médico pode ser considerado em violação do dever se aceitou a recomendação cegamente.³⁰

●​ Nexo Causal (Causation): Estabelecer um nexo causal claro entre a saída de uma IA e o dano ao paciente é desafiador devido à natureza de "caixa-preta" de alguns modelos, exigindo uma investigação minuciosa do processo decisório.³⁰

●​ Danos (Damages): O paciente deve sofrer dano real. O viés algorítmico que leva a diagnóstico tardio ou triagem desigual representa uma fonte significativa de dano que os tribunais agora estão reconhecendo.³⁰

Seguros e Model Drift

O fenômeno de "model drift" ou "model collapse" — em que o desempenho de uma IA declina ao longo do tempo à medida que ela é retreinada com seus próprios dados ou com dados novos — coloca um desafio único para o seguro de má prática.³³ Produtos de seguro mais novos começam a cobrir reivindicações legais causadas por alucinações de IA e chatbots com mau funcionamento, mas esses tipicamente têm limites baixos e exigem prova documentada de supervisão humana.³³ Para os sistemas de saúde, a capacidade de produzir logs de auditoria mostrando a versão do modelo usada e os passos específicos de raciocínio que ele seguiu é essencial para a defesa em casos de má prática.²⁷

Considerações Éticas: Colaboração Humano-IA

A IA ética em saúde deve priorizar a agência do paciente e a autonomia do clínico. O objetivo não é automatizar a interação humana, mas potencializá-la.

Transparência vs. Satisfação do Paciente

Pesquisas mostram que, embora os pacientes apreciem a empatia e o detalhamento das mensagens de IA, suas avaliações de satisfação diminuem ligeiramente quando descobrem que a IA esteve envolvida.¹ Isso destaca o "viés de automação reverso" nos pacientes: eles valorizam a relação clínica e a crença de que seu clínico está pessoalmente engajado em seu cuidado.¹ Portanto, a IA deve ser usada para lidar com as tarefas rotineiras e estruturadas, liberando o clínico para se concentrar na interação matizada, de humano para humano, que a tecnologia não consegue replicar.

Mitigação de Viés e Equidade

Os algoritmos refletem os dados com os quais são treinados, que frequentemente contêm vieses sistêmicos contra grupos sub-representados.¹⁵ A Veriprajna defende sistemas "EquityGuard" — processos de desenviesamento em duas etapas que aplicam restrições de equidade post hoc às saídas de IA antes que cheguem ao clínico.¹⁶ Isso garante que recomendações de pareamento de ensaios clínicos ou escores de triagem não sejam distorcidos por rótulos demográficos.

Conclusão: O Roadmap Estratégico da Veriprajna

O estudo do Lancet de abril de 2024 forneceu a evidência, e a AB 3030 fornece o impulso legal: a trajetória atual da IA na saúde é insustentável sem engenharia profunda e especializada.³ Para sistemas de saúde e provedores de software, o caminho adiante exige uma transição de programas-piloto experimentais para ecossistemas de IA de nível empresarial.

1.​ Eliminar a Dependência de Wrappers: Afastar-se de integrações simples de API. Investir em arquiteturas híbridas de RAG que fundamentem os LLMs em um Grafo de Conhecimento Médico persistente e validado.²²

2.​ Implementar Red Teaming Robusto: A segurança não pode ser uma reflexão tardia. Agentes automatizados de red teaming devem sondar o sistema diariamente em busca de alucinações, vazamento de dados e imprecisões clínicas.¹⁹

3.​ Preparar-se para Mandatos de Divulgação: Projetar sistemas que facilitem a revisão humana significativa, permitindo que os clínicos documentem sua validação dos rascunhos de IA e cumpram leis como a AB 3030 sem perder eficiência.⁷

4.​ Priorizar a Fundamentação Clínica em vez do Brilho Generativo: Na medicina, a acurácia é a única métrica que importa. Os sistemas devem ser otimizados para raciocínio em nível de conceito, e não para probabilidade em nível de token.¹³

Ao adotar esses princípios, o setor de saúde pode aproveitar o poder transformador da inteligência artificial para resolver a crise de burnout dos médicos, ao mesmo tempo em que sustenta o preceito mais sagrado da medicina: Primum non nocere — primeiro, não causar dano. A Veriprajna está pronta para liderar essa transição, indo além do wrapper para fornecer as soluções de Deep AI que o futuro da saúde exige.

Obras citadas

1. Patients Not Told AI Drafted Messages From Their Doctors - MHA Online, acessado em 6 de fevereiro de 2026, https://www.mhaonline.com/blog/ai-messages-from-doctors

2. When AI Writes Back: Ethical Considerations by Physicians on AI-Drafted Patient Message Replies - ResearchGate, acessado em 6 de fevereiro de 2026, https://www.researchgate.net/publication/394687833_When_AI_Writes_Back_Ethical_Considerations_by_Physicians_on_AI-Drafted_Patient_Message_Replies

3. Opportunities and risks of artificial intelligence in patient portal messaging in primary care, acessado em 6 de fevereiro de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12022076/

4. Mass General Brigham research identifies pitfalls and opportunities for generative artificial intelligence in patient messaging systems | EurekAlert!, acessado em 6 de fevereiro de 2026, https://www.eurekalert.org/news-releases/1041892

5. Critics bristle over creating MyChart messages with AI: 4 things to know | Becker's, acessado em 6 de fevereiro de 2026, https://www.beckershospitalreview.com/patient-experience/critics-bristle-over-creating-mychart-messages-with-ai-4-things-to-know/

6. GenAI Notification Requirements | Medical Board of California, acessado em 6 de fevereiro de 2026, https://www.mbc.ca.gov/Resources/Medical-Resources/GenAI-Notification.aspx

7. California Requires Disclaimers for Health Care Providers' AI-Generated Patient Communications | ArentFox Schiff, acessado em 6 de fevereiro de 2026, https://www.afslaw.com/perspectives/alerts/california-requires-disclaimers-health-care-providers-ai-generated-patient

8. The Clinicians' Guide to Large Language Models: A General Perspective With a Focus on Hallucinations - Interactive Journal of Medical Research, acessado em 6 de fevereiro de 2026, https://www.i-jmr.org/2025/1/e59823

9. New Law Regulates Use of Generative Artificial Intelligence in Healthcare - Fenton & Keller, acessado em 6 de fevereiro de 2026, https://fentonkeller.com/fk-articles/new-law-regulates-use-of-generative-artificial-intelligence-in-healthcare/

10. Bill Text: CA AB3030 | 2023-2024 | Regular Session | Amended - LegiScan, acessado em 6 de fevereiro de 2026, https://legiscan.com/CA/text/AB3030/id/3012689

11. U.S. State AI Law Tracker – All States, acessado em 6 de fevereiro de 2026, https://ai-law-center.orrick.com/us-ai-law-tracker-see-all-states/

12. California Turns to the Use of AI in Healthcare | BCLP - Bryan Cave Leighton Paisner, acessado em 6 de fevereiro de 2026, https://www.bclplaw.com/en-US/events-insights-news/california-turns-to-the-use-of-ai-in-healthcare.html

13. Large language models and large concept models in radiology: Present challenges, future directions, and critical perspectives - PMC - PubMed Central, acessado em 6 de fevereiro de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12679190/

14. Reducing Hallucinations in Large Language Models for Healthcare - Cognome, acessado em 6 de fevereiro de 2026, https://cognome.com/blog/reducing-hallucinations-in-large-language-models-for-healthcare

15. The dangers of using non-medical LLMs in healthcare communication - Paubox, acessado em 6 de fevereiro de 2026, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

16. Challenges of Implementing LLMs in Clinical Practice: Perspectives - PMC, acessado em 6 de fevereiro de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12429116/

17. Risk Management: Artificial Intelligence in Clinical Practice - PMC - NIH, acessado em 6 de fevereiro de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC11709444/

18. Large Language Models Are Highly Vulnerable to Adversarial Hallucination Attacks in Clinical Decision Support: A Multi-Model Assurance Analysis | medRxiv, acessado em 6 de fevereiro de 2026, https://www.medrxiv.org/content/10.1101/2025.03.18.25324184v1.full-text

19. How AI red teaming fixes vulnerabilities in your AI systems | Invisible Blog, acessado em 6 de fevereiro de 2026, https://invisibletech.ai/blog/ai-red-teaming-2026

20. Retrieval-Augmented Generation (RAG) in Healthcare: A Comprehensive Review - MDPI, acessado em 6 de fevereiro de 2026, https://www.mdpi.com/2673-2688/6/9/226

21. Use case: Building a medical intelligence application with augmented patient data, acessado em 6 de fevereiro de 2026, https://docs.aws.amazon.com/prescriptive-guidance/latest/rag-healthcare-use-cases/case-1.html

22. Unlocking Electronic Health Records: A Hybrid Graph RAG Approach to Safe Clinical AI for Patient QA - arXiv, acessado em 6 de fevereiro de 2026, https://arxiv.org/html/2602.00009v1

23. Med-HALT: Medical Domain Hallucination Test for Large Language Models - GitHub, acessado em 6 de fevereiro de 2026, https://github.com/medhalt/medhalt

24. mitmedialab/medical_hallucination: Medical Hallucination in Foundation Models and Their Impact on Healthcare (2025) - GitHub, acessado em 6 de fevereiro de 2026, https://github.com/mitmedialab/medical_hallucination

25. What Is AI Red Teaming? Why You Need It and How to Implement - Palo Alto Networks, acessado em 6 de fevereiro de 2026, https://www.paloaltonetworks.com/cyberpedia/what-is-ai-red-teaming

26. AI Red Teaming Agent (preview) - Microsoft Foundry, acessado em 6 de fevereiro de 2026, https://learn.microsoft.com/en-us/azure/ai-foundry/concepts/ai-red-teaming-agent?view=foundry-classic

27. AI in Medical Malpractice: Liability, Risk, & What Physicians Need to Know - Indigo, acessado em 6 de fevereiro de 2026, https://www.getindigo.com/blog/ai-in-medical-malpractice-liability-risk-guide

28. Healthcare AI 2025 - USA – California | Global Practice Guides | Chambers and Partners, acessado em 6 de fevereiro de 2026, https://practiceguides.chambers.com/practice-guides/healthcare-ai-2025/usa-california/trends-and-developments

29. A New Duty of Care: How AI Is Rewriting Medical Liability | Gyrus Group, acessado em 6 de fevereiro de 2026, https://gyrusgroup.com/news/a-new-duty-of-care-how-ai-is-rewriting-medical-liability/

30. Artificial Intelligence: The Legalities of AI in Health Care and the Day-to-Day Use of AI in the Clinical Setting - Oncology Issues, acessado em 6 de fevereiro de 2026, https://journals.accc-cancer.org/view/artificial-intelligence-the-legalities-of-ai-in-health-care-and-the-day-to-day-use-of-ai-in-the-clinical-setting

31. Understanding Liability Risk from Using Healthcare AI Tools - Illinois Health and Hospital Association, acessado em 6 de fevereiro de 2026, https://www.team-iha.org/getmedia/3d7473d7-192e-40b8-ad2e-b40b27be43ae/K_Understanding-Liability-K-2025.pdf

32. Appendix E — The Clinical AI Morgue - The Physician AI Handbook, acessado em 6 de fevereiro de 2026, https://physicianaihandbook.com/appendices/failures.html

33. AI regulation in insurance: Risk-based pricing and fairness - Browne Jacobson LLP, acessado em 6 de fevereiro de 2026, https://www.brownejacobson.com/insights/the-word-may-2025/ai-hallucinations

34. Legal AI Hallucinations and Your Attorney Malpractice Insurance Coverage, acessado em 6 de fevereiro de 2026, https://www.l2insuranceagency.com/blog/legal-ai-hallucinations-and-your-attorney-malpractice-insurance-coverage/