Equidade Algorítmica e o Imperativo da Deep AI: Corrigindo o Viés Sistêmico no Suporte à Decisão Clínica

A integração da inteligência artificial ao ambiente clínico deixou de ser uma promessa teórica e tornou-se uma necessidade estrutural. No entanto, à medida que as organizações de saúde confiam cada vez mais em sistemas automatizados para ampliar a precisão diagnóstica e a eficiência da triagem, surgiu uma desconexão crítica entre o desempenho algorítmico em ambientes controlados e a realidade vivida dos desfechos dos pacientes. A recente onda de evidências empíricas — desde as imprecisões em nível de hardware da oximetria de pulso até as falhas arquiteturais de modelos proprietários de sepse — revela que muitas implementações atuais de IA não são meras ferramentas neutras, mas participantes ativas na perpetuação de inequidades históricas na saúde. A crise na saúde materna de mulheres negras, em que as taxas de mortalidade permanecem três vezes mais altas do que as das populações brancas, serve como o indicador mais angustiante dessas falhas sistêmicas. Este relatório, apresentado pela Veriprajna, argumenta que a solução para essas disparidades não reside na aplicação superficial de "wrappers" de Large Language Model (LLM), mas em uma reorientação fundamental em direção a soluções de Deep AI que priorizam a integridade fisiológica, a paridade demográfica e a validação externa rigorosa.

A Crise de Confiança: Além da Armadilha do Wrapper de LLM

O cenário tecnológico atual está saturado de aplicações "wrapper" — camadas de software que oferecem uma interface de usuário fina sobre APIs públicas generalizadas, como o GPT da OpenAI, o Gemini do Google ou o Claude da Anthropic. Embora essas ferramentas se destaquem na redação administrativa e na sumarização superficial de dados, elas são fundamentalmente inadequadas às exigências multimodais e de alto risco do suporte à decisão clínica. Um LLM é um motor estatístico treinado em probabilidades linguísticas; ele não possui compreensão conceitual da fisiopatologia, nem está inerentemente embasado nas restrições rigorosas da evidência clínica.¹ No contexto da saúde materna ou do manejo agudo da sepse, a abordagem "wrapper" introduz riscos inaceitáveis, incluindo alucinações, o reforço de vieses em escala da internet e uma falta de explicabilidade que torna a natureza de "caixa-preta" do modelo um passivo, e não um ativo.³

A Veriprajna se posiciona como provedora de soluções de Deep AI, defendendo uma metodologia que integra sinais fisiológicos em tempo real, conjuntos de dados rotulados por especialistas e funções de perda sensíveis à equidade (fairness-aware). A falha de modelos "prontos para uso" — como o Epic Sepsis Model — em generalizar entre populações diversas de pacientes demonstra que métricas de acurácia médias em uma população frequentemente mascaram deficiências letais em subgrupos marginalizados.⁵ A verdadeira inteligência clínica exige uma arquitetura que considere a interdependência dos sensores de hardware, dos determinantes sociais da saúde (SDOH) e das variações fisiológicas entre coortes demográficas.

Integridade dos Dados Fisiológicos: O Oxímetro de Pulso e a Fundação do Viés

A eficácia de qualquer sistema de IA está inextricavelmente ligada à qualidade dos dados que ele ingere. Em sistemas de triagem e alerta precoce, a oximetria de pulso serve como fonte primária de entrada para determinar o desconforto respiratório e o risco de sepse. No entanto, o mecanismo físico desses dispositivos contém um viés há muito documentado, porém frequentemente ignorado: a absorção diferencial de luz pela melanina.

A Física da Interferência Óptica

Os oxímetros de pulso funcionam transmitindo luz vermelha e infravermelha através do tecido e medindo a razão de absorção da hemoglobina oxigenada e desoxigenada. A melanina, porém, também absorve luz nesses comprimentos de onda. Quando esses dispositivos são calibrados principalmente em populações de pele mais clara, a absorção adicional em pacientes de pele mais escura é frequentemente interpretada pelo dispositivo como uma concentração mais alta de hemoglobina oxigenada.⁸ Isso leva à "hipoxemia oculta" — uma condição em que o dispositivo reporta uma saturação periférica de oxigênio ( ) dentro da faixa normal, enquanto a verdadeira saturação arterial de oxigênio ( ) está perigosamente baixa.

Achados recentes publicados no New England Journal of Medicine (NEJM) e no British Medical Journal (BMJ) destacam a magnitude desse erro de medição e seu impacto subsequente na lógica de triagem orientada por IA. Pesquisas indicam que pacientes negros têm quase três vezes mais probabilidade de experimentar hipoxemia oculta do que pacientes brancos — uma disparidade que persiste desde a década de 1990 sem intervenção regulatória adequada.⁸

Parâmetro	Impacto em Tons de Pele Mais Claros	Impacto em Tons de Pele Mais Escuros	Fonte
Superestimação Média	Linha de base	0,6 a 1,5 pontos percentuais mais altos	8
Taxa de Falso Negativo (SpO₂)	1,2% - 26,9%	7,6% - 62,2%	8
Incidência de Hipoxemia Oculta	Linha de base	Frequência ~3x maior	8
Falha de Detecção Pediátrica	0% Não detectados	7% Não detectados nos tons de pele mais escuros	11

O Efeito Cascata na Triagem por IA

Quando um sistema de triagem por IA utiliza como recurso central, ele herda esse viés em nível de hardware.

Se um algoritmo for projetado para acionar um alerta de "alta prioridade" para um abaixo de 92%, ele falhará sistematicamente em sinalizar pacientes negros cuja oxigenação arterial verdadeira está em 88%, mas cuja leitura do oxímetro de pulso permanece em 93%. Isso leva a um atraso sistêmico na administração de oxigênio suplementar, maior risco de falência orgânica e maior mortalidade hospitalar.⁹

Para um provedor de Deep AI como a Veriprajna, esses dados revelam que dados "limpos" de EHR são uma ilusão. Um modelo sofisticado deve ser projetado para aplicar offsets de calibração específicos por demografia ou para utilizar sensores multimodais (como combinar oximetria com variabilidade da frequência cardíaca e frequência respiratória) a fim de triangular o verdadeiro estado clínico do paciente. O estudo Vanderbilt de 2024 (POSTer-Child) destacou que, mesmo em populações pediátricas, dispositivos comuns de oximetria de pulso falharam em detectar oxigênio baixo em 7% dos pacientes com os tons de pele mais escuros, enquanto não perderam nenhum caso naqueles com os tons mais claros.¹¹ Isso sugere que as diretrizes atuais da FDA, que até recentemente exigiam testes em apenas dez sujeitos, são fundamentalmente inadequadas para garantir a segurança de sistemas de IA construídos sobre esses sensores.¹⁰

Falha Preditiva no Cuidado Agudo: Uma Análise do Epic Sepsis Model

A transição do viés de hardware para o viés algorítmico fica mais evidente na ampla adoção do Epic Sepsis Model (ESM). Integrado aos Electronic Health Records (EHR) de centenas de hospitais, o ESM foi comercializado como uma ferramenta proativa para identificar a sepse antes do reconhecimento clínico. No entanto, a realidade de sua implantação tem sido caracterizada por má generalização e disparidades raciais significativas de desempenho.

A Lacuna de Generalização

A validação interna pelo desenvolvedor reivindicou uma Area Under the Curve (AUC) de 0,76 a 0,83. No entanto, a validação externa independente conduzida na Michigan Medicine revelou uma queda impressionante de desempenho, com uma AUC de apenas 0,63.⁵ Essa discrepância ilustra o "overfitting site-específico" comum em modelos proprietários. Quando um modelo é calibrado em uma população específica de pacientes (por exemplo, três sistemas de saúde dos EUA de 2013-2015), ele frequentemente falha ao confrontar as diferentes misturas demográficas, práticas clínicas e hábitos de documentação de uma nova instituição.⁵

Métrica de Desempenho	Reivindicações do Desenvolvedor	Validação Externa (Michigan)	Fonte
Sensibilidade (Verdadeiro Positivo)	Alta	33% (Perde 67% dos casos)	6
Valor Preditivo Positivo	N/A	12% (taxa de 88% de alarme falso)	7
Vantagem de Detecção Precoce	Comercializado	6% dos casos (alerta raro antes do clínico)	13
Carga de Alertas	Gerenciada	Alta (fadiga significativa de alertas)	7

Disparidades Raciais e o Problema do Viés de Rótulo

A falha do ESM não é meramente uma questão de baixa sensibilidade; é uma questão de proteção desigual. Pacientes negros e hispânicos experimentam quase o dobro da incidência de sepse em comparação com pacientes brancos e frequentemente se apresentam em idades mais jovens.¹⁴ Ainda assim, estudos observaram que o ESM exibe má "calibração" entre esses grupos, frequentemente falhando em considerar as trajetórias fisiológicas específicas da sepse em populações marginalizadas.¹⁴

Um motor principal dessa falha é o "viés de rótulo" (label bias). Muitos modelos de sepse são treinados em definições clínicas ou códigos de faturamento que são, eles próprios, produtos de julgamento humano enviesado. Se os clínicos historicamente demoram mais a solicitar hemoculturas ou a reconhecer a sepse em pacientes negros, a IA aprende a associar "sepse" às assinaturas de dados de pacientes brancos, tornando-se efetivamente "cega" à apresentação da doença em pacientes negros.¹⁴ Isso cria um ciclo de feedback letal: a IA perde o paciente porque os dados históricos eram enviesados, e o clínico perde o paciente porque está excessivamente dependente de uma IA que não disparou um alerta.

A Crise da Saúde Materna: Negligência Sistêmica e Falha Algorítmica

Talvez nenhuma área da medicina demonstre a interseção entre racismo estrutural e falha tecnológica com mais clareza do que a saúde materna. Os Centers for Disease Control and Prevention (CDC) relatam que mulheres negras enfrentam uma taxa de mortalidade relacionada à gravidez de 50,3 por 100.000 nascidos vivos — quase 3,5 vezes maior do que os 14,5 registrados para mulheres brancas.¹⁷ Essa disparidade persiste mesmo controlando por educação e renda, sugerindo que a causa raiz reside na qualidade do cuidado e nos vieses estruturais do sistema de saúde.¹⁹

Achados do California Maternal Data Center (MDC)

A Califórnia tem historicamente sido líder na melhoria da qualidade da saúde materna por meio da California Maternal Quality Care Collaborative (CMQCC). No entanto, mesmo nesse ambiente rico em dados, os sistemas de alerta precoce (EWS) baseados em IA mostraram deficiências críticas. O MDC descobriu que sistemas automatizados de alerta precoce perderam 40% dos casos de morbidade grave em pacientes negras.²⁰

A Severe Maternal Morbidity (SMM) é uma medida de complicações com risco de vida, como hemorragia, pré-eclâmpsia e sepse, que ocorrem 100 vezes mais frequentemente do que a morte materna.²¹ A falha da IA em sinalizar esses casos em mulheres negras está frequentemente ligada ao efeito de "weathering" — a manifestação fisiológica do estresse crônico causado pelo racismo sistêmico, que pode levar a pressões arteriais basais mais altas e a respostas cardiovasculares alteradas que a IA pode interpretar como "normais" para aquele indivíduo.²⁰

Medida de Desfecho	Negras Não Hispânicas	Brancas Não Hispânicas	Hispânicas	Fonte
Mortalidade Materna (por 100 mil)	50,3	14,5	12,4	17
Taxa de Nascimento Prematuro	14,7%	9,4%	10,1%	19
Pré-natal Tardio ou Ausente	10,4%	4,7%	9,7%	19
Maus-tratos no Cuidado Materno	1 em 3	1 em 5 (Média)	N/A	23

A "Falha em Resgatar" e o Imperativo Econômico

A disparidade não está apenas na incidência de complicações, mas na "falha em resgatar" (failure to rescue). Mulheres negras têm 1,79 vezes mais probabilidade de morrer uma vez que uma morbidade grave tenha ocorrido, em comparação com mulheres brancas.²⁴ Isso indica que, quando um sistema de IA falha em alertar, ou quando seu alerta é ignorado devido a viés implícito, a janela para intervenção salva-vidas se fecha mais rapidamente para pacientes negras.

A análise da McKinsey sobre o fechamento da lacuna de saúde materna negra destaca que abordar essas disparidades não é apenas uma necessidade moral, mas também econômica. Restaurar anos de vida saudáveis para mulheres negras poderia adicionar US$ 24,4 bilhões ao PIB dos EUA e economizar US$ 385 milhões em custos anuais evitáveis de saúde.²⁵ Isso exige uma transição da observação passiva para estratégias de intervenção proativas e habilitadas por IA que priorizem "Contar, Estudar, Cuidar, Incluir e Investir".²⁵

Deep AI vs. Wrappers de LLM: Uma Crítica Técnica

A ascensão da IA Generativa levou a uma onda de "chatbots" clínicos e ferramentas de sumarização. No entanto, para um ambiente de alto risco como a triagem materna ou a detecção de sepse, esses "wrappers" são fundamentalmente inadequadas. A Veriprajna defende uma distinção entre esses modelos probabilísticos de linguagem e as arquiteturas de Deep AI projetadas para utilidade clínica.

As Limitações da Probabilidade Estatística

Large Language Models (LLMs) operam com base em probabilidades de palavras, não em lógica clínica. Em um ambiente médico, isso se manifesta como:

1.​ Inacurácia Clínica: Estudos descobriram que LLMs alcançaram apenas 16,7% de acurácia em ajustes de dose para disfunção renal quando as variáveis específicas do paciente eram complexas.²⁶

2.​ Falta de Embasamento em Tempo Real: A maioria dos LLMs públicos é treinada em conjuntos de dados estáticos e carece de acesso a bancos de dados clínicos em tempo real ou a diretrizes atualizadas.¹

3.​ Opacidade da Caixa-Preta: LLMs não conseguem fornecer uma cadeia de raciocínio transparente que um clínico possa verificar, o que é um requisito sob o GDPR europeu e as regulamentações de saúde em evolução nos EUA.²

4.​ Alucinação Adversarial: Sistemas podem ser manipulados ou transcrever conteúdo por engano, levando à inserção de dados clínicos fabricados no prontuário do paciente.¹

O Paradigma de Deep AI da Veriprajna

Uma solução de Deep AI, conforme definida pela Veriprajna, deve ser:

●​ Multimodal: Integrando dados de forma de onda (ECG/Oximetria), exames laboratoriais estruturados e notas de enfermagem não estruturadas, em vez de depender apenas de entradas baseadas em texto.¹³

●​ Validada por Especialistas: Usando rótulos derivados de revisão especializada adjudicada, em vez de códigos de faturamento ruidosos.⁶

●​ Sensível à Equidade por Design: Implementando restrições matemáticas durante a fase de treinamento para assegurar a paridade demográfica.²⁸

Fundamentos Matemáticos da Equidade Algorítmica

Para ir além do teórico e alcançar o nível empresarial, devemos abordar a estrutura matemática do viés. A otimização tradicional visa minimizar o risco empírico (erro médio) em todo o conjunto de dados. Isso naturalmente favorece o grupo majoritário. A Veriprajna implementa funções de perda sensíveis à equidade para corrigir isso.

Funções de Perda Sensíveis à Equidade

Uma abordagem é a integração de uma "penalidade de equidade" na função de perda padrão. Se for a perda de entropia cruzada padrão, um modelo sensível à equidade minimiza:

onde é uma medida de disparidade entre grupos protegidos (por exemplo, raça ou gênero) e é um parâmetro de regularização que controla o equilíbrio entre a acurácia geral e a equidade entre grupos.²⁸

Otimização de Worst-Group Loss

Em muitos cenários médicos, estamos interessados em minimizar o risco para a população mais vulnerável. A abordagem de Worst-Group Loss busca minimizar a perda máxima em todos os subgrupos demográficos:

onde é o conjunto de todos os subgrupos (por exemplo, negras não hispânicas, brancas, hispânicas). Pesquisas em detecção automatizada de depressão mostraram que, embora essa abordagem possa reduzir ligeiramente a acurácia geral, ela melhora significativamente os desfechos para grupos sub-representados, como participantes hispânicos, que frequentemente são classificados incorretamente por modelos padrão.³⁰

Equalized Odds e Paridade Demográfica

Modelos de Deep AI também são avaliados usando métricas além da simples acurácia.

●​ Paridade Demográfica: Assegura que a probabilidade de uma predição positiva (por exemplo, "Alto Risco") seja igual em todos os grupos: .

●​ Equalized Odds: Exige que tanto a Taxa de Verdadeiro Positivo (Sensibilidade) quanto a Taxa de Falso Positivo (1-Especificidade) sejam iguais entre os grupos:

.

Na detecção de sepse, alcançar Equalized Odds é crítico. Se um modelo tem 80% de sensibilidade para pacientes brancos, mas apenas 40% para pacientes negros, ele está efetivamente fornecendo um nível diferente de cuidado com base na raça.¹²

Estratégias Arquiteturais para Mitigação de Viés Clínico

O framework técnico da Veriprajna para soluções de Deep AI envolve uma abordagem em quatro camadas para assegurar que os modelos sejam robustos, equitativos e generalizáveis.

Camada 1: Alinhamento de Representação

Antes do treinamento, o conjunto de dados deve ser examinado quanto à "estratificação oculta" (hidden stratification). Por exemplo, se um modelo de raio-X de tórax for treinado em um conjunto de dados em que raios-X "portáteis" (geralmente usados para pacientes mais graves, acamados) são mais comuns para uma demografia, o modelo pode aprender a associar a presença de equipamento portátil à doença, e não à patologia real.¹³ Utilizamos "debiasing adversarial", em que um modelo auxiliar é treinado para prever o atributo protegido (raça) a partir das características internas do modelo primário. O modelo primário é então penalizado se o adversário tiver sucesso, forçando-o a aprender características que são "cegas" à raça, mas "atentas" à patologia clínica.³⁵

Camada 2: Fine-Tuning Específico de Domínio

Diferentemente dos wrappers de LLM que usam pesos generalistas, os modelos de Deep AI devem receber fine-tuning em corpora clínicos especializados. Para a saúde materna, isso inclui treinamento no Obstetric Comorbidity Scoring System do California Maternal Data Center, que prediz a Severe Maternal Morbidity com um grau maior de acurácia do que métricas gerais, ajustando para comorbidades específicas como hipertensão crônica e diabetes.²¹

Camada 3: Fusão Multimodal de Sinais

Para abordar a lacuna da oximetria de pulso, nossos modelos não tratam como uma verdade fundamental isolada. Em vez disso, utilizam a "regressão temporal de dinâmicas não lineares" para fundir a oximetria com outros marcadores. Se a frequência cardíaca e os níveis de lactato de um paciente estão subindo enquanto permanece estável, o sistema de Deep AI dispara um alerta de "discrepância de sinal", levando o clínico a solicitar um exame padrão-ouro de gasometria arterial (ABG).⁹

Camada 4: Validação Externa e Auditoria Contínua

O drift de modelo é um risco significativo na saúde. À medida que os protocolos clínicos mudam ou a demografia dos pacientes se desloca, o desempenho de um modelo pode se degradar. A Veriprajna implementa um framework de "Validação Local" em que cada implantação começa com uma auditoria retrospectiva dos próprios dados da instituição. Medimos o "Population Stability Index" (PSI) para quantificar quão diferente a população local é da coorte de treinamento, assegurando que o modelo seja recalibrado para a comunidade específica a que serve.⁷

O Papel da Consultoria de Deep AI: Governança Estratégica

Para executivos de saúde, a decisão não é mais se adotar IA, mas como fazê-lo sem introduzir responsabilidade catastrófica ou exacerbar inequidades em saúde. O "Método Veriprajna" fornece um framework para governança de IA em nível empresarial.

Exigir Transparência e Model Cards

Fornecedores de IA devem ser cobrados a um padrão mais alto de transparência. Alegações gerais de "99% de acurácia" são frequentemente sem sentido. As empresas devem exigir:

●​ Métricas de Desempenho por Subgrupo: Detalhamentos de sensibilidade, especificidade e PPV por idade, sexo e raça.⁷

●​ Curvas de Calibração: Prova de que uma "probabilidade de 90%" de sepse realmente significa que 9 em cada 10 desses pacientes têm a condição.⁷

●​ Validação Revisada por Pares: Rejeição de whitepapers de fornecedores em favor de estudos independentes e externos, como os conduzidos por Wong et al. ou pela equipe do estudo EXAKT.⁶

Implementando a Supervisão "Human-in-the-Loop"

A IA deve transformar, e não substituir, os papéis clínicos. Na saúde materna, isso significa usar a IA para liberar tempo dos clínicos para se concentrarem em atividades de alto valor, como escuta ativa e avaliação física.³⁸ No entanto, a lei e a ética exigem que sistemas automatizados nunca sejam os únicos tomadores de decisão.² Defendemos a "inteligência colaborativa", em que a IA fornece o "estímulo" (nudge) orientado por dados, mas o caminho diagnóstico e terapêutico final é determinado por um clínico humano treinado para reconhecer e corrigir o viés algorítmico.³

Perspectivas Futuras: Resgatando a Narrativa da Inovação

A era atual do "hype de IA" levou muitas organizações a se contentarem com a conveniência dos wrappers de LLM. No entanto, os dados do CDC, do NEJM e do California Maternal Data Center servem como um lembrete contundente de que, na medicina, a conveniência não pode vir à custa da equidade. A abordagem de "Deep AI" defendida pela Veriprajna representa um retorno ao rigor científico.

Ao abordar as limitações de hardware dos sensores, corrigir os vieses de rótulo em conjuntos de dados históricos e implementar arquiteturas matemáticas sensíveis à equidade, podemos construir um sistema de saúde em que a tecnologia sirva para fechar a lacuna de mortalidade, e não para ampliá-la. Os ganhos econômicos e sociais de tal empreendimento — salvar milhares de mães e bebês todos os anos — são a verdadeira métrica de sucesso da próxima geração de inteligência artificial.²⁵

A Veriprajna está comprometida com essa filosofia de trabalho profundo, indo além da chamada de API para construir os fundamentos de um futuro clínico verdadeiramente equitativo. A integração de dados de alta fidelidade, consciência demográfica e validação por especialistas não é apenas um desafio técnico; é o novo padrão de cuidado.

Resumo da Mitigação de Riscos de IA Clínica Empresarial

Categoria de Risco	Fraqueza do Modelo Wrapper/Proprietário	Solução Deep AI/Veriprajna
Viés de Dados	Herda viés de hardware (ex.: Oximetria)	Triangulação multimodal e offsets específicos por sensor
Viés de Rótulo	Treinado em códigos de faturamento/clínicos enviesados	Rótulos de verdade fundamental adjudicados por especialistas
Generalização	Overfitting site-específico; falha em nova pop.	Validação local e auditorias de Population Stability Index (PSI)
Explicabilidade	Saída caixa-preta; alto risco de alucinação	Ponderação transparente de características e cadeias de raciocínio clínico
Equidade	Otimiza para a média da maioria	Restrições de worst-group loss e Equalized Odds
Conformidade	APIs públicas carecem de salvaguardas HIPAA/GDPR	Arquitetura de grau médico on-premise ou Private Cloud

Em conclusão, o caminho para a excelência clínica na era da IA exige a rejeição do superficial. Como a crise na mortalidade materna e as falhas dos modelos de sepse demonstram, o que está em jogo não é nada menos do que as vidas de nossos pacientes mais vulneráveis. A Deep AI é o único caminho viável adiante para um sistema de saúde de nível empresarial que valoriza tanto a inovação quanto a justiça.

Obras citadas

1. The dangers of using non-medical LLMs in healthcare communication - Paubox, acessado em 6 de fevereiro de 2026, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

2. LLMs in Healthcare: what's helpful, harmful and what do you need to know? - Cranium, acessado em 6 de fevereiro de 2026, https://www.cranium.eu/llms-in-healthcare-whats-helpful-harmful-and-what-do-you-need-to-know/

3. Challenges and barriers of using large language models (LLM) such as ChatGPT for diagnostic medicine with a focus on digital pathology – a recent scoping review - PMC, acessado em 6 de fevereiro de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC10898121/

4. The Limitations of Large Language Models (in Medical Environments). | by Juan Placer Mendoza, acessado em 6 de fevereiro de 2026, https://jpm75.medium.com/the-limitations-of-large-language-models-in-medical-environments-3843054bb042

5. The Epic Sepsis Model Falls Short—The Importance of External Validation - ResearchGate, acessado em 6 de fevereiro de 2026, https://www.researchgate.net/publication/352593220_The_Epic_Sepsis_Model_Falls_Short-The_Importance_of_External_Validation

6. External Validation of a Widely Implemented Proprietary Sepsis Prediction Model in Hospitalized Patients - PMC, acessado em 6 de fevereiro de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC8218233/

7. Evaluating AI Clinical Decision Support Systems - The Physician AI Handbook, acessado em 6 de fevereiro de 2026, https://physicianaihandbook.com/implementation/evaluation.html

8. The impact of skin tone on performance of pulse oximeters used by ..., acessado em 6 de fevereiro de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12801414/

9. Pulse oximeters overestimate blood oxygen levels in patients with darker skin, acessado em 6 de fevereiro de 2026, https://www.news-medical.net/news/20260114/Pulse-oximeters-overestimate-blood-oxygen-levels-in-patients-with-darker-skin.aspx

10. Racial Bias in Pulse Oximetry Measurement - AI & Digital Health Innovation, acessado em 6 de fevereiro de 2026, https://aidhi.umich.edu/impact-stories-blog/racial-bias-in-pulse-oximetry-measurement

11. Skin tone may affect accuracy of blood oxygen measurement in children: study - VUMC News, acessado em 6 de fevereiro de 2026, https://news.vumc.org/2025/03/04/skin-tone-may-affect-accuracy-of-blood-oxygen-measurement-in-children-study/

12. Mitigating AI Risks in Healthcare: Why Local Validation Matters - EisnerAmper, acessado em 6 de fevereiro de 2026, https://www.eisneramper.com/insights/blogs/health-care-blog/mitigating-ai-risks-in-healthcare-0625/

13. AI in Diagnostic and Clinical Decision Support - The Public Health AI Handbook, acessado em 6 de fevereiro de 2026, https://publichealthaihandbook.com/applications/clinical.html

14. Full article: Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis - Taylor & Francis Online, acessado em 6 de fevereiro de 2026, https://www.tandfonline.com/doi/full/10.1080/15265161.2025.2497971

15. Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis, acessado em 6 de fevereiro de 2026, https://www.tandfonline.com/doi/pdf/10.1080/15265161.2025.2497971

16. Sepsis Prediction Models are Trained on Labels that Diverge from Clinician-Recommended Treatment Times - NIH, acessado em 6 de fevereiro de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12099352/

17. Health E-Stats, February 2025, Maternal Mortality Rates in the United States, 2023 - CDC, acessado em 6 de fevereiro de 2026, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/Estat-maternal-mortality.pdf

18. Health E-Stat 100: Maternal Mortality Rates in the United States, 2023 - CDC, acessado em 6 de fevereiro de 2026, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/maternal-mortality-rates-2023.htm

19. Racial Disparities in Maternal and Infant Health: Current Status and Key Issues | KFF, acessado em 6 de fevereiro de 2026, https://www.kff.org/racial-equity-and-health-policy/racial-disparities-in-maternal-and-infant-health-current-status-and-key-issues/

20. How California is taking on inequity for Black patients during pregnancy, childbirth, acessado em 6 de fevereiro de 2026, https://med.stanford.edu/news/insights/2024/01/california-inequity-black-patients-pregnancy-childbirth.html

21. CA-PAMR Recent Data | California Maternal Quality Care ..., acessado em 6 de fevereiro de 2026, https://www.cmqcc.org/education-research/maternal-mortality-review-ca-pamr/ca-pamr-recent-data

22. CENTERING BLACK MOTHERS IN CALIFORNIA - CDPH, acessado em 6 de fevereiro de 2026, https://www.cdph.ca.gov/Programs/CFH/DMCAH/CDPH%20Document%20Library/Centering-Black-Mothers/Centering-Black-Mothers-Report-2023.pdf

23. Disrespected and Ignored: Black Pregnant Women Demand Congressional Action, acessado em 6 de fevereiro de 2026, https://nationalpartnership.org/disrespected-and-ignored-black-pregnant-women-demand-congressional-action/

24. Racial and Ethnic Disparities in Death Associated With Severe Maternal Morbidity in the United States: Failure to Rescue | Request PDF - ResearchGate, acessado em 6 de fevereiro de 2026, https://www.researchgate.net/publication/350768676_Racial_and_Ethnic_Disparities_in_Death_Associated_With_Severe_Maternal_Morbidity_in_the_United_States_Failure_to_Rescue

25. Black maternal health disparities: reducing mortality rates | McKinsey, acessado em 6 de fevereiro de 2026, https://www.mckinsey.com/institute-for-economic-mobility/our-insights/closing-the-black-maternal-health-gap-healthier-lives-stronger-economies

26. Navigating the potential and pitfalls of large language models in patient-centered medication guidance and self-decision support - PMC, acessado em 6 de fevereiro de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC11798948/

27. AI Horizons Institute: AI In Healthcare Workgroup Introduction - University of Rochester, acessado em 6 de fevereiro de 2026, https://www.rochester.edu/warner/lida/wp-content/uploads/2025/02/AI-Horizons-Healthcare-White-Paper.pdf

28. Bias in AI systems: integrating formal and socio-technical approaches - PMC, acessado em 6 de fevereiro de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12823528/

29. From Lab to Clinic: Addressing Bias and Generalizability in AI Diagnostic Systems, acessado em 6 de fevereiro de 2026, https://journalwjarr.com/sites/default/files/fulltext_pdf/WJARR-2025-4249.pdf

30. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, acessado em 6 de fevereiro de 2026, https://arxiv.org/html/2509.25795v1

31. Fair Machine Learning in Healthcare: A Survey | Request PDF - ResearchGate, acessado em 6 de fevereiro de 2026, https://www.researchgate.net/publication/384486736_Fair_Machine_Learning_in_Healthcare_A_Survey

32. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches | Request PDF - ResearchGate, acessado em 6 de fevereiro de 2026, https://www.researchgate.net/publication/398470731_Assessing_Algorithmic_Bias_in_Language-Based_Depression_Detection_A_Comparison_of_DNN_and_LLM_Approaches

33. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, acessado em 6 de fevereiro de 2026, https://www.arxiv.org/pdf/2509.25795

34. False hope of a single generalisable AI sepsis prediction model: bias and proposed mitigation strategies for improving performance based on a retrospective multisite cohort study - ResearchGate, acessado em 6 de fevereiro de 2026, https://www.researchgate.net/publication/390249394_False_hope_of_a_single_generalisable_AI_sepsis_prediction_model_bias_and_proposed_mitigation_strategies_for_improving_performance_based_on_a_retrospective_multisite_cohort_study

35. A Comprehensive Survey on Bias and Fairness in Gen- erative AI: Legal, Ethical, and Technical Responses - OpenReview, acessado em 6 de fevereiro de 2026, https://openreview.net/pdf/7bd31cd005e56d87b5ed85b266cf1d1ad2693958.pdf

36. Effects of post-training mitigation on classifier performance and... - ResearchGate, acessado em 6 de fevereiro de 2026, https://www.researchgate.net/figure/Effects-of-post-training-mitigation-on-classifier-performance-and-fairness-Different_fig3_382523592

37. ICLR 2025 Papers, acessado em 6 de fevereiro de 2026, https://iclr.cc/virtual/2025/papers.html

38. Principles for Artificial Intelligence (AI) and its application in healthcare | BMA, acessado em 6 de fevereiro de 2026, https://www.bma.org.uk/media/njgfbmnn/bma-principles-for-artificial-intelligence-ai-and-its-application-in-healthcare.pdf

39. Whitepaper for the ITU/WHO Focus Group on Artificial Intelligence for Health, acessado em 6 de fevereiro de 2026, https://www.itu.int/en/ITU-T/focusgroups/ai4h/Documents/FG-AI4H_Whitepaper.pdf

40. Despite high Black maternal death rate, California hospitals ignored training about bias in care - CalMatters, acessado em 6 de fevereiro de 2026, https://calmatters.org/health/2023/10/despite-high-black-maternal-death-rate-california-hospitals-ignored-training-about-bias-in-care/