Equidad algorítmica y el imperativo de la IA profunda: corregir el sesgo sistémico en el apoyo a la decisión clínica

La integración de la inteligencia artificial en el entorno clínico ha pasado de una promesa teórica a una necesidad estructural. Sin embargo, a medida que las organizaciones sanitarias confían cada vez más en sistemas automatizados para aumentar la precisión diagnóstica y la eficiencia del triaje, ha surgido una desconexión crítica entre el rendimiento algorítmico en entornos controlados y la realidad vivida de los resultados de los pacientes. El reciente aumento de evidencia empírica —desde las imprecisiones a nivel de hardware de la oximetría de pulso hasta los fallos arquitectónicos de los modelos propietarios de sepsis— revela que muchas implementaciones actuales de IA no son meras herramientas neutrales, sino participantes activos en la perpetuación de inequidades históricas de la atención sanitaria. La crisis de la salud materna de las mujeres negras, donde las tasas de mortalidad siguen siendo tres veces superiores a las de las poblaciones blancas, constituye el indicador más estremecedor de estos fallos sistémicos. Este informe, presentado por Veriprajna, sostiene que la solución a estas disparidades no reside en la aplicación superficial de «envoltorios» de modelos de lenguaje de gran tamaño (LLM), sino en una reorientación fundamental hacia soluciones de IA profunda que prioricen la integridad fisiológica, la paridad demográfica y una validación externa rigurosa.

La crisis de confianza: más allá de la trampa del envoltorio de LLM

El panorama tecnológico actual está saturado de aplicaciones de «envoltorio»—capas de software que ofrecen una fina interfaz de usuario sobre API públicas generalizadas como GPT de OpenAI, Gemini de Google o Claude de Anthropic. Si bien estas herramientas sobresalen en la redacción administrativa y en la resumición superficial de datos, están fundamentalmente mal preparadas para las exigencias multimodales de alto riesgo del apoyo a la decisión clínica. Un LLM es un motor estadístico entrenado en probabilidades lingüísticas; no posee una comprensión conceptual de la fisiopatología ni está inherentemente fundamentado en las rigurosas restricciones de la evidencia clínica.¹ En el contexto de la salud materna o del manejo agudo de la sepsis, el enfoque de «envoltorio» introduce riesgos inaceptables, incluidas las alucinaciones, el refuerzo de sesgos a escala de Internet y una falta de explicabilidad que convierte la naturaleza de «caja negra» del modelo en una responsabilidad más que en un activo.³

Veriprajna se posiciona como proveedor de soluciones de IA profunda, abogando por una metodología que integra señales fisiológicas en tiempo real, conjuntos de datos etiquetados por expertos y funciones de pérdida con conciencia de equidad. El fracaso de los modelos «listos para usar» —como el Epic Sepsis Model— para generalizar a través de poblaciones diversas de pacientes demuestra que las métricas de precisión promediadas en una población a menudo enmascaran deficiencias letales dentro de subgrupos marginados.⁵ La verdadera inteligencia clínica requiere una arquitectura que tenga en cuenta la interdependencia de los sensores de hardware, los determinantes socioeconómicos de la salud (SDOH) y las variaciones fisiológicas entre cohortes demográficas.

Integridad de los datos fisiológicos: el pulsioxímetro y el fundamento del sesgo

La eficacia de cualquier sistema de IA está inextricablemente ligada a la calidad de los datos que ingiere. En los sistemas de triaje y de alerta temprana, la oximetría de pulso sirve como fuente primaria de entrada para determinar el distrés respiratorio y el riesgo de sepsis. Sin embargo, el mecanismo físico de estos dispositivos contiene un sesgo documentado desde hace tiempo pero frecuentemente ignorado: la absorción diferencial de la luz por la melanina.

La física de la interferencia óptica

Los pulsioxímetros funcionan transmitiendo luz roja e infrarroja a través del tejido y midiendo la relación de absorción de la hemoglobina oxigenada y desoxigenada. La melanina, sin embargo, también absorbe luz a través de estas longitudes de onda. Cuando estos dispositivos se calibran principalmente en poblaciones de piel más clara, la absorción adicional en pacientes de piel más oscura suele ser malinterpretada por el dispositivo como una mayor concentración de hemoglobina oxigenada.⁸ Esto conduce a la «hipoxemia oculta»—una condición en la que el dispositivo reporta una saturación periférica de oxígeno ( ) dentro del rango normal mientras que la verdadera saturación arterial de oxígeno ( ) está peligrosamente baja.

Hallazgos recientes publicados en el New England Journal of Medicine (NEJM) y el British Medical Journal (BMJ) subrayan la magnitud de este error de medición y su impacto posterior en la lógica de triaje impulsada por IA. La investigación indica que los pacientes negros tienen casi tres veces más probabilidad de experimentar hipoxemia oculta que los pacientes blancos, una disparidad que persiste desde la década de 1990 sin una intervención regulatoria adecuada.⁸

Parámetro	Impacto en tonos de piel más claros	Impacto en tonos de piel más oscuros	Fuente
Sobreestimación media	Línea base	de 0,6 a 1,5 puntos porcentuales más alta	8
Tasa de falsos negativos (SpO₂)	1,2% - 26,9%	7,6% - 62,2%	8
Incidencia de hipoxemia oculta	Línea base	~3x mayor frecuencia	8
Fallo de detección pediátrica	0% omitidos	7% omitidos en los tonos de piel más oscuros	11

El efecto en cascada sobre el triaje con IA

Cuando un sistema de triaje con IA utiliza como característica central, hereda este sesgo a nivel de hardware.

Si un algoritmo está diseñado para activar una alerta de «alta prioridad» ante un por debajo del 92%, fallará sistemáticamente al marcar a pacientes negros cuya verdadera oxigenación arterial está en el 88% pero cuya lectura del pulsioxímetro permanece en el 93%. Esto conduce a un retraso sistémico en la administración de oxígeno suplementario, un mayor riesgo de fallo orgánico y una mayor mortalidad hospitalaria.⁹

Para un proveedor de IA profunda como Veriprajna, estos datos revelan que los datos «limpios» de la EHR son una ilusión. Un modelo sofisticado debe diseñarse para aplicar desplazamientos de calibración específicos por demografía o para utilizar sensores multimodales (como la combinación de oximetría con variabilidad de la frecuencia cardíaca y frecuencia respiratoria) a fin de triangular el verdadero estado clínico del paciente. El estudio de Vanderbilt de 2024 (POSTer-Child) destacó que incluso en poblaciones pediátricas, los dispositivos comunes de oximetría de pulso no detectaron oxígeno bajo en el 7% de los pacientes con los tonos de piel más oscuros, mientras que no omitieron ningún caso en aquellos con los tonos más claros.¹¹ Esto sugiere que las directrices actuales de la FDA, que hasta hace poco exigían pruebas en solo diez sujetos, son fundamentalmente inadecuadas para garantizar la seguridad de los sistemas de IA construidos sobre estos sensores.¹⁰

Fallo predictivo en la atención aguda: un análisis del Epic Sepsis Model

La transición del sesgo de hardware al sesgo algorítmico es más evidente en la adopción generalizada del Epic Sepsis Model (ESM). Integrado en las historias clínicas electrónicas (EHR) de cientos de hospitales, el ESM se comercializó como una herramienta proactiva para identificar la sepsis antes del reconocimiento clínico. Sin embargo, la realidad de su despliegue se ha caracterizado por una pobre generalización y significativas disparidades raciales de rendimiento.

La brecha de generalización

La validación interna del desarrollador reclamó un área bajo la curva (AUC) de 0,76 a 0,83. Sin embargo, la validación externa independiente realizada en Michigan Medicine reveló una caída sorprendente del rendimiento, con un AUC de solo 0,63.⁵ Esta discrepancia ilustra el «sobreajuste específico del sitio» común en los modelos propietarios. Cuando un modelo se calibra en una población específica de pacientes (p. ej., tres sistemas de salud de EE. UU. de 2013-2015), a menudo falla al enfrentarse a las distintas mezclas demográficas, prácticas clínicas y hábitos de documentación de una nueva institución.⁵

Métrica de rendimiento	Reclamaciones del desarrollador	Validación externa (Michigan)	Fuente
Sensibilidad (verdadero positivo)	Alta	33% (omite el 67% de los casos)	6
Valor predictivo positivo	N/D	12% (tasa de falsas alarmas del 88%)	7
Ventaja de detección temprana	Comercializada	6% de los casos (alerta rara antes del clínico)	13
Carga de alertas	Gestionada	Alta (fatiga de alertas significativa)	7

Disparidades raciales y el problema del sesgo de etiqueta

El fracaso del ESM no es meramente una cuestión de baja sensibilidad; es una cuestión de protección desigual. Los pacientes negros e hispanos experimentan casi el doble de incidencia de sepsis en comparación con los pacientes blancos y a menudo se presentan a edades más tempranas.¹⁴ Sin embargo, los estudios han observado que el ESM exhibe una pobre «calibración» a través de estos grupos, a menudo sin tener en cuenta las trayectorias fisiológicas específicas de la sepsis en poblaciones marginadas.¹⁴

Un motor primario de este fracaso es el «sesgo de etiqueta». Muchos modelos de sepsis se entrenan con definiciones clínicas o códigos de facturación que son en sí mismos productos del juicio humano sesgado. Si los clínicos son históricamente más lentos en solicitar hemocultivos o reconocer la sepsis en pacientes negros, la IA aprende a asociar la «sepsis» con las firmas de datos de los pacientes blancos, volviéndose efectivamente «ciega» a la presentación de la enfermedad en pacientes negros.¹⁴ Esto crea un bucle de retroalimentación letal: la IA omite al paciente porque los datos históricos estaban sesgados, y el clínico omite al paciente porque depende en exceso de una IA que no ha disparado una alerta.

La crisis de la salud materna: negligencia sistémica y fracaso algorítmico

Quizá ningún área de la medicina demuestre con más claridad la intersección del racismo estructural y el fracaso tecnológico que la salud materna. Los Centers for Disease Control and Prevention (CDC) informan que las mujeres negras enfrentan una tasa de mortalidad relacionada con el embarazo de 50,3 por cada 100.000 nacidos vivos —casi 3,5 veces superior a la de 14,5 registrada para las mujeres blancas.¹⁷ Esta disparidad persiste incluso controlando por educación e ingresos, lo que sugiere que la causa raíz reside en la calidad de la atención y en los sesgos estructurales del sistema sanitario.¹⁹

Hallazgos del California Maternal Data Center (MDC)

California ha sido históricamente líder en la mejora de la calidad de la salud materna a través de la California Maternal Quality Care Collaborative (CMQCC). Sin embargo, incluso en este entorno rico en datos, los sistemas de alerta temprana (EWS) con IA han mostrado deficiencias críticas. El MDC halló que los sistemas automatizados de alerta temprana omitieron el 40% de los casos de morbilidad grave en pacientes negras.²⁰

La morbilidad materna grave (SMM) es una medida de complicaciones potencialmente mortales, como hemorragia, preeclampsia y sepsis, que ocurren 100 veces más frecuentemente que la muerte materna.²¹ El fracaso de la IA para marcar estos casos en mujeres negras a menudo se vincula al efecto de «weathering» —la manifestación fisiológica del estrés crónico causado por el racismo sistémico, que puede conducir a presiones arteriales basales más altas y respuestas cardiovasculares alteradas que la IA puede interpretar como «normales» para ese individuo.²⁰

Medida de resultado	Negras no hispanas	Blancas no hispanas	Hispanas	Fuente
Mortalidad materna (por 100 mil)	50,3	14,5	12,4	17
Tasa de parto pretérmino	14,7%	9,4%	10,1%	19
Atención prenatal tardía o nula	10,4%	4,7%	9,7%	19
Maltrato en la atención a la maternidad	1 de cada 3	1 de cada 5 (promedio)	N/D	23

El «fallo en el rescate» y el imperativo económico

La disparidad no está solo en la incidencia de complicaciones, sino en el «fallo en el rescate». Las mujeres negras tienen 1,79 veces más probabilidad de morir una vez que ha ocurrido una morbilidad grave en comparación con las mujeres blancas.²⁴ Esto indica que cuando un sistema de IA falla al alertar, o cuando su alerta se ignora debido al sesgo implícito, la ventana para la intervención salvavidas se cierra más rápidamente para las pacientes negras.

El análisis de McKinsey sobre el cierre de la brecha de salud materna de las mujeres negras destaca que abordar estas disparidades no es solo una necesidad moral, sino también económica. Restaurar años de vida saludable para las mujeres negras podría añadir $24.4 mil millones al PIB de EE. UU. y ahorrar $385 millones en costos sanitarios prevenibles anuales.²⁵ Esto requiere una transición de la observación pasiva a estrategias de intervención proactivas habilitadas por IA que prioricen «Contar, Estudiar, Cuidar, Incluir e Invertir».²⁵

IA profunda frente a envoltorios de LLM: una crítica técnica

El auge de la IA generativa ha provocado un aumento de «chatbots» clínicos y herramientas de resumen. Sin embargo, para un entorno de alto riesgo como el triaje materno o la detección de sepsis, estos «envoltorios» son fundamentalmente inadecuados. Veriprajna aboga por una distinción entre estos modelos de lenguaje probabilísticos y las arquitecturas de IA profunda diseñadas para la utilidad clínica.

Las limitaciones de la probabilidad estadística

Los modelos de lenguaje de gran tamaño (LLM) operan sobre probabilidades de palabras, no sobre lógica clínica. En un entorno médico, esto se manifiesta como:

1.​ Inexactitud clínica: los estudios hallaron que los LLM lograron solo un 16,7% de precisión en ajustes de dosis para disfunción renal cuando las variables específicas del paciente eran complejas.²⁶

2.​ Falta de fundamentación en tiempo real: la mayoría de los LLM públicos se entrenan con conjuntos de datos estáticos y carecen de acceso a bases de datos clínicas en tiempo real o a directrices actualizadas.¹

3.​ Opacidad de caja negra: los LLM no pueden proporcionar una cadena de razonamiento transparente que un clínico pueda verificar, lo cual es un requisito bajo el GDPR europeo y las regulaciones sanitarias en evolución de EE. UU.²

4.​ Alucinación adversaria: los sistemas pueden ser manipulados o transcribir contenido por error, lo que conduce a la inserción de datos clínicos fabricados en el historial del paciente.¹

El paradigma de IA profunda de Veriprajna

Una solución de IA profunda, según la define Veriprajna, debe ser:

●​ Multimodal: integrar datos de formas de onda (ECG/oximetría), laboratorios estructurados y notas de enfermería no estructuradas en lugar de depender únicamente de entradas basadas en texto.¹³

●​ Validada por expertos: utilizar etiquetas derivadas de la revisión adjudicada por expertos en lugar de códigos de facturación ruidosos.⁶

●​ Con conciencia de equidad por diseño: implementar restricciones matemáticas durante la fase de entrenamiento para garantizar la paridad demográfica.²⁸

Fundamentos matemáticos de la equidad algorítmica

Para pasar de lo teórico a lo de grado empresarial, debemos abordar la estructura matemática del sesgo. La optimización tradicional busca minimizar el riesgo empírico (error promedio) en todo el conjunto de datos. Esto favorece naturalmente al grupo mayoritario. Veriprajna implementa funciones de pérdida con conciencia de equidad para corregirlo.

Funciones de pérdida con conciencia de equidad

Un enfoque es la integración de una «penalización de equidad» en la función de pérdida estándar. Si es la pérdida de entropía cruzada estándar, un modelo con conciencia de equidad minimiza:

donde es una medida de la disparidad entre grupos protegidos (p. ej., raza o género) y es un parámetro de regularización que controla el equilibrio entre la precisión global y la equidad de grupo.²⁸

Optimización de la pérdida del peor grupo

En muchos escenarios médicos, nos interesa minimizar el riesgo para la población más vulnerable. El enfoque de Worst-Group Loss busca minimizar la pérdida máxima en todos los subgrupos demográficos:

donde es el conjunto de todos los subgrupos (p. ej., negros no hispanos, blancos, hispanos). La investigación en detección automatizada de depresión ha mostrado que, si bien este enfoque puede reducir ligeramente la precisión global, mejora significativamente los resultados para grupos subrepresentados, como los participantes hispanos, que a menudo son mal clasificados por los modelos estándar.³⁰

Equalized Odds y paridad demográfica

Los modelos de IA profunda también se evalúan con métricas más allá de la simple precisión.

●​ Paridad demográfica: garantiza que la probabilidad de una predicción positiva (p. ej., «Alto riesgo») sea igual en todos los grupos: .

●​ Equalized Odds: requiere que tanto la tasa de verdaderos positivos (sensibilidad) como la tasa de falsos positivos (1-especificidad) sean iguales entre grupos:

.

En la detección de sepsis, lograr Equalized Odds es crítico. Si un modelo tiene un 80% de sensibilidad para pacientes blancos pero solo un 40% para pacientes negros, está proporcionando efectivamente un nivel diferente de atención basado en la raza.¹²

Estrategias arquitectónicas para la mitigación del sesgo clínico

El marco técnico de Veriprajna para soluciones de IA profunda implica un enfoque de cuatro capas para garantizar que los modelos sean robustos, equitativos y generalizables.

Capa 1: alineación de representaciones

Antes del entrenamiento, el conjunto de datos debe examinarse en busca de «estratificación oculta». Por ejemplo, si un modelo de radiografía de tórax se entrena con un conjunto de datos en el que las radiografías «portátiles» (normalmente usadas para pacientes más enfermos y postrados en cama) son más comunes en una demografía, el modelo podría aprender a asociar la presencia de equipo portátil con la enfermedad en lugar de con la patología real.¹³ Utilizamos el «desesgo adversario», en el que un modelo auxiliar se entrena para predecir el atributo protegido (raza) a partir de las características internas del modelo primario. El modelo primario se penaliza entonces si el adversario tiene éxito, forzándolo a aprender características que sean «ciegas» a la raza pero «videntes» a la patología clínica.³⁵

Capa 2: ajuste fino específico del dominio

A diferencia de los envoltorios de LLM que usan pesos generalistas, los modelos de IA profunda deben ajustarse finamente en corpus clínicos especializados. Para la salud materna, esto incluye el entrenamiento con el Obstetric Comorbidity Scoring System del California Maternal Data Center, que predice la morbilidad materna grave con un mayor grado de precisión que las métricas generales al ajustar por comorbilidades específicas como la hipertensión crónica y la diabetes.²¹

Capa 3: fusión multimodal de señales

Para abordar la brecha de la oximetría de pulso, nuestros modelos no tratan como una verdad de referencia aislada. En su lugar, utilizan la «regresión temporal de dinámicas no lineales» para fusionar la oximetría con otros marcadores. Si la frecuencia cardíaca y los niveles de lactato de un paciente están elevándose mientras permanece estable, la IA profunda activa una alerta de «discrepancia de señal», lo que lleva al clínico a solicitar una gasometría arterial (ABG) de referencia.⁹

Capa 4: validación externa y auditoría continua

La deriva del modelo es un riesgo significativo en la atención sanitaria. A medida que cambian los protocolos clínicos o se desplazan las demografías de los pacientes, el rendimiento de un modelo puede degradarse. Veriprajna implementa un marco de «validación local» en el que cada despliegue comienza con una auditoría retrospectiva de los propios datos de la institución. Medimos el «índice de estabilidad poblacional» (PSI) para cuantificar cuán diferente es la población local de la cohorte de entrenamiento, asegurando que el modelo se recalibre para la comunidad específica a la que sirve.⁷

El rol de la consultoría de IA profunda: gobernanza estratégica

Para los ejecutivos sanitarios, la decisión ya no es si adoptar la IA, sino cómo hacerlo sin introducir una responsabilidad catastrófica ni exacerbar las inequidades en salud. El «método Veriprajna» proporciona un marco para la gobernanza de IA a nivel empresarial.

Exigir transparencia y model cards

Los proveedores de IA deben ser sometidos a un estándar más alto de transparencia. Las afirmaciones generales de «99% de precisión» a menudo carecen de sentido. Las empresas deberían exigir:

●​ Métricas de rendimiento por subgrupo: desgloses detallados de sensibilidad, especificidad y VPP por edad, sexo y raza.⁷

●​ Curvas de calibración: prueba de que una «probabilidad del 90%» de sepsis significa realmente que 9 de cada 10 de esos pacientes tienen la condición.⁷

●​ Validación revisada por pares: rechazo de whitepapers de proveedores a favor de estudios externos independientes como los realizados por Wong et al. o el equipo del estudio EXAKT.⁶

Implementar la supervisión «human-in-the-loop»

La IA debe transformar, no reemplazar, los roles clínicos. En la salud materna, esto significa usar la IA para liberar tiempo a fin de que los clínicos se concentren en actividades de alto valor como la escucha activa y la evaluación física.³⁸ Sin embargo, la ley y la ética exigen que los sistemas automatizados nunca sean los únicos decisores.² Abogamos por la «inteligencia colaborativa», en la que la IA proporciona el «empujón» basado en datos, pero la ruta diagnóstica y terapéutica final la determina un clínico humano que ha sido formado para reconocer y corregir el sesgo algorítmico.³

Perspectiva futura: recuperar la narrativa de la innovación

La era actual de la «exageración de la IA» ha llevado a muchas organizaciones a conformarse con la conveniencia de los envoltorios de LLM. Sin embargo, los datos de los CDC, el NEJM y el California Maternal Data Center sirven como un recordatorio contundente de que en medicina la conveniencia no puede llegar a costa de la equidad. El enfoque de «IA profunda» impulsado por Veriprajna representa un retorno al rigor científico.

Al abordar las limitaciones de hardware de los sensores, corregir los sesgos de etiqueta en los conjuntos de datos históricos e implementar arquitecturas matemáticas con conciencia de equidad, podemos construir un sistema sanitario en el que la tecnología sirva para cerrar la brecha de mortalidad en lugar de ampliarla. Las ganancias económicas y sociales de tal esfuerzo —salvar a miles de madres e infantes cada año— son la verdadera métrica de éxito para la próxima generación de inteligencia artificial.²⁵

Veriprajna está comprometida con esta filosofía de trabajo profundo, yendo más allá de la llamada a la API para construir los fundamentos de un futuro clínico verdaderamente equitativo. La integración de datos de alta fidelidad, conciencia demográfica y validación experta no es solo un desafío técnico; es el nuevo estándar de atención.

Resumen de la mitigación de riesgos de la IA clínica empresarial

Categoría de riesgo	Debilidad del modelo envoltorio/propietario	Solución de IA profunda/Veriprajna
Sesgo de datos	Hereda el sesgo de hardware (p. ej., oximetría)	Triangulación multimodal y desplazamientos específicos del sensor
Sesgo de etiqueta	Entrenado con códigos de facturación/clínicos sesgados	Etiquetas de verdad de referencia adjudicadas por expertos
Generalización	Sobreajuste específico del sitio; falla en nuevas poblaciones	Validación local y auditorías del índice de estabilidad poblacional (PSI)
Explicabilidad	Salida de caja negra; alto riesgo de alucinación	Ponderación transparente de características y cadenas de razonamiento clínico
Equidad	Optimiza para el promedio de la mayoría	Pérdida del peor grupo y restricciones de Equalized Odds
Cumplimiento	Las API públicas carecen de salvaguardas HIPAA/GDPR	Arquitectura de grado médico on-premise o en nube privada

En conclusión, el camino hacia la excelencia clínica en la era de la IA requiere un rechazo de lo superficial. Como demuestran la crisis de mortalidad materna y los fallos de los modelos de sepsis, lo que está en juego no es nada menos que las vidas de nuestros pacientes más vulnerables. La IA profunda es el único camino viable hacia adelante para un sistema sanitario de grado empresarial que valora tanto la innovación como la justicia.

Obras citadas

1. The dangers of using non-medical LLMs in healthcare communication - Paubox, consultado el 6 de febrero de 2026, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

2. LLMs in Healthcare: what's helpful, harmful and what do you need to know? - Cranium, consultado el 6 de febrero de 2026, https://www.cranium.eu/llms-in-healthcare-whats-helpful-harmful-and-what-do-you-need-to-know/

3. Challenges and barriers of using large language models (LLM) such as ChatGPT for diagnostic medicine with a focus on digital pathology – a recent scoping review - PMC, consultado el 6 de febrero de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC10898121/

4. The Limitations of Large Language Models (in Medical Environments). | by Juan Placer Mendoza, consultado el 6 de febrero de 2026, https://jpm75.medium.com/the-limitations-of-large-language-models-in-medical-environments-3843054bb042

5. The Epic Sepsis Model Falls Short—The Importance of External Validation - ResearchGate, consultado el 6 de febrero de 2026, https://www.researchgate.net/publication/352593220_The_Epic_Sepsis_Model_Falls_Short-The_Importance_of_External_Validation

6. External Validation of a Widely Implemented Proprietary Sepsis Prediction Model in Hospitalized Patients - PMC, consultado el 6 de febrero de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC8218233/

7. Evaluating AI Clinical Decision Support Systems - The Physician AI Handbook, consultado el 6 de febrero de 2026, https://physicianaihandbook.com/implementation/evaluation.html

8. The impact of skin tone on performance of pulse oximeters used by ..., consultado el 6 de febrero de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12801414/

9. Pulse oximeters overestimate blood oxygen levels in patients with darker skin, consultado el 6 de febrero de 2026, https://www.news-medical.net/news/20260114/Pulse-oximeters-overestimate-blood-oxygen-levels-in-patients-with-darker-skin.aspx

10. Racial Bias in Pulse Oximetry Measurement - AI & Digital Health Innovation, consultado el 6 de febrero de 2026, https://aidhi.umich.edu/impact-stories-blog/racial-bias-in-pulse-oximetry-measurement

11. Skin tone may affect accuracy of blood oxygen measurement in children: study - VUMC News, consultado el 6 de febrero de 2026, https://news.vumc.org/2025/03/04/skin-tone-may-affect-accuracy-of-blood-oxygen-measurement-in-children-study/

12. Mitigating AI Risks in Healthcare: Why Local Validation Matters - EisnerAmper, consultado el 6 de febrero de 2026, https://www.eisneramper.com/insights/blogs/health-care-blog/mitigating-ai-risks-in-healthcare-0625/

13. AI in Diagnostic and Clinical Decision Support - The Public Health AI Handbook, consultado el 6 de febrero de 2026, https://publichealthaihandbook.com/applications/clinical.html

14. Full article: Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis - Taylor & Francis Online, consultado el 6 de febrero de 2026, https://www.tandfonline.com/doi/full/10.1080/15265161.2025.2497971

15. Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis, consultado el 6 de febrero de 2026, https://www.tandfonline.com/doi/pdf/10.1080/15265161.2025.2497971

16. Sepsis Prediction Models are Trained on Labels that Diverge from Clinician-Recommended Treatment Times - NIH, consultado el 6 de febrero de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12099352/

17. Health E-Stats, February 2025, Maternal Mortality Rates in the United States, 2023 - CDC, consultado el 6 de febrero de 2026, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/Estat-maternal-mortality.pdf

18. Health E-Stat 100: Maternal Mortality Rates in the United States, 2023 - CDC, consultado el 6 de febrero de 2026, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/maternal-mortality-rates-2023.htm

19. Racial Disparities in Maternal and Infant Health: Current Status and Key Issues | KFF, consultado el 6 de febrero de 2026, https://www.kff.org/racial-equity-and-health-policy/racial-disparities-in-maternal-and-infant-health-current-status-and-key-issues/

20. How California is taking on inequity for Black patients during pregnancy, childbirth, consultado el 6 de febrero de 2026, https://med.stanford.edu/news/insights/2024/01/california-inequity-black-patients-pregnancy-childbirth.html

21. CA-PAMR Recent Data | California Maternal Quality Care ..., consultado el 6 de febrero de 2026, https://www.cmqcc.org/education-research/maternal-mortality-review-ca-pamr/ca-pamr-recent-data

22. CENTERING BLACK MOTHERS IN CALIFORNIA - CDPH, consultado el 6 de febrero de 2026, https://www.cdph.ca.gov/Programs/CFH/DMCAH/CDPH%20Document%20Library/Centering-Black-Mothers/Centering-Black-Mothers-Report-2023.pdf

23. Disrespected and Ignored: Black Pregnant Women Demand Congressional Action, consultado el 6 de febrero de 2026, https://nationalpartnership.org/disrespected-and-ignored-black-pregnant-women-demand-congressional-action/

24. Racial and Ethnic Disparities in Death Associated With Severe Maternal Morbidity in the United States: Failure to Rescue | Request PDF - ResearchGate, consultado el 6 de febrero de 2026, https://www.researchgate.net/publication/350768676_Racial_and_Ethnic_Disparities_in_Death_Associated_With_Severe_Maternal_Morbidity_in_the_United_States_Failure_to_Rescue

25. Black maternal health disparities: reducing mortality rates | McKinsey, consultado el 6 de febrero de 2026, https://www.mckinsey.com/institute-for-economic-mobility/our-insights/closing-the-black-maternal-health-gap-healthier-lives-stronger-economies

26. Navigating the potential and pitfalls of large language models in patient-centered medication guidance and self-decision support - PMC, consultado el 6 de febrero de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC11798948/

27. AI Horizons Institute: AI In Healthcare Workgroup Introduction - University of Rochester, consultado el 6 de febrero de 2026, https://www.rochester.edu/warner/lida/wp-content/uploads/2025/02/AI-Horizons-Healthcare-White-Paper.pdf

28. Bias in AI systems: integrating formal and socio-technical approaches - PMC, consultado el 6 de febrero de 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12823528/

29. From Lab to Clinic: Addressing Bias and Generalizability in AI Diagnostic Systems, consultado el 6 de febrero de 2026, https://journalwjarr.com/sites/default/files/fulltext_pdf/WJARR-2025-4249.pdf

30. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, consultado el 6 de febrero de 2026, https://arxiv.org/html/2509.25795v1

31. Fair Machine Learning in Healthcare: A Survey | Request PDF - ResearchGate, consultado el 6 de febrero de 2026, https://www.researchgate.net/publication/384486736_Fair_Machine_Learning_in_Healthcare_A_Survey

32. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches | Request PDF - ResearchGate, consultado el 6 de febrero de 2026, https://www.researchgate.net/publication/398470731_Assessing_Algorithmic_Bias_in_Language-Based_Depression_Detection_A_Comparison_of_DNN_and_LLM_Approaches

33. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, consultado el 6 de febrero de 2026, https://www.arxiv.org/pdf/2509.25795

34. False hope of a single generalisable AI sepsis prediction model: bias and proposed mitigation strategies for improving performance based on a retrospective multisite cohort study - ResearchGate, consultado el 6 de febrero de 2026, https://www.researchgate.net/publication/390249394_False_hope_of_a_single_generalisable_AI_sepsis_prediction_model_bias_and_proposed_mitigation_strategies_for_improving_performance_based_on_a_retrospective_multisite_cohort_study

35. A Comprehensive Survey on Bias and Fairness in Gen- erative AI: Legal, Ethical, and Technical Responses - OpenReview, consultado el 6 de febrero de 2026, https://openreview.net/pdf/7bd31cd005e56d87b5ed85b266cf1d1ad2693958.pdf

36. Effects of post-training mitigation on classifier performance and... - ResearchGate, consultado el 6 de febrero de 2026, https://www.researchgate.net/figure/Effects-of-post-training-mitigation-on-classifier-performance-and-fairness-Different_fig3_382523592

37. ICLR 2025 Papers, consultado el 6 de febrero de 2026, https://iclr.cc/virtual/2025/papers.html

38. Principles for Artificial Intelligence (AI) and its application in healthcare | BMA, consultado el 6 de febrero de 2026, https://www.bma.org.uk/media/njgfbmnn/bma-principles-for-artificial-intelligence-ai-and-its-application-in-healthcare.pdf

39. Whitepaper for the ITU/WHO Focus Group on Artificial Intelligence for Health, consultado el 6 de febrero de 2026, https://www.itu.int/en/ITU-T/focusgroups/ai4h/Documents/FG-AI4H_Whitepaper.pdf

40. Despite high Black maternal death rate, California hospitals ignored training about bias in care - CalMatters, consultado el 6 de febrero de 2026, https://calmatters.org/health/2023/10/despite-high-black-maternal-death-rate-california-hospitals-ignored-training-about-bias-in-care/