¿Se puede confiar en la IA para aprobar sus reclamaciones de atención médica?

El problema

El algoritmo de IA de UnitedHealth Group negó atención médica a pacientes ancianos — y se equivocaba el 90% de las veces. Nueve de cada diez denegaciones fueron revocadas cuando un juez humano las revisaba de verdad. Pero UnitedHealth sabía algo devastador: solo el 0.2% de los pacientes tenía recursos para reclamar.

El algoritmo en el centro de esta crisis se llama nH Predict. La división Optum de UnitedHealth lo adquirió en 2020 por más de mil millones de dólares. Se suponía que debía predecir cuánto tiempo necesitarían cuidados posagudos los pacientes de Medicare, como estancias en centros de enfermería especializada. En cambio, se convirtió en una máquina de recorte de costos que ignoraba si los pacientes realmente necesitaban ayuda.

Considere el caso de Carol Clemens. Tras sobrevivir a una metahemoglobinemia — un trastorno sanguíneo potencialmente mortal — necesitó cuidados intensivos de enfermería especializada. La evidencia clínica respaldaba su necesidad continuada de rehabilitación. Pero las proyecciones de nH Predict terminaron su cobertura de todos modos. Su familia pagó más de $16,768 de su propio bolsillo para evitar su alta prematura. UnitedHealth, según alega la demanda, "contaba" con que pacientes como Clemens estuvieran demasiado enfermos, demasiado mayores o demasiado pobres para apelar.

En febrero de 2025, un juez federal dictaminó que la demanda colectiva podía continuar. La era de esconderse detrás de decisiones de IA de caja negra está llegando a su fin. Si su organización usa IA para tomar decisiones que afectan la vida o el sustento de las personas, este caso es su toque de alerta.

Por qué esto le importa a su negocio

Esta no es solo una historia de atención médica. Es una historia de gobernanza corporativa, y la exposición financiera es asombrosa.

UnitedHealth Group genera cerca de 300.000 millones de dólares en ingresos anuales. La empresa enfrenta ahora una demanda colectiva federal que podría redefinir la manera en que toda empresa regulada despliega IA. Esto es lo que le dicen los números sobre su propio riesgo:

• Las tasas de denegación se dispararon más del 100%. Las denegaciones de cuidados posagudos saltaron de aproximadamente el 10% al 22.7% después de desplegarse la IA. Las denegaciones en centros de enfermería especializada aumentaron un 800%. Su directorio debería preguntarse: ¿están sus sistemas de IA produciendo resultados estadísticamente anómalos que los reguladores puedan señalar?

• El 72% de las empresas del S&P 500 ya revela riesgos materiales de IA en sus presentaciones anuales ante la SEC. El daño reputacional es la preocupación más citada. Un solo fallo viral de IA puede desencadenar litigios que cuestan múltiplos de lo que la IA estaba llamada a ahorrar.

• Las sanciones de la Ley de IA de la UE alcanzan hasta el 7% de la facturación global. Los sistemas de IA de salud están clasificados como "Alto Riesgo" bajo esta ley, lo que exige evaluaciones obligatorias de conformidad, divulgaciones de transparencia y supervisión humana. Si hace negocios en Europa, el incumplimiento es una amenaza financiera de nivel de directorio.

• El borrador de directrices de enero de 2025 de la FDA establece ahora un marco de credibilidad obligatorio de 7 pasos para los modelos de IA utilizados en decisiones médicas y regulatorias. Los reguladores ya no sugieren mejores prácticas: están escribiendo reglas.

La conclusión para su cuenta de resultados: el costo de gobernar la IA correctamente es una fracción del costo de defender una demanda colectiva, pagar multas regulatorias o reconstruir su marca tras un fallo público.

Lo que ocurre realmente bajo el capó

Esta es la razón por la que fracasó nH Predict, explicada sin jerga técnica.

El algoritmo funcionaba cruzando una base de datos de 6 millones de registros de pacientes. Buscaba patrones: los pacientes con diagnósticos similares históricamente permanecían X número de días. Luego generaba una fecha de alta "objetivo" para cada nuevo paciente.

Piense en ello como un GPS que solo conoce los patrones promedio de tráfico. Le dice que el viaje toma 30 minutos. Pero no ve el accidente que hay más adelante, ni el cierre de la vía, ni el hecho de que su auto tiene una llanta pinchada. Sigue insistiendo en que usted ya debería haber llegado.

nH Predict tenía el mismo punto ciego. Se basaba en la correlación — lo que suele suceder — en lugar de la causalidad — lo que realmente impulsa la condición de cada paciente. No podía tener en cuenta si un paciente tenía un cuidador en casa, atravesaba una inestabilidad financiera o padecía complicaciones clínicas específicas. Estos factores determinan la necesidad médica según las reglas de Medicare, pero el modelo los ignoró por completo.

Este modo de falla tiene nombre: es la diferencia entre preguntar "qué suele suceder" y "por qué necesita más tiempo este paciente". Un modelo basado en correlación — uno que detecta patrones sin comprender causas — le dice que los pacientes con cierto diagnóstico típicamente se van a los 14 días. Un modelo causal pregunta qué factores provocan que un paciente necesite más tiempo, y qué sucede cuando se retira la cobertura prematuramente.

El problema empeoró porque UnitedHealth convirtió una herramienta de predicción defectuosa en una directiva obligatoria. Los gerentes internos ordenaban a los gestores de casos mantener las estancias de los pacientes dentro del 3% de la proyección del algoritmo. Luego estrecharon ese objetivo a apenas el 1%. Los clínicos que se desviaban para atender las necesidades reales de los pacientes enfrentaban medidas disciplinarias o despido. La salvaguarda del "humano en el bucle" quedó reducida a un mero trámite de sello.

Lo que funciona (y lo que no)

Empecemos por lo que no funciona, porque su organización quizás ya esté haciendo alguno de estos.

Añadir una capa de chatbot sobre la IA existente. Este es el enfoque "wrapper" — poner una interfaz personalizada sobre un motor de IA de terceros como GPT. Estos envoltorios no aportan lógica propia, heredan todos los sesgos de su modelo subyacente y producen salidas de caja negra que no se pueden auditar. En industrias reguladas, son pasivos.

Asumir que la revisión humana lo arregla todo. UnitedHealth técnicamente tenía humanos revisando las decisiones de la IA. Pero cuando se castiga a los empleados por invalidar el algoritmo, su humano en el bucle es una ficción. El diseño del proceso importa más que el lenguaje de las políticas.

Tratar la gobernanza de la IA como un proyecto de TI. Si su gobernanza de IA vive enteramente en TI, está pasando por alto las dimensiones legales, clínicas y financieras que generan la responsabilidad real. El fallo de febrero de 2025 prosperó porque el juez determinó que UnitedHealth violó su promesa contractual de que las decisiones de cobertura serían tomadas por "personal de servicios clínicos" y "médicos" — no por algoritmos.

Esto es lo que realmente funciona, en tres pasos:

1. Entrada: modelado causal en lugar de correlación. Su sistema de IA debe estar construido sobre modelado causal y contrafáctico — un enfoque en el que se mapean las relaciones reales de causa y efecto en su dominio, no solo los patrones históricos. En salud, esto significa modelar por qué un paciente necesita atención, no solo cuánto tiempo permanecieron pacientes similares.

2. Procesamiento: IA explicable con puntuación de confianza. Cada decisión que tome su IA debe ir acompañada de una explicación en lenguaje sencillo de los factores que la impulsaron. Herramientas como SHAP y LIME — métodos que muestran qué puntos de datos influyeron en una salida concreta — permiten a los auditores ver si las denegaciones se basan en evidencia clínica o en variables sustitutas como el código postal. Cuando la IA se encuentra con un caso fuera de sus datos de entrenamiento, la puntuación de confianza debe señalar la incertidumbre y derivar el caso a un revisor humano.

3. Salida: pista de auditoría completa con controles de interruptor de apagado. Cada salida de la IA debe quedar registrada, con marca de tiempo y trazable. Su programa de gobernanza y cumplimiento de la IA debe incluir un registro central de IA que catalogue cada modelo de su plataforma, una gestión de cambios de modelos con opciones de reversión, y una autoridad clara para que un comité multifuncional pueda apagar un modelo si su rendimiento se degrada.

Esta pista de auditoría es lo que vende este enfoque a su equipo de cumplimiento. Cuando un regulador o un abogado demandante pide "muéstreme cómo se tomó esta decisión", usted o tiene un rastro documentado de lógica o tiene una demanda entre manos. El marco de credibilidad de 7 pasos de la FDA exige ahora explícitamente un "Informe de Credibilidad" que documente las estrategias de validación, las métricas y cualquier desviación. Si su IA no puede producir ese informe, suspende la prueba regulatoria antes de llegar jamás a un tribunal.

Las organizaciones que construyen soluciones de IA para salud y ciencias de la vida necesitan sistemas que expliquen su razonamiento, señalen su propia incertidumbre y mantengan a los humanos genuinamente al control. El mensaje del tribunal en el caso UnitedHealth fue inequívoco: si su sistema de IA está fundamentalmente roto, los tribunales no exigirán a las víctimas participar en la farsa de un proceso de apelación amañado.

Puede leer el análisis técnico completo o explorar la versión interactiva para profundizar en los marcos regulatorios y los requisitos arquitectónicos.