El 90 % de las denegaciones de cobertura por IA se revocan en apelación. Un tribunal acaba de llamarlo incumplimiento de contrato.

Una familia pagó 16.768 dólares de su bolsillo para mantener a su madre en una cama de hospital.

Ella tenía metahemoglobinemia, un trastorno sanguíneo que priva de oxígeno al cuerpo. El algoritmo que decidía su cobertura no lo sabía o, más bien, lo sabía y no le importaba. Había sido entrenado para predecir la duración de la estancia a partir de su grupo diagnóstico, y el paciente promedio de ese grupo estaba listo para irse a casa. Así que el sistema la marcó para el alta según un calendario poblacional, mientras que su nivel real de oxígeno en sangre contaba una historia distinta. Su familia encontró el dinero. La mayoría de las familias no pueden, y la mayoría ni siquiera lo intenta: en el litigio de UnitedHealth, solo alrededor del 0,2 % de los beneficiarios de Medicare apelaron sus denegaciones.

Ese caso está en el centro de Lokken v. UnitedHealth, la demanda colectiva sobre nH Predict, la herramienta de IA utilizada para proyectar los plazos de recuperación en la gestión de utilización de Medicare Advantage. Y la cifra que debería paralizar en seco a todo directivo de un plan de salud es esta: aproximadamente el 90 % de las denegaciones generadas por IA en ese litigio fueron revocadas en apelación —entre la ínfima porción de afiliados que se molestaron en impugnarlas—. Cuando leí esto por primera vez, mi instinto fue el mismo que el de la mayoría de los ingenieros: una tasa de revocación del 90 % es un problema de precisión del modelo, algo que se arregla con mejores datos de entrenamiento y umbrales más estrictos. Estaba equivocado, y el tribunal me explicó por qué. Un juez federal está tratando ese 90 % no como un defecto técnico, sino como prueba de un incumplimiento de contrato. Ese solo replanteamiento es lo que la gobernanza de la IA en Medicare Advantage realmente tiene que responder, y es la razón por la que terminé construyendo una empresa en torno a ello.

Una tasa de revocación en apelación del 90 % no es un parámetro de ajuste. Es una confesión de que el sistema, en primer lugar, nunca estuvo decidiendo la necesidad médica.

La demanda trata de una frase en su contrato, no de un fallo en su modelo

Lo que me llevó vergonzosamente mucho tiempo entender es que la exposición legal en estos casos no reside en los pesos del modelo. Reside en su Evidencia de Cobertura.

Su EOC —el contrato que firma cada afiliado— promete que las decisiones de cobertura las toman personal de servicios clínicos y médicos. Ese es el acuerdo. Cuando empecé a extraer el texto de la EOC de los planes y a colocarlo junto a sus colas reales de adjudicación automática, la brecha casi siempre estaba ahí, negro sobre blanco. El contrato dice que decide un médico. El flujo de trabajo muestra un algoritmo puntuando la solicitud y un humano haciendo clic en aprobar sobre cualquier cosa que este devuelva. La parte contraria no necesita un científico de datos para encontrar esa brecha. Necesita un asistente jurídico y un marcador.

La orden de exhibición de pruebas de marzo de 2026 en Lokken (2026 WL 658883) lo hizo concreto. El tribunal concedió a los demandantes acceso a los documentos de desarrollo de la IA, las especificaciones de los datos de entrenamiento y los informes de validación. Guardo una copia impresa de esa orden con una cláusula rodeada con un círculo, porque cambió mi forma de hablar con cada plan: su documentación de IA ahora es exhibible. Si su modelo no puede producir un registro estructurado de decisiones, datos de entrenamiento con control de versiones y resultados de validación documentados, no puede reconstruir por qué denegó una reclamación, y no puede defender lo que no puede reconstruir.

El momento en que el «humano en el circuito» se convierte en una ficción

Durante un tiempo di por sentado que los planes demandados eran casos atípicos e imprudentes que ejecutaban denegaciones totalmente automatizadas. La realidad es más incómoda, y es el detalle con el que ahora empiezo cada vez que un director médico me dice que están a salvo porque un clínico da el visto bueno.

La ruptura ocurre en una única decisión operativa que nadie fuera de la sala llega a ver jamás. Los gestores de nH Predict redujeron la varianza aceptable respecto a la proyección del modelo de un 3 % a un 1 %. Sobre el papel, eso es un cambio de ajuste. En la práctica, convirtió una herramienta de apoyo a la decisión en un guardián automatizado, porque los clínicos que se desviaban más de un pelo de la cifra del algoritmo pasaban a estar en incumplimiento. Algunos que anularon el sistema se enfrentaron a medidas disciplinarias.

Ese es el instante en que el humano en el circuito deja de ser una salvaguarda y se convierte en teatro. Una médica cuyo puesto está en riesgo si discrepa del modelo no está ejerciendo el juicio clínico: está sellando con un cuño. Y cada denegación que fluye por una revisión meramente performativa acarrea toda la responsabilidad contractual y regulatoria de una automatizada, porque funcionalmente eso es lo que es.

La banda de varianza está enterrada en las actas de reunión de un comité. Ahí es donde se gana o se pierde la demanda, no en la arquitectura del modelo.

No puedo contar el número de conversaciones sobre gobernanza que se saltan directamente esto. Los planes auditan su modelo. Casi nunca auditan la política de flujo de trabajo que lo rodea: el umbral, las reglas de anulación, la estructura disciplinaria. Esa política es lo que determina si su clínico es un tomador de decisiones o un escudo de responsabilidad que en realidad no protege nada.

Por qué construimos primero lo incorrecto

Cuando mi equipo empezó, hicimos lo obvio. Construimos monitorización.

Tenía sentido en una pizarra. El mercado está lleno de observabilidad de IA: Fiddler ofrece explicabilidad SHAP y LIME con detección de deriva y sesgo; Watsonx.governance de IBM tiene OpenScale para la equidad; Credo AI y Holistic AI venden paquetes de políticas y paneles de cumplimiento que recopilan pruebas automáticamente. La lógica de toda la categoría es: tienes modelos en producción, les añades una capa que los vigila, y ya tienes gobernanza. Así que construimos una capa que vigilaba la IA de gestión de utilización de un plan piloto y producía hermosas métricas de equidad.

Entonces una directora médica de ese plan —alguien que había formado parte de su propio comité de gestión de utilización durante años— miró nuestro panel e hizo la pregunta que nos devolvió a la mesa de dibujo. «Esto me dice que el modelo se comporta de forma consistente. No me dice que el modelo debería estar tomando esta decisión en absoluto. nH Predict también era consistente».

Ella tenía razón, y dolió. Habíamos construido un instrumento muy preciso para medir algo fundamentalmente defectuoso. nH Predict no fracasó porque no estuviera monitorizado. Fracasó porque ponderaba los promedios del grupo diagnóstico por encima de los indicadores clínicos individuales —oxígeno en sangre, disponibilidad de cuidadores, interacciones de comorbilidades— en un ámbito donde la variación individual es la definición misma de necesidad médica. Monitorizar ese modelo más de cerca habría producido un pulcro registro de un sistema haciendo mal las cosas de forma fiable. La tasa de revocación del 90 % habría quedado bellamente documentada.

Ese fue el fracaso que financió todo lo que construimos después. La observabilidad te dice si el modelo es estable. No te dice si la decisión es defendible. Son problemas distintos, y toda la categoría de plataformas de gobernanza estaba, para el comprador que me importaba, resolviendo el primero y llamándolo el segundo.

¿Qué tiene que hacer realmente la gobernanza de la IA en Medicare Advantage?

Así que rompimos la premisa de la monitorización y partimos de la única pregunta que importa en un tribunal: ¿puede usted defender esta denegación específica de esta persona específica?

Ese replanteamiento cambia por completo la construcción. Ya no está instrumentando un modelo: está diseñando una decisión de modo que, años después, bajo una orden de exhibición de pruebas, se reconstruya a sí misma. Para un plan de Medicare Advantage eso significa que tres cosas tienen que ser ciertas a la vez, y lograr que sean ciertas es el trabajo que hace Veriprajna en veriprajna.com/solutions/medicare-advantage-ai-governance.

Primero, cada decisión tiene que llevar su propia explicación: no una puntuación global de equidad, sino un registro por decisión de qué factores clínicos ponderó el modelo y cuáles ignoró, en un lenguaje que tanto un clínico como un juez puedan leer. Esta es la parte que todos subestiman, y es donde tengo que dar malas noticias. Las plataformas de reclamaciones heredadas sobre las que funcionan la mayoría de los planes —Facets, QNXT— nunca fueron diseñadas para emitir un registro de atribución de características por decisión. Almacenan el resultado, no el razonamiento. Así que la explicabilidad real sobre un stack de Medicare Advantage no es cuestión de elegir un mejor modelo de un estante. Es middleware: una capa que captura las entradas, los pesos y la ruta de anulación clínica del modelo, y los escribe en un registro construido para sobrevivir a la exhibición de pruebas. Ese es un trabajo de integración poco glamuroso, y es la mayor parte de la tarea.

El requisito más difícil es que la arquitectura de cumplimiento tiene que corresponderse con las regulaciones que llegan al mismo tiempo, lo que me lleva a una trampa en la que vi caer de lleno a un plan sofisticado.

La métrica que parece impecable y no lo es

CMS-0057-F, la regla final sobre autorización previa, empezó a morder en enero de 2026: 72 horas de plazo de respuesta para las solicitudes urgentes, siete días para las estándar, sin reabrir los ingresos hospitalarios aprobados salvo por fraude. Luego, el 31 de marzo de 2026, llegó el primer plazo de reporte público: los planes tenían que reportar ocho métricas de autorización previa a nivel de contrato, incluidas las tasas de denegación, los tiempos de respuesta y las tasas de revocación en apelación.

El detalle que importa es del tipo que solo captas si has leído las correcciones del Federal Register, no solo el titular. En junio de 2025, CMS suspendió los desgloses a nivel de plan y los requisitos de experiencia en equidad sanitaria en los comités de gestión de utilización. Lo que sigue siendo público son las métricas agregadas, a nivel de contrato. Así que un plan puede publicar una tasa de revocación en apelación a nivel de contrato perfectamente respetable y parecer impecable, mientras sus registros de decisiones individuales, aquellos que una orden de exhibición de pruebas al estilo de Lokken alcanza directamente, cuentan una historia completamente distinta.

Las métricas públicas son la parte que usted elige mostrar. Los registros de decisiones son la parte que un tribunal toma. La gobernanza tiene que ganar en la segunda, no en la primera.

Me he sentado frente a directivos que señalaban su presentación del 31 de marzo como prueba de que estaban cubiertos. La presentación es necesaria. No es una defensa. El gremio de los demandantes no está leyendo su panel agregado; está citando judicialmente el registro que hay detrás de la denegación de un afiliado.

Luego está el 1 de enero de 2027, cuando las API de autorización previa HL7 FHIR —CRD, DTR y PAS— pasan a ser obligatorias, creando un rastro completo de transacciones electrónicas para cada decisión de autorización previa. Ese rastro es o bien su mejor prueba o bien la peor, dependiendo por completo de si el razonamiento se capturó cuando se tomó la decisión. No puede rellenarlo después. Tengo un ticket de integración abierto ahora mismo contra una instancia de QNXT que es, en esencia, una apuesta sobre en cuál de esos dos futuros acaba un plan.

El mosaico para el que ninguna plataforma fue construida

Y tiene que sobrevivir a un mapa regulatorio que ningún producto de estantería cubre. La primera vez que dispuse las obligaciones de un cliente multiestatal en una sola hoja de cálculo, las columnas dejaron de concordar entre sí, y eso es por diseño. Los requisitos son deliberadamente inconsistentes.

La Ley de Gobernanza Responsable de la IA de Texas entró en vigor en enero de 2026 con un amplio poder de demanda de investigación civil, y Texas ya había mostrado sus cartas al resolver la primera investigación sanitaria sobre IA generativa, contra Pieces Technologies, allá por septiembre de 2024, por afirmaciones infladas de precisión. Pensilvania ha ido en una dirección distinta, con legislación que exige la revisión por un proveedor humano antes de cualquier denegación impulsada por IA, la divulgación obligatoria de que se está usando IA, y declaraciones anuales de cumplimiento. Una organización de Medicare Advantage multiestatal se enfrenta ahora a un mosaico donde cada estado quiere controles distintos de transparencia, auditoría y divulgación. Y para cualquier plan con operaciones globales, la Ley de IA de la UE clasifica la IA sanitaria como de alto riesgo bajo el Anexo III, con pleno cumplimiento exigible en agosto de 2027 y sanciones que alcanzan el 6 % de la facturación anual global.

Esta es exactamente la fisura en la que caen las grandes consultoras. Deloitte y Accenture desplegarán una plataforma empaquetada —un Credo AI o un IBM Watsonx— y lo llamarán gobernanza. Pero una plataforma empaquetada no conoce su configuración específica de Facets, y no reconcilia las demandas de investigación de Texas con el mandato de revisión previa a la denegación de Pensilvania ni con el requisito de expediente de gestión de riesgos de la UE. Los proveedores de sistemas de reclamaciones están aún peor posicionados: las mismas empresas que mantienen Facets y QNXT también venden los complementos de IA para ellos, así que no están precisamente incentivadas para sacar a la luz las brechas de gobernanza en sus propias plataformas. Nadie en ese panorama estaba construyendo la única cosa que el comprador necesitaba: controles técnicos correspondidos, decisión por decisión, con cada regulación que se les aplica a la vez.

¿Por qué un plan no puede simplemente comprar software de explicabilidad?

La gente me hace una pregunta justa: si la explicabilidad y la monitorización de sesgo ya existen, ¿por qué un plan no puede simplemente comprar Fiddler o montar una IA causal y asunto resuelto?

Dos razones. Los proveedores de monitorización son genuinamente buenos en lo que hacen, pero toda su premisa es que el modelo en producción es lo que merece ser gobernado. Cuando la arquitectura de decisión del modelo es el fallo, como lo fue con nH Predict, vigilarlo con más cuidado solo te da una grabación de mayor resolución del daño. La IA causal —causaLens es el nombre más creíble aquí— es la respuesta académicamente correcta, modelando la causa en lugar de la correlación, pero es comercialmente inmadura y está orientada mayormente a los servicios financieros; los modelos causales específicos para decisiones de cobertura en el ámbito sanitario siguen estando en gran medida en fase de investigación. Y los proveedores de automatización de la autorización previa, como Cohere Health, están optimizando por completo la variable equivocada. Cohere reducirá su coste administrativo de autorización previa en un 47 %. Esa es una cifra real y un beneficio real. Pero la rapidez no es defendibilidad. Una denegación más rápida que sigue sin poder reconstruir en un tribunal es un camino más rápido a la exacta responsabilidad que Lokken definió.

La otra razón es la escala, y es la parte de la que no puedo disuadir a un plan. Gartner espera que el 80 % de las reclamaciones ambulatorias se procesen mediante adjudicación en tiempo real habilitada por IA para 2028. Sin embargo, solo el 12 % de los hospitales de EE. UU. tiene hoy un marco formal de gobernanza de IA, según el recuento de Censinet. El volumen de decisiones de cobertura automatizadas está a punto de multiplicarse mucho más rápido de lo que nadie está construyendo la infraestructura para defenderlas. Y CMS no está esperando con cortesía: sus auditorías RADV del año de pago 2020 comenzaron en febrero de 2026 utilizando detección de anomalías impulsada por IA para señalar diagnósticos sin respaldo. El regulador está auditando su IA con IA mientras le exige que usted mismo la gobierne.

Los planes que se mueven primero convierten esto en una ventaja

Quiero terminar con lo que realmente creo, no con una advertencia.

Cada plan con el que hablo trata la gobernanza como un coste: un impuesto sobre el despliegue de la IA, un freno a la automatización agéntica que todos quieren. Entiendo el planteamiento. La economía administrativa es brutal por ambos lados: los proveedores gastan 19.700 millones de dólares al año combatiendo denegaciones, y los planes cargan con su propio coste en cada reclamación impugnada. La tentación es automatizar más fuerte y gobernar tan poco como la regla exija.

Pero esa cuenta va al revés. Las denegaciones que se revocan en apelación nunca fueron ahorros de costes: fueron responsabilidad que el plan contabilizó como ingreso y devolverá con intereses en un tribunal. Un plan que puede producir, para cualquier denegación, un registro limpio de qué factores clínicos se ponderaron, firmado por un clínico que genuinamente tuvo la libertad de discrepar, correspondido con cada regulación que se aplica, no solo evita la demanda. Puede denegar más rápido y con más confianza, porque cada decisión está construida para sobrevivir al escrutinio que ahora llega de forma rutinaria. Construimos la arquitectura de gobernanza de la IA en Medicare Advantage precisamente para ese plan.

La familia de la paciente con metahemoglobinemia no perdió porque un algoritmo cometiera un error. Perdió, temporalmente, porque el sistema no podía explicarse a sí mismo y ningún humano en el circuito era libre de anularlo. Construya el sistema para que pueda explicarse a sí mismo, y dé al humano la libertad de anularlo, y ya no estará esperando que la orden de exhibición de pruebas nunca llegue. Estará listo para ella.