Anclaje, citación y verificación

Su IA cita fuentes. No las verifica.

El resultado más peligroso de una IA es aquel que parece incluir citas. Un sistema de generación aumentada por recuperación devuelve un pasaje, el modelo genera una respuesta y aparece una cita a su lado. El usuario asume que la cita respalda la afirmación. En el 57% de los casos, no es así.

Un estudio de 2025 reveló que más de la mitad de las citas generadas por RAG presentan una racionalización a posteriori: el modelo decide su respuesta primero y luego examina los documentos recuperados en busca de coincidencias superficiales de tokens para fabricar una referencia. La cita es real. El documento existe. El pasaje procede de ese documento. Pero el pasaje en realidad no respalda la afirmación.

Esto no es un problema de recuperación. Su canalización de recuperación puede devolver los documentos correctos y sus citas aún pueden ser erróneas. Nuestro enfoque consiste en construir la capa de verificación que se sitúa entre la generación de su IA y sus usuarios: no una mejor recuperación, ni mejores instrucciones, sino una verificación independiente diseñada para que cada afirmación en el resultado esté realmente respaldada por la fuente que referencia; la arquitectura que exponemos en nuestro informe técnico sobre la construcción de la verdad más allá del envoltorio del LLM.

Por qué la recuperación junto con las instrucciones no es verificación

La mayoría de los equipos tratan el anclaje como un problema de recuperación: mejores fragmentos, un reclasificador, «responde únicamente a partir del contexto proporcionado» en la instrucción del sistema. Esto pasa por alto el fallo principal. El modelo no está desobedeciendo: está cumpliendo de forma infiel, encontrando tokens en el contexto que coinciden superficialmente y adjuntando una cita. El pasaje no implica lógicamente la afirmación.

La verificación es un sistema independiente con un objetivo diferenciado. El componente de generación produce afirmaciones candidatas con anotaciones de fuentes y optimiza la fluidez. El componente de verificación evalúa de forma autónoma si cada fuente citada realmente respalda la afirmación anotada, optimizando para la implicación lógica (entailment): ¿respalda lógicamente esta fuente esta afirmación concreta? Cuando estos funcionan como subsistemas independientes —el patrón de sistema dual detallado en nuestra investigación sobre verificación neurosimbólica —, una alucinación debe engañar a ambos para llegar al usuario.

Implementamos esta arquitectura de sistema dual utilizando modelos NLI ajustados para la detección de implicación lógica, combinados con la descomposición de hechos atómicos. El enfoque SAFE de Google DeepMind demostró que descomponer las respuestas en hechos atómicos individuales antes de la verificación supera drásticamente la comprobación a nivel de oración: SAFE coincide con los anotadores humanos el 72% de las veces, y en los desacuerdos, la verificación automatizada es correcta el 76% de las veces con un coste 20 veces menor. Adaptamos esto a su dominio, porque la definición de un «hecho atómico» en un escrito legal difiere de la de un resumen clínico o una declaración financiera.

Qué hacen realmente (y qué no hacen) las API de anclaje de los proveedores

Todos los principales proveedores de nube han lanzado funciones de anclaje en los últimos 18 meses. Ninguno de ellos resuelve el problema completo.

La brecha común a los cuatro: detectan cuándo el modelo se desvía del contexto proporcionado, pero no verifican que la cita específica asignada a una afirmación concreta esté realmente respaldada por implicación lógica. Esa capa de verificación es precisamente lo que diseñamos y construimos.

Tres arquitecturas de verificación adaptadas a su perfil de riesgo

Verificación de implicación lógica basada en NLI

Para equipos que necesitan verificación por afirmación sin el coste de latencia de la descomposición completa. Cada afirmación generada se empareja con su pasaje citado y es evaluada por un modelo NLI en cuanto a implicación lógica, contradicción o neutralidad; las afirmaciones calificadas como «contradicción» o «neutral» se marcan o se suprimen. Esto añade entre 50 y 200 ms por afirmación, gestiona cargas de trabajo de alto rendimiento y detecta el modo de fallo más común: citas que apuntan a pasajes temáticamente relevantes pero que no proporcionan respaldo.

Utilizamos conjuntos (ensembles) calibrados de NLI (el enfoque HALT-RAG ) en lugar de modelos individuales, porque los modelos NLI individuales muestran puntos ciegos específicos del dominio que los ensamblados mitigan.

Descomposición de hechos atómicos con verificación aumentada por búsqueda

Para dominios de alto riesgo donde la comprobación por afirmación es insuficiente porque una sola oración puede contener múltiples aseveraciones verificables. Descomponemos cada respuesta en hechos individuales, generamos consultas de verificación específicas para cada uno y los contrastamos tanto con las fuentes citadas como con referencias fidedignas externas. Este es el enfoque derivado de SAFE.

Detecta errores que el NLI a nivel de oración pasa por alto: una oración puede estar respaldada parcialmente (dos hechos correctos, uno inventado) y el NLI a menudo calificará toda la oración como respaldada por implicación lógica. La descomposición cuesta entre 3 y 5 veces más en inferencia , pero detecta significativamente más errores. Utilizamos esto para escritos procesales, documentación clínica, declaraciones financieras y cualquier dominio donde un solo número erróneo conlleve consecuencias materiales.

Verificación continua con comprobación temporal y numérica

Para entornos regulados donde la validez de las fuentes cambia con el tiempo. Esto amplía el enfoque de descomposición con tres comprobaciones adicionales:

• Verificación temporal —: ¿estaba en vigor esta normativa en la fecha a la que hace referencia la afirmación?
• Verificación numérica —: ¿coincide este porcentaje exactamente con la tabla de origen, y no de forma aproximada?
• Comprobación de coherencia entre afirmaciones —: ¿se contradicen entre sí múltiples afirmaciones ancladas en la misma respuesta?

Mantenemos índices de actualización de fuentes que registran cuándo se validaron por última vez los documentos citados, activando la reverificación cuando se actualiza el material de origen. Esta es la arquitectura para organizaciones donde una cita a una normativa derogada o a una estadística obsoleta conlleva riesgos de cumplimiento, detallada en nuestra investigación sobre el cumplimiento preceptivo de citas legales en la IA gubernamental.

Medición de la calidad del anclaje (las métricas que realmente importan)

El panorama de evaluación está fragmentado. El HHEM de Vectara califica la consistencia factual, pero mide la fidelidad de los resúmenes, no la precisión de las citas. RAGAS comprueba el anclaje, pero no la atribución. El benchmark ALCE evalúa la precisión y exhaustividad de las citas en conjuntos de datos académicos que no reflejan los patrones empresariales. Investigaciones del Allen Institute hallaron que la precisión de las citas en RAG promedia entre el 65% y el 70% sin entrenamiento específico de atribución.

Nuestro enfoque consiste en desarrollar una evaluación que mida lo que verdaderamente importa, ejecutándose de forma continua con alertas basadas en umbrales:

• Precisión de las citas —: ¿respaldan los pasajes citados sus respectivas afirmaciones?
• Exhaustividad (recall) de las citas —: ¿están debidamente atribuidas las afirmaciones verificables?
• Exactitud de implicación lógica —: la tasa de aprobación de NLI.
• Especificidad de las fuentes —: atribución a nivel de párrafo frente a nivel de documento.

Cuándo la verificación completa resulta excesiva

La verificación completa es costosa. La descomposición atómica con comprobación aumentada por búsqueda añade entre 2 y 5 segundos y entre $0.01 y $0.05 por respuesta con los precios actuales de los modelos. Para un bot de conocimiento interno que responda 10.000 consultas al día, eso supone entre $100 y $500 al día solo en costes de verificación, además de los de generación y recuperación.

No todas las aplicaciones lo necesitan. Le ayudamos a ajustar la profundidad de verificación al riesgo real: esa evaluación forma parte de cada colaboración y le indicaremos cuándo un enfoque más sencillo es suficiente para su caso de uso.

Qué entregamos

Un proyecto se define para proporcionar lo siguiente, la misma clase de verificación que se muestra en nuestra demostración operativa de IA gubernamental con citación obligatoria:

• Una arquitectura de verificación adaptada a su perfil de riesgo, presupuesto de latencia y tipos de documentos de origen.
• Canalizaciones de verificación basadas en NLI o en descomposición, integradas con su infraestructura de recuperación existente.
• Un marco de evaluación de la calidad de las citas con métricas de precisión, exhaustividad, exactitud de implicación lógica y especificidad de las fuentes.
• Monitorización continua con alertas basadas en umbrales.
• Integración con su flujo de trabajo de cumplimiento para requisitos de pistas de auditoría: telemetría de FINRA, transparencia de la Ley de IA de la UE y trazabilidad de la FDA.
• Un conjunto de pruebas con sondas de alucinaciones conocidas calibradas para su dominio.
• El modelo de costes de verificación, para que pueda tomar decisiones fundamentadas sobre dónde desplegar una verificación completa frente a comprobaciones más ligeras.