¿Se puede confiar en la IA para la investigación jurídica? Probablemente todavía no.

El problema

En junio de 2023, un abogado presentó un escrito jurídico ante un tribunal federal de Nueva York. El escrito citaba varios casos — Varghese v. China Southern Airlines, Shaboon v. Egyptair, Petersen v. Iran Air — completos con números de expediente, fechas y citas textuales. Todos y cada uno de los casos eran falsos. ChatGPT los inventó.

El juez de Mata v. Avianca, Inc. advirtió que las citas eran fabricadas. Calificó partes de los resúmenes de opiniones generados por IA de "galimatías", a pesar de su convincente formato jurídico. El tribunal impuso una multa de 5.000 dólares y exigió a los abogados que notificaran a su cliente. Pero la sanción económica fue la parte más pequeña del daño. Las repercusiones reputacionales dieron la vuelta a los titulares internacionales.

Esto es lo que agrava aún más la historia. Cuando los abogados contrarios impugnaron los casos falsos, el abogado volvió a ChatGPT y le preguntó si eran reales. La IA confirmó sus propias mentiras. Dijo que los casos "efectivamente existen" y que podían encontrarse en "bases de datos jurídicas de prestigio". Esto creó lo que el whitepaper llama un "bucle de alucinación": la herramienta usada para la verificación tenía el mismo fallo que la herramienta usada para la generación.

El tribunal rechazó la defensa de que el abogado no sabía que la IA podía fabricar información. Los jueces han establecido ahora que los abogados son los garantes finales de la exactitud de su tecnología. Si su firma usa IA para trabajo jurídico, la responsabilidad recae sobre usted, no sobre el proveedor del software.

Por qué esto importa para su empresa

El caso Mata no fue un incidente aislado. Expuso un problema estructural que afecta a toda organización que usa IA para investigación jurídica, cumplimiento o trabajo regulatorio.

Las cifras deberían preocuparle:

• 58% a 82%: Investigadores de Stanford descubrieron que los chatbots de IA de propósito general alucinaron a estas tasas en consultas jurídicas complejas — incluso herramientas con acceso a internet o funciones básicas de recuperación.
• 5.000 dólares: La multa directa en Mata v. Avianca. Pero el costo real fue la destrucción reputacional y el riesgo de inhabilitación para los abogados involucrados.
• Hasta 30-35%: La brecha de rendimiento entre los sistemas avanzados de recuperación basados en grafos y los sistemas vectoriales estándar en tareas de razonamiento jurídico de múltiples pasos.

Estos riesgos afectan a su empresa en tres frentes:

• Responsabilidad por mala praxis. Su firma asume la responsabilidad jurídica por cada cita generada por IA en un escrito. Es probable que las primas del seguro de responsabilidad civil profesional aumenten para las firmas que no puedan demostrar una gobernanza rigurosa de la IA.
• Exposición regulatoria. Los tribunales están emitiendo órdenes permanentes que exigen la divulgación obligatoria del uso de IA. Si sus herramientas no pueden explicar su razonamiento, usted enfrenta incumplimientos normativos antes incluso de llegar al fondo del caso.
• Confianza del cliente. Sus clientes preguntarán cada vez más: "¿Qué IA utiliza?" Responder "ChatGPT" — o cualquier envoltorio ligero alrededor de un modelo de propósito general — señala que no ha pensado seriamente en la exactitud. Esa respuesta se está volviendo inaceptable en el trabajo jurídico empresarial.

La conclusión para su cuenta de resultados: si un abogado tiene que verificar manualmente cada cita generada por IA, usted pierde las ganancias de eficiencia que justificaron la inversión en IA en primer lugar.

Lo que realmente ocurre bajo el capó

Para entender por qué ocurrió Mata, necesita entender una cosa sobre cómo funcionan los grandes modelos de lenguaje (LLM). Predicen la siguiente palabra de una secuencia. No buscan en una biblioteca. No consultan una base de datos. Generan texto que suena correcto según patrones estadísticos.

Piénselo como el autocompletado de su teléfono — pero para párrafos enteros. Su teléfono podría sugerir "reunión" después de que usted escriba "Nos vemos en la". Un LLM hace lo mismo a escala masiva. Cuando se le pide un caso de lesiones contra una aerolínea, no busca casos reales. Ensambla una respuesta que sigue el patrón de lo que parece una cita jurídica. "Varghese" era un nombre de demandante estadísticamente plausible. "China Southern Airlines" era una demandada plausible. Pero la relación entre ambos era una ficción matemática, no una realidad jurídica.

La primera solución de la industria fue algo llamado Generación Aumentada por Recuperación (RAG) — un método en el que se alimenta a la IA con documentos fuente reales antes de que genere una respuesta. El RAG estándar almacena los documentos jurídicos como vectores numéricos y recupera fragmentos de texto semánticamente similares a su pregunta. Esto ayuda, pero introduce nuevos problemas.

La búsqueda basada en vectores trata una opinión disidente igual que una opinión mayoritaria si las palabras se parecen. No puede saber si un caso ha sido revocado. Recupera los documentos de forma aislada, por lo que pierde las conexiones entre una ley, la regulación que interpreta esa ley y el caso que aplica esa regulación. La investigación muestra que cuando los LLM reciben listas largas de texto recuperado, se centran en la información del principio y del final e ignoran el material intermedio. En el trabajo jurídico, la excepción crítica suele quedar enterrada en el fragmento 15 de la jurisprudencia recuperada.

Un sistema que recupera el caso correcto el 80% del tiempo es un riesgo de mala praxis el otro 20%.

Lo que funciona (y lo que no)

Tres enfoques comunes fracasan para la IA jurídica de alto riesgo:

• Mejores prompts. La ingeniería de prompts puede cambiar el estilo o el formato de la salida de la IA. No puede inyectar conocimiento que el modelo no tiene, ni puede forzar al modelo a verificar hechos contra una base de datos a la que no puede acceder.
• Aplicaciones envoltorio. Son interfaces ligeras superpuestas a API como la de OpenAI. Pueden añadir un prompt de sistema que diga "Eres un abogado útil", pero eso no otorga acceso a bases de datos verificadas de jurisprudencia ni impide que la IA invente citas.
• RAG vectorial estándar por sí solo. Reduce la fabricación pura, pero no puede capturar la jerarquía jurídica. No sabe que un caso revoca a otro. No entiende la jurisdicción. Trata una ley derogada igual que una vigente si el texto coincide con su consulta.

Lo que sí funciona es un método llamado Citation-Enforced GraphRAG — un sistema que mapea la autoridad jurídica en un grafo de conocimiento verificado e impide físicamente que la IA genere citas falsas. Así funciona en tres pasos:

1. Entrada: construir el mapa. Cada ley, regulación y caso se convierte en un nodo específico de un grafo de conocimiento (Knowledge Graph) — una red estructurada de entidades jurídicas y sus relaciones. Las aristas entre nodos portan significado: "revoca", "interpreta", "ratifica", "distingue". Esto no es un montón de documentos. Es un mapa verificado de cómo se conecta el derecho.

2. Procesamiento: restringir la IA. Durante la generación de texto, un mecanismo de restricción verifica cada cita que la IA intenta producir contra el grafo de conocimiento. Si la IA intenta emitir "Varghese v. China Southern", el sistema consulta el grafo. Al comprobar que ese caso no existe, bloquea la salida por completo. La IA físicamente no puede producir una secuencia de tokens para un caso que no está en la base de datos verificada. Esto lleva su sistema de la exactitud probabilística a la aplicación estructural.

3. Salida: mostrar su trabajo. Cuando el sistema cita un caso, proporciona la ruta de recorrido exacta — desde qué ley partió, qué casos la interpretan y si esos casos siguen siendo derecho vigente. Si un caso ha sido revocado, el grafo lo marca con una "bandera roja" y lo elimina del contexto de la IA antes incluso de que comience la generación.

Aquí es donde su equipo de cumplimiento debe prestar atención. Cada cita viene con un rastro de auditoría. Sus abogados pueden ver por qué la IA seleccionó un caso, no solo que seleccionó uno. El sistema puede demostrar que verificó el tratamiento negativo — el equivalente digital de Shepardizing — y confirmó que la autoridad es válida. Una capa de anclaje, citación y verificación hace que cada salida sea trazable y defendible.

Para las organizaciones del sector de servicios jurídicos y profesionales, esta arquitectura también permite mapear políticas internas a regulaciones externas. El grafo puede vincular un párrafo específico de su manual de cumplimiento con la sección exacta de la regulación que aborda. Esto crea matrices de cumplimiento automatizadas y verificables que se sostienen ante una auditoría.

El enfoque híbrido — combinar la búsqueda vectorial para encontrar texto relevante con la verificación basada en grafos para confirmar la validez jurídica — le ofrece amplitud y precisión a la vez. Su arquitectura de soluciones obtiene la fluidez de la IA sin su tendencia a fabricar.

A medida que la IA jurídica avanza hacia agentes autónomos capaces de planificar y ejecutar tareas de investigación de múltiples pasos, la estructura basada en grafos se convierte en infraestructura esencial. Los agentes necesitan un mapa del mundo jurídico para razonar sobre preguntas complejas. Una base de datos vectorial les da un montón de documentos. Un grafo de conocimiento les da el mapa.

Para profundizar en la arquitectura técnica, lea el análisis técnico completo o explore la versión interactiva.