Una bandera verde no te salvará: cómo es realmente la alucinación de la IA jurídica en 2026
Cuando dos abogados salieron del Tribunal del Sexto Circuito en marzo de 2026 debiendo 30.000 dólares entre ambos, los casos citados en su escrito no eran todos imaginarios. Ese detalle es el que nadie quiere afrontar, y es la razón por la que dedico mis días a construir lo que construyo.
Llegué a esto desde dentro del problema. Antes de Veriprajna, trabajé como abogado asociado en litigios, y la parte del trabajo que nadie idealiza es la verificación de citas: sentado a las 11 de la noche con un escrito marcado en rojo, rodeando una cita y garabateando ¿este caso realmente dice esto? al margen. Cuando llegó la primera ola de IA jurídica, supuse que haría desaparecer esa noche. En cambio, la volvió más peligrosa, porque las herramientas se volvieron muy buenas produciendo citas que parecen verificadas. La verificación de citas por IA jurídica resultó no ser una función que se activa con un interruptor. Es una capa que alguien tiene que construir, y casi nadie la había construido.
Esta es la tesis que quiero defender en este ensayo: la alucinación que hará que sancionen a un bufete en 2026 no es la que tus herramientas actuales están diseñadas para atrapar. El fallo famoso —el caso inventado— está en su mayor parte resuelto. El fallo que está escalando es el caso real, citado incorrectamente, luciendo una bandera verde.
Todos recuerdan Mata. Casi nadie aprendió la lección correcta
Conoces la historia aunque no conozcas el nombre. Mata contra Avianca, 2023: un abogado le pidió a ChatGPT casos de apoyo, este produjo Varghese contra China Southern Airlines —número de expediente convincente, tribunal verosímil, citas internas detalladas— y el caso no existía. Le siguió una multa de 5.000 dólares y una vergüenza de las que duran toda una carrera.
La lección que la profesión sacó de Mata fue «la IA se inventa casos». Así que la industria construyó defensas contra los casos inventados. Thomson Reuters tiene KeyCite. LexisNexis tiene Shepard's, el patrón de referencia, con décadas de antigüedad. Harvey fundamenta su salida en la bóveda de datos de LexisNexis. Estos verificadores de citas son genuinamente buenos con el problema de Mata: dales una cita que no resuelve en nada y te dicen que no resuelve en nada.
El problema es que la profesión resolvió el problema de 2023 y supuso que había resuelto el de 2026.
Mira lo que realmente ocurrió en Nueva Orleans en febrero de 2026. Un abogado fue sancionado por presentar once citas fabricadas o tergiversadas. La parte que debería quitarte el sueño: había usado ambos, ChatGPT y Westlaw Precision AI. Usó la herramienta fundamentada, específicamente diseñada y respaldada por un verificador de citas, y aun así presentó un escrito que le valió una sanción. «Reducir» no es «eliminar», y la brecha entre esas dos palabras es donde ahora reside la responsabilidad.
El fallo que tu herramienta no puede ver
Permíteme describir el modo de fallo con precisión, porque la precisión es justamente el punto.
La IA cita un caso real para una proposición que el caso no respalda. El número de expediente es válido. El caso existe. KeyCite devuelve una bandera verde. Shepard's coincide. Y el análisis sigue estando equivocado, porque la IA citó el voto disidente como si fuera la doctrina de la mayoría, o citó un caso que interpreta una versión de una ley que fue modificada hace dos años.
Esto es lo que el estudio de Stanford, revisado por pares en el Journal of Empirical Legal Studies en 2025, midió realmente cuando situó la tasa de alucinación de Westlaw Precision en el 33% y la de Lexis+ AI en el 17%. La gente lee «33% de alucinación» e imagina una herramienta inventando casos en una de cada tres consultas. Eso no es lo que significan esas cifras. Son en su mayoría análisis erróneos de citas reales. Tu herramienta de verificación confirma que el caso existe. Y así es. Simplemente nunca afirmó comprobar lo que el caso dice.
Lo haré concreto, porque este es el ejemplo que finalmente hizo que mi propio equipo dejara de discutir. Un abogado asociado de litigios le pide a un asistente de IA que investigue defensas ante una demanda por incumplimiento del deber fiduciario bajo la ley de Delaware. La herramienta devuelve un análisis limpio que cita Stone contra Ritter (2006) para el estándar de responsabilidad por supervisión de los administradores. La cita es real. El resumen de la doctrina es preciso, para 2006. Lo que la herramienta pasó por alto es que la decisión de 2019 del Tribunal Supremo de Delaware en Marchand contra Barnhill amplió significativamente el deber de supervisión de Caremark, y las opiniones del Tribunal de Cancillería posteriores han construido un estándar de cumplimiento de «misión crítica» sobre él.
Stone contra Ritter todavía lleva una bandera verde de KeyCite. Nunca fue revocado. Sigue siendo «derecho vigente». Y un escrito que se apoye en él para una presentación de 2026 sigue estando equivocado, porque el alcance práctico de la doctrina fue reducido por todo lo que vino después, exactamente el tipo de desarrollo que la bandera de un verificador de citas no está construida para hacer aflorar.
Un verificador de citas te dice que un caso está vivo. No te dice que el caso todavía significa lo que tu IA dice que significa.
Esa es la diferencia entre la fabricación de citas y la alucinación contextual, y es la distinción más importante de todo este campo. El asociado junior que revisa la salida contrarreloj no la detectará, porque la cita parece correcta. Es correcta, en el único sentido que la herramienta jamás estuvo comprobando.
Lo hicimos mal al principio, y yo fui quien lo defendió
Quiero ser honesto sobre cómo aprendí esto, porque no llegué a ello razonando. Lancé lo equivocado primero.
Cuando mi equipo construyó nuestro primer verificador, argumenté —en nuestra propia revisión de diseño, en voz alta y con cierta confianza— que si el caso es real, estamos bien. Así que nuestra primera canalización esencialmente reejecutaba la lógica del verificador de citas. Confirmaba que cada caso citado existía y extraía su estado de tratamiento. Rápido, limpio, y en un piloto llevó un escrito directo hasta un panel verde.
Entonces uno de los usuarios del piloto, un litigante de verdad, cuestionó un párrafo que nuestra herramienta había bendecido. El caso citado era real. A nuestro verificador le encantaba. La doctrina que el escrito le atribuía provenía de la parte de la opinión que no era vinculante. Nuestro sistema no tenía opinión al respecto, porque yo lo había diseñado para no tener opinión al respecto. Había reconstruido Shepard's y lo había llamado verificación.
Ese fue el fallo que pagó por todo lo que hicimos después. Reejecutar un verificador de citas más rápido no es verificación: es el mismo punto ciego con una interfaz más bonita. El giro se nos impuso: teníamos que construir una capa que leyera más allá del estado del verificador de citas hacia las referencias citantes posteriores, que preguntara si casos posteriores distinguieron o redujeron una doctrina, que señalara una opinión cuya proposición central ha sido sustancialmente modificada aunque el caso en sí siga siendo derecho vigente. Ese es el problema de ingeniería. El verificador de citas jamás iba a resolverlo, por muy rápido que lo ejecutáramos.
¿Por qué comprar Harvey no cierra la brecha?
La gente supone que los proveedores de plataformas arreglarán esto, y entiendo por qué: las plataformas son extraordinarias, y el dinero dice que todos están de acuerdo. Harvey alcanzó una valoración de 11.000 millones de dólares en marzo de 2026 sobre aproximadamente 190 millones de dólares en ingresos recurrentes anuales, con agentes personalizados que superan los 25.000 y adopción dentro de la mitad del AmLaw 100. Thomson Reuters compró Casetext por 650 millones de dólares y lo integró en los flujos de trabajo agénticos de CoCounsel. LexisNexis reemplazó Lexis+ AI por Lexis+ Protege en febrero de 2026: cuatro agentes especializados, más de 300 flujos de trabajo preconstruidos.
Estos no son el problema. Se lo digo a los bufetes claramente: conserven su plataforma. La brecha es que ninguna de estas herramientas incluye una capa de verificación independiente, y las mejores son honestas al reconocer que la verificación de la salida es responsabilidad del usuario. Hay una razón por la que LexisNexis retiró discretamente su lenguaje de «100% libre de alucinaciones» después de que aterrizaran las cifras de Stanford.
Y las plataformas han hecho el problema de la verificación más difícil, no más fácil, al volverse agénticas. Cuando un agente de largo horizonte ejecuta un flujo de trabajo de investigación y redacción de varios pasos, la salida no es un párrafo citado: es una cadena de ellos, cada paso alimenta al siguiente, cada uno un lugar donde un error contextual puede entrar y propagarse. Cuando un asociado junior me escribe por Slack a las 11 de la noche preguntando si la salida del agente es segura para presentar, la respuesta honesta es: no hasta que algo haya leído cada cita frente a lo que el caso citado realmente sostiene, y haya registrado qué paso del agente la produjo. Ese rastro de auditoría no es un lujo. Es lo que la orden permanente de un juez exige cada vez más. Y este no es un flujo de trabajo marginal para el que me estoy preparando: la adopción de IA jurídica corporativa se duplicó del 23% al 52% en un solo año, y Gartner espera que el 40% de las aplicaciones empresariales incorporen agentes específicos por tarea para 2026; el modo de fallo de la cadena de citas escala con cada uno de ellos.
Entonces, ¿qué atrapa realmente un caso real citado incorrectamente?
No una IA diferente, un trabajo diferente. La capa de verificación se sitúa entre la salida de la IA y la firma del humano, y hace lo que el verificador de citas no hará: en lugar de detenerse en si un caso sigue siendo derecho vigente, se adentra en las referencias citantes posteriores, pregunta si opiniones posteriores han distinguido o reducido la doctrina, y señala los casos cuya proposición central ha sido sustancialmente modificada incluso cuando el sumario todavía se lee limpio. El estado de tratamiento es el comienzo de la indagación, no el final de ella.
Por debajo, la recuperación importa más de lo que la gente espera. La búsqueda vectorial —lo predeterminado en la mayoría de los sistemas de recuperación aumentada— encuentra casos que son textualmente similares a una consulta. La autoridad jurídica no está organizada por similitud textual; está organizada por cómo los casos se citan, distinguen y revocan entre sí. Eso es un grafo, no una lista. Se ha demostrado que la recuperación construida sobre un grafo de conocimiento jurídico en lugar de un índice vectorial plano supera a la búsqueda vectorial en aproximadamente un 14% en relevancia de recuperación para el trabajo jurídico: la diferencia entre hacer aflorar el caso que es vinculante y hacer aflorar el caso que meramente suena como si fuera vinculante. El grafo es cómo encuentras el Marchand que silenciosamente remodeló el Stone que todos siguen citando.
Esta es la capa que construimos en Veriprajna —la canalización de verificación de citas, la infraestructura de grafos de conocimiento y los sistemas de gobernanza que hacen que la salida de la IA sea segura para presentar— y la construimos alrededor de cualquier plataforma que un bufete ya ejecute, Harvey o Lexis Protege o un modelo de código abierto, en lugar de pedirle a nadie que arranque una herramienta que funciona.
La parte que nadie pone en una diapositiva: la gobernanza
Hay un segundo problema debajo del técnico, y es el que convierte una sanción en una demanda por negligencia profesional.
Aproximadamente el 68% de los profesionales del derecho admiten haber usado una herramienta de IA no aprobada al menos una vez, y menos de uno de cada cinco bufetes tiene una política formal de IA, incluso cuando casi siete de cada diez abogados ya usan IA generativa para el trabajo, una proporción que se duplicó en un solo año. Así que la mayoría de los bufetes tienen abogados introduciendo asuntos de clientes en herramientas que nadie aprobó, sin registro de qué herramienta, sin paso de verificación y sin rastro de auditoría. Las aseguradoras de responsabilidad profesional lo han notado. Están incorporando el uso de IA en las consideraciones de las pólizas, y el uso no autorizado sin supervisión del abogado es exactamente el tipo de cosa que anula la cobertura cuando llega una demanda.
El piso regulatorio también se movió, y la mayoría de los bufetes no lo han alcanzado. La Opinión Formal 512 de la ABA, emitida en julio de 2024, establece seis obligaciones éticas para la IA generativa —competencia, confidencialidad, franqueza ante el tribunal y supervisión, entre ellas— y tiene dos aristas que la gente pasa por alto. No puedes facturarle a un cliente el tiempo que dedicas a aprender una herramienta que usarás con regularidad. Y un tribunal federal ya ha sostenido que el producto del trabajo generado por IA no está protegido por el secreto profesional entre abogado y cliente. Mientras tanto, más de 300 jueces han emitido sus propias órdenes permanentes sobre IA, cada una con su propio requisito de divulgación o certificación, Florida añadió un mandato de divulgación en febrero de 2026, y ningún bufete que haya conocido tiene una forma sistemática de rastrear qué juez exige qué. Y el piso sigue subiendo: la Ley de IA de la UE entra en vigor en agosto de 2026, la Ley de IA de Colorado en junio, y la Directiva de Responsabilidad por Productos de la UE ahora trata la IA como un producto bajo responsabilidad objetiva, lo que traslada la exposición de un único asociado sancionado al balance del bufete.
La IA en la sombra no es un problema de disciplina. Es una brecha de infraestructura: la gente esquiva las herramientas que no encajan con su forma de trabajar.
Un sistema de gobernanza que merezca ese nombre no se limita a documentar una política en un PDF que nadie lee. Hace cumplir la política en el flujo de trabajo, registra cada cita asistida por IA, genera el lenguaje de divulgación que una jurisdicción dada requiere y produce el rastro de auditoría que permite a un socio supervisor certificar, honestamente, que cada cita fue comprobada.
Las preguntas que los bufetes siempre me hacen
Suele abrir con alguna versión de: si verifico cada cita a mano, ¿no he tirado por la borda la eficiencia que me dio la IA? Sí, y ese es justamente el punto de construir la verificación dentro de la canalización en lugar de dejársela a un asociado agotado a medianoche. La verificación manual de citas de la salida de la IA no escala, y saltársela es el riesgo de negligencia profesional. La capa existe precisamente para que la velocidad sobreviva a la seguridad.
Luego viene la versión del escéptico: ¿no es esto exagerado? ¿Con qué frecuencia muerde realmente la alucinación contextual? La base de datos de alucinaciones de Charlotin había superado los 1.222 casos documentados de alucinación de IA en presentaciones ante tribunales de EE. UU. a principios de 2026, frente a más de 729 a finales de 2025. La curva va en la dirección equivocada, las sanciones han escalado de multas de 500 dólares a penalizaciones de cinco cifras como rutina, y ese recuento solo captura las que se atraparon y publicaron. Mantengo esa base de datos abierta en una pestaña. El número sube mientras no estás mirando.
Y de un socio director, casi siempre: ¿no puede una firma de las Cuatro Grandes o un gran integrador de sistemas simplemente encargarse de todo esto? Pueden configurar tu plataforma, y cobrarán entre 500.000 y 2 millones de dólares por hacerlo. Pero configurar Harvey es desplegar una plataforma: no es construir la capa de verificación que la plataforma deja deliberadamente en tus manos. Esos son problemas distintos, y solo uno de ellos es el que te hace sancionar.
Lo que le diría al asociado a las 11 de la noche
El mercado de la IA jurídica se dirige desde aproximadamente 5.600 millones de dólares en 2026 hacia 12.500 millones para 2030, y la investigación jurídica es su porción individual más grande. Ese crecimiento es real y las herramientas lo merecen. Pero toda la industria está optimizando para la salida —investigación más rápida, más agentes, flujos de trabajo autónomos más largos— y tratando la verificación como responsabilidad de otro, lo que en la práctica significa de nadie.
El caso que te sanciona en 2026 pasará todas las comprobaciones que ejecutan tus herramientas actuales. Existirá. Llevará una bandera verde. Será citado para algo que no dice del todo, y la versión de ti que lo lee a medianoche contrarreloj no lo detectará, porque todo en la pantalla dice que está bien.
Eso no es una razón para desconfiar de la IA jurídica. Es una razón para construir la única capa que las plataformas dejaron fuera: la capa de verificación y gobernanza que lee lo que el caso realmente sostiene, no solo si todavía respira. Los bufetes que la instalen conservarán la velocidad. Los que no, seguirán descubriendo, una orden de justificación a la vez, lo que una bandera verde nunca les estuvo prometiendo.