Once palabras en un informe anual ya pueden ser fraude de valores

La primera vez que entendí de verdad el lavado de IA, estaba mirando un solo párrafo del informe anual de una empresa. Once palabras, algo como "nuestra plataforma impulsada por IA analiza el riesgo en tiempo real". Una frase limpia y segura. El tipo de línea que un equipo de marketing escribe en cinco minutos y que un CEO aprueba sin pestañear.

Entonces les pregunté a los ingenieros qué modelo producía ese análisis, con qué datos funcionaba y en qué punto del flujo de decisión se activaba realmente. La sala se quedó en silencio. No porque estuvieran ocultando algo. Sino porque nadie había conectado nunca esa frase con un sistema. La afirmación vivía en el documento presentado. El sistema vivía en producción. Y no había nada en medio —ningún documento, ningún mapa, ninguna evidencia— que uniera los dos.

Esa brecha es toda la historia. El lavado de IA no es una historia sobre una IA mala. Es una historia sobre la distancia entre lo que dijiste que hace tu IA y lo que tu IA hace en realidad, y sobre si puedes cerrar esa distancia cuando te lo exijan. La SEC, la FTC y los fiscales generales estatales han descubierto que esta brecha es donde están los casos. Construí en Veriprajna la práctica de verificación de IA y anti-lavado de IA porque no dejaba de ver cómo las empresas descubrían la brecha solo después de que llegaba la carta del examinador.

El día en que "¿funciona tu IA?" dejó de ser la pregunta

Llegué a esto desde el trabajo de aplicación de la ley de valores, el lado poco glamuroso: armar las carpetas que las empresas le entregan a un examinador cuando aparece la carta de solicitud de documentos. Así que leí cada acción de lavado de IA como leo un viejo caso de fraude: qué dijeron, qué hicieron y cuál era la distancia entre ambas cosas.

El patrón es brutalmente consistente. Delphia y Global Predictions, los dos primeros acuerdos por lavado de IA allá por marzo de 2024, pagaron en conjunto $400,000 no porque su IA fuera mala, sino porque Delphia afirmaba una inversión impulsada por aprendizaje automático que nunca había integrado en realidad. ¿Los datos que presumían alimentar al modelo? Nunca llegaron al modelo.

Luego Presto Automation, en enero de 2025: el primer caso de lavado de IA contra una empresa que cotiza en bolsa. La IA de voz para autoservicio de Presto se comercializaba como capaz de eliminar la toma de pedidos por humanos. La SEC descubrió que más del 70% de los pedidos todavía requerían a un humano, y en algunas ubicaciones era el 100%. El sistema era real. Simplemente no hacía lo que el marketing decía que hacía.

Y luego Nate. En abril de 2025, la SEC y el DOJ presentaron acciones paralelas contra el fundador de Nate Inc., que había recaudado más de $42 millones con la promesa de una aplicación de compras impulsada por IA. La tasa real de automatización era, en palabras de la SEC, esencialmente cero: cientos de contratistas en Filipinas completaban manualmente las compras que se suponía debía gestionar la IA. Los cargos del DOJ conllevan hasta 20 años. Ese es el caso en el que pienso cuando alguien me dice que el lavado de IA es una nota al pie sobre divulgación de marketing. Había un comunicado de prensa con el nombre de un fundador y, debajo, un cargo penal por fraude.

Cada uno de estos casos gira en torno a la misma distancia: lo que el documento presentado prometía y lo que el sistema en producción hacía en realidad.

En febrero de 2025, la SEC lo hizo estructural: creó una Unidad de Ciberseguridad y Tecnologías Emergentes dedicada dentro de la División de Cumplimiento. Y sus prioridades de examen para 2026 lo dicen sin rodeos: los examinadores "revisarán la exactitud de las representaciones de los registrantes sobre sus capacidades de IA". Esa frase es una carta de solicitud de documentos a la espera de ser enviada.

Tres agencias, un solo movimiento

Lo que me sorprendió, una vez que empecé a mapear esto, fue lo poco que varía la teoría de aplicación de la ley entre agencias. Todas siguen la misma jugada: contrastar la afirmación con la realidad y luego pedir la evidencia.

La FTC lo abordó a través de la Sección 5 de la Ley de la FTC —prácticas desleales o engañosas— dentro de una redada que denominó Operation AI Comply, lanzada en septiembre de 2024. DoNotPay, el autodenominado "primer abogado robot del mundo", llegó a un acuerdo por afirmaciones que no podía respaldar. Workado promocionaba una herramienta de detección de IA como 98% precisa; las propias pruebas de la FTC situaron la precisión en el mundo real en torno al 53%. Prácticamente cara o cruz, vendido como una cuasi certeza. El detalle que debería asustar a cualquier asesor jurídico es la teoría de instrumentalidad de la FTC: la responsabilidad recorre toda la cadena, desde el desarrollador del modelo base hasta la empresa que lo implementa y el usuario final. Si repites la cifra de precisión de un proveedor en tus propios materiales, la FTC la trata como tu afirmación, no la del proveedor.

No puedo insistir lo suficiente en esto, porque es la trampa en la que veo caer a empresas inteligentes. Licencias un modelo de terceros, copias el benchmark del proveedor en tu 10-K o en tu presentación para inversores, y das por sentado que ese número es del proveedor. No lo es. En el momento en que aparece en tu documento presentado, es tu representación, y "nuestro proveedor nos lo dijo" no es una sustanciación independiente.

Los estados se sumaron con sus propias herramientas. La ley de acompañantes de IA de Nueva York conlleva sanciones de hasta $15,000 al día por infracción. La Ley de IA de Colorado, vigente desde el 30 de junio de 2026, exige evaluaciones de impacto, notificación al consumidor y cuidado razonable para los sistemas de alto riesgo, con $20,000 por infracción. La Ley de Gobernanza Responsable de IA de Texas, en vigor desde el 1 de enero de 2026, otorga al fiscal general un amplio poder de demanda de investigación civil a partir de una sola queja: una carta de un consumidor y la solicitud de documentos está sobre tu escritorio. Y cuando el gobierno federal planteó anular las leyes estatales de IA, una coalición bipartidista de 36 fiscales generales estatales se opuso. Sea lo que sea que decidan finalmente los tribunales, los responsables de aplicar la ley no están esperando.

Incluso los abogados privados se sumaron. El Stanford Securities Class Action Clearinghouse contabilizó 53 demandas colectivas de valores relacionadas con IA durante la primera mitad de 2025, con un acuerdo mediano de $11.5 millones. Una de ellas, Tucker v. Apple, presentada en junio de 2025, alega que las promesas de Apple en la WWDC sobre Apple Intelligence llevaron a los inversores a invertir en funciones que, según la demanda, no tenían un prototipo funcional. Una diapositiva de una keynote se convirtió en la Prueba A.

¿Por qué "tenemos una política de gobernanza de IA" no te salva?

Esta es la parte en la que me equivoqué al principio, y me costó unos cuantos meses construyendo lo que no debía.

Cuando empecé a diseñar para esto, supuse que la respuesta era la gobernanza: la categoría que plataformas como Credo AI, watsonx.governance de IBM, Holistic AI, OneTrust y Fiddler ya atienden bien. Construimos hacia una postura de gobernanza: políticas, un inventario de IA, paneles, flujos de trabajo de supervisión. Le hice una demostración de una versión temprana a una responsable de cumplimiento en una empresa mediana y me sentí bien al respecto. Me dejó terminar y luego hizo la única pregunta que importaba: cuando un examinador exigiera la evidencia de que una afirmación concreta era cierta, ¿qué botón se suponía que debía presionar?

No había un botón. No había un documento. Lo que yo había construido le decía que debería documentar sus sistemas. No contenía la documentación. Había construido algo que señalaba la brecha en lugar de llenarla. Ese fue el fracaso que replanteó toda la empresa para mí.

La gobernanza te dice que debes documentar tu IA. La sustanciación es la documentación: probada, fechada y lista para un examinador que la lee en frío.

Las plataformas de gobernanza son buenas en lo que hacen. Monitorean, inventarían, hacen cumplir las políticas. Pero hay una capa debajo de ellas que casi nadie construye: la cadena de evidencia real que un examinador de la SEC o un fiscal general estatal piden ver. Esa es la brecha en torno a la cual reconstruí la práctica.

¿Qué te pide realmente presentar un examinador?

Cuando me senté a definir lo que entregaríamos, no partí de una especificación de producto. Partí de la lista de "sírvase presentar" —la solicitud literal de documentos que contiene una carta de aplicación de la ley— y trabajé hacia atrás. Un paquete de sustanciación defendible, lo que ahora construimos, tiene unas pocas partes que soportan la carga.

Comienza con un mapa de afirmaciones a sistemas: cada afirmación pública sobre la IA —del 10-K, el sitio web, los comunicados de prensa, la presentación de ventas— vinculada al modelo específico, la canalización de datos y el punto de decisión que la cumple. Cuando un documento presentado dice "análisis de riesgo impulsado por IA", el mapa nombra qué modelo, qué datos, qué decisión. Este es el artefacto que habría salvado a Delphia, porque obliga a hacer la pregunta "¿está esta afirmación realmente conectada a un sistema?" antes de que la haga un regulador.

Luego, una carpeta de evidencia técnica — arquitectura, metodología de entrenamiento y benchmarks de rendimiento medidos frente a la métrica exacta que has afirmado. Probados, no teóricos. Si tus materiales indican un número, la carpeta muestra la prueba que lo produjo bajo una metodología del mundo real, no una demostración escogida a conveniencia. Workado es la advertencia: 98% en el folleto, 53% en la prueba.

Luego, la validación operativa, que es donde murió Presto. El sistema existía. Lo que faltaba era la prueba de que la IA realmente impulsaba las decisiones que describía el marketing, en lugar de funcionar junto a humanos que hacían el trabajo real. Probar la realidad operativa es más difícil que probar que un modelo existe, y es exactamente lo que los examinadores ahora sondean.

Debajo de todo ello se encuentra un AIBOM — una lista de materiales de IA (AI Bill of Materials), un inventario legible por máquina de cada componente: linaje de los datos de entrenamiento, versiones del modelo, dependencias de terceros, infraestructura. Por fin existen los estándares para hacer esto correctamente; SPDX 3.0 añadió un perfil de IA en octubre de 2024 y CycloneDX 1.6 admite listas de materiales de aprendizaje automático, con el proyecto OWASP AIBOM impulsando las herramientas. La verdad honesta es que la mayoría de las empresas hoy todavía llevan esto en una hoja de cálculo que queda desactualizada en el momento en que se reentrena un modelo. He abierto tarjetas de modelo que llevaban un número de versión con dos ciclos de reentrenamiento de retraso: documentación que describe un sistema que ya no existe. Un AIBOM que se actualiza junto con la canalización es la diferencia entre una instantánea y un registro vivo.

Y por último, evidencia de monitoreo continuo — resultados de detección de deriva, registros de pruebas automatizadas, la prueba continua de que la afirmación siguió siendo cierta después del lanzamiento. Un paquete de sustanciación no es una carpeta única que archivas y olvidas. Es un registro que sigue respirando, porque tu modelo sigue cambiando y tu documento presentado no.

La factura por alucinaciones que nadie está poniendo en el balance

Hay un segundo frente en esto, y es el que me llevó más allá de las presentaciones de valores, hacia el contenido en sí.

Una afirmación no es solo algo que dices sobre tu IA en una divulgación. Es también cada resultado que tu IA genera y sobre el que pones tu nombre: el informe, el análisis, el resumen de cara al cliente. Y esos resultados alucinan. El RegLab de Stanford descubrió que los grandes modelos de lenguaje alucinan en consultas legales específicas entre un 69% y un 88% de las veces. Ya hay más de 600 casos documentados de alucinaciones de IA que aparecen en escritos judiciales, con más de 100 abogados implicados y jueces imponiendo sanciones superiores a $10,000.

El costo empresarial es asombroso y extrañamente invisible. Un análisis situó las pérdidas globales por alucinaciones de IA en $67.4 mil millones en 2024, con empresas gastando alrededor de $14,200 por empleado al año solo en mitigación: las horas que la gente quema verificando los datos de sus propias herramientas. Cuando casi la mitad de los usuarios empresariales de IA han tomado una decisión importante basándose en contenido alucinado, "lo generó la IA" no es una defensa. Es la confesión.

Por eso la verificación de contenido pertenece a la misma práctica que la sustanciación de afirmaciones: ambas tienen que ver con la procedencia. El Artículo 50 de la Ley de IA de la UE, vigente desde agosto de 2026, exige que el contenido generado por IA sea legible por máquina y detectable como tal, con un código de prácticas de etiquetado de contenido que llega junto a él. El estándar de procedencia C2PA —el que los teléfonos insignia de Samsung y Google ya firman de forma nativa— se está convirtiendo en la infraestructura para demostrar de dónde provino una pieza de contenido. Si tu IA produjo un informe y luego resulta que contiene una invención, lo único que se interpone entre ti y la responsabilidad es un rastro de auditoría que se remonta a la fuente. La mayoría de las empresas no lo tienen.

La procedencia funciona también en el otro sentido. El sesenta y cinco por ciento de las empresas reportaron un incidente de deepfake en 2023, y el mercado de detección corre desde $5.5 mil millones hacia unos proyectados $15.7 mil millones para 2026. Probar que tu propio contenido es real se está volviendo tan urgente como probar que el de otra persona es falso, y la misma firma C2PA que autentica el resultado de tu IA es la que te permite desconocer una falsificación que lleva tu marca.

Las preguntas que me hacen, y las que ojalá me hicieran

La gente siempre me pregunta si la certificación ISO 42001 se ocupa de todo esto. Ayuda: es un estándar real y auditable, y la certificación de terceros tiene peso ante los consejos de administración y las áreas de compras. Pero cuesta de $90,000 a más de $200,000 en el primer año y lleva buena parte de un año ponerla en marcha, y certifica que tienes un sistema de gestión, no que alguna afirmación de marketing concreta sea cierta. La certificación y la sustanciación son trabajos distintos. Puedes estar certificado y aun así ser incapaz de responder la pregunta del examinador sobre una sola frase de tu 10-K.

La otra pregunta, normalmente de fundadores, es si esto es solo un problema de grandes empresas. Nate recaudó $42 millones y el fundador enfrenta cargos penales. Delphia no era un nombre conocido. El fiscal general de Texas puede abrir una investigación a partir de una sola queja. El tamaño del riesgo de aplicación de la ley sigue el tamaño de la afirmación que hiciste, no el tamaño de tu empresa.

La pregunta ya no es si tu IA funciona. Es si puedes probar que hace lo que tus documentos presentados dicen que hace.

Si pudiera sembrar una sola idea en cada asesor jurídico y director de cumplimiento que lea esto, es que la brecha entre el marketing y la realidad de la ingeniería es ahora una responsabilidad legal con una cifra en dólares, y lo único que la cierra es la evidencia que construiste antes de que alguien la pidiera. Esa es toda la premisa de lo que construimos en Veriprajna: no otro panel que te dice que documentes tu IA, sino el paquete de sustanciación en sí: el mapa de afirmaciones a sistemas, la carpeta de evidencia, el AIBOM, el rastro de procedencia, ensamblado y probado antes de que llegue la carta de solicitud de documentos.

Sigo volviendo a ese informe anual. Once palabras, presentadas y olvidadas, sin nada detrás: ningún mapa, ninguna carpeta, ningún registro que conecte la frase con un sistema. El modelo que la sustentaba probablemente funcionaba bien; la mayoría lo hace. Lo que faltaba era lo único que un examinador de la SEC, un investigador de la FTC y el abogado de un demandante piden todos con la misma frase plana: muéstramelo. Escribe la afirmación que puedes probar, y construye la prueba antes de que alguien la pida.