Las multas por AI washing ya están aquí: ¿su afirmación sobre IA es la siguiente?

El problema

La SEC multó a dos firmas de inversión con un total de $400,000 por mentir sobre su IA. No por construir una IA deficiente, sino por afirmar que tenían una IA que nunca habían construido realmente.

En marzo de 2024, la SEC acusó a Delphia (USA) Inc. y a Global Predictions Inc. de realizar declaraciones falsas sobre su uso de la inteligencia artificial. Delphia aseguró a sus clientes que utilizaba un «modelo algorítmico predictivo» que analizaba patrones de gasto y datos de redes sociales para «predecir qué empresas y tendencias están a punto de convertirse en un gran éxito». Los examinadores de la SEC constataron que Delphia nunca integró realmente esos datos en su proceso de inversión. La firma siguió haciendo estas afirmaciones de 2019 a 2023 —incluso después de que la SEC le advirtiera en 2021 que cesara—.

Global Predictions se hacía llamar el «primer asesor financiero de IA regulado». Cuando los reguladores solicitaron la documentación técnica que respaldara esa afirmación, la firma no pudo presentarla. Delphia pagó $225,000. Global Predictions pagó $175,000.

No eran esquemas de fraude complejos. Eran afirmaciones de marketing que iban por delante de la realidad de la ingeniería. Y representan una nueva categoría de riesgo corporativo que sus equipos jurídicos y de cumplimiento necesitan comprender ahora mismo. Si su empresa dice estar «impulsada por IA» en cualquier parte —en su sitio web, en materiales para inversores, en presentaciones ante clientes—, está expuesta exactamente al mismo riesgo de acción sancionadora. La SEC utilizó leyes ya existentes contra el fraude, no normas nuevas específicas sobre IA. Eso significa que el marco legal para sancionar a su empresa ya existe hoy.

Por qué esto es importante para su empresa

Los $400,000 en sanciones de la SEC fueron solo la primera arremetida. Múltiples agencias federales están ahora cazando activamente afirmaciones sobre IA que puedan impugnar.

La FTC lanzó la «Operación AI Comply» para atacar las afirmaciones engañosas sobre IA en toda la economía de consumo. En enero de 2025, la FTC clausuró DoNotPay —un servicio que se anunciaba como «el primer abogado robot del mundo»— porque la empresa no pudo demostrar que su IA pudiera realmente sustituir a un abogado humano. La FTC también actuó contra Evolv Technologies por tergiversar presuntamente la capacidad de sus sensores de IA para detectar armas en escuelas.

El Departamento de Justicia anunció su iniciativa «Justice AI». Los fiscales federales evaluarán ahora la capacidad de su empresa para gestionar los riesgos de la IA como parte de las revisiones de cumplimiento corporativo. Se les ha instruido que busquen penas más duras cuando la IA se utilice para facilitar delitos de cuello blanco.

Esto es lo que significa para su negocio:

• Las multas regulatorias son el suelo, no el techo. La sanción de $225,000 impuesta a Delphia es pequeña en comparación con el daño reputacional y la pérdida de negocios que siguen a una acción sancionadora pública.
• Sus proveedores de IA crean su responsabilidad. La FTC ha establecido que si una herramienta de IA sirve como «instrumento» de engaño, tanto el proveedor como el cliente corporativo pueden ser considerados responsables.
• Los fiscales generales estatales se están sumando. Están utilizando leyes ya existentes de protección al consumidor para perseguir afirmaciones de marketing sobre IA a nivel estatal.
• La exposición del consejo es real. Si su empresa declara capacidades impulsadas por IA en documentos presentados ante la SEC o en presentaciones a inversionistas, sus directivos cargan con responsabilidad personal bajo las reglas ya existentes contra el fraude.

Este no es un problema del futuro. La infraestructura sancionadora ya está construida y activa.

Lo que realmente sucede bajo el capó

La causa raíz del AI washing es una comprensión técnica errónea de cómo funciona realmente la IA moderna. La mayoría de las aplicaciones de IA actuales —incluidas las que sus proveedores pueden estar vendiéndole— se construyen sobre sistemas que predicen cuál es la palabra siguiente más probable en una secuencia. No verifican hechos. Generan texto que suena plausible.

Piense en ello como el autocompletado de su teléfono, pero escalado al tamaño de internet. Su teléfono no sabe si la siguiente palabra es verdadera; solo sabe qué palabra suele venir después. Los grandes modelos de lenguaje (LLM) —los sistemas de IA que hay detrás de herramientas como ChatGPT— funcionan igual, solo que con más datos y más matemáticas. El modelo no tiene un concepto interno de verdad. Predice la secuencia de caracteres más probable basándose en patrones de sus datos de entrenamiento.

Por eso los sistemas de IA «alucinan»: generan citas que no existen, cifras financieras equivocadas o precedentes legales que nunca fueron dictados. En un entorno regulado, «mayormente correcto» es legalmente lo mismo que «incorrecto». Una cita legal alucinada crea responsabilidad legal activa para su organización.

Para empeorar las cosas, la mayoría de las «soluciones de IA» que hoy se venden a las empresas son lo que la industria llama «wrappers». Son aplicaciones que se conectan a un servicio público de IA mediante una API —esencialmente un enchufe— y añaden una interfaz de usuario encima. Están diseñadas para minimizar costos, a menudo a expensas de la precisión. No pueden verificar su propio razonamiento. Simplemente transmiten cualquier cosa que genere el modelo subyacente, sin importar si es verdadera. Su empresa entonces pone su nombre y su reputación detrás de ese resultado.

Lo que funciona (y lo que no)

Comencemos con lo que no lo protege:

• Solo la ingeniería de prompts. Redactar con cuidado las instrucciones que da a una IA no evita que alucine. Reduce la frecuencia, pero no elimina el riesgo.
• Wrappers ligeros de API. Conectarse a un modelo público de IA y añadir su marca le da control cero sobre la precisión, la privacidad de los datos o las pistas de auditoría. Estos wrappers son vulnerables a entradas defectuosas que producen salidas incorrectas —un problema llamado «retrieval poisoning»—.
• Revisión manual por muestreo. Hacer que una persona revise una muestra aleatoria de resultados de la IA no detecta los errores de los resultados que no se revisaron. Crea una falsa sensación de seguridad.

Lo que realmente funciona es una arquitectura fundamentalmente distinta. Así funciona, en tres pasos:

1. Recuperación fundamentada mediante grafos de conocimiento. En lugar de dejar que la IA busque libremente información relacionada, usted construye un mapa estructurado de su conocimiento del dominio: un grafo de conocimiento. En la IA jurídica, por ejemplo, cada opinión judicial se vincula con otras opiniones mediante relaciones específicas como CITES, OVERRULES o AFFIRMS. El sistema solo puede referenciar lo que existe en esta estructura verificada. Esto convierte la recuperación en una ruta verificada en lugar de una conjetura estadística.

2. Verificación multiagente. En lugar de pedirle a un solo modelo de IA que investigue, verifique y escriba, usted divide el trabajo entre agentes especializados. Un «agente de investigación» recupera los datos en bruto. Un «agente de verificación» los contrasta con su grafo de conocimiento. Un «agente redactor» produce el resultado final utilizando únicamente hechos verificados. Estos agentes revisan el trabajo entre sí en ciclos antes de que ningún humano vea el resultado.

3. Despliegue soberano en su infraestructura. Su IA se ejecuta dentro de su propio cortafuegos —ya sea en instalaciones propias (on-premises) o en una nube privada aislada del internet público—. Esto garantiza cero fugas de datos. Su propiedad intelectual, los datos de sus clientes y los secretos comerciales nunca tocan servidores externos. Esto es obligatorio para cumplir con HIPAA, GDPR y CCPA.

La ventaja de la pista de auditoría es lo que hace defendible este enfoque. Cada resultado se remonta a documentos fuente específicos mediante enlaces verificados. Cuando un regulador, un auditor o el abogado de la parte contraria pregunta «cómo llegó su IA a esta conclusión», usted puede mostrar la ruta exacta: desde los datos fuente, pasando por la verificación, hasta el resultado final. Esa es la diferencia entre un sistema que puede defender y un sistema que se convierte en su próxima responsabilidad.

Su marco de gobernanza debe combinar el NIST AI Risk Management Framework para controles tácticos de riesgo con la ISO/IEC 42001 para un cumplimiento certificable y auditado por terceros. La ISO 42001 es la única norma internacional certificable para sistemas de gestión de IA. Un auditor externo puede verificar su cumplimiento, lo que le proporciona la documentación que necesita para revisiones de adquisiciones corporativas, informes al consejo y presentaciones ante organismos reguladores.

Finalmente, construya un AI Bill of Materials (AIBOM) —un registro completo y legible por máquinas de cada componente de su sistema de IA—. Esto incluye los conjuntos de datos de entrenamiento, los modelos base, las bibliotecas de terceros y los detalles de infraestructura. Su AIBOM se convierte en la única fuente de verdad que demuestra que sus afirmaciones sobre IA coinciden con su realidad técnica. Exactamente esa es la documentación que Delphia y Global Predictions no pudieron presentar cuando la SEC llamó a su puerta.