Un tribunal declaró que tu chatbot es un «producto». Esa palabra reescribió la responsabilidad por producto en IA.

En enero de 2026, un tribunal federal de Florida escribió una palabra que creo que la mayoría de los equipos jurídicos corporativos siguen valorando como si no hubiera ocurrido. La palabra era producto.

El caso era Garcia v. Character.AI. Una adolescente de catorce años se había suicidado tras meses de conversaciones con un chatbot, y las familias acudieron a los tribunales. Character.AI y Google recurrieron a los dos escudos que han protegido a las empresas de internet durante una generación —la inmunidad de la Sección 230 y la Primera Enmienda— y argumentaron que las palabras del chatbot eran discurso o, a lo sumo, contenido de terceros que ellos simplemente alojaban. El tribunal no lo aceptó. Dictaminó que el chatbot era «un producto a efectos de las reclamaciones del demandante derivadas de defectos en la aplicación de Character.AI, y no ideas o expresiones dentro de la aplicación». Las empresas llegaron a acuerdos con familias en Florida, Colorado, Texas y Nueva York. La clasificación como producto quedó asentada.

Leí la sentencia la semana en que se publicó, y seré honesto sobre mi primera reacción: pensé que era un caso aislado. Un chatbot de consumo, un patrón de hechos trágico pero inusual, un tribunal recurriendo a una analogía. Ese instinto estaba equivocado, y me llevó un par de meses y una conversación incómoda con un director jurídico entender cuán equivocado. Esta es la historia de lo que cambió, de lo que mi equipo construyó primero de la manera errónea, y de por qué ahora creo que la responsabilidad por producto en IA es el riesgo peor valorado en la mayoría de los balances corporativos.

El discurso no tiene defectos. Los productos sí.

He aquí por qué esa única palabra importa tanto. Si el resultado de tu IA es discurso, las cuestiones jurídicas giran en torno a la expresión, la intención y la inmunidad —y la Sección 230 lleva veinticinco años haciendo desaparecer esas cuestiones para las plataformas. Si el resultado de tu IA es un producto, has entrado en un cuerpo de derecho completamente distinto. Los productos no tienen opiniones. Tienen defectos. Y el fabricante de un producto defectuoso es responsable del daño que causa, haya sido o no descuidado el fabricante.

Esa última cláusula lo es todo. Bajo un estándar de negligencia —el mundo en el que operaban los equipos jurídicos hasta este año— un demandante tiene que probar que no ejerciste un cuidado razonable. Bajo la responsabilidad estricta por producto, no tienen que hacerlo. Prueban que el producto era defectuoso y que el defecto causó daño. Tu diligencia, tus buenas intenciones, tu «seguimos las mejores prácticas»: nada de eso es una defensa. Fabricaste la cosa. La cosa era defectuosa. Pagas.

La negligencia pregunta si fuiste cuidadoso. La responsabilidad estricta pregunta si tu producto era defectuoso. La mayoría de la IA corporativa se construyó para responder la primera pregunta, y los tribunales ahora hacen la segunda.

Dos casos más del mismo trimestre hicieron imposible descartar el patrón como algo aislado. En Nippon Life v. OpenAI, presentado en el Distrito Norte de Illinois en marzo de 2026, una aseguradora demandó por 10,3 millones de dólares después de que ChatGPT presuntamente redactara cuarenta y cuatro escritos judiciales para una litigante que se representaba a sí misma —con citas de casos fabricadas incluidas— y la animara a despedir a su abogado y a iniciar más litigios. La aseguradora gastó aproximadamente 300.000 dólares defendiéndose de escritos que redactó una máquina. Fíjate en quién resultó perjudicado ahí: no el usuario de la IA, sino un tercero aguas abajo de su resultado. Y en Bouck v. Meta, también de marzo de 2026, un tribunal de California denegó la inmunidad de la Sección 230 para anuncios generados por IA, sosteniendo que, una vez que el sistema de Meta creó el contenido del anuncio y Meta adquirió conocimiento efectivo de que era fraudulento, la plataforma no podía alegar que solo estaba alojando las palabras de otra persona.

Para febrero de 2026 había más de 2.200 casos activos que alegaban que la IA y los algoritmos que maximizan la interacción causan daños reales. Esto no es una frontera. Es un expediente judicial.

El trimestre en que las legislaturas se pusieron al día

Los tribunales avanzan caso por caso. Las legislaturas avanzan en masa, y en 2025 y 2026 avanzaron más rápido de lo que la mayoría de quienes construyen IA advirtió.

La primera a la que remitiría a cualquier director jurídico corporativo es la AI LEAD Act, el proyecto de ley bipartidista Durbin–Hawley presentado en septiembre de 2025. Crearía una federal causa de acción por responsabilidad por producto específicamente para los sistemas de IA, con responsabilidad estricta —el texto alcanza a los desarrolladores incluso cuando ejercieron «todo el cuidado posible». Cubre defectos de diseño y teorías de falta de advertencia, conlleva un plazo de prescripción de cuatro años y —esta es la parte que debería poner fin a cierta conversación de junta directiva de forma permanente— prohíbe renunciar a esa responsabilidad mediante los términos de servicio. ¿Esa cláusula de «al hacer clic en Aceptar acepta que esto se proporciona tal cual» que tanto adoran tus proveedores? El proyecto está redactado para hacerla inaplicable para esta clase de daño.

California no esperó a Washington. La AB 316, en vigor desde enero de 2026, cierra lo que he empezado a llamar la defensa huérfana —el argumento de que «la IA lo hizo por su cuenta, así que no somos responsables». Ya no puedes señalar la autonomía de tu propio sistema como razón para librarte. Y al otro lado del Atlántico, la Directiva de la UE sobre responsabilidad por productos 2024/2853 clasifica explícitamente el software, incluidos los sistemas de IA y los grandes modelos de lenguaje, como productos sujetos a responsabilidad estricta. Los Estados miembros tienen que transponerla antes del 9 de diciembre de 2026. Los requisitos de alto riesgo de la Ley de IA de la UE serán plenamente aplicables el 2 de agosto de 2026, con multas que alcanzan los 15 millones de euros o el 3 % de la facturación mundial.

Deliberadamente no recito el mapa completo —la SB 205 de Colorado con sus sanciones de 20.000 dólares por infracción y su fecha de aplicación de junio de 2026, la propuesta de Ley RAISE de Nueva York con sanciones de hasta 30 millones de dólares por infracciones reincidentes. La cuestión no es el catálogo. La cuestión es la dirección, y la dirección es unánime: en jurisdicciones que por lo demás no coinciden en nada, el estándar para el daño de la IA converge hacia la responsabilidad estricta, y las vías de escape contractuales están siendo selladas.

Tu seguro leyó discretamente las mismas sentencias

Los abogados debaten. Los aseguradores ponen precio. Y la industria del seguro puso precio a esto más rápido y sin miramientos de lo que casi cualquier equipo jurídico con el que he hablado esperaba.

A enero de 2026, el texto estándar para excluir las reclamaciones de IA por completo ya existe, prerredactado y listo para grapar a tu renovación. La Insurance Services Office —el organismo en cuyos formularios se basan la mayoría de las pólizas comerciales de EE. UU.— publicó el endoso CG 40 47, que excluye las lesiones corporales, los daños materiales y las lesiones personales y publicitarias derivadas de IA generativa de una póliza estándar de responsabilidad civil comercial general. Existe un hermano más ligero, el CG 40 48, que excluye únicamente la cobertura de lesiones publicitarias. Y aseguradoras como W.R. Berkley han ido más lejos con exclusiones «absolutas» de IA redactadas en las pólizas de directores y consejeros, de errores y omisiones y fiduciarias —texto que anula la cobertura de cualquier reclamación «basada en, derivada de o atribuible a» el uso, despliegue o desarrollo de IA.

He asistido ya a suficientes conversaciones de renovación como para decirte en qué se ha convertido la pregunta del asegurador. Antes era: ¿utiliza IA? Ahora es: muéstrenos la evidencia documentada de gobernanza de cada sistema de IA que despliega. Muéstrenos los resultados del red team adversarial. Muéstrenos el linaje del modelo. Muéstrenos que los controles de supervisión humana están realmente en funcionamiento, y no solo escritos en un PDF de política que alguien actualizó el trimestre pasado.

El asegurador dejó de preguntar si usas IA. Ahora te pide que demuestres que tu sistema es defendible —y un documento de política no es evidencia.

Hay una trampa dentro de la trampa. Cuando las exclusiones de la responsabilidad civil general expulsan la exposición a la IA de la responsabilidad general, ese riesgo no se evapora: migra a las pólizas cibernéticas y de E&O tecnológico que nunca se diseñaron para absorber reclamaciones de responsabilidad por producto. Así que una empresa puede leer su conjunto de pólizas, ver «IA cubierta» en algún lugar, y estar catastróficamente equivocada sobre qué póliza y qué paga en realidad. Las firmas que entraron en 2026 con documentación real descubrieron que la evidencia se había convertido en la moneda de la asegurabilidad. Las firmas que carecen de ella están descubriendo que su aseguradora ya redactó el endoso de exclusión.

La versión que construimos primero — y por qué falló

Esta es la parte en la que me equivoqué, y prefiero contártela a dejar que asumas que llegamos a la respuesta de forma impecable.

Cuando mi equipo empezó a trabajar en esto con líderes jurídicos y de ingeniería, nuestro instinto fue el obvio: el problema es la documentación, así que construyamos una capa de gobernanza. Inventariar los modelos, puntuar los riesgos, generar informes listos para auditoría, producir los paneles que un auditor quiere ver. Es un instinto razonable —es exactamente lo que hacen las plataformas de gobernanza maduras, y lo hacen bien. Credo AI, que ha recaudado más de 45 millones de dólares y fue incluida en la lista de las Más Innovadoras de Fast Company en 2026, ofrece paquetes de políticas prediseñados mapeados a la Ley de IA de la UE, al Marco de Gestión de Riesgos de IA del NIST y a la ISO 42001. watsonx.governance de IBM realiza gobernanza del ciclo de vida en toda la pila empresarial. Holistic AI es sólida en auditoría de sesgo algorítmico; OneTrust aporta una herencia de cumplimiento en privacidad. Estábamos, en efecto, construyendo una versión más delgada de eso.

Entonces una directora jurídica a la que respeto miró lo que habíamos producido y planteó una pregunta que no pude responder. Dijo, más o menos: si este sistema es demandado por un resultado defectuoso, voy a plantear la defensa del diseño alternativo razonable —voy a argumentar que no había un diseño más seguro que el fabricante debiera haber usado. ¿Dónde, en todo esto, está el registro que muestra qué decisiones arquitectónicas se tomaron antes del despliegue, y por qué?

Volví a los paneles. Podían decirle, con hermoso detalle, lo que el sistema estaba haciendo ahora. No podían decirle por qué se había construido de la manera en que lo estaba, qué alternativas había considerado y rechazado el equipo, ni qué sabían los ingenieros sobre los modos de fallo en el momento en que lo lanzaron. La capa de gobernanza vigilaba el presente. La defensa que ella necesitaba vivía en el pasado —en decisiones que nadie había registrado como evidencia porque, en su momento, nadie sabía que estaban generando evidencia.

Ese fue el fallo que pagó por todo lo que hicimos después. Las plataformas de gobernanza vigilan e informan. No diseñan la arquitectura. No puedes atornillar una defensa a un sistema que nunca se diseñó para ser defendido, del mismo modo que no puedes fotografiar una prueba de choque que nunca se realizó.

¿Qué significa realmente «defendible por diseño»?

Así que desechamos el enfoque del panel primero y lo invertimos. La pregunta dejó de ser ¿cómo documentamos este sistema? y pasó a ser ¿cómo diseñamos un sistema cuya historia sea la documentación? Esa inversión es en torno a lo que se construye la práctica de Defensa de Responsabilidad por Producto en IA de Veriprajna —arquitectura defendible y evidencia lista para litigio, no otra capa de monitoreo atornillada a un sistema a posteriori.

En la práctica eso significó tratar el registro de decisiones arquitectónicas como un artefacto de primera clase —fechado con sello de tiempo antes del despliegue, capturando qué probó el equipo, qué rechazó y el razonamiento, de modo que la defensa del diseño alternativo razonable tenga material de origen anterior a la demanda en lugar de ser reconstruido a posteriori después de que llegue una reclamación. Significó construir rastros de auditoría que sobrevivan a la fase de exhibición de pruebas del litigio: no registros de aplicación que se rotan cada treinta días, sino una cadena preservada de prompts, resultados, versiones del modelo y acciones de revisión humana, porque un aviso de retención por litigio para un sistema de IA tiene que nombrar todos ellos como cosas que se te pedirá que presentes. La mayoría de los equipos jurídicos corporativos no han actualizado sus plantillas de retención para enumerar ni uno solo de ellos —lo que significa que el deber de preservación ya se está adhiriendo a datos que la empresa está destruyendo discretamente en una rotación de registros continua, mucho antes de que llegue una reclamación. Y significó diseñar los controles de supervisión humana como partes estructurales del sistema que realmente filtren los resultados —porque un asegurador, y con el tiempo el perito de un demandante, comprobará si tu «humano en el bucle» tiene de verdad la autoridad y la interfaz para detener un mal resultado, o es una casilla en un organigrama.

Hay una sutileza aquí que separa a las firmas que resistirán esto de las que no. El privilegio no te salva. En febrero de 2026, el juez Rakoff dictaminó que los documentos de IA de consumo de una empresa no estaban protegidos por el secreto profesional abogado-cliente cuando los empleados habían usado la herramienta sin la dirección del asesor jurídico. No puedes envolver retroactivamente tus decisiones de IA en un manto de privilegio. La evidencia será susceptible de exhibición, que es precisamente por lo que tiene que ser buena evidencia, creada deliberadamente, desde el principio.

No puedes atornillar una defensa a un sistema que nunca se diseñó para ser defendido. La arquitectura es la coartada —y la coartada tiene que existir antes del incidente, no después.

Aquí es también donde la ola de la agentic AI lo hace todo más difícil. Cuando un sistema actúa de forma autónoma —tomando acciones sin que un humano pulse el botón cada vez— los viejos descargos de responsabilidad contractuales se tensan hasta el punto de ruptura. La IMDA de Singapur publicó un borrador de Marco de Gobernanza de Agentic AI en enero de 2026, y firmas como Clifford Chance han señalado la «brecha de responsabilidad» en los contratos estándar que asumen discretamente que un humano es siempre el actor. La AB 316 de California ya dice que no puedes culpar al agente. Así que la autonomía que construiste para lograr eficiencia es, jurídicamente, superficie de ataque adicional de la que ahora eres responsable. Eso hay que diseñarlo, no descartarlo con un descargo.

¿Por qué no pueden los proveedores obvios cerrar esta brecha?

La gente me hace una pregunta justa: si las plataformas de gobernanza, los bufetes de abogados y los grandes integradores de sistemas ya existen, ¿por qué queda algo por construir?

Porque cada uno de ellos hace parte del trabajo y ninguno hace esta parte. Las plataformas de gobernanza —Credo AI, IBM, Holistic AI, OneTrust— gobiernan sistemas que ya existen; no reestructuran un envoltorio en una arquitectura defendible, y no generan la evidencia de decisiones de diseño en la que se apoya una moción de desestimación. Los bufetes de abogados te dan la teoría jurídica —te dirán exactamente qué requiere la defensa del diseño alternativo razonable— pero no escriben el código ni toman las decisiones arquitectónicas que crean la evidencia. Y los grandes integradores implementan las plataformas con las que tienen alianzas, lo que los hace estructuralmente sesgados hacia Salesforce o Microsoft Copilot en lugar del sistema personalizado, defendible y neutral respecto al proveedor que tu exposición específica requiere.

La brecha es la costura entre lo que aconseja el asesor externo y lo que un equipo de ingeniería puede implementar realmente. He visto esa costura fallar en tiempo real —un hilo de Slack donde el abogado no deja de escribir «necesitamos arquitectura defendible» y el ingeniero no deja de responder «dime qué archivo cambiar». Alguien tiene que situarse en esa brecha que pueda leer la sentencia y el repositorio. Ese es el trabajo que hace mi equipo —construir en torno a la arquitectura y la evidencia en lugar de a los paneles y los informes, para que el abogado y el ingeniero por fin señalen el mismo artefacto.

La pregunta que vale la pena sopesar

Te dejo con lo que no dejo de rondar. El coste medio de una filtración de datos en 2025–2026 rondó los 4,44 millones de dólares, y la industria construyó toda una disciplina —presupuestos, productos de seguros, reportes a la junta— en torno a esa cifra. La responsabilidad por producto en IA es una exposición de responsabilidad estricta sin límite superior, con las vías de escape contractuales siendo legisladas hasta cerrarlas, y con las aseguradoras excluyéndola activamente de las pólizas que solían cubrirla. Y la mayoría de las empresas la gestionan con una carpeta de pólizas y la cláusula «tal cual» de un proveedor.

Una carpeta de pólizas es lo que le entregas al regulador. No es lo que sobrevive a una declaración testimonial. Imagina el momento que ahora se aproxima para muchas empresas: el perito de un demandante se sienta frente a tus ingenieros y pregunta qué diseño más seguro consideraron antes de lanzarlo. La respuesta es o bien un registro con sello de tiempo o bien un silencio —y bajo responsabilidad estricta, el silencio es el defecto. Cuando las palabras de tu IA se convirtieron en un producto, tu arquitectura se convirtió en tu defensa, y una defensa que no diseñaste antes del incidente es una que no tienes. Si hoy no puedes abrir ese registro, no tienes un problema de documentación. Tienes un producto sin defensa en el mercado. Eso vale la pena arreglarlo antes del 9 de diciembre, no después de que llegue la reclamación —y cerrar esa brecha es el trabajo que hacemos.