Tu asistente de compras con IA convierte 4x — hasta que inventa un solo dato

La demostración fue impecable. Un comprador le pidió a nuestro asistente de compras con IA que comparara dos portátiles para edición de vídeo, y respondió como un vendedor paciente que de verdad había usado ambos: la RAM, la precisión del color, la disipación térmica, todo. Todos los presentes asintieron. Luego, unas semanas después de iniciar un piloto discreto, estaba revisando un registro de transcripciones y vi cómo ese mismo asistente le decía a un cliente que un portátil venía con 32 GB de memoria. Venía con 16.

Nada en el sistema lo señaló. La frase era gramatical, segura y sonaba servicial. También era errónea de una forma que, si ese cliente hubiera comprado la máquina para renderizar y se hubiera atascado, nos habría vuelto directamente como una devolución, una reseña de una estrella y una frase en una queja que empezaba con "su IA me dijo". Esa tarde fue cuando entendí el verdadero problema de la IA para comercio electrónico: el peligro no es un modelo que suena estúpido. Es un modelo que suena correcto y está equivocado, porque nada en la pila comprueba nunca su respuesta frente a la verdad.

Esa brecha — entre una respuesta que se lee bien y una respuesta que es realmente cierta — es lo que mi equipo se dedica ahora a cerrar para ganarse la vida. Antes de explicar cómo, déjame contarte por qué un modelo más inteligente nunca iba a salvarnos.

La demostración que me mintió

Llegué a la IA para el comercio minorista creyendo lo que cree la mayoría de los líderes de ingeniería: que la alucinación es un problema de calidad del modelo, y que la calidad del modelo va en aumento, así que el problema se resuelve solo si esperas dos trimestres e intercambias el siguiente checkpoint.

Las cifras parecen respaldar ese optimismo, justo hasta que dejan de hacerlo. El mejor modelo de Google alucina en aproximadamente el 0,7 % de las respuestas de conocimiento general. La mayoría de los modelos se sitúan entre el 1 y el 3 %. Pero la media en el conocimiento general es del 9,2 %, y un análisis del sector descubrió que el 82 % de los fallos de IA son alucinaciones o desinformación, en lugar de caídas o tiempos de espera agotados. Así que, incluso en un buen modelo, aproximadamente una de cada cien afirmaciones seguras sobre productos es inventada, y estás publicando miles de esas afirmaciones al día.

Una tasa de alucinación del 1 % suena a sobresaliente. Con un millón de respuestas sobre productos a la semana — el volumen de un catálogo de tamaño medio —, eso equivale a diez mil frases seguras de sí mismas y equivocadas con el nombre de tu marca.

Aquí está la parte que la historia de la calidad del modelo pasa por alto por completo: la respuesta equivocada y la respuesta correcta salen de la misma máquina, con la misma fluidez, el mismo tono, la misma seguridad. El modelo no tiene ni idea de que está mintiendo. No hay ninguna señal interna que separe "16 GB, verificado frente al catálogo" de "32 GB, deducido por coincidencia de patrones a partir de una publicación en un foro". Si quieres esa señal, tienes que construirla fuera del modelo. Esperar un checkpoint más inteligente no te da esa señal; solo hace que las respuestas equivocadas sean más elocuentes.

¿Por qué no lo solucionaron unas mejores barreras de protección?

Así que intentamos construir la señal de la forma obvia, y quiero ser honesto: yo soy quien impulsó la forma obvia.

Mi primer instinto fue la seguridad basada en instrucciones más el filtrado por palabras clave. Decirle al sistema en sus instrucciones: indica solo especificaciones que puedas confirmar, nunca des consejos médicos o de seguridad, rechaza cualquier cosa peligrosa. Añadir un filtro que capte términos obviamente dañinos. Es barato, es rápido y en las pruebas parecía hermético. Defendí publicarlo. Lo publicamos.

Aguantó hasta que la capa de recuperación le suministró algo con aspecto de autoridad. La forma en que funcionan la mayoría de estos sistemas es la generación aumentada por recuperación — el asistente recupera documentos relevantes (tu catálogo, a veces la web abierta) y redacta su respuesta a partir de ellos. La trampa contra la que nadie te advierte es que cuando la capa de recuperación incorpora contenido reciente, el modelo trata ese contenido como más autorizado que sus propias instrucciones de seguridad. Rufus, de Amazon, es el ejemplo público que sirve de advertencia: les dijo a los compradores que la Super Bowl se celebraba en la ciudad equivocada porque la recuperación sacó a la luz fuentes web contradictorias y el entrenamiento del modelo prevaleció sobre el catálogo. Peor aún, guio a los usuarios en la fabricación de un cóctel molotov a través de consultas de productos corrientes: sin jailbreak, sin instrucciones ingeniosas, solo contenido web recuperado en el que el modelo decidió confiar por encima de su propia barrera de protección.

Eso rompió mi modelo mental. La barrera de protección que yo había respaldado no era un muro; era una sugerencia que el sistema ignoraría alegremente en cuanto leyera algo que la contradijera. El filtrado por palabras clave captaba los casos burdos y pasaba de largo por delante de sus equivalentes semánticos. Había publicado una cerradura que se abría cada vez que alguien deslizaba bajo la puerta un papel más convincente.

La seguridad basada en instrucciones es una nota adhesiva sobre una caja fuerte. Funciona hasta que el modelo lee una nota adhesiva que suena con más autoridad.

Tres formas en que la IA minorista se rompe — y una cuarta que nadie registra

Una vez que dejé de tratar esto como un problema del modelo, los fallos se ordenaron en un pequeño número de formas estructurales, y cada gran desastre público no es más que una de ellas a escala.

La forma más común es la información de producto alucinada — el problema de los 32 GB que en realidad eran 16. Ocurre porque el sistema genera una especificación plausible y nada compara esa especificación con un registro de verdad fundamental antes de que el comprador la vea. El coste no es abstracto: solo el 46 % de los compradores dice confiar plenamente en las recomendaciones de la IA, y el 89 % verifica lo que un asistente le dice antes de comprar. Cada detalle fabricado confirma al escéptico y lo devuelve a la búsqueda manual o a un competidor.

Luego está la elusión de la seguridad que acabo de describir — la recuperación anulando la barrera de protección. En el comercio esto es más grave que la moderación de contenido genérica, porque "¿este suplemento interactuará con mi anticoagulante?" no es una cuestión de contenido, es una cuestión de responsabilidad por producto. Un asistente que responda eso con seguridad y de forma equivocada ha creado una exposición legal que empequeñece cualquier aumento de la conversión.

La tercera forma la llamaría impotencia transaccional: la IA puede describir tu política de devoluciones pero no puede tramitar una devolución; puede hablar de un pedido que en realidad no puede consultar. Rufus podía explicar las devoluciones de Amazon y no ejecutar ninguna. Klarna aprendió la misma lección con una factura mucho mayor. Reemplazaron a unos 700 agentes con IA, la pusieron a funcionar en 2,3 millones de conversaciones y al principio afirmaron que gestionaba la carga — luego la calidad del servicio cayó precisamente en los casos que importan (resoluciones de varios pasos, disputas emocionales, cualquier cosa que requiriera un cambio real en la cuenta), el director ejecutivo admitió públicamente el golpe y, para 2026, estaban volviendo a contratar personas. No están solos en el arrepentimiento: el 55 % de las empresas que hicieron despidos impulsados por la IA dicen ahora que se equivocaron.

Y luego está el fallo que no aparece nunca en ningún registro de errores. Cornell Tech probó Rufus en distintos dialectos del inglés y encontró respuestas sistemáticamente peores para el inglés afroamericano, el inglés chicano y el inglés indio. Un comprador que preguntaba "¿esta chaqueta lavable a máquina?" — una construcción del inglés afroamericano perfectamente estándar que omite el verbo copulativo — obtenía una no-respuesta o una indicación hacia productos no relacionados. Tus paneles de control nunca captarán esto, porque el sistema no dio error; simplemente sirvió calladamente una tienda peor a una gran parte de tus clientes. Ahora mantengo una cuadrícula de evaluación que puntúa las respuestas del asistente en esos dialectos en paralelo con el inglés estándar, precisamente porque nada más saca a la luz la brecha.

Entonces, ¿cómo haces que la respuesta sea verdadera?

El giro, una vez que la barrera de protección falló, era casi vergonzosamente sencillo de enunciar y genuinamente difícil de construir: no le pidas al modelo que sea de fiar — pon una capa de verificación entre el modelo y el cliente que coteje cada respuesta con la verdad fundamental antes de que se publique.

En concreto, eso significa un grafo de conocimiento de producto que guarde las especificaciones, los precios, el stock y las políticas verificados como registros autorizados, y una capa de middleware que intercepte la respuesta del modelo, extraiga las afirmaciones comprobables que contiene y confirme cada una frente a ese grafo. Esto no es una idea marginal — Walmart construyó su propio Retail Graph, un grafo de conocimiento de producto, precisamente para que su IA tenga una verdad fundamental desde la que responder en lugar de una conjetura que generar. La parte genuinamente difícil no es la consulta; es la desambiguación de entidades — el mismo SKU aparece bajo distintas formas superficiales a lo largo de tu catálogo y de las distintas regiones, así que la capa primero tiene que resolver a qué registro se refiere en realidad la afirmación de un modelo antes de poder comprobarla. Equivócate en eso y verificarás frente al producto equivocado, lo cual es peor que no verificar en absoluto. Pero una vez que está bien: si el modelo dice 32 GB y el grafo dice 16, la afirmación nunca llega al comprador. Si el modelo no puede fundamentar una afirmación en una fuente verificada, el asistente dice menos en lugar de inventar más. El problema de la anulación por recuperación se disuelve porque la web abierta ya no tiene voto sobre un hecho que el catálogo ya conoce.

El requisito previo poco glamuroso son los datos. Gartner prevé que, hasta 2026, las organizaciones abandonarán el 60 % de los proyectos de IA que no estén respaldados por datos preparados para la IA — y la mayoría de los datos minoristas no están preparados. Los sistemas de gestión de la información de producto que he abierto suelen mostrar una completitud de atributos del 30-40 % para los SKU de cola larga. No puedes fundamentar un asistente frente a un catálogo al que le faltan dos de cada cinco campos; rellenará los huecos adivinando, que es exactamente el comportamiento que intentas eliminar. Así que una parte real del trabajo consiste en estructurar esos datos para el consumo por máquinas antes de que se verifique una sola respuesta. Esta es la capa que construimos — la fontanería de verificación, fundamentación y cumplimiento que se sitúa entre un gran modelo de lenguaje y tu escaparate — y puedes ver la arquitectura completa en veriprajna.com/solutions/ecommerce-ai-accuracy.

El trabajo del modelo es ser fluido. El trabajo de la capa de verificación es tener razón. Confundir esas dos cosas es como falla cada uno de estos sistemas.

Eres dueño de cada palabra que dice

La razón por la que me pongo intransigente con esto es que la ley ya ha decidido de quién es el problema cuando un chatbot comete errores, y la respuesta es que es tuyo.

El chatbot de Air Canada inventó una política de reembolso por duelo que no existía. Cuando la aerolínea argumentó ante el tribunal que el chatbot era una entidad jurídica independiente responsable de sus propias declaraciones, el tribunal lo rechazó de plano y consideró a la empresa responsable de los daños. Es una cifra pequeña en dólares — 812 CAD — y un precedente enorme: un tribunal ha dicho ahora con toda claridad que eres dueño de cada palabra que tu IA le dice a un cliente. He visto a un equipo jurídico reenviar esa sentencia con un asunto de una sola línea y sin ningún comentario, porque la implicación no necesita ninguno. Al parecer, un comerciante de Shopify perdió más de 8.000 dólares cuando un asistente prometió alegremente envío gratis a Hawái que no tenía autoridad para ofrecer. Esa promesa era, legalmente, la promesa del comerciante.

El suelo regulatorio está subiendo bajo todo esto. La Ley de IA de la UE entra en plena aplicación el 2 de agosto de 2026, y alcanza a cualquier empresa que dé servicio a clientes de la UE — no quedas exento por tener la sede en otro lugar. Exige que el contenido generado por IA se etiquete y que se informe a los usuarios de que están interactuando con una IA, y conlleva sanciones de hasta 35 millones de euros o el 7 % de la facturación anual mundial. En EE. UU., la FTC ha sido tajante en que usar la IA para engañar o defraudar ya es ilegal, sin excepción para la IA, y su Regla de Reseñas de Consumidores prohíbe las reseñas engañosas generadas por IA. Aquí el cumplimiento no es una casilla que atornillas al final; la transparencia y el etiquetado son restricciones de diseño que pertenecen a la capa de verificación desde el primer commit.

Las objeciones que más oigo

La gente me pregunta si los nuevos protocolos de comercio agéntico dejan todo esto sin efecto — y es una pregunta justa, porque los agentes ya están aquí a gran escala: una de cada cinco compras digitales fluye ahora a través de un agente de IA, y solo la Cyber Week de 2025 movió aproximadamente 67.000 millones de dólares por esa vía. Google lanzó su Universal Commerce Protocol en la NRF en enero de 2026 con Shopify, Etsy, Wayfair, Target y Walmart; OpenAI tiene su Agentic Commerce Protocol después de que su iniciativa Instant Checkout se quedara en cerca de una docena de comerciantes activados. Estos son reales y merece la pena integrarse con ellos. Pero léelos con atención y son centrados en el descubrimiento — son brillantes para conseguir que un agente encuentre y recomiende tu producto, y no dicen casi nada sobre la enrevesada cola transaccional: devoluciones, cambios, reclamaciones de garantía, las resoluciones de varios pasos que rompieron a Klarna. Los protocolos mueven la puerta de entrada; no amueblan la casa.

La otra pregunta es construir o comprar, y mi respuesta honesta es "probablemente un poco de ambas cosas, y no lo que te dijo el proveedor". Las herramientas de descubrimiento — Loomi de Bloomreach, Algolia, el descubrimiento de productos fundamentado en el catálogo de Coveo — son genuinamente buenas en el descubrimiento y dan por sentado que tú aportas datos limpios y no verifican entre herramientas. La mayoría de los minoristas ejecutan de tres a cinco de estos sistemas de IA a la vez y no tienen a nadie comprobando la coherencia entre ellos. Esa costura — la orquestación multiproveedor más una capa de verificación independiente que ninguno de los proveedores te venderá, porque cada uno está vendiendo su propia pila — es exactamente donde viven los fallos.

Y sí, la gente teme que un paso de verificación añada latencia, y tienen razón en temerlo: Amazon midió que cada 100 milisegundos de retraso cuesta alrededor del 1 % de las ventas. Esa restricción es real, y es un problema de ingeniería con respuestas de ingeniería — verifica el pequeño conjunto de afirmaciones comprobables, no toda la generación; guarda en caché las consultas al grafo; falla hacia decir menos, rápido. No es una razón para saltarse la verificación. Una respuesta de 100 milisegundos que está equivocada cuesta mucho más que una respuesta de 200 milisegundos que es correcta.

¿Qué es lo que de verdad se gana el 4x?

La estadística que empezó todo esto para mí es la del panel de conversión en el que sigo pensando: los compradores que interactúan con la IA convierten a un 12,3 % frente a un 3,1 % de los que no lo hacen. Cuatro veces más. Ese número es real, y es la razón por la que todos los minoristas se apresuran a implementarla. Pero también es una trampa, porque la misma asimetría corre a la inversa — una especificación alucinada, una política inventada, una respuesta insegura capturada en pantalla y compartida, y la confianza que produjo el 4x se evapora más rápido de lo que se construyó.

El modelo es ahora un producto básico — todos alquilan inteligencia del mismo puñado de proveedores, y seguirá volviéndose más fluido cada trimestre. La fluidez nunca fue lo que se ganó el 4x; fue la confianza. Y la confianza es exactamente lo que gasta una sola especificación inventada. Si estás implementando tu primer asistente, o observando calladamente ahora mismo cómo uno alucina en producción, la capa de verificación es la parte que no puedes saltarte — es lo que construimos, y es la diferencia entre un asistente que suena experto y uno al que dejarías hablar con tus clientes sin supervisión.

La tienda que gane los próximos años del comercio es aquella cuya IA, cuando se le pregunta si un portátil tiene 32 gigabytes de memoria, comprueba — y dice 16.