Seu assistente de compras com IA converte 4x — até inventar uma informação
A demonstração foi impecável. Um comprador pediu ao nosso assistente de compras com IA que comparasse dois notebooks para edição de vídeo, e ele respondeu como um vendedor paciente que realmente tinha usado ambos — RAM, precisão de cores, controle térmico, tudo. Todos na sala assentiram. Então, poucas semanas depois do início de um piloto discreto, eu estava percorrendo um registro de transcrições e vi o mesmo assistente dizer a um cliente que um notebook vinha com 32 GB de memória. Vinha com 16.
Nada no sistema sinalizou isso. A frase era gramatical, confiante e soava prestativa. Também estava errada de um jeito que, se aquele cliente tivesse comprado a máquina para renderização e ela travasse, teria voltado direto para nós como uma devolução, uma avaliação de uma estrela e uma frase em uma reclamação que começava com "a IA deles me disse". Foi naquela tarde que entendi o verdadeiro problema da IA para e-commerce: o perigo não é um modelo que soa burro. É um modelo que soa correto e está errado, porque nada na pilha jamais confere a resposta dele contra a verdade.
Essa lacuna — entre uma resposta que se lê bem e uma resposta que é de fato verdadeira — é o que minha equipe agora ganha a vida para fechar. Antes de explicar como, deixe-me contar por que um modelo mais inteligente nunca ia nos salvar.
A Demonstração Que Mentiu Para Mim
Entrei na IA para varejo acreditando no que a maioria dos líderes de engenharia acredita: que a alucinação é um problema de qualidade do modelo, e a qualidade do modelo está subindo para a direita, então o problema se resolve sozinho se você esperar dois trimestres e trocar pelo próximo checkpoint.
Os números parecem apoiar esse otimismo, até o momento em que deixam de apoiar. O melhor modelo do Google alucina em cerca de 0,7% das respostas de conhecimento geral. A maioria dos modelos fica entre 1% e 3%. Mas a média no conhecimento geral é de 9,2%, e uma análise do setor constatou que 82% das falhas de IA são alucinações ou desinformação, e não travamentos ou timeouts. Então, mesmo em um bom modelo, cerca de uma em cada cem afirmações confiantes sobre produtos é inventada — e você está entregando milhares dessas afirmações por dia.
Uma taxa de alucinação de 1% soa como uma nota máxima. A um milhão de respostas sobre produtos por semana — o volume de um catálogo de porte médio — isso são dez mil frases confiantemente erradas com o nome da sua marca.
Aqui está a parte que a narrativa da qualidade do modelo ignora por completo: a resposta errada e a resposta certa saem da mesma máquina, com a mesma fluência, o mesmo tom, a mesma confiança. O modelo não faz ideia de que está mentindo. Não há nenhum sinal interno que separe "16 GB, verificado contra o catálogo" de "32 GB, deduzido por padrão a partir de um post de fórum". Se você quer esse sinal, precisa construí-lo fora do modelo. Esperar por um checkpoint mais inteligente não lhe dá esse sinal; apenas torna as respostas erradas mais eloquentes.
Por Que Guardrails Melhores Não Resolveram?
Então tentamos construir o sinal do jeito óbvio, e quero ser honesto de que fui eu quem defendeu o jeito óbvio.
Meu primeiro instinto foi segurança baseada em prompt somada a filtragem por palavras-chave. Dizer ao sistema em suas instruções: só afirme especificações que você pode confirmar, nunca dê conselhos médicos ou de segurança, recuse qualquer coisa perigosa. Adicione um filtro que capture termos obviamente prejudiciais. É barato, é rápido, e nos testes parecia à prova de falhas. Defendi lançá-lo. Nós o lançamos.
Aguentou até a camada de recuperação alimentá-lo com algo de aparência autoritativa. O jeito como a maioria desses sistemas funciona é geração aumentada por recuperação — o assistente busca documentos relevantes (seu catálogo, às vezes a web aberta) e escreve a resposta a partir deles. A armadilha que ninguém avisa é que quando a camada de recuperação traz conteúdo novo, o modelo trata esse conteúdo como mais autoritativo do que suas próprias instruções de segurança. O Rufus, da Amazon, é o alerta público: ele disse a compradores que o Super Bowl era na cidade errada porque a recuperação trouxe fontes web conflitantes e o treinamento do modelo se sobrepôs ao catálogo. Pior, ele orientou usuários a montar um coquetel molotov por meio de consultas comuns sobre produtos — sem jailbreak, sem prompt engenhoso, apenas conteúdo web recuperado que o modelo decidiu confiar mais do que na sua própria guardrail.
Isso quebrou meu modelo mental. A guardrail que eu havia defendido não era um muro; era uma sugestão que o sistema ignoraria de bom grado no instante em que lesse algo que a contradissesse. A filtragem por palavras-chave capturava os casos grosseiros e passava batido pelos equivalentes semânticos. Eu tinha lançado uma fechadura que se abria sempre que alguém deslizava um pedaço de papel mais confiante por baixo da porta.
A segurança baseada em prompt é um post-it colado num cofre. Funciona até o modelo ler um post-it de aparência mais autoritativa.
Três Maneiras Como a IA de Varejo Quebra — e uma Quarta Que Ninguém Registra
Quando parei de tratar isso como um problema de modelo, as falhas se organizaram em um pequeno número de formatos estruturais, e cada grande desastre público é apenas um deles em escala.
O formato mais comum é a informação de produto alucinada — o problema dos 32 GB que eram 16. Acontece porque o sistema gera uma especificação plausível e nada compara essa especificação contra um registro de verdade fundamental antes de o comprador vê-la. O custo não é abstrato: apenas 46% dos compradores dizem confiar plenamente nas recomendações de IA, e 89% verificam o que um assistente lhes diz antes de comprar. Cada detalhe fabricado confirma o cético e o manda de volta à busca manual ou a um concorrente.
Depois há a burla de segurança que acabei de descrever — a recuperação se sobrepondo à guardrail. No comércio isso é mais grave do que a moderação de conteúdo genérica, porque "este suplemento vai interagir com meu anticoagulante?" não é uma questão de conteúdo, é uma questão de responsabilidade por produto. Um assistente que responde isso com confiança e de forma errada criou uma exposição jurídica que ofusca qualquer ganho de conversão.
O terceiro formato eu chamaria de impotência transacional: a IA consegue descrever sua política de devolução, mas não consegue processar uma devolução; ela consegue falar sobre um pedido que não consegue de fato consultar. O Rufus conseguia explicar as devoluções da Amazon e não executar nenhuma. A Klarna aprendeu a mesma lição com uma conta bem maior. Eles substituíram cerca de 700 atendentes por IA, a rodaram em 2,3 milhões de conversas, e inicialmente afirmaram que ela dava conta da carga — então a qualidade do serviço caiu exatamente nos casos que importam (resoluções em várias etapas, disputas emocionais, qualquer coisa que exigisse uma mudança real de conta), o CEO admitiu publicamente o impacto, e até 2026 eles estavam recontratando humanos. Não estão sozinhos no arrependimento: 55% das empresas que fizeram demissões impulsionadas por IA agora dizem que erraram.
E então há a falha que nunca aparece em nenhum log de erro. A Cornell Tech testou o Rufus em diferentes dialetos do inglês e descobriu respostas sistematicamente piores para o inglês afro-americano, o inglês chicano e o inglês indiano. Um comprador que perguntava "esta jaqueta é lavável na máquina?" — uma construção perfeitamente padrão do inglês afro-americano que omite o verbo de ligação — recebia uma não resposta ou um encaminhamento a produtos não relacionados. Seus dashboards nunca vão capturar isso, porque o sistema não deu erro; ele apenas serviu silenciosamente uma loja pior a uma grande fatia dos seus clientes. Mantenho hoje uma grade de avaliação que pontua as respostas do assistente nesses dialetos lado a lado com o inglês padrão, justamente porque nada mais expõe a lacuna.
Então, Como Você Torna a Resposta Verdadeira?
A virada, uma vez que a guardrail falhou, era quase constrangedoramente simples de enunciar e genuinamente difícil de construir: não peça ao modelo para ser confiável — coloque uma camada de verificação entre o modelo e o cliente que confira cada resposta contra a verdade fundamental antes de ela sair.
Concretamente, isso significa um grafo de conhecimento de produtos que mantém especificações, preços, estoque e políticas verificados como registros autoritativos, e uma camada de middleware que intercepta a resposta do modelo, extrai as afirmações verificáveis nela e confirma cada uma contra esse grafo. Isso não é uma ideia marginal — a Walmart construiu seu próprio Retail Graph, um grafo de conhecimento de produtos, justamente para que sua IA tenha uma verdade fundamental a partir da qual responder, em vez de um palpite a gerar. A parte genuinamente difícil não é a consulta; é a desambiguação de entidades — o mesmo SKU aparece sob diferentes formas superficiais no seu catálogo e entre os locais, então a camada primeiro precisa resolver a qual registro a afirmação do modelo de fato se refere antes de poder verificá-la. Erre nisso e você verifica contra o produto errado, o que é pior do que não verificar. Mas, uma vez que esteja certo: se o modelo diz 32 GB e o grafo diz 16, a afirmação nunca chega ao comprador. Se o modelo não consegue fundamentar uma afirmação em uma fonte verificada, o assistente diz menos em vez de inventar mais. O problema da sobreposição da recuperação se dissolve porque a web aberta não tem mais direito a voto sobre um fato que o catálogo já conhece.
O pré-requisito nada glamouroso são os dados. O Gartner projeta que, ao longo de 2026, as organizações vão abandonar 60% dos projetos de IA que não são sustentados por dados prontos para IA — e a maioria dos dados de varejo não está pronta. Os sistemas de gestão de informação de produtos que abri normalmente mostram 30% a 40% de completude de atributos para SKUs de cauda longa. Você não consegue fundamentar um assistente contra um catálogo a que faltam dois de cada cinco campos; ele vai preencher os buracos por palpite, que é exatamente o comportamento que você está tentando eliminar. Então uma parcela real do trabalho é estruturar esses dados para consumo por máquina antes de uma única resposta ser verificada. Esta é a camada que construímos — a infraestrutura de verificação, fundamentação e conformidade que fica entre um grande modelo de linguagem e sua loja — e você pode ver a arquitetura completa em veriprajna.com/solutions/ecommerce-ai-accuracy.
O trabalho do modelo é ser fluente. O trabalho da camada de verificação é estar certa. Confundir as duas coisas é como cada um desses sistemas falha.
Você Responde Por Cada Palavra Que Ele Diz
A razão pela qual fico intransigente quanto a isso é que a lei já decidiu de quem é o problema dos erros de um chatbot, e a resposta é: seu.
O chatbot da Air Canada inventou uma política de reembolso por luto que não existia. Quando a companhia aérea argumentou em tribunal que o chatbot era uma entidade jurídica separada responsável pelas próprias declarações, o tribunal rejeitou o argumento de imediato e responsabilizou a empresa por danos. É uma cifra pequena — 812 dólares canadenses — e um precedente enorme: um tribunal agora disse em linguagem clara que você responde por cada palavra que sua IA diz a um cliente. Vi uma equipe jurídica encaminhar essa decisão entre si com um assunto de uma linha e nenhum comentário, porque a implicação dispensa comentário. Segundo relatos, um comerciante na Shopify perdeu mais de 8.000 dólares quando um assistente prometeu alegremente frete grátis para o Havaí que não tinha autoridade para oferecer. Aquela promessa era, juridicamente, a promessa do comerciante.
O piso regulatório está se elevando por baixo de tudo isso. O AI Act da UE passa a ser plenamente aplicável em 2 de agosto de 2026, e ele alcança qualquer empresa que atenda clientes da UE — você não fica isento por ter sede em outro lugar. Ele exige que o conteúdo gerado por IA seja rotulado e que os usuários sejam informados de que estão interagindo com IA, e traz penalidades de até 35 milhões de euros ou 7% do faturamento anual mundial. Nos EUA, a FTC foi categórica ao dizer que usar IA para enganar ou fraudar já é ilegal, sem nenhuma isenção para IA, e sua Consumer Review Rule proíbe avaliações enganosas geradas por IA. Conformidade aqui não é uma caixinha que você anexa no fim; transparência e rotulagem são restrições de design que pertencem à camada de verificação desde o primeiro commit.
As Objeções Que Mais Ouço
As pessoas me perguntam se os novos protocolos de comércio agêntico tornam tudo isso irrelevante — e é uma pergunta justa, porque os agentes já estão aqui em escala: uma em cada cinco compras digitais agora passa por um agente de IA, e só a Cyber Week 2025 movimentou cerca de 67 bilhões de dólares por essa via. O Google lançou seu Universal Commerce Protocol na NRF em janeiro de 2026 com Shopify, Etsy, Wayfair, Target e Walmart; a OpenAI tem seu Agentic Commerce Protocol depois que seu esforço de Instant Checkout naufragou para cerca de uma dúzia de comerciantes ativados. Esses protocolos são reais e valem a integração. Mas leia-os com atenção e eles são focados em descoberta — são brilhantes em fazer um agente encontrar e recomendar seu produto, e dizem quase nada sobre a bagunçada cauda transacional: devoluções, trocas, acionamentos de garantia, as resoluções em várias etapas que quebraram a Klarna. Os protocolos movem a porta da frente; não mobiliam a casa.
A outra pergunta é construir versus comprar, e minha resposta honesta é "provavelmente um pouco dos dois, e não o que o fornecedor lhe disse". As ferramentas de descoberta — a Loomi da Bloomreach, a Algolia, a descoberta de produtos fundamentada no catálogo da Coveo — são genuinamente boas em descoberta e presumem que você traga dados limpos e não verificam entre ferramentas. A maioria dos varejistas roda de três a cinco desses sistemas de IA ao mesmo tempo e não tem ninguém conferindo a consistência entre eles. Essa costura — orquestração multifornecedor mais uma camada de verificação independente que nenhum dos fornecedores vai lhe vender, porque cada um está vendendo a própria pilha — é exatamente onde as falhas moram.
E sim, as pessoas se preocupam que uma etapa de verificação adicione latência, e têm razão em se preocupar: a Amazon mediu que cada 100 milissegundos de atraso custam cerca de 1% das vendas. Essa restrição é real, e é um problema de engenharia com respostas de engenharia — verifique o pequeno conjunto de afirmações verificáveis, não a geração inteira; faça cache das consultas ao grafo; falhe no sentido de dizer menos, rápido. Não é motivo para pular a verificação. Uma resposta de 100 milissegundos que está errada custa muito mais do que uma resposta de 200 milissegundos que está certa.
O Que Realmente Merece o 4x?
A estatística que começou tudo isso para mim é aquela no dashboard de conversão em que ainda penso: compradores que interagem com IA convertem a 12,3% contra 3,1% dos que não interagem. Quatro vezes. Esse número é real, e é por isso que todo varejista está correndo para implantar. Mas também é uma armadilha, porque a mesma assimetria corre no sentido inverso — uma especificação alucinada, uma política inventada, uma resposta insegura capturada em tela e compartilhada, e a confiança que produziu o 4x evapora mais rápido do que se formou.
O modelo virou uma commodity agora — todo mundo está alugando inteligência do mesmo punhado de provedores, e ele vai continuar ficando mais fluente a cada trimestre. A fluência nunca foi o que mereceu o 4x; foi a confiança. E a confiança é exatamente o que uma especificação inventada gasta. Se você está implantando seu primeiro assistente, ou observando um alucinar em produção em silêncio agora mesmo, a camada de verificação é a parte que você não pode pular — é a coisa que construímos, e é a diferença entre um assistente que soa especialista e um que você deixaria falar com seus clientes sem supervisão.
A loja que vence os próximos anos do comércio é aquela cuja IA, ao ser perguntada se um notebook tem 32 gigabytes de memória, confere — e responde 16.
