Il tuo assistente AI per lo shopping converte 4x — finché non inventa qualcosa

La demo era impeccabile. Un cliente ha chiesto al nostro assistente AI per lo shopping di confrontare due laptop per il montaggio video, e ha risposto come un commesso paziente che li avesse usati davvero entrambi — RAM, accuratezza dei colori, gestione termica, tutto quanto. Tutti nella stanza annuivano. Poi, a qualche settimana dall'inizio di un pilot silenzioso, stavo scorrendo un registro delle trascrizioni e ho visto lo stesso assistente dire a un cliente che un laptop veniva fornito con 32GB di memoria. Ne aveva 16.

Niente nel sistema l'ha segnalato. La frase era grammaticalmente corretta, sicura di sé e dal tono utile. Era anche sbagliata in un modo che, se quel cliente avesse comprato la macchina per il rendering e questa si fosse impuntata, ci sarebbe tornato indietro dritto come un reso, una recensione a una stella e una frase in un reclamo che iniziava con "la loro AI mi ha detto". Quel pomeriggio è stato il momento in cui ho capito il vero problema dell'e-commerce AI: il pericolo non è un modello che suona stupido. È un modello che suona corretto ed è sbagliato, perché niente nello stack verifica mai la sua risposta rispetto alla verità.

Quel divario — tra una risposta che si legge bene e una risposta che è davvero vera — è ciò che il mio team ora si guadagna da vivere a colmare. Prima di spiegare come, lasciate che vi dica perché un modello più intelligente non ci avrebbe mai salvati.

La demo che mi ha mentito

Sono arrivato all'AI per il retail credendo ciò che crede la maggior parte dei leader dell'ingegneria: che l'allucinazione sia un problema di qualità del modello, e che la qualità dei modelli stia salendo verso l'alto e verso destra, quindi il problema si risolve da solo se aspetti due trimestri e inserisci il checkpoint successivo.

I numeri sembrano sostenere quell'ottimismo, fino al momento in cui non lo fanno più. Il miglior modello di Google produce allucinazioni su circa 0.7% delle risposte di conoscenza generale. La maggior parte dei modelli si attesta all'1–3%. Ma la media sulla conoscenza generale è del 9.2%, e un'analisi di settore ha rilevato che l'82% dei fallimenti dell'AI sono allucinazioni o disinformazione piuttosto che crash o timeout. Quindi anche su un buon modello, all'incirca un'affermazione sicura su un prodotto ogni cento è inventata — e ne pubblichi migliaia al giorno.

Un tasso di allucinazione dell'1% suona come un voto eccellente. A un milione di risposte sui prodotti a settimana — il volume di un catalogo di medie dimensioni — sono diecimila frasi sicure di sé e sbagliate con sopra il nome del tuo brand.

Ecco la parte che la storia della qualità del modello ignora completamente: la risposta sbagliata e quella giusta escono dalla stessa macchina, con la stessa scioltezza, lo stesso tono, la stessa sicurezza. Il modello non ha idea di stare mentendo. Non esiste alcun segnale interno che separi "16GB, verificato rispetto al catalogo" da "32GB, dedotto per corrispondenza di schema da un post su un forum". Se vuoi quel segnale, devi costruirlo al di fuori del modello. Aspettare un checkpoint più intelligente non ti dà quel segnale; rende soltanto le risposte sbagliate più eloquenti.

Perché guardrail migliori non l'hanno risolto?

Così abbiamo provato a costruire il segnale nel modo ovvio, e voglio essere onesto sul fatto che sono io quello che ha spinto per il modo ovvio.

Il mio primo istinto è stato la sicurezza basata sui prompt più il filtraggio per parole chiave. Dire al sistema nelle sue istruzioni: dichiara solo le specifiche che puoi confermare, non dare mai consigli medici o di sicurezza, rifiuta qualsiasi cosa pericolosa. Aggiungere un filtro che intercetti i termini palesemente dannosi. È economico, è veloce e nei test sembrava a prova di bomba. Ho sostenuto di pubblicarlo. L'abbiamo pubblicato.

Ha tenuto finché il livello di recupero non gli ha fornito qualcosa dall'aspetto autorevole. Il modo in cui funziona la maggior parte di questi sistemi è la retrieval-augmented generation — l'assistente recupera i documenti pertinenti (il tuo catalogo, a volte il web aperto) e ne ricava la sua risposta. La trappola di cui nessuno ti avverte è che quando il livello di recupero acquisisce contenuti nuovi, il modello tratta quel contenuto come più autorevole delle proprie istruzioni di sicurezza. Rufus di Amazon è l'esempio ammonitore pubblico: ha detto ai clienti che il Super Bowl era nella città sbagliata perché il recupero ha fatto emergere fonti web contrastanti e l'addestramento del modello ha prevalso sul catalogo. Peggio, ha guidato gli utenti nella costruzione di una bomba Molotov attraverso normali richieste sui prodotti — nessun jailbreak, nessun prompt astuto, solo contenuti web recuperati che il modello ha deciso di ritenere più affidabili del proprio guardrail.

Questo ha mandato in frantumi il mio modello mentale. Il guardrail che avevo sostenuto non era un muro; era un suggerimento che il sistema avrebbe ignorato volentieri nel momento in cui leggeva qualcosa che lo contraddiceva. Il filtraggio per parole chiave intercettava i casi grossolani e passava dritto oltre gli equivalenti semantici. Avevo pubblicato una serratura che si apriva ogni volta che qualcuno faceva scivolare sotto la porta un foglio di carta più sicuro di sé.

La sicurezza basata sui prompt è un post-it su un caveau. Funziona finché il modello non legge un post-it dal tono più autorevole.

Tre modi in cui l'AI per il retail si rompe — e un quarto che nessuno registra

Una volta che ho smesso di trattare tutto questo come un problema di modello, i fallimenti si sono ordinati in un piccolo numero di forme strutturali, e ogni grande disastro pubblico è semplicemente una di esse su larga scala.

La forma più comune è l'informazione allucinata sul prodotto — il problema dei 32GB-che-erano-16GB. Accade perché il sistema genera una specifica plausibile e niente confronta quella specifica con un record di verità di riferimento prima che il cliente la veda. Il costo non è astratto: solo il 46% dei clienti dice di fidarsi pienamente delle raccomandazioni dell'AI, e l'89% verifica ciò che un assistente dice loro prima di comprare. Ogni dettaglio inventato conferma lo scettico e lo rimanda alla ricerca manuale o a un concorrente.

Poi c'è l'aggiramento della sicurezza che ho appena descritto — il recupero che prevale sul guardrail. Nel commercio questo è più tagliente della generica moderazione dei contenuti, perché "questo integratore interagirà con il mio anticoagulante?" non è una questione di contenuto, riguarda la responsabilità da prodotto. Un assistente che risponde a questo con sicurezza e in modo errato ha creato un'esposizione legale che fa impallidire qualsiasi aumento di conversione.

La terza forma la chiamerei impotenza transazionale: l'AI può descrivere la tua politica di reso ma non può elaborare un reso; può parlare di un ordine che in realtà non riesce a consultare. Rufus poteva spiegare i resi di Amazon ma non eseguirne uno. Klarna ha imparato la stessa lezione con un conto molto più salato. Hanno sostituito circa 700 agenti con l'AI, l'hanno usata su 2.3 milioni di conversazioni, e all'inizio ha affermato che reggeva il carico — poi la qualità del servizio è crollata proprio sui casi che contano (risoluzioni in più passaggi, dispute emotive, qualsiasi cosa richiedesse una reale modifica dell'account), il CEO ha ammesso pubblicamente il colpo, ed entro il 2026 stavano riassumendo persone. Non sono soli nel rimpianto: il 55% delle aziende che hanno fatto licenziamenti guidati dall'AI ora dice di aver sbagliato.

E poi c'è il fallimento che non compare mai in nessun log degli errori. Cornell Tech ha testato Rufus su vari dialetti dell'inglese e ha riscontrato risposte sistematicamente peggiori per l'inglese afroamericano, l'inglese chicano e l'inglese indiano. Un cliente che chiede "this jacket machine washable?" — una costruzione perfettamente standard dell'inglese afroamericano che omette il verbo copulativo — otteneva una non-risposta o un rimando a prodotti non correlati. Le tue dashboard non lo coglieranno mai, perché il sistema non ha generato errori; ha semplicemente offerto in sordina un negozio peggiore a una larga fetta dei tuoi clienti. Ora tengo una griglia di valutazione che confronta le risposte dell'assistente in quei dialetti fianco a fianco con l'inglese standard, proprio perché nient'altro fa emergere il divario.

Quindi come si fa a rendere vera la risposta?

La svolta, una volta fallito il guardrail, era quasi imbarazzantemente semplice da enunciare e davvero difficile da costruire: non chiedere al modello di essere affidabile — metti un livello di verifica tra il modello e il cliente che controlli ogni risposta rispetto alla verità di riferimento prima che venga pubblicata.

Concretamente, questo significa un knowledge graph dei prodotti che conserva specifiche, prezzi, disponibilità e politiche verificate come record autorevoli, e un livello middleware che intercetta la risposta del modello, ne estrae le affermazioni verificabili e conferma ciascuna rispetto a quel graph. Non è un'idea marginale — Walmart ha costruito il proprio Retail Graph, un knowledge graph dei prodotti, proprio perché la sua AI abbia una verità di riferimento da cui rispondere anziché una supposizione da generare. La parte davvero difficile non è la ricerca; è la disambiguazione delle entità — lo stesso SKU compare sotto forme superficiali diverse nel tuo catalogo e nelle diverse localizzazioni, quindi il livello deve prima risolvere quale record l'affermazione di un modello indichi effettivamente prima di poterlo controllare. Sbaglia questo e verifichi rispetto al prodotto sbagliato, il che è peggio che non verificare affatto. Ma una volta che è corretto: se il modello dice 32GB e il graph dice 16, l'affermazione non raggiunge mai il cliente. Se il modello non riesce a fondare un'affermazione su una fonte verificata, l'assistente dice di meno anziché inventare di più. Il problema della prevalenza del recupero si dissolve perché il web aperto non ha più voce in capitolo su un fatto che il catalogo già conosce.

Il prerequisito poco affascinante sono i dati. Gartner prevede che entro il 2026 le organizzazioni abbandoneranno il 60% dei progetti di AI che non sono supportati da dati pronti per l'AI — e la maggior parte dei dati del retail non è pronta. I sistemi di gestione delle informazioni sui prodotti che ho aperto mostrano tipicamente il 30–40% di completezza degli attributi per gli SKU a coda lunga. Non puoi fondare un assistente su un catalogo a cui mancano due campi su cinque; riempirà i buchi tirando a indovinare, che è esattamente il comportamento che stai cercando di eliminare. Quindi una parte reale del lavoro consiste nello strutturare quei dati per il consumo da parte delle macchine prima che una singola risposta venga verificata. Questo è il livello che costruiamo — l'impianto di verifica, fondazione e conformità che si colloca tra un large language model e la tua vetrina — e puoi vedere l'architettura completa su veriprajna.com/solutions/ecommerce-ai-accuracy.

Il compito del modello è essere fluente. Il compito del livello di verifica è avere ragione. Confondere questi due è il modo in cui ognuno di questi sistemi fallisce.

Sei responsabile di ogni parola che dice

Il motivo per cui divento intransigente su questo è che la legge ha già deciso di chi sono gli errori di un chatbot, e la risposta sei tu.

Il chatbot di Air Canada ha inventato una politica di rimborso per lutto che non esisteva. Quando la compagnia aerea ha sostenuto in tribunale che il chatbot fosse un'entità giuridica separata responsabile delle proprie dichiarazioni, il tribunale l'ha respinta categoricamente e ha ritenuto l'azienda responsabile dei danni. È una cifra piccola — $812 CAD — e un precedente enorme: un tribunale ha ora affermato in parole povere che sei responsabile di ogni parola che la tua AI dice a un cliente. Ho visto un team legale inoltrare quella sentenza in giro con un oggetto di una riga e nessun commento, perché l'implicazione non ne ha bisogno. Pare che un commerciante su Shopify abbia perso oltre $8,000 quando un assistente ha allegramente promesso la spedizione gratuita alle Hawaii che non aveva l'autorità di offrire. Quella promessa era, legalmente, la promessa del commerciante.

Il pavimento normativo si sta alzando sotto tutto questo. L'EU AI Act diventa pienamente applicabile il 2 agosto 2026, e riguarda qualsiasi azienda che serve clienti dell'UE — non puoi essere esente per il fatto di avere sede altrove. Richiede che i contenuti generati dall'AI siano etichettati e che agli utenti venga detto che stanno interagendo con un'AI, e prevede sanzioni fino a €35 milioni o il 7% del fatturato annuo mondiale. Negli USA, la FTC è stata netta sul fatto che usare l'AI per ingannare o frodare è già illegale senza alcuna deroga per l'AI, e la sua Consumer Review Rule vieta le recensioni ingannevoli generate dall'AI. Qui la conformità non è una casella da spuntare da aggiungere alla fine; trasparenza ed etichettatura sono vincoli di progettazione che appartengono al livello di verifica fin dal primo commit.

Le obiezioni che sento più spesso

Le persone mi chiedono se i nuovi protocolli di commercio agentico rendano tutto questo irrilevante — ed è una domanda legittima, perché gli agenti sono già qui su larga scala: un acquisto digitale su cinque ora passa attraverso un agente AI, e la sola Cyber Week 2025 ha movimentato all'incirca $67 miliardi in questo modo. Google ha lanciato il suo Universal Commerce Protocol all'NRF a gennaio 2026 con Shopify, Etsy, Wayfair, Target e Walmart; OpenAI ha il suo Agentic Commerce Protocol dopo che il suo tentativo Instant Checkout si è spento riducendosi a circa una dozzina di commercianti attivati. Sono reali e vale la pena integrarli. Ma leggendoli attentamente sono incentrati sulla scoperta — sono brillanti nel far sì che un agente trovi e raccomandi il tuo prodotto, e non dicono quasi nulla sulla disordinata coda transazionale: resi, cambi, richieste di garanzia, le risoluzioni in più passaggi che hanno mandato in crisi Klarna. I protocolli spostano la porta d'ingresso; non arredano la casa.

L'altra domanda è costruire o comprare, e la mia risposta onesta è "probabilmente un po' di entrambi, e non quello che ti ha detto il fornitore". Gli strumenti di scoperta — Loomi di Bloomreach, Algolia, la scoperta di prodotti fondata sul catalogo di Coveo — sono davvero bravi nella scoperta e presuppongono che tu porti dati puliti e non verificano tra strumenti diversi. La maggior parte dei retailer fa girare da tre a cinque di questi sistemi di AI contemporaneamente e non ha nessuno che controlli la coerenza tra di essi. Quella cucitura — l'orchestrazione multi-fornitore più un livello di verifica indipendente che nessuno dei fornitori ti venderà, perché ciascuno vende il proprio stack — è esattamente dove vivono i fallimenti.

E sì, le persone temono che un passaggio di verifica aggiunga latenza, e fanno bene: Amazon ha misurato che ogni 100 millisecondi di ritardo costa circa l'1% delle vendite. Quel vincolo è reale, ed è un problema ingegneristico con risposte ingegneristiche — verifica il piccolo insieme di affermazioni controllabili, non l'intera generazione; metti in cache le ricerche sul graph; punta a dire di meno, in fretta. Non è un motivo per saltare la verifica. Una risposta da 100 millisecondi che è sbagliata costa molto di più di una risposta da 200 millisecondi che è giusta.

Cosa guadagna davvero il 4x?

La statistica che ha dato il via a tutto questo per me è quella sulla dashboard delle conversioni a cui ancora penso: i clienti che interagiscono con l'AI convertono al 12.3% contro il 3.1% per quelli che non lo fanno. Quattro volte. Quel numero è reale, ed è il motivo per cui ogni retailer si sta precipitando a implementare. Ma è anche una trappola, perché la stessa asimmetria funziona al contrario — una specifica allucinata, una politica inventata, una risposta non sicura catturata in uno screenshot e condivisa, e la fiducia che ha prodotto il 4x evapora più in fretta di quanto si sia costruita.

Il modello ora è una commodity — tutti noleggiano intelligenza dalla stessa manciata di fornitori, e continuerà a diventare più fluente ogni trimestre. La fluidità non è mai stata la cosa che ha guadagnato il 4x; lo è stata la fiducia. E la fiducia è esattamente ciò che una singola specifica inventata spende. Se stai implementando il tuo primo assistente, o stai osservando in silenzio uno che allucina in produzione proprio ora, il livello di verifica è la parte che non puoi saltare — è la cosa che costruiamo, ed è la differenza tra un assistente che suona da esperto e uno che lasceresti parlare con i tuoi clienti senza supervisione.

Il negozio che vince i prossimi anni del commercio è quello la cui AI, quando le si chiede se un laptop ha 32 gigabyte di memoria, controlla — e dice 16.