McDonald's ha passato tre anni a insegnare all'AI a prendere gli ordini al drive-thru. Ecco perché 260 Chicken McNuggets hanno chiuso l'esperimento.

Ero seduto in una camera d'albergo a fine giugno 2024, scorrendo il telefono, quando un TikTok mi ha bloccato di colpo. Una donna al drive-thru di un McDonald's urlava contro un altoparlante mentre una voce AI le confermava allegramente l'ordine: nove tè freddi dolci, un sundae al caramello con bacon e quello che sembrava un ordine da $222 di Chicken McNuggets. Lei non aveva ordinato niente di tutto questo.

L'ho guardato tre volte. Non perché fosse divertente — anche se lo era — ma perché avevo riconosciuto esattamente cosa era andato storto. L'architettura. Non il modello, non i dati di addestramento, non il prompt. L'architettura.

Quella settimana McDonald's ha ufficialmente chiuso la sua partnership triennale con IBM sull'AI al drive-thru. Oltre 100 sedi statunitensi sono tornate agli operatori umani con la cuffia. Il progetto pilota si era arenato attorno a un'accuratezza degli ordini dell'80–85% — che sembra decente finché non ti rendi conto che i lavoratori umani raggiungono tipicamente il 90% o più e che, nel mondo dai margini risicati del fast food, ogni ordine sbagliato è un piccolo incendio da spegnere con cibo gratis e delle scuse.

Costruivo sistemi AI in Veriprajna da abbastanza tempo da sapere che non era un fallimento dell'AI. Era un fallimento di filosofia. McDonald's aveva provato a risolvere un problema architetturale profondo con una risposta architetturale superficiale. E i 260 McNuggets sono stati il modo dell'universo di dire: così non funziona.

L'esperimento che è diventato una barzelletta

Il retroscena conta. Nel 2019 McDonald's ha acquisito Apprente, una startup di riconoscimento vocale, e l'ha inglobata in una cosa chiamata McD Tech Labs. Due anni dopo ha venduto quell'unità a IBM, scommettendo che l'infrastruttura enterprise di Big Blue e l'NLP di Watson potessero scalare la tecnologia a livello globale.

La logica sembrava solida. IBM aveva i server, la pipeline NLP, la credibilità enterprise. McDonald's aveva 40.000 sedi nel mondo e un disperato bisogno di risolvere l'equazione del lavoro. Mettili insieme e ottieni il futuro del fast food.

Invece hai ottenuto il bacon sul gelato.

I fallimenti non erano anomalie occasionali. Erano sistematici. L'AI catturava ordini dalle corsie adiacenti perché non riusciva a capire quale auto stesse parlando. Interpretava le chiacchiere di sottofondo della radio come richieste dal menu. Quando non riusciva a interpretare ciò che diceva un cliente — cosa che accadeva di continuo con gli accenti regionali, le correzioni a metà frase o più passeggeri che parlavano insieme — ripiegava sull'indovinare. E le sue congetture erano governate dalla probabilità dei token, non dal buon senso.

Un'AI che non sa che 260 McNuggets sono un'assurdità non sa assolutamente nulla dei McNuggets.

Quella frase continuava a rimbalzarmi in testa. Perché il problema non era che il modello fosse stupido. I modelli linguistici dell'era GPT sono straordinariamente capaci. Il problema era che nessuno aveva costruito lo strato che dice "aspetta, non può essere giusto".

Perché è fallito davvero il drive-thru AI di McDonald's?

Voglio essere preciso qui, perché la narrazione popolare — "l'AI non è pronta per il mondo reale" — è sbagliata. Il sistema FreshAI di Wendy's, costruito su Google Cloud, raggiungeva circa il 99% di accuratezza e tagliava 22 secondi dai tempi di servizio. Il sistema Byte di Taco Bell, che gira su infrastruttura Nvidia, aveva elaborato oltre 2 milioni di ordini andati a buon fine in più di 500 sedi. La tecnologia funziona. Semplicemente non funziona nel modo in cui l'hanno costruita McDonald's e IBM.

Tre cose hanno ucciso il progetto pilota.

Il drive-thru è una zona di guerra acustica. La maggior parte dei modelli linguistici viene addestrata in ambienti silenziosi. Una corsia del drive-thru ha il rombo dei motori, la pressione del vento sul microfono, le radio delle auto che sparano altre voci in sottofondo e i passeggeri che urlano l'uno sopra l'altro. Al sistema IBM mancava un beamforming sofisticato — la tecnica di usare schiere di microfoni per creare un focus spaziale sulla bocca del guidatore. Senza di esso, l'AI elaborava semplicemente ogni voce che riusciva a sentire. È così che l'ordine di un'auto è finito sul conto di un'altra.

Il parlato umano è gloriosamente disordinato. I clienti dicono "Mickey D's" invece di "McDonald's". Cambiano idea a metà frase: "Dammi una Coca — no, aspetta, una Dr. Pepper". Usano slang, borbottano, hanno accenti che i dati di addestramento non hanno mai incontrato. Quando il sistema IBM non riusciva a interpretare un input, usava il greedy decoding — sceglieva la parola successiva statisticamente più probabile invece di chiedere un chiarimento. È così che "acqua e gelato alla vaniglia" è diventato "sundae al caramello con burro e ketchup". Il sistema abbinava frammenti fonetici a voci di menu ad alta probabilità, a prescindere dal fatto che la combinazione avesse un senso.

Non esisteva alcuno strato di plausibilità. È questo il punto che mi colpisce di più. Nessun tetto massimo alle quantità. Nessuna regola che dica che gelato più bacon uguale "chiedi a un umano". Nessun trigger di escalation per le transazioni di importo elevato. Il modello linguistico prendeva tutte le decisioni, e i modelli linguistici non ragionano sul mondo fisico. Predicono il token successivo. È una cosa fondamentalmente diversa.

Il problema del wrapper

Ricordo una conversazione con un potenziale cliente di quel periodo. Era un retailer di medie dimensioni e aveva costruito quello che chiamava con orgoglio un "sistema di customer service alimentato dall'AI". Quando ho guardato sotto il cofano, era un sottile strato software piazzato tra i suoi clienti e l'API di OpenAI. Formattava gli input, strutturava gli output e aggiungeva il suo logo. Tutto qui.

"Cosa succede quando ha un'allucinazione?" ho chiesto.

"Abbiamo un disclaimer", ha risposto.

Questo è ciò che il settore chiama "wrapper" — ed è il pattern architetturale che ha tradito McDonald's. Un wrapper prende un potente foundation model e ci dà una mano di vernice. È ottimo per le demo. È ottimo per i prototipi. È catastroficamente inadeguato per qualsiasi ambiente in cui sbagliare ha delle conseguenze.

Il sistema McDonald's-IBM era, nella sua essenza, un wrapper attorno al vecchio NLP di Watson. Il modello linguistico gestiva tutto: riconoscimento vocale, interpretazione dell'intento, abbinamento con il menu, conferma dell'ordine. Non c'era alcuna separazione tra ciò che dovrebbe essere probabilistico (capire il parlato umano disordinato) e ciò che dovrebbe essere deterministico (far rispettare le regole di business). Era probabilità fino in fondo.

Ho scritto in modo approfondito di questa distinzione architetturale nel nostro paper di ricerca interattivo, ma l'idea di fondo è abbastanza semplice da stare su un tovagliolo.

Cosa significa davvero "nucleo deterministico, bordo probabilistico"?

In Veriprajna costruiamo i sistemi su un principio a cui torno di continuo: usa l'AI per ciò in cui l'AI eccelle e usa le regole per ciò in cui eccellono le regole.

Un modello linguistico è spettacolare nel comprendere l'intento dietro un parlato umano confuso, ambiguo e pieno di accenti. Quello è il bordo probabilistico — lo strato esterno flessibile che gestisce il caos del mondo reale.

Ma una volta compreso l'intento, l'esecuzione dovrebbe essere governata da una logica rigida. Un motore di inferenza simbolica. Un knowledge graph del business. Regole che non possono essere scavalcate dalla probabilità statistica.

In un contesto di drive-thru, questo significa:

L'LLM sente "dammi tipo cento nuggets" e interpreta correttamente l'intento come "il cliente vuole una grande quantità di Chicken McNuggets". Poi entra in gioco il nucleo deterministico: la quantità massima per singolo ordine di McNuggets è 40 pezzi. Il sistema chiede: "Posso arrivare fino a 40 McNuggets — le va bene?" Invece di battere allegramente 2.510 pezzi alla cassa.

Il modello linguistico dovrebbe essere le orecchie. Il motore di regole dovrebbe essere il cervello. McDonald's ha fatto pensare le orecchie.

Questo non è teorico. FreshAI di Wendy's funziona proprio perché si integra profondamente con il sistema di punto vendita e con i display della cucina — l'AI capisce ciò che stai dicendo, ma la logica di business decide cosa succede dopo. Il sistema di Taco Bell usa un'orchestrazione multi-agente, in cui componenti specializzati diversi gestiscono parti diverse della transazione. Questi sono sistemi architettati, non wrapper.

La notte in cui ho capito qual è il vero fossato

Una sera, sul tardi — credo fosse un giovedì — io e il mio team stavamo facendo il debug di una pipeline di elaborazione audio per il deployment di un cliente. Ci stavamo lavorando da ore. Il sistema continuava a classificare erroneamente il rumore ambientale come input vocale e non riuscivamo a capire perché.

Verso le 11 di sera, uno dei miei ingegneri ha aperto lo spettrogramma grezzo e ha indicato uno schema che nessuno di noi aveva notato. L'impianto HVAC nella struttura del cliente produceva un ronzio a bassa frequenza che si collocava esattamente nell'intervallo di certi suoni vocalici. Il modello stava letteralmente sentendo l'aria condizionata e cercava di prenderle l'ordine.

Abbiamo passato le due settimane successive a costruire uno strato di sottrazione spettrale su misura — una rete neurale addestrata specificamente sul profilo di rumore di quella struttura — in grado di identificare e rimuovere la firma dell'HVAC prima che l'audio arrivasse al modello di riconoscimento vocale.

È lì che qualcosa è scattato dentro di me. Il vero fossato nell'AI enterprise non è il modello. Oggi tutti hanno accesso a buoni modelli. Il fossato sta nell'elaborazione del segnale — il lavoro poco affascinante e meticoloso di ripulire il mondo reale prima che arrivi al cervello dell'AI.

Al sistema di McDonald's mancava completamente tutto questo. La ricerca di Stanford mostra che gli approcci cross-modali — in cui una telecamera segue i movimenti delle labbra insieme all'audio — possono ridurre i tassi di errore sulle parole dal 28,8% al 12,2% in ambienti rumorosi. È questa la differenza tra un sistema che funziona e un sistema che diventa virale per i motivi sbagliati.

Chi possiede il cervello?

C'è un'altra dimensione del fallimento di McDonald's che non è finita nelle compilation di TikTok ma che conta enormemente: la sovranità dei dati.

McDonald's stava già affrontando una causa ai sensi dell'Illinois Biometric Information Privacy Act per aver presumibilmente raccolto le impronte vocali dei clienti senza consenso. Quando la tua AI gira sul cloud di terze parti, ogni interazione con il cliente — ogni voce, ogni ordine, ogni pattern di preferenze — passa attraverso un'infrastruttura che non controlli.

Non è solo un rischio legale. È un rischio strategico. Il cinquanta per cento dei knowledge worker sta già usando strumenti AI non autorizzati al lavoro, e il 46% dice che continuerà a usarli anche se esplicitamente vietati. Noi lo chiamiamo "Shadow AI", e rappresenta una fuga di dati enorme e invisibile che la maggior parte delle aziende non ha ancora iniziato ad affrontare.

L'alternativa è ciò che chiamiamo intelligenza sovrana: distribuire i modelli all'interno dell'infrastruttura dell'organizzazione stessa, dove i dati non lasciano mai l'edificio. Per l'analisi tecnica completa del deployment di LLM privati e del rischio Shadow AI, ti rimando alla nostra ricerca — ma il principio è lineare. Se non possiedi il cervello, non possiedi il business.

Perché alcuni drive-thru AI funzionano e altri no?

Me lo chiedono di continuo e credo si aspettino una risposta complicata. Non lo è.

I sistemi che funzionano — Wendy's, Taco Bell, White Castle — sono stati costruiti come architetture integrate fin dalle fondamenta. Trattano l'AI come un componente all'interno di un sistema più ampio che comprende elaborazione del segnale, logica di business, percorsi di escalation umana e monitoraggio continuo. L'AI è potente ma vincolata. Opera dentro guardrail che riflettono la fisica reale del business.

Il sistema che ha fallito era appiccicato sopra. Trattava l'AI come un servizio a cui ci si abbona invece che come una capacità da ingegnerizzare. Chiedeva a un modello linguistico di fare tutto — sentire, capire, decidere, eseguire — in un ambiente per cui i modelli linguistici non sono mai stati progettati.

Lo studio Drive-Thru 2025 conferma questa spaccatura. Le corsie alimentate dall'AI sono in media da 22 a 29 secondi più veloci di quelle presidiate da esseri umani e, nonostante punteggi più bassi per la "cordialità", le sedi con AI hanno registrato il 97% di soddisfazione complessiva — sei punti in più rispetto alla media tradizionale. I clienti non hanno bisogno che l'AI sia calorosa. Hanno bisogno che sia corretta.

Nel futuro del fast food, l'ospitalità non si misura dal calore di una voce. Si misura dal fatto che tu riceva ciò che hai davvero ordinato.

La discussione che abbiamo avuto sull'"abbastanza buono"

Voglio condividere una cosa successa internamente in Veriprajna, perché credo illustri una tensione che ogni azienda di AI si trova ad affrontare.

Stavamo progettando un sistema per un cliente e uno dei miei ingegneri senior sosteneva che stessimo sovradimensionando lo strato deterministico. "Il modello è già al 92% di accuratezza", ha detto. "Stiamo passando settimane a costruire regole per casi limite che rappresentano l'8% delle transazioni. Ne vale davvero la pena?"

Ho aperto la compilation TikTok di McDonald's. "Quanti di questi pensi che servano per distruggere un brand?" ho chiesto.

Ha detto due.

Io ho detto uno.

Abbiamo costruito lo strato di regole. Ha aggiunto tre settimane alla timeline. Il cliente non ha avuto un solo incidente virale.

È questo il calcolo che il modello wrapper sbaglia. In laboratorio, il 92% di accuratezza è eccellente. Nel mondo reale, quel tasso di fallimento dell'8% non è distribuito a caso: si concentra sui casi più difficili, sugli ambienti più rumorosi, sui clienti più esasperati. Sono esattamente i momenti che finiscono sui social. Il costo di quell'8% non è proporzionale alla sua frequenza. È esponenziale.

Cosa succede adesso

McDonald's non ha rinunciato all'AI. Ha fatto capire che sta valutando nuovi partner e nuovi approcci. Ma l'esperimento triennale con IBM è finito, e ciò che lascia dietro di sé è una lezione chiara per ogni azienda che sta considerando un deployment di AI.

La fase di sperimentazione è conclusa. L'era in cui si appiccicava un modello linguistico su un processo esistente sperando che andasse bene è finita. Ciò che viene dopo — quella che io chiamerei l'era della Deep AI — richiede qualcosa di più difficile: riprogettare davvero l'architettura dei propri sistemi attorno alle capacità e ai limiti dell'intelligenza delle macchine.

Questo significa nuclei deterministici con bordi probabilistici. Significa possedere la propria infrastruttura. Significa investire nell'elaborazione del segnale con la stessa serietà con cui si investe nella scelta del modello. Significa costruire i percorsi di escalation umana non come ripiego ma come funzionalità. E significa accettare che il lavoro ingegneristico poco affascinante — il filtraggio del rumore, i motori di regole, le librerie di casi limite — è dove vive il vero vantaggio competitivo.

Il divario tra le organizzazioni che lo capiscono e quelle che non lo capiscono sta per diventare permanente. Non perché la tecnologia sia inaccessibile, ma perché la filosofia architetturale richiede un tipo di disciplina che la maggior parte delle organizzazioni preferirebbe saltare.

McDonald's l'ha imparato nel modo più duro, su larga scala, in pubblico. I 260 McNuggets non erano un bug. Erano l'output inevitabile di un sistema che non è mai stato costruito per dire di no.