L'AI che la vostra azienda ha comprato probabilmente vi sta mentendo — ecco cosa stiamo costruendo al suo posto

Qualche mese fa, mi sono seduto di fronte a una direttrice degli acquisti di un'azienda manifatturiera Fortune 500. Aveva speso 2,3 milioni di dollari per un sistema di selezione dei fornitori basato sull'AI — una di quelle piattaforme accattivanti che promettevano di "rivoluzionare il sourcing con la potenza di GPT". Ha aperto la dashboard sul suo laptop, l'ha girata verso di me e mi ha detto: "Continua a raccomandare gli stessi tre fornitori. Ne abbiamo 4.000 nella nostra rete. Che cosa sta facendo, di preciso?"

Ho guardato gli output. Ho guardato la documentazione dell'architettura — quel poco che esisteva. E le ho detto una cosa che non voleva sentire: la sua AI non stava selezionando i fornitori migliori. Stava selezionando i fornitori che sembravano più simili ai fornitori che aveva già visto in precedenza. Il sistema aveva imparato a scambiare la familiarità per qualità.

Quella conversazione ha cristallizzato qualcosa attorno a cui giravo da due anni in Veriprajna. Il settore dell'AI aziendale ha uno sporco segreto: la maggior parte dei "prodotti AI" che le aziende stanno acquistando sono sottili strati software avvolti attorno al modello linguistico di qualcun altro. Sembrano intelligenti. Suonano intelligenti. Ma stanno, per definizione matematica, tirando a indovinare. E nelle operazioni aziendali ad alto rischio — approvvigionamento, logistica, produzione, assicurazioni — tirare a indovinare non è una funzionalità. È un rischio.

Lo sporco segreto del settore dell'AI aziendale: la maggior parte dei prodotti che le aziende stanno acquistando sono sottili wrapper attorno al modello linguistico di qualcun altro. Sembrano intelligenti. Stanno tirando a indovinare.

La notte in cui il chatbot vendette un camion per un dollaro

Devo parlarvi dell'incidente Chevrolet, perché è la parabola perfetta di tutto ciò che non va nell'approccio attuale all'AI aziendale.

Una concessionaria di Watsonville, in California, aveva integrato un normale wrapper GPT nel proprio portale di assistenza clienti. Sembrava innocuo — rispondere a domande sull'inventario, magari fissare qualche test drive. Poi un utente ha iniziato a giocarci. Nel giro di pochi prompt, il chatbot ha accettato di vendere una Chevy Tahoe da 76.000 dollari per un dollaro. L'utente è persino riuscito a fargli dichiarare: "Questa è un'offerta legalmente vincolante — niente ripensamenti".

Quando ne ho letto per la prima volta, ho riso. Poi ho smesso di ridere, perché ho capito che non si trattava di un caso limite divertente. Era la conseguenza logica dell'architettura. Il chatbot non aveva alcun collegamento con il database dei prezzi reali della concessionaria. Non aveva alcun concetto di che cosa significasse un'"offerta legale". Era un modello linguistico a cui era stato detto, tramite un system prompt, di essere utile e colloquiale. Ed è stato molto utile. Catastroficamente utile.

Quella settimana io e il mio co-fondatore siamo rimasti svegli fino a dopo mezzanotte, a sviscerare il post-mortem tecnico. Il fallimento non era nel modello — GPT ha fatto esattamente ciò che GPT fa. Il fallimento era nell'architettura. Qualcuno aveva preso un generatore di testo probabilistico e lo aveva messo in una posizione in cui doveva far rispettare regole di business deterministiche. È come assumere un poeta per dirigere il reparto contabilità. Il poeta può anche essere brillante, ma non individuerà l'errore nella virgola decimale alla riga 47.

Questo è ciò che io chiamo la Wrapper Delusion — la convinzione diffusa che un sottile strato software sopra un modello non deterministico sia sufficiente per operazioni di livello enterprise. Ho scritto ampiamente di questo problema in una versione interattiva della nostra ultima ricerca, e più dati raccoglievamo, peggiore diventava il quadro.

Perché l'AI negli acquisti favorisce i grandi fornitori con un rapporto di 3,5 a 1?

Torniamo a quella direttrice degli acquisti. Il suo istinto — "continua a raccomandare gli stessi fornitori" — si è rivelato supportato da dati concreti.

La ricerca ha rivelato che i sistemi di approvvigionamento guidati dall'AI favoriscono i fornitori più grandi e storici rispetto alle imprese più piccole o di proprietà di minoranze con un margine di 3,5:1. Rileggetelo. Per ogni piccolo fornitore qualificato che l'AI porta in evidenza, ne raccomanda tre e mezzo grandi e già affermati.

Il meccanismo è insidioso. La maggior parte delle AI per gli acquisti si addestra su dati storici di acquisto. Le grandi aziende esistono da più tempo, hanno più transazioni nel dataset e producono segnali digitali più "puliti" perché hanno avuto l'infrastruttura per farlo. L'algoritmo non impara chi è il migliore. Impara chi è più rappresentato. Il volume storico diventa un proxy dell'affidabilità — il che è come giudicare un ristorante da quante volte ci siete passati davanti.

Ricordo di aver discusso di questo con un data scientist del mio team. La sua posizione era che il bias fosse un problema di dati, non di architettura. "Procurati dati di addestramento migliori", ha detto. Io ho ribattuto: anche con dati perfetti, un modello correlazionale troverà qualche proxy della dimensione, perché la dimensione correla con decine di altre caratteristiche. Non potete eliminare il bias da un sistema che opera fondamentalmente sulla correlazione. Dovete cambiare la domanda che il sistema si sta ponendo.

Non potete eliminare il bias da un sistema che opera fondamentalmente sulla correlazione. Dovete cambiare la domanda che il sistema si sta ponendo.

È stato allora che ci siamo impegnati sulla Causal AI. Invece di chiedere "Chi ha già ottenuto contratti in passato?", i nostri Structural Causal Models chiedono: "Le metriche di performance di questo fornitore di proprietà di minoranze sarebbero considerate superiori se rimuovessimo matematicamente la variabile confondente del volume storico?". È ragionamento controfattuale — l'AI immagina un mondo in cui il campo di gioco era livellato, e valuta i fornitori sulla base di quel mondo.

La differenza non è incrementale. È la differenza tra un sistema che perpetua l'esclusione e uno che scopre attivamente talenti trascurati. Ed è la differenza tra una catena di fornitura fragile e dipendente da tre mega-fornitori e una resiliente che attinge a un ecosistema diversificato.

Che cosa succede quando il 77% delle AI logistiche non sa spiegarsi?

Il bias negli acquisti è una crisi. Il deficit di trasparenza nella logistica è un'altra, e potrebbe essere più pericolosa perché è invisibile finché qualcosa non si rompe.

Ecco il numero che mi tiene sveglio la notte: solo il 23% dei sistemi logistici basati sull'AI fornisce una spiegabilità significativa delle decisioni. Ciò significa che per oltre tre quarti delle operazioni guidate dall'AI — ottimizzazione dei percorsi, allocazione delle scorte, previsione della domanda — le persone responsabili non hanno alcuna comprensione chiara del perché il sistema abbia formulato una specifica raccomandazione.

Ho parlato con un chief supply chain officer che l'ha descritto alla perfezione: "Ho un investimento di 40 milioni di dollari in AI che mi dà risposte che non posso mettere in discussione e spiegazioni che non riesco a capire. Quando ha ragione, sembro un genio. Quando ha torto, non riesco nemmeno a capire che cosa sia successo".

Non è solo frustrante — è economicamente devastante. La scarsa qualità dei dati e la mancanza di trasparenza fanno perdere alle aziende tra il 15% e il 25% del fatturato a causa di errori sistemici nelle sole operazioni in entrata. Ed è il motivo principale per cui il 42% dei leader della logistica sta frenando sull'agentic AI — sistemi autonomi in grado di eseguire decisioni senza approvazione umana. Non potete consegnare le chiavi a un agente autonomo se non potete verificare che cosa sta facendo.

La vedo così: il settore della logistica ha costruito una flotta di camion a guida autonoma, ma si è dimenticato di installare i parabrezza. I camion magari stanno andando nella direzione giusta. Semplicemente, non potete vedere dove sono diretti.

La trappola stocastica — e perché i "prompt più intelligenti" non vi salveranno

A questo punto le persone mi contestano sempre. "Ashutosh, non puoi semplicemente progettare prompt migliori? Aggiungere più guardrail? Fare fine-tuning del modello?"

No. Ed ecco perché.

I Large Language Model sono, per loro natura matematica, stocastici — predicono il token successivo più probabile in una sequenza sulla base di schemi statistici presenti nei loro dati di addestramento. Non hanno un concetto di "verità". Non ragionano sulla logica. Producono testo che è statisticamente plausibile, il che è molto diverso da un testo corretto.

Un LLM può rispondere correttamente a mille domande sulle regole di approvvigionamento, e poi allucinare una clausola di sconto inesistente alla milleunesima. Il tasso di allucinazione in ambiti ad alto rischio oscilla tra l'1,5% e il 6,4%. Sembra poco finché non ci si rende conto che significa che circa una decisione critica su venti potrebbe basarsi su informazioni inventate.

Il prompt engineering — la pratica di elaborare istruzioni ingegnose per orientare il modello — è come mettere un cartello su un fiume chiedendogli di scorrere in salita. Il cartello può funzionare quando la corrente è debole. Ma nel momento in cui le condizioni cambiano — una query insolita, un utente ostile, uno spostamento sottile del contesto — l'acqua va dove impone la fisica.

Il chatbot Chevrolet aveva dei guardrail. Aveva un system prompt che gli diceva di essere utile ma di restare entro le politiche della concessionaria. Un utente creativo ha aggirato tutto in meno di cinque minuti. Perché a livello architetturale il system prompt e il prompt dell'utente sono solo... testo. Il modello li elabora come un blocco unico. Non esiste alcuna separazione strutturale tra "regole" e "conversazione".

Il prompt engineering è come mettere un cartello su un fiume chiedendogli di scorrere in salita. Funziona finché non funziona più — e nell'AI aziendale, quel "finché non funziona più" può costare milioni.

Che cosa stiamo costruendo davvero al suo posto

Quando ho fondato Veriprajna, ho scelto il nome deliberatamente — "Veri" dal latino per verità, "Prajna" dal sanscrito per saggezza. Non perché volessi un nome di marca ad effetto, ma perché quei due concetti definiscono l'architettura tecnica in cui crediamo: sistemi che siano verificabilmente corretti e contestualmente saggi.

Chiamiamo il nostro approccio Neuro-Symbolic Architecture, e l'idea centrale è ingannevolmente semplice: non lasciare mai che sia il modello linguistico a prendere la decisione finale.

Ecco come funziona nella pratica. Quando il nostro motore neurale propone una risposta — diciamo, la raccomandazione di un fornitore o un percorso logistico — quell'output passa attraverso uno strato di verifica simbolica prima di raggiungere chiunque. Questo strato interroga un Knowledge Graph che contiene l'effettiva fonte di verità dell'azienda: contratti legali, database dei prezzi, specifiche ingegneristiche, requisiti normativi. Ogni affermazione fatta dallo strato neurale viene confrontata con prove concrete.

Se il modello tenta di allucinare un vantaggio del fornitore che non esiste nel grafo dei contratti, il validatore simbolico lo intercetta. Non a volte. Ogni volta. L'architettura rende l'allucinazione strutturalmente impossibile per i fatti ancorati ai dati — otteniamo il 100% di precisione nell'estrazione dei dati, rispetto al 63–95% dei modelli standalone come GPT-4.

Implementiamo anche ciò che chiamiamo Constitutional Guardrails — ed è qui che la cosa si fa interessante. I wrapper tradizionali cercano di prevenire gli output errati usando istruzioni testuali. Noi preveniamo gli output errati usando il constrained decoding, in cui l'output del modello è matematicamente vincolato a uno schema specifico o a un'ontologia di dominio. Nel contesto degli acquisti, l'AI letteralmente non può produrre un punteggio di un fornitore che violi la costituzione di equità dell'azienda. Lo strato di decoding rifiuta qualsiasi sequenza di token che introduca un bias illegale. Non è un suggerimento al modello. È un vincolo fisico su ciò che può dire.

Per l'analisi tecnica completa di come questi strati interagiscono — i Knowledge Graph, i modelli di Causal AI, il constrained decoding — consultate il nostro approfondimento tecnico.

Dove tutto questo diventa reale: fabbriche, fattorie e frodi

Voglio portarvi in tre luoghi dove la differenza tra "AI wrapper" e "Deep AI" non è accademica — è fisica.

In fabbrica, un sistema di ispezione AI basato su cloud affronta 800 millisecondi di latenza. Sembra veloce, finché non si capisce che un nastro trasportatore che si muove a 2 metri al secondo ha già portato il pezzo difettoso 1,6 metri oltre il punto di ispezione. I nostri modelli edge-native, distribuiti direttamente sull'hardware della linea di produzione, rispondono in 12 millisecondi — una riduzione del 98,5%. Eseguiamo persino modelli acustici su microcontrollori specializzati che rilevano la firma spettrale di un cuscinetto in avaria in 5 millisecondi, attivando un kill-switch fisico prima che la macchina si distrugga. Ricordo la prima volta che l'abbiamo dimostrato a un direttore di stabilimento in un ambiente reale. L'allarme di guasto del cuscinetto è scattato prima ancora che il sensore di vibrazione registrasse un'anomalia. Lui ha fissato il display per un lungo istante e ha detto: "Questa non è AI. È un sesto senso". È stata la prima volta in cui ho avuto la sensazione di aver superato il confine tra il software e qualcosa che comprendeva davvero la fisica del problema.

In agricoltura, le fotocamere standard non riescono a vedere che cosa sta uccidendo le colture finché non è troppo tardi. Costruiamo architetture neurali su misura che elaborano dati iperspettrali — oltre 200 bande di luce, ben oltre ciò che l'occhio umano può rilevare. Modellando l'interferenza atmosferica e rimuovendola computazionalmente, possiamo identificare carenze nutrizionali o infestazioni di parassiti giorni prima che diventino visibili, consentendo una riduzione del 60% dei costi di pre-visualizzazione.

Nelle assicurazioni, sostituiamo la classificazione generica delle immagini con la computer vision forense: segmentazione semantica per identificare i confini esatti del danno a livello di pixel, stima monoculare della profondità per calcolare il volume dell'ammaccatura senza uno scanner 3D e analisi della riflessione speculare per rilevare le foto manipolate. L'AI non tira a indovinare se un sinistro sia fraudolento. Vi mostra la fisica del perché gli schemi luminosi nell'immagine sono incoerenti.

Come capire se l'architettura della vostra AI è difettosa?

C'è una domanda che mi viene posta in quasi ogni briefing con i dirigenti, di solito formulata con un misto di scetticismo e preoccupazione genuina: "Abbiamo già investito milioni nel nostro attuale stack AI. Come faccio a sapere se c'è davvero un problema?"

Ecco la mia risposta onesta: se il vostro sistema AI non sa dirvi perché ha preso una determinata decisione, con citazioni di specifici punti dati, allora c'è un problema. Se i numeri sulla diversità dei fornitori della vostra AI per gli acquisti non sono migliorati dal momento del deployment, c'è un problema. Se il vostro team operativo ha sviluppato soluzioni alternative — fogli di calcolo che tiene accanto al sistema AI "per ogni evenienza" — c'è un problema.

Le soluzioni alternative sono la spia. Sono entrato in organizzazioni dove la dashboard dell'AI è su un monitor e il foglio di calcolo di supporto decisionale "vero" è sull'altro. Nessuno ne parla apertamente. Ma significa che il team non si fida del sistema, e fa bene a non fidarsi.

Un'altra domanda che sento: "Non è solo una questione di maturità? I modelli non miglioreranno?". Miglioreranno nel linguaggio. Non miglioreranno nella verità. Un LLM più potente è un indovino più convincente, non più affidabile. È l'architettura che deve cambiare.

Il crollo di Sports Illustrated e la posta in gioco quando si sbaglia

Tengo uno screenshot sul desktop come promemoria. Risale a novembre 2023, quando Sports Illustrated — un'istituzione mediatica di 70 anni — fu colta a pubblicare articoli firmati da autori falsi, generati dall'AI. Nomi come "Drew Ortiz", completi di foto ritratto fabbricate e biografie inventate. I contenuti erano robotici, tautologici e pubblicati senza alcuno strato di verifica.

Il risultato: un crollo del 27% del prezzo delle azioni in un solo giorno. Revoca della licenza. Licenziamenti di massa. Un marchio storico, svuotato.

L'LLM ha fatto esattamente ciò che fanno gli LLM — ha completato schemi. La biografia di un autore è una componente statisticamente probabile di una recensione di prodotto, quindi il modello ne ha generata una. Una foto ritratto accompagna la biografia dell'autore, quindi qualcuno ha generato anche quella. Nessuno ha costruito un sistema che si chiedesse: "Questa persona esiste? Questo contenuto è verificato nei fatti? Possiamo ricondurre ogni affermazione a una fonte?"

Questo è il costo della Wrapper Delusion su larga scala. Non un divertente incidente con un chatbot. Un evento di estinzione aziendale.

Perché non potete semplicemente continuare a usare l'API?

C'è una dimensione finale in tutto questo di cui la maggior parte dei fornitori di AI non vuole parlare: la sovranità dei dati.

Quando la vostra azienda si affida a un'API di terze parti — OpenAI, Google, Anthropic — state affittando un'intelligenza che non controllate. Non avete alcuna visibilità sui dati di addestramento del modello. Non ricevete alcun preavviso quando il fornitore aggiorna i pesi, il che può cambiare silenziosamente il comportamento del vostro sistema (questo si chiama model drift, ed è un incubo per i settori regolamentati). Non avete alcuna garanzia che i vostri dati proprietari — segreti industriali, informazioni sui clienti, intelligence competitiva — non vengano elaborati su un'infrastruttura che non potete verificare.

Noi distribuiamo modelli enterprise sovrani sull'infrastruttura di proprietà dei nostri clienti. Nessun dato lascia il firewall. Nessuna dipendenza esterna. Controllo completo del ciclo di vita, compreso il fine-tuning personalizzato su ontologie proprietarie e vincoli normativi.

È più costoso all'inizio rispetto a un abbonamento a un'API. È infinitamente più economico di una violazione dei dati, di una sanzione normativa, o della scoperta che il comportamento della vostra AI è cambiato perché un fornitore a San Francisco ha rilasciato un aggiornamento un martedì pomeriggio.

La finestra dei 18 mesi

Ecco dove sarò diretto, perché credo che la tempistica conti.

Le organizzazioni che passeranno ad architetture AI deterministiche nel 2026 avranno una finestra di 12-18 mesi di autentica differenziazione competitiva. Dopodiché, questo approccio diventerà il requisito minimo — l'aspettativa di base per l'AI aziendale nei settori regolamentati.

Il bias di 3,5:1 negli acquisti non si sistemerà da solo. Il tasso di spiegabilità del 23% non migliorerà con un prompting migliore. Il problema delle allucinazioni non sparirà con la prossima release di un modello. Sono fallimenti architetturali, e richiedono soluzioni architetturali.

Non sto dicendo che ogni azienda debba costruire ciò che abbiamo costruito noi. Sto dicendo che ogni azienda deve capire che cosa ha effettivamente comprato. Aprite il cofano. Chiedete al vostro fornitore: dov'è lo strato di verifica? Dov'è il knowledge graph? Che cosa succede quando il modello allucina — c'è un vincolo strutturale, o solo un prompt che dice "per favore non allucinare"?

Se la risposta è un prompt, non avete un sistema di AI. Avete una cassetta dei suggerimenti molto costosa.

Se la risposta del vostro fornitore di AI alla domanda "come prevenite le allucinazioni" è un prompt migliore, non avete un sistema di AI. Avete una cassetta dei suggerimenti molto costosa.

L'era dell'AI aziendale probabilistica sta finendo — non perché i modelli non siano impressionanti, ma perché impressionante non è sinonimo di affidabile, e nell'impresa l'affidabilità è l'unica cosa che conta. Non stiamo costruendo un'AI che suona giusta. Stiamo costruendo un'AI che è giusta, e può dimostrarlo.

Questo non è un pitch. È un requisito ingegneristico. E le imprese che lo riconosceranno per prime saranno quelle ancora in piedi quando i wrapper crolleranno.