Perché ho smesso di fidarmi dell'IA e ho iniziato a costruire Oracoli

L'email è arrivata alle 23:47 di un martedì. Un produttore di batterie con cui stavamo parlando aveva appena ritirato una spedizione di celle dalla linea. Non perché avessero fallito un test — ma perché il loro strumento di screening dei materiali assistito dall'IA aveva approvato un elettrolita candidato che, quando un chimico umano ha finalmente fatto i conti, si è rivelato termodinamicamente instabile oltre i 150°C. Il materiale si sarebbe decomposto all'interno di un pacco batteria. La decomposizione avrebbe rilasciato calore. Il calore avrebbe innescato quello che il settore chiama eufemisticamente "thermal runaway" — e che tutti noi altri chiamiamo un incendio.

Nessuno si è fatto male. Ma sono rimasto seduto alla scrivania a fissare quell'email pensando alla parola "plausibile". L'IA non aveva sbagliato in modo evidente. La struttura molecolare che aveva raccomandato sembrava ragionevole. L'energia di formazione che aveva previsto era nell'ordine di grandezza giusto. Era plausibile. Semplicemente non era vera.

Questa distinzione — tra plausibile e vero — è la faglia che attraversa l'intero settore dell'IA in questo momento. Ed è la ragione per cui ho costruito Veriprajna.

L'economia dei wrapper ha un problema di verità

Ecco cosa la maggior parte delle persone non capisce dell'attuale ondata di prodotti IA: la stragrande maggioranza di essi sono sottili livelli di interfaccia — "wrapper" — appoggiati sopra Large Language Model generici. L'LLM predice il token successivo più probabile. Il wrapper lo fa sembrare un'app. L'utente presume di ottenere risposte. Sta ottenendo probabilità.

Per scrivere testi di marketing o riassumere gli appunti di una riunione, va bene. Le probabilità sono sufficienti. Ma le aziende con cui lavoro non hanno il lusso del "abbastanza buono". Producono batterie che finiscono nei veicoli elettrici. Producono contenuti audio che vengono trasmessi in tutto il mondo. Per loro, una risposta plausibile al 99% ma fisicamente impossibile all'1% non è un errore di arrotondamento. È un evento termico o una causa per violazione di copyright.

Quando la tua IA è responsabile di qualcosa che può prendere fuoco o farti finire in tribunale, "statisticamente probabile" non è la stessa cosa di "corretto".

Ho iniziato a chiamare questo fenomeno la biforcazione dell'IA. Da un lato, l'economia dei wrapper — veloce, accessibile, costruita sulla previsione stocastica. Dall'altro, ciò che facciamo in Veriprajna: la Deep AI, dove ogni output viene validato rispetto a regole immutabili prima che un essere umano lo veda. Fisica. Logica. Provenienza. Le cose a cui non importa la distribuzione dei tuoi dati di addestramento.

Cosa succede quando l'IA predice una chimica che non comprende?

Lasciate che lo renda concreto con il problema delle batterie, perché mi perseguita.

Le batterie agli ioni di litio si guastano attraverso una sequenza deterministica di degradazioni chimiche. Inizia intorno agli 80–100°C quando lo strato protettivo sull'anodo — chiamato Solid Electrolyte Interphase — si decompone. Tra i 110 e i 135°C, il separatore fonde e l'elettrolita inizia a scomporsi in gas infiammabili. Oltre i 200°C, il catodo collassa, rilascia ossigeno e si ottiene la combustione.

L'elettrolita è la variabile critica. Gli elettroliti liquidi tradizionali — tipicamente esafluorofosfato di litio disciolto in solventi carbonati — sono chimicamente instabili alle alte temperature. Sono letteralmente la fonte di combustibile nell'evento di combustione. Per prevenire il thermal runaway, specialmente nelle applicazioni ad alta tensione o ad alta temperatura, abbiamo bisogno di elettroliti con energie di decomposizione che li mantengano stabili ben oltre la soglia dei 200°C.

Il problema è trovarli. Lo spazio chimico dei possibili cristalli inorganici contiene una stima di 10^100 combinazioni. Per decenni, gli scienziati dei materiali hanno esplorato questo spazio nel modo in cui Edison testava i filamenti: ipotizzare una struttura, sintetizzarla in laboratorio, testarla, aspettare mesi per i risultati. E l'intuizione umana ci induce a modificare famiglie note — granati, perovskiti — piuttosto che avventurarci in territori compositivi genuinamente nuovi.

Così il settore si è rivolto all'IA. Ha senso. Ma ecco dove è andato storto per molti team: hanno puntato un LLM contro il problema. Un LLM che aveva "letto" milioni di articoli di chimica poteva predire strutture molecolari — ma predice token, non densità elettroniche. Non ha alcun concetto delle regole di valenza, nessuna comprensione delle forze della meccanica quantistica. Può allucinare una struttura cristallina che sembra corretta sulla carta ma viola le leggi della fisica in modi che emergono solo quando provi a costruirla.

È ciò che è accaduto con quell'email a tarda notte. L'IA ha proposto un candidato. Il candidato era plausibile. Non era reale.

L'architettura Oracle: come lo risolviamo davvero

Dopo quell'incidente, io e il mio team abbiamo avuto una conversazione lunga e scomoda su cosa stessimo realmente costruendo. Stavamo costruendo un'IA che genera risposte? Oppure un'IA che scopre la verità?

Abbiamo scelto la verità. E la verità richiede un Oracolo.

La nostra architettura per la scoperta dei materiali abbina GNoME di Google DeepMind — Graph Networks for Materials Exploration — a una rigorosa validazione con la Density Functional Theory. L'intuizione chiave è questa: non usiamo l'IA per rispondere alla domanda. Usiamo l'IA per proporre candidati da un vasto spazio di ricerca, e poi validiamo ognuno di essi rispetto alle leggi della fisica prima che vada da qualche parte.

GNoME tratta le strutture cristalline come grafi — gli atomi sono nodi, i legami chimici sono archi. A differenza di un LLM che elabora testo lineare, GNoME comprende la geometria e la topologia 3D. È progettato per essere ciò che i fisici chiamano E(3)-equivariante, il che significa che le sue previsioni non cambiano se ruoti il cristallo nello spazio. Non è una funzionalità che aggiungi dopo. È un vincolo matematico incorporato nell'architettura. Il modello non può violare la simmetria rotazionale.

Ma anche GNoME è probabilistico. Predice le energie di formazione — l'energia necessaria per assemblare un cristallo dai suoi elementi — ma quelle previsioni portano con sé incertezza. Un cristallo potrebbe sembrare stabile alla rete neurale e tuttavia essere termodinamicamente non competitivo rispetto ad altre fasi possibili.

Perciò abbiamo costruito il livello Oracle.

Perché la validazione DFT è importante per la sicurezza delle batterie?

La Density Functional Theory è un metodo della meccanica quantistica che approssima la soluzione dell'equazione di Schrödinger. Calcola la densità elettronica e l'energia totale con alta precisione. È computazionalmente costoso — un singolo calcolo può richiedere centinaia di ore di CPU — ma non allucina. Risolve equazioni. La risposta è o corretta oppure è un errore numerico che puoi quantificare e delimitare.

Eseguiamo una strategia di validazione a più livelli. I force field di machine learning gestiscono il rilassamento geometrico iniziale — filtrando i candidati che sono palesemente rotti. Poi i calcoli a livello PBE eseguono uno screening ad alto throughput. I sopravvissuti vengono validati con r²SCAN, un funzionale meta-GGA che predice accuratamente le costanti reticolari e le energie di formazione per sistemi fortemente legati. I metalli di transizione ricevono un'ulteriore correzione di Hubbard U per gestire gli errori di auto-interazione negli orbitali d.

Mi rendo conto di avervi appena scaraventato addosso un sacco di gergo fisico. Il punto è più semplice dei dettagli: abbiamo molteplici livelli di simulazione fisica sempre più costosa e accurata, e ogni candidato deve sopravvivere a tutti prima che lo raccomandiamo mai per una batteria.

La metrica che conta di più è quella che chiamiamo "Distanza dalla Hull". Immaginate di tracciare ogni materiale possibile in un dato spazio compositivo su un grafico — la composizione su un asse, l'energia sull'altro. I materiali stabili formano un limite inferiore, uno "scafo convesso" (convex hull). Qualsiasi cosa al di sopra di quello scafo si decomporrà spontaneamente nei materiali che lo compongono. Un materiale con distanza dalla hull pari a zero è lo stato fondamentale termodinamico. Un materiale con distanza superiore a 100 meV/atomo è quasi certamente destinato a disgregarsi — e in una batteria, disgregarsi significa rilasciare calore.

Allo scafo convesso non importa il punteggio di confidenza della tua rete neurale. Un materiale o è termodinamicamente stabile oppure non lo è.

Il volano che diventa più intelligente durante la notte

Ciò che rende questo qualcosa di più di una pipeline monouso è il ciclo di active learning. GNoME genera migliaia di strutture candidate. Selezioniamo quelle che il modello ritiene più promettenti e quelle su cui è più incerto — sfruttamento ed esplorazione simultaneamente. Quelle vanno al cluster DFT. Le energie vere tornano indietro e vengono inserite nel set di addestramento di GNoME. Il modello si riaddestra. La sua fisica interna viene corretta.

Ricordo la prima volta che abbiamo visto salire l'hit rate — la percentuale di materiali proposti dall'IA che si sono effettivamente rivelati stabili dopo la validazione DFT. La ricerca casuale tradizionale si attesta al di sotto dell'1%. Il machine learning standard ti porta forse al 50%. Dopo diversi cicli di active learning, la nostra pipeline guidata da GNoME superava l'80%.

Il mio co-fondatore ha guardato il dashboard e ha detto: "Non sta più tirando a indovinare. Sta imparando cosa significa la stabilità". Quello è stato il momento in cui ho capito che avevamo qualcosa. Non perché il numero fosse impressionante di per sé, ma perché il sistema stava convergendo verso la realtà fisica attraverso l'iterazione, non la memorizzazione.

Ho scritto di questa architettura in modo più approfondito nella versione interattiva della nostra ricerca, se volete vedere l'intero workflow.

L'altro tipo di esplosione: il copyright nell'audio generativo

Ora lasciate che vi racconti di un dominio completamente diverso in cui la stessa filosofia architetturale — proporre, poi validare — ci ha salvati da un tipo diverso di disastro.

Un'azienda media ci ha contattati per generare contenuti audio su larga scala. Avevano una vasta libreria di musica e registrazioni vocali con licenza. Volevano usare l'IA per creare nuovi contenuti da questa libreria — voiceover localizzati, colonne sonore rimixate, quel genere di cose. Avevano sperimentato con strumenti di audio generativo pronti all'uso.

Ho posto una domanda: "Potete dimostrare, per un dato output qualsiasi, esattamente quali fonti con licenza vi hanno contribuito?"

Silenzio.

Questo è il problema della scatola nera nei media generativi. I modelli di diffusione — l'architettura dietro la maggior parte dei generatori di audio e immagini basati sull'IA — vengono addestrati su enormi dataset raccolti da internet. Quando generano un output, attraversano uno spazio latente ad alta dimensionalità per sintetizzare qualcosa di nuovo. L'output è un'amalgama matematica dei dati di addestramento. Non puoi risalire a quali esempi di addestramento hanno influenzato quali parti del risultato.

Per un consumatore che gioca con gli strumenti di musica IA, questa è una curiosità. Per un'azienda media globale, è un rischio legale esistenziale. Se una traccia audio generata contiene un loop di quattro battute identico a una canzone protetta da copyright, l'azienda è responsabile della violazione — anche se nessuno lo intendeva. I tribunali stanno attivamente dibattendo se l'addestramento su dati protetti da copyright costituisca fair use (Andersen contro Stability AI, New York Times contro OpenAI). Un'impresa la cui pipeline di contenuti dipende da questi strumenti potrebbe svegliarsi una mattina e scoprire che la sua intera libreria di asset è legalmente contaminata.

Un'azienda media che non può dimostrare la provenienza dei propri contenuti generati dall'IA sta costruendo sulla sabbia — sabbia legale che si sposta ogni volta che un tribunale emette una sentenza.

Come si costruisce un'IA audio capace di dimostrare la propria innocenza?

Abbiamo respinto completamente il paradigma del "generare dal rumore". Invece, abbiamo costruito ciò che penso come Retrieval-Augmented Generation per l'audio — la stessa mossa concettuale che il RAG ha portato al testo, ma applicata al suono.

La pipeline ha due fasi: decostruzione e ricostruzione.

Per la decostruzione, usiamo Hybrid Transformer Demucs — un modello di separazione delle fonti che prende audio mixato e lo isola in singoli stem: voci, batteria, basso, altri strumenti. L'architettura è una U-Net con skip connection (che preservano i dettagli ad alta frequenza che altrimenti andrebbero persi nella compressione) e un encoder Transformer nel bottleneck che usa la self-attention per analizzare l'intera sequenza audio. Elabora l'audio simultaneamente nel dominio del tempo e nel dominio della frequenza, fondendo le informazioni di entrambi.

Abbiamo eseguito Demucs sull'intero archivio con licenza del cliente. Migliaia di ore di audio mixato, separate in stem puliti e isolati, ciascuno etichettato e indicizzato per caratteristiche audio — timbro, altezza, ritmo. Avevamo trasformato il loro catalogo storico da una raccolta di canzoni finite in una vasta libreria di elementi costitutivi.

Per la ricostruzione — specificamente per i contenuti vocali — usiamo la Retrieval-Based Voice Conversion. Questo è fondamentalmente diverso dal text-to-speech o dalla generazione vocale basata sulla diffusione. La RVC è speech-to-speech: prende una registrazione in ingresso (diciamo, un direttore creativo che legge un copione sul telefono) e trasforma il timbro per corrispondere a una voce target con licenza, preservando al contempo l'intonazione e il ritmo della performance originale.

Il meccanismo critico è nel nome: recupero. Usiamo HuBERT per estrarre dall'input caratteristiche di contenuto indipendenti dal parlante. Poi, per ogni frame, interroghiamo un indice FAISS di vettori di caratteristiche derivati dalle registrazioni del doppiatore con licenza. Recuperiamo i dettagli acustici corrispondenti più prossimi — la respirazione, la risonanza, la specifica qualità vocale — da registrazioni autorizzate reali. L'output suona come la voce target perché abbiamo estratto specifici punti dati dal loro indice con licenza, non perché una rete neurale ha immaginato un'approssimazione.

Non posso sottolineare abbastanza quanto questo conti sul piano legale. In un modello deepfake, la voce target vive come pesi opachi di una rete neurale. Nel nostro sistema, ogni dettaglio acustico risale a una specifica registrazione con licenza e con timestamp. La catena di titolarità è ininterrotta.

La documentazione che viaggia insieme al suono

Generare audio con provenienza pulita è necessario ma non sufficiente. L'asset deve portare con sé la propria prova. Implementiamo lo standard C2PA — Coalition for Content Provenance and Authenticity — che incorpora dati di provenienza a prova di manomissione direttamente nei file multimediali usando la crittografia a chiave pubblica.

Ogni file audio che generiamo viene fornito con un manifesto firmato: l'hash della traccia guida in ingresso, l'ID del modello vocale con licenza, l'intera sequenza di azioni di elaborazione e la versione dello strumento. Qualsiasi utente a valle — una piattaforma di streaming, un'emittente — può validare la firma e confermare che l'asset è stato costruito interamente a partire da fonti autorizzate.

Abbiamo anche adattato lo Structural Similarity Index per il controllo della qualità audio. Confrontando gli spettrogrammi della guida in ingresso e dell'output, individuiamo i casi in cui l'IA ha distorto la performance — saltato una parola, cambiato il ritmo, allucinato una pausa. Tutto ciò che scende sotto la soglia SSIM di 0,95 viene segnalato automaticamente per la revisione umana.

Per l'analisi tecnica completa sia dell'architettura dei materiali sia di quella audio, consultate il nostro paper di ricerca.

E se usassi semplicemente prompt migliori?

Le persone criticano questo approccio. Mi dicono che stiamo sovraingegnerizzando il problema. "Usa semplicemente un modello migliore." "Fai semplicemente il fine-tuning sui dati del tuo dominio." "Aggiungi semplicemente un disclaimer."

Un investitore mi ha detto, senza giri di parole: "Usa semplicemente GPT con un buon system prompt e risparmiati il costo dell'infrastruttura." Gli ho chiesto se avrebbe messo la sua famiglia in un veicolo elettrico il cui elettrolita della batteria fosse stato selezionato da un system prompt. Ha cambiato argomento.

L'obiezione più profonda riguarda il costo e la complessità. Sì, eseguire calcoli DFT su un cluster HPC è più costoso che chiamare un'API. Sì, costruire un database di stem indicizzato con FAISS e firma C2PA è più difficile che puntare un modello di diffusione contro un prompt testuale. Ma la domanda non è se la validazione deterministica sia più costosa della generazione probabilistica. La domanda è se sia più costosa di un richiamo di batterie. O di una causa per copyright che invalidi la tua intera libreria di contenuti.

Altri chiedono se questo approccio sia scalabile. Lo è — è a questo che serve il volano dell'active learning. Il sistema diventa più efficiente a ogni ciclo. L'hit rate sale. Il costo per candidato validato scende. Il database di stem cresce. Non stai solo risolvendo il problema di oggi; stai costruendo un motore che si compone su se stesso.

La fine del turismo dell'IA

Penso che ci troviamo a un punto di svolta. L'era della sperimentazione con l'IA — chatbot nell'atrio, copilot nella barra laterale, wrapper su tutto — sta finendo. Non perché quegli strumenti non siano utili, ma perché le imprese che contano di più stanno ora cercando di mettere l'IA nel cuore delle loro operazioni. Nel laboratorio di R&S. Nello studio di produzione. Nei sistemi in cui il fallimento ha conseguenze misurate in eventi termici e contenziosi, non in risposte imbarazzanti di un chatbot.

In quegli ambienti, la tolleranza per le allucinazioni è zero. Non bassa. Zero.

L'architettura che abbiamo costruito in Veriprajna — per le batterie, per l'audio, per ogni dominio in cui la verità non è negoziabile — poggia su un unico principio: la potenza generativa della rete neurale deve essere rigorosamente subordinata alla potenza verificatrice dell'Oracolo. L'IA propone. La fisica decide. L'IA assembla. La provenienza dimostra. La capacità creativa di questi modelli è straordinaria. Ma la creatività senza responsabilità è solo un tirare a indovinare sofisticato.

Per il produttore di batterie, un'allucinazione è un incendio. Per l'azienda media, un'allucinazione è una causa. L'unica architettura praticabile vincola la generazione con la verifica — ogni volta, senza eccezioni.

Non credo che il futuro dell'IA appartenga ai modelli che generano gli output più convincenti. Credo che appartenga ai sistemi capaci di dimostrare che i loro output sono veri. I vincoli non limitano l'intelligenza. Creano la realtà.