La vostra AI ha sbagliato la matematica di base. Ecco perché è pericoloso.

Il problema

Un tutor AI ha detto a uno studente che 3.750 per 7 fa 21.690. La risposta corretta è 26.250. L'AI non si è solo sbagliata — ha celebrato l'errore. Ha risposto con «Ottimo lavoro nella moltiplicazione! Hai risolto il problema e dimostrato un grande ragionamento!». Quel tutor, Khanmigo, funziona su GPT-4, uno dei modelli di AI più avanzati disponibili oggi.

Non è stato un guasto isolato. I ricercatori hanno documentato casi in cui gli studenti arrivano alla risposta corretta e l'AI prova a convincerli del contrario. Il sistema insiste che la loro logica corretta sia difettosa, inducendo di fatto gli studenti, con un effetto gaslighting, ad accettare soluzioni errate. App per l'apprendimento delle lingue come Duolingo Max hanno mostrato problemi simili. Gli utenti riferiscono che l'AI fabbrica regole grammaticali e giustificazioni matematiche per giustificare i propri errori. L'AI crea un loop in cui assurdità dal suono sicuro si nutrono di sé.

Ora trasferite questo nella vostra sala consiglio. Se un'AI non sa moltiplicare in modo affidabile due numeri, perché dovreste affidarle le vostre dichiarazioni fiscali, l'approvazione dei prestiti o i report di conformità? La stessa tecnologia che alimenta quel tutor alimenta gli strumenti AI che i vendor stanno vendendo proprio ora ai vostri team finance e legali. L'architettura che ha elogiato una risposta matematica sbagliata è la stessa architettura a cui viene chiesto di gestire i vostri workflow regolamentati.

Perché questa questione riguarda la vostra azienda

L'esposizione finanziaria e regolamentare qui è concreta, non teorica.

Un sistema che dà risposte corrette nel 99% dei casi suona impressionante. Ma considerate ciò che il whitepaper chiama un «foglio di calcolo stocastico»: uno che calcola correttamente i vostri ricavi nel 99% dei casi, ma fabbrica una cifra nell'1% dei casi. Non è uno strumento di produttività. È un generatore di responsabilità. In un report finanziario trimestrale con centinaia di voci, un tasso di errore dell'1% significa più numeri sbagliati a ogni singolo ciclo.

Ecco cosa significa per la vostra organizzazione:

• Violazioni di conformità. In uno scenario documentato, sistemi di AI puri hanno approvato prestiti basandosi sul linguaggio emotivo delle dichiarazioni personali, ignorando le soglie debito/reddito. I vostri regolatori non accetteranno «l'AI si è sentita persuasa» come spiegazione.
• Esposizione legale. Gli strumenti legali assistiti da AI hanno citato giurisprudenza allucinata — cause giudiziarie che non esistono. Se il vostro avvocato esterno presenta un atto con citazioni fabbricate, la reputazione del vostro studio è in gioco.
• Accuratezza aritmetica inferiore al 40%. Su compiti complessi, i modelli AI standard senza alcuna guida scendono sotto il 40% di accuratezza aritmetica. Anche con tecniche di prompting passo-passo, gli errori dei primi passaggi si propagano a cascata attraverso l'intero calcolo.
• Rischio di sovranità dei dati. Se i vostri dati finanziari sensibili, il codice proprietario o i fascicoli del personale transitano dall'interfaccia di una startup verso un modello AI pubblico, avete creato una superficie di esposizione alle fughe di dati inaccettabile.

Il vostro board vuole avere la certezza che le decisioni guidate dall'AI siano verificabili. Il vostro direttore legale deve poter dimostrare la conformità. Il vostro CFO ha bisogno di numeri di cui ci si può fidare. Oggi, l'architettura AI più diffusa non può garantire nessuna di queste cose.

Cosa succede davvero sotto il cofano

Ecco perché i sistemi AI falliscono in compiti che sembrano semplici. I Large Language Model — la tecnologia dietro ChatGPT, GPT-4 e gran parte degli strumenti AI aziendali — in realtà non calcolano nulla. Prevedono la parola successiva.

Pensatela così. Quando chiedete a una calcolatrice quanto fa 3.750 per 7, essa esegue l'operazione su un chip progettato per la matematica. Quando ponete la stessa domanda a un'AI, sta facendo qualcosa di completamente diverso. Sta chiedendo: «In base a tutto il testo che ho letto, quali parole seguono di solito dopo “3.750 per 7 fa”?». Fa pattern-matching, non calcola. Genera un testo che sembra una risposta matematica senza mai fare matematica.

Il whitepaper chiama questo la disconnessione tra forma e funzione. L'AI può usare parole come «dunque» e «di conseguenza» senza svolgere alcun vero ragionamento logico. Imita la sintassi del pensiero senza fare il lavoro di pensare. Il premio Nobel Daniel Kahneman ha descritto due modalità del pensiero umano: Sistema 1 (rapido, intuitivo) e Sistema 2 (lento, logico). Gli attuali modelli AI sono puro Sistema 1. Operano su intuizione e riconoscimento di pattern. Ma la vostra azienda ha bisogno del Sistema 2 — il ragionamento deliberato, passo-passo, che intercetta gli errori prima che raggiungano i vostri clienti.

È anche per questo che il problema non si risolve facendo modelli più grandi. Il whitepaper descrive un «paradosso del compleanno» per l'AI: se un dato specifico compare una sola volta nei dati di addestramento dell'AI, il modello lo tratta come rumore. Ingrandire il modello non risolve il problema. I vostri dati aziendali rari ma critici — la soglia di conformità esatta, la clausola contrattuale specifica — sono esattamente il tipo di fatto in cui questi sistemi sbagliano.

Cosa funziona (E cosa non funziona)

Cominciamo da ciò che non risolve questo problema.

Prompt engineering — elaborare istruzioni ingegnose per l'AI — è come sussurrare ai dadi sperando di ottenere un numero specifico. Cerca di sovrascrivere con comandi superficiali la natura indovinante del sistema. Non cambia il modo in cui il sistema funziona.

Prodotti «wrapper» — app che mettono un'interfaccia più raffinata sul modello AI di qualcun altro — non aggiungono vera intelligenza. Rivendono una capacità che non possiedono. Quando il provider del modello aggiunge nativamente la stessa funzionalità, l'azienda wrapper diventa obsoleta. Il vostro investimento svanisce.

Modelli più grandi — aumentare la scala non elimina il problema di fondo. Un motore di pattern-matching più grande resta pur sempre un motore di pattern-matching. Continua a non calcolare. Continua a tirare a indovinare.

Ciò che funziona davvero è separare la capacità linguistica dell'AI dalla logica di cui la vostra azienda ha bisogno. Veriprajna chiama questo l'approccio «Voice» e «Brain» — un' architettura neuro-simbolica che impone vincoli e regole al fianco della capacità conversazionale dell'AI.

Ecco come funziona in tre passaggi:

1. Traduzione. Il vostro utente pone una domanda in linguaggio naturale. L'AI converte quella domanda in codice davvero eseguibile — non in una risposta testuale. Ad esempio, una domanda sugli interessi di un prestito diventa una formula reale: principal * (1 + rate) ** years.
2. Esecuzione. Quel codice gira su un motore deterministico — un sistema che calcola come calcola una calcolatrice. Per l'esempio del prestito ($50.000 al 5% con capitalizzazione annua per 3 anni), il motore restituisce esattamente $57.881,25. Ogni volta. Nessuna supposizione.
3. Risposta. L'AI prende quel risultato verificato e scrive per il vostro utente una risposta chiara e leggibile.

Per settori regolamentati come i servizi finanziari, esiste un livello aggiuntivo. Regole rigide — come «se il richiedente ha meno di 21 anni nello Stato di New York, non potete approvare un prestito commerciale» — sono codificate come vincoli logici. Se la risposta proposta dall'AI viola una regola, il sistema oppone un veto all'output prima che raggiunga chiunque. Il sistema diventa fisicamente incapace di approvare una decisione non conforme, per quanto persuasivo sia l'input.

Il vantaggio decisivo per il vostro team di conformità: ogni passaggio viene registrato. Il codice generato dall'AI, l'output dello strumento e la traccia logica creano una traccia di audit immutabile. I vostri responsabili della conformità possono vedere esattamente perché l'AI ha preso una specifica decisione. Questa è la differenza tra un sistema costruito per il monitoraggio continuo e le tracce di audit e una black box in cui bisogna credere sulla fede.

Questo approccio ha raggiunto il 100% di aderenza ai criteri di credito regolamentari in un'implementazione di elaborazione dei prestiti. Nella ricerca legale ha prodotto zero citazioni allucinate nelle bozze in produzione. Questi risultati non sono magia. Derivano dall'instradare ogni affermazione fattuale attraverso un sistema di verifica che non indovina.

Potete sostituire il modello AI sottostante — passare da un provider a un altro — senza ricostruire il vostro layer di logica. Il vostro investimento in regole, workflow e conoscenza del dominio resta intatto. È questo che rende questo approccio durevole là dove i prodotti wrapper sono fragili.

Leggete l'analisi tecnica completa per l'architettura dettagliata, oppure esplorate la versione interattiva per una visita guidata.