Una password predefinita ha esposto 64 milioni di record di assunzione gestiti dall'IA

Il problema

Il chatbot di assunzione basato sull'IA di McDonald's, "Olivia", ha esposto i dati personali di 64 milioni di candidati. La password di amministratore che proteggeva il sistema era "123456". Non è una semplificazione: nome utente e password erano entrambi letteralmente "123456", e l'account era rimasto privo di monitoraggio dal 2019, senza autenticazione a più fattori.

I ricercatori di sicurezza Ian Carroll e Sam Curry hanno scoperto la vulnerabilità a giugno 2025. Avevano iniziato a indagare dopo aver notato diffuse lamentele degli utenti su interfacce difettose — un segnale che spesso indica trascuratezze architetturali più profonde. Una volta effettuato l'accesso al portale di gestione con quelle credenziali predefinite, hanno scoperto un secondo difetto. L'API della piattaforma — lo strato software che collega sistemi diversi — non verificava se un utente fosse autorizzato a visualizzare record specifici. Cambiando semplicemente i numeri ID dei candidati nella barra degli indirizzi del browser, i ricercatori potevano richiamare le pratiche complete e i registri delle chat di milioni di candidati reali.

I dati esposti includevano nomi, indirizzi email, numeri di telefono, indirizzi IP, trascrizioni di colloqui virtuali e risultati di valutazioni della personalità. Non si è trattato di un sofisticato attacco informatico orchestrato da uno Stato. È stato un collasso dell'igiene di sicurezza di base alla porta d'ingresso del vostro fornitore di IA. Se la vostra organizzazione fa affidamento su strumenti di IA di terze parti, questa violazione dovrebbe preoccuparvi profundamente. La sicurezza di un'azienda Fortune 100 dipendeva interamente dalle pratiche relative alle credenziali del suo fornitore.

Perché questo riguarda la vostra azienda

L'esposizione finanziaria e legale di questo tipo di violazione è sconcertante. Il costo medio di una violazione dei dati nel 2025 ha raggiunto i 4,44 milioni di dollari. Ma il vero moltiplicatore di rischio, qui, è normativo.

È probabile che la vostra organizzazione rientri almeno in uno di questi quadri normativi:

• GDPR può imporre multe fino a €20 milioni o al 4% del fatturato globale annuo — a seconda di quale importo sia più alto.
• CCPA consente il risarcimento per danni previsti per legge di $750 per consumatore per incidente. Moltiplicateli per 64 milioni di record e vi troverete di fronte a una potenziale esposizione ad azioni collettive nell'ordine delle decine di miliardi.
• L'EU AI Act classifica l'IA applicata al reclutamento come "alto rischio" e può applicare sanzioni fino a €35 milioni o al 7% del fatturato globale.

Una password predefinita come "123456" è senz'altro l'opposto delle "procedure di sicurezza ragionevoli" richieste dal CCPA. Questo singolo fatto potrebbe diventare il fulcro di una causa collettiva contro la vostra azienda — anche se la password apparteneva al vostro fornitore, non al vostro team.

Oltre alle multe, il costo umano è reale. La ricerca mostra che il 70% delle vittime di violazioni dichiara di non riuscire più a fidarsi degli altri. Due terzi provano profondi sentimenti di impotenza. Le vittime riferiscono disturbi del sonno (85%), aumento dello stress (77%) e mal di testa cronici (57%). Quando i dati divulgati includono risultati di test della personalità — documenti che pretendono di quantificare il carattere interiore di una persona — il danno psicologico va molto oltre quella di un numero di carta di credito rubato. Le carte di credito possono essere bloccate. Un profilo della personalità divulgato segue una persona indefinitamente.

Il vostro consiglio di amministrazione deve sapere che il rischio legato ai fornitori di IA non è più un problema IT. È un problema finanziario, legale e di reputazione che finisce nel vostro bilancio.

Cosa succede davvero sotto il cofano

Il problema centrale è ciò che il settore chiama il modello "AI wrapper". Pensatelo così: immaginate di aver assunto un consulente brillante ma di avergli assegnato un ufficio con la serratura rotta, nessun badge di sicurezza e un armadio di archiviazione che si apre per chiunque entri. Il consulente fa un ottimo lavoro, ma l'edificio intorno a lui è completamente aperto.

È ciò che è successo con il chatbot di IA di McDonald's. L'IA conversazionale funzionava come previsto. "Olivia" poteva selezionare i candidati, fissare i colloqui ed eseguire le valutazioni della personalità. Ma l'infrastruttura intorno ad essa — i portali di amministrazione, i controlli di accesso alle API, la gestione delle credenziali — era porosa.

La vulnerabilità sfruttata era un difetto IDOR — Insecure Direct Object Reference. In termini semplici, il sistema consentiva a chiunque fosse connesso di accedere a qualsiasi record semplicemente cambiando un numero nell'URL. Non esisteva alcun controllo per verificare se quell'utente avesse il diritto di vedere i dati di quello specifico candidato.

Ad aggravare il quadro, gli investigatori hanno scoperto che uno sviluppatore di Paradox.ai in Vietnam era stato infettato da un malware denominato "Nexus Stealer". Questo singolo dispositivo compromesso ha divulgato centinaia di password — molte riutilizzate e deboli — di account collegati a clienti tra cui Pepsi, Lockheed Martin, Lowes e Aramark. Le cattive abitudini in materia di password di un solo sviluppatore hanno esposto diverse aziende Fortune 500.

Questo è il problema del "nodo umano". Il vostro modello di IA può essere tecnicamente solido. Ma se le persone che lo gestiscono riutilizzano le password e rinunciano all'autenticazione a più fattori, la sicurezza dell'intero vostro stack di IA collassa alla solidità del suo più debole anello umano.

Cosa funziona (e cosa no)

Iniziamo con ciò che non vi protegge:

• Firewall aggiunti a posteriori, da soli. Un web application firewall standard non comprende le minacce specifiche dell'IA come il prompt injection o la manipolazione dei riferimenti agli oggetti. Sorveglia la porta d'ingresso mentre le finestre laterali restano aperte.
• Governance improvvisata. Se il vostro fornitore di IA non è in grado di mostrarvi un ciclo di vita delle credenziali documentato — incluso il modo in cui dismette i vecchi account — siete esposti. L'account di amministrazione di McHire è rimasto attivo e privo di monitoraggio per sei anni.
• Fidarsi della parola del fornitore. La sicurezza del vostro marchio Fortune 100 dipendeva interamente dal fatto che uno sviluppatore terzo, in un altro paese, usasse una password robusta. Questa non è governance. È speranza.

Ecco cosa funziona davvero — una difesa a strati che considera ogni parte del vostro sistema di IA come potenzialmente compromessa:

1. Validazione dell'input (il guardiano). Ogni prompt e ogni richiesta che entra nel vostro sistema di IA viene ripulito e normalizzato. Questo strato elimina la sintassi simile a codice e la formattazione che potrebbero essere interpretate come comandi nascosti. Individuate le minacce prima che raggiungano il modello.

2. Verifica multi-modello (il buddy system). Un modello "canary" più piccolo analizza ogni richiesta alla ricerca di intenti dolosi prima che la vostra IA principale la elabori. Se il canary segnala qualcosa di sospetto, un secondo modello adjudicator prende la decisione finale. Ne risulta un sistema di contrappesi — nessun singolo modello detiene un'autorità priva di controlli.

3. Validazione e redaction dell'output (il filtro). Ogni risposta dell'IA è trattata come output non attendibile. Classificatori analizzano il contenuto alla ricerca di materiale tossico, distorto o allucinato. Gli strati di redaction dei PII garantiscono che il vostro sistema non divulghi mai accidentalmente un numero di Social Security, un punteggio della personalità o il registro di una chat privata a un utente non autorizzato.

Il vantaggio decisivo di questo approccio a strati è la pista di audit. Quando il vostro team di compliance o un regolatore chiede "come si è arrivati a questa decisione?", potete ricostruire ogni input, ogni fase di validazione e ogni output. Quella traccia è ciò che distingue un sistema di IA difendibile da una responsabilità. Se non riuscite a mostrare ai vostri auditor il percorso logico dalla domanda alla risposta, non avete governance dell'IA — avete una scatola nera.

La vostra postura di sicurezza dovrebbe includere anche una gestione delle identità Zero-Trust. Ciò significa che ogni persona e ogni agente di IA presente nel vostro sistema necessita di un'identità crittografica unica, con verifica continua. Niente password predefinite. Niente credenziali condivise. Niente account obsoleti che restano attivi per sei anni.

Allineando il vostro stack di IA a quadri come ISO 42001 — il primo standard internazionale per i sistemi di gestione dell'IA — e al NIST AI Risk Management Framework, passerete dalla correzione reattiva alla governance proattiva. Questi quadri offrono al vostro team una roadmap strutturata di 90 giorni: inventariate la vostra esposizione all'IA nei primi 30 giorni, implementate l'igiene di sicurezza fondamentale nei giorni da 31 a 60, e schierate il monitoraggio avanzato e i varchi di approvazione umana per le operazioni ad alto rischio nei giorni da 61 a 90.

Il panorama della sicurezza e della resilienza dell'IA sta cambiando rapidamente. Entro il 2026, la governance dell'IA sarà un prerequisito per la partecipazione al mercato, non un optional.