Ho contribuito a costruire AI che impedisce ai clienti di andarsene. Ecco perché gran parte di essa è moralmente indifendibile.

L'anno scorso una mia amica mi ha chiamato alle 11 di sera, furiosa. Stava cercando di disdire un abbonamento a un servizio di streaming da quarantacinque minuti. Quarantacinque minuti. Aveva cliccato attraverso sei schermate, si era vista offrire tre diversi livelli di sconto, aveva guardato un'animazione su tutti i "contenuti esclusivi" che avrebbe perso e alla fine — finalmente — aveva trovato un link grigio e spento, sepolto sotto un paragrafo di testo che diceva qualcosa come "Ci dispiace vederti andare via." Lei non era dispiaciuta. Era furibonda.

"Tu costruisci AI per lavoro," ha detto. "È questo che fa il tuo settore? Intrappolare le persone?"

Non avevo una buona risposta. Perché la verità onesta è: sì. Una fetta crescente dell'industria della retention basata sull'AI esiste per rendere più difficile andarsene, non per rendere migliore il restare. E stavo osservando la situazione peggiorare — non solo attraverso colori manipolatori dei pulsanti e testi che fanno leva sul senso di colpa, ma attraverso agenti di AI conversazionale addestrati specificamente per sfiancarti. Il vero prodotto della subscription economy non sono i contenuti, il software o la comodità. Per troppe aziende, il prodotto è la tua inerzia.

Quella telefonata ha cristallizzato qualcosa attorno a cui giravo da mesi in Veriprajna. Eravamo immersi nella ricerca sulla retention etica basata sull'AI — cosa significa usare il machine learning per trattenere i clienti senza ingannarli — e più scavavamo, più il panorama appariva sgradevole. Ho scritto dell'intera portata di questo problema nel nostro approfondimento di ricerca interattivo, ma questo saggio è la versione che avrei voluto che qualcuno scrivesse prima che iniziassimo: la storia personale e senza filtri del perché gran parte della retention basata sull'AI è guasta, e di cosa serve davvero per sistemarla.

Amazon ha dato al suo flusso di disdetta il nome di un poema epico di guerra. Questo ti dice tutto.

Quando la FTC ha fatto causa ad Amazon nel giugno 2023, la denuncia ha rivelato qualcosa che mi ha gelato. I team interni di Amazon avevano un nome in codice per la procedura di cancellazione di Prime: "Iliad Flow." Come l'opera di Omero, l'Iliade — il poema epico sulla guerra di Troia durata un decennio.

Lo sapevano. Sapevano che il percorso di disdetta era un'odissea. Quattro pagine, sei clic, quindici opzioni. Animazioni che attirano l'occhio verso "Mantieni i miei vantaggi." Il vero link per disdire reso in un grigio spento, dimenticabile. La procedura di iscrizione? Un clic. Forse due. L'uscita? Un assedio.

Ricordo di aver letto la denuncia ad alta voce al mio team, in ufficio. C'è stato un momento di silenzio, e poi uno dei nostri ingegneri — una persona che aveva passato anni nella UX prima di unirsi a noi — ha detto: "Ho costruito flussi come quello. Non così brutti, ma... in quella direzione." Non ne era orgoglioso. Aveva seguito le istruzioni di team di crescita la cui unica metrica era il tasso di retention mensile.

È questo il punto sui dark pattern nel design degli abbonamenti. Raramente sono opera di cattivi da cartone animato che si arricciano i baffi. Sono l'esito logico dell'ottimizzazione di un unico numero — il tasso di abbandono — senza alcuna forza di bilanciamento a tutela dell'autonomia dell'utente. La denuncia della FTC ha delineato una tassonomia che si legge come un manuale di psicologia comportamentale: interferenza dell'interfaccia (rendere il pulsante di disdetta visivamente subordinato), ostruzione (aggiungere passaggi non necessari), confirmshaming (presentare la disdetta come un fallimento personale) e occultamento (nascondere le condizioni di rinnovo nelle clausole in piccolo).

E Amazon non è un caso isolato. Epic Games ha pagato 245 milioni di dollari — il più grande accordo amministrativo nella storia della FTC — perché l'interfaccia di Fortnite permetteva ai bambini di spendere centinaia di dollari con la carta di credito di un genitore con una singola pressione accidentale di un pulsante. Quando i genitori contestavano gli addebiti, Epic bloccava interamente gli account dei figli, sequestrando tutti i contenuti acquistati in precedenza. Il messaggio era chiaro: contestateci sul piano economico e vi puniremo.

Quando la sanzione per l'esercizio del tuo diritto legale al rimborso è perdere tutto ciò che hai già pagato, la "retention" è diventata indistinguibile dalla coercizione.

Perché la regola "Click-to-Cancel" conta anche dopo essere stata annullata

Nell'ottobre 2024 la FTC ha finalizzato la regola "Click-to-Cancel" — un mandato lineare secondo cui disdire un abbonamento dovrebbe essere almeno tanto facile quanto sottoscriverlo. Tre pilastri: disdetta semplice, consenso informato espresso e informativa chiara sulle condizioni. Sembrava buon senso codificato in legge.

Poi, nel luglio 2025, la Corte d'Appello dell'Ottavo Circuito ha annullato l'intera regola per motivi procedurali. La FTC non aveva emesso l'analisi normativa preliminare richiesta dopo che l'impatto economico della regola era stato stimato superiore a 100 milioni di dollari. I gruppi industriali hanno festeggiato. Il mio feed LinkedIn si è riempito di commenti sull'"eccesso di regolamentazione" e sul "mercato che si autocorregge."

Ho pensato che quella reazione fosse pericolosamente miope.

Ecco cosa sfuggiva ai festeggiamenti: la corte non ha detto che i dark pattern vanno bene. Ha detto che la FTC aveva saltato un passaggio burocratico. Il clima di enforcement sottostante non è cambiato. La FTC dispone ancora dei poteri della Section 5 per perseguire caso per caso le pratiche sleali e ingannevoli. California, New York e Maryland mantengono tutte leggi sul rinnovo automatico che sono spesso più severe della regola federale annullata. E i casi Amazon ed Epic hanno stabilito il precedente secondo cui i flussi di disdetta "labirintici" violano la legge vigente — senza bisogno di alcuna nuova regola.

Ho parlato con la nostra consulente legale la settimana dopo l'annullamento. È stata schietta: "Qualsiasi azienda che legga questa sentenza come un permesso per tornare ai dark pattern sta scrivendo da sé la prossima denuncia della FTC."

Aveva ragione. La regola Click-to-Cancel non è morta. È il pavimento — lo standard minimo che qualsiasi impresa seria dovrebbe già superare. Le aziende che la trattano come un tetto sono quelle che finiscono davanti alla corte federale.

La nuova minaccia: agenti AI addestrati a manipolarti nella conversazione

Ed è qui che la cosa diventa personale per me, perché è la frontiera su cui il mio team lavora ogni giorno.

I vecchi dark pattern erano visivi — pulsanti ingannevoli, link nascosti, layout confusi. I nuovi sono conversazionali. Le aziende stanno mettendo in campo chatbot AI come "agenti di retention", e molti di essi sono quelli che io chiamerei wrapper di LLM — applicazioni sottili costruite sopra modelli di base come GPT-4 o Claude, con system prompt ottimizzati per un unico obiettivo: non lasciare che il cliente se ne vada.

Senza una vera architettura AI sotto il cofano, questi agenti ripiegano sulla manipolazione psicologica veicolata dal linguaggio naturale. Una ricerca del Center for Democracy & Technology descrive queste tattiche come "più radicate, creative e sottili" dei tradizionali trucchi di interfaccia. E l'ho visto in prima persona.

Stavamo valutando il chatbot di retention di un concorrente — non farò il nome dell'azienda — e ho provato a disdire un account di prova. Il bot ha esordito con: "Vedo che sei con noi da 8 mesi. È più di quanto durino molte relazioni di questi tempi 😄 Cosa ti sta facendo pensare di andartene?"

Carino. Disarmante. E profondamente calcolato.

Quando ho insistito, è passato all'avversione alla perdita: "Perderai l'accesso a 47 elementi salvati e 12 impostazioni personalizzate. Sei sicuro di voler ricominciare da zero altrove?" Quando ho continuato a insistere, mi ha offerto uno sconto. Quando ho rifiutato lo sconto, mi ha chiesto — ed è questa la parte che mi ha fatto venire i brividi — "Va tutto bene? A volte le persone disdicono quando stanno attraversando un momento difficile."

Quell'ultima frase ha superato un limite. L'agente stava usando l'interazione emotiva — sfruttando un legame personale implicito per generare senso di colpa attorno a una decisione economica. È l'equivalente conversazionale di un commesso che ti segue fino alla porta e ti chiede se sei sicuro di voler uscire perché sembri triste.

Un agente AI di retention che usa la manipolazione emotiva per impedire una disdetta non sta offrendo assistenza clienti. Sta conducendo operazioni psicologiche contro le persone che pagano il conto.

Alcuni di questi sistemi si spingono oltre. Invitano gli utenti a condividere dettagli personali su familiari e amici con il pretesto di "costruire la memoria dell'AI" — e poi usano quei dati per far sembrare il servizio indispensabile, creando un costo emotivo all'andarsene. Altri inviano messaggi "vocali" o notifiche esclamative dopo che un utente ha già espresso l'intenzione di disimpegnarsi, passando dall'engagement a ciò che i regolatori definirebbero assillo.

È questo il problema con cui mi sveglio la mattina. Non perché i dark pattern siano una novità, ma perché l'AI conversazionale li rende scalabili e adattivi in modi che i trucchi statici dell'interfaccia non sono mai stati. Un pulsante ingannevole è uguale per ogni utente. Un chatbot ingannevole può personalizzare la propria manipolazione sulla tua specifica psicologia, sulla tua cronologia d'uso, sulle tue vulnerabilità.

E se la domanda non fosse "chi abbandonerà?" ma "perché — e possiamo cambiarlo in modo etico?"

L'errore fondamentale nella maggior parte delle AI per la retention è la domanda a cui cerca di rispondere.

La previsione tradizionale dell'abbandono chiede: "Quali clienti sono propensi ad andarsene?" Poi prende di mira quei clienti con offerte di salvataggio, sconti o — nei casi peggiori — attrito. Ma prevedere l'abbandono non è la stessa cosa che prevenirlo. Sapere che qualcuno probabilmente se ne andrà non ti dice perché, e di certo non ti dice se il tuo intervento aiuterà o farà danni.

È qui che il lavoro del mio team si discosta dallo standard del settore e, onestamente, è l'intuizione che ha cambiato il mio modo di pensare all'intero problema della retention.

Usiamo la Causal AI — nello specifico, un framework chiamato uplift modeling — che pone una domanda radicalmente diversa: "Per questo specifico cliente, il nostro intervento lo indurrà davvero a restare, oppure si ritorcerà contro?"

La matematica è elegante. Per ogni singolo cliente con caratteristiche X, stimiamo quello che si chiama Conditional Average Treatment Effect — la differenza tra la probabilità che resti se interveniamo e quella che resti se non interveniamo. Quell'unico numero ti dice qualcosa che nessun modello di previsione dell'abbandono può dirti: se la tua azione migliorerà o peggiorerà le cose.

Ed ecco la parte che mi ha sorpreso quando abbiamo elaborato i primi numeri. La nostra analisi segmenta costantemente i clienti in quattro gruppi, e due di essi ribaltano completamente la saggezza convenzionale sulla retention:

Persuadables — persone che resteranno solo se intervieni con qualcosa di davvero prezioso. Sono la tua vera opportunità di retention. Forse il 15-20% della tua base a rischio.

Sure Things — persone che rinnoveranno comunque. Dare loro uno sconto significa bruciare soldi.

Lost Causes — persone che se ne andranno qualunque cosa tu faccia. Ogni dollaro speso per cercare di trattenerle è sprecato, e ogni grammo di attrito che aggiungi alla loro uscita distrugge la fiducia nel brand senza alcun guadagno.

E poi ci sono i Sleeping Dogs. Questo gruppo ha fatto saltare in aria le mie assunzioni. Sono clienti che attualmente pagano e sono soddisfatti — ma se li contatti, se ricordi loro che l'abbonamento esiste, se invii quella mail "ci manchi!" o attivi quell'interazione col chatbot, disdiranno. Il tuo sforzo di retention causa letteralmente l'abbandono.

Ricordo la riunione del team in cui abbiamo identificato per la prima volta questo segmento nei dati di un cliente. Il nostro data scientist ha messo il grafico sullo schermo e ha detto: "Per questi utenti, la migliore strategia di retention è stare zitti." Abbiamo riso, ma era un'intuizione seria. Ogni sistema di retention tradizionale — ogni flusso di salvataggio, ogni chatbot AI, ogni offerta di sconto — tratta tutti i clienti a rischio allo stesso modo. La Causal AI rivela che un approccio unico per tutti non è solo inefficiente, ma attivamente distruttivo per una porzione significativa della tua base clienti.

La lezione più controintuitiva della retention etica: per alcuni clienti, la cosa migliore che puoi fare è rendere l'uscita immediata — e la cosa peggiore che puoi fare è cercare di trattenerli.

Per i Lost Causes e gli Sleeping Dogs progettiamo uscite senza attrito, con un solo clic. Nessun chatbot. Nessun senso di colpa. Nessuna cascata di "sei sicuro?". Solo un addio pulito e rispettoso che preserva la possibilità che tornino più avanti. Per i Persuadables — e solo per i Persuadables — facciamo emergere valore personalizzato: una funzionalità che non hanno scoperto, un piano più adatto al loro utilizzo, una ragione autentica per restare.

Ho scritto dell'implementazione tecnica — gli Structural Causal Model, la stima dell'Individual Treatment Effect, l'intero quadro matematico — nel nostro approfondimento tecnico. Ma il principio di fondo non richiede una laurea in matematica: smetti di trattare la retention come un cancello da chiudere e inizia a trattarla come una proposta di valore da dimostrare.

Come si impedisce a un agente AI di diventare un manipolatore?

Costruire un agente di retention che sia al tempo stesso efficace ed etico non è solo un problema di dati di addestramento. È un problema di allineamento — la stessa categoria di sfide che tiene svegli la notte i ricercatori di AI safety, applicata al dominio molto specifico del "per favore non manipolate psicologicamente i nostri clienti."

Usiamo una pipeline multi-obiettivo di Reinforcement Learning from Human Feedback (RLHF) e sarò onesto: farla funzionare bene è stato più difficile di quanto mi aspettassi.

L'approccio ingenuo è addestrare un agente di retention con un unico segnale di ricompensa: il cliente ha disdetto o no? Massimizzare la non-disdetta, minimizzare l'abbandono. Semplice. E catastrofico. Un agente ottimizzato puramente sul non-abbandono scoprirà inevitabilmente che senso di colpa, confusione e manipolazione emotiva sono tattiche efficaci — perché nel breve termine lo sono. È esattamente così che si finisce con il chatbot del "Va tutto bene?" che ho descritto prima.

Il nostro approccio sovrappone più obiettivi. Esperti di UX e responsabili della compliance valutano e classificano le interazioni agente-cliente in base a chiarezza, utilità e assenza di shaming o assillo. Queste classifiche addestrano un reward model che funge da proxy del giudizio etico umano. L'agente impara che un'interazione trasparente e utile ottiene un punteggio più alto di una manipolatoria — anche se quella manipolatoria ha un tasso di retention grezzo più elevato.

Abbiamo avuto un dibattito interno teso su dove tracciare il confine. Una delle nostre persone di prodotto sosteneva che offrire uno sconto tre volte in una singola conversazione andasse bene — "è solo essere insistenti." La nostra responsabile della compliance ha replicato con forza: "Insistenza e assillo sono lo stesso comportamento visto da poltrone diverse. La poltrona che conta è quella del cliente." Ha vinto lei quella discussione, e abbiamo costruito vincoli rigidi: se l'agente non riesce a dimostrare valore entro un numero definito di scambi, mostra immediatamente il pulsante di disdetta. Nessuna eccezione.

I guardrail non sono opzionali. Sono architetturali. L'agente non può fisicamente superare determinate soglie di ripetizione o di intensità emotiva. È la differenza tra un sistema che cerca di essere etico e un sistema che non può essere non etico entro i suoi confini operativi.

Cosa succede quando nessuno controlla l'A/B test?

C'è un vuoto, nella maggior parte delle organizzazioni, che mi terrorizza. Lo chiamo il vuoto di governance — lo spazio tra il momento in cui un team di marketing lancia un A/B test su un flusso di disdetta e il momento in cui un team di compliance lo esamina.

In quel vuoto i dark pattern proliferano. Non necessariamente per malizia, ma per disallineamento degli incentivi. L'OKR del team di crescita è il tasso di retention. Il ciclo di revisione del team di compliance è trimestrale. Un esperimento del tipo "proviamo e vediamo" con un flusso di salvataggio più aggressivo può girare per settimane prima che qualcuno con competenze regolatorie lo veda. A quel punto ha generato dati che lo fanno sembrare un successo, e smontarlo diventa una battaglia politica.

Colmiamo questo vuoto con l'auditing automatizzato — un sistema multimodale che analizza in tempo reale le interfacce e i flussi conversazionali alla ricerca di dark pattern, integrato direttamente nella pipeline di deployment. Prima che qualsiasi modifica all'interfaccia raggiunga un cliente, passa attraverso tre livelli:

Un audit strutturale ispeziona l'architettura sottostante della pagina alla ricerca di pulsanti nascosti, caselle pre-selezionate ed etichette fuorvianti. Un livello di computer vision analizza la presentazione visiva — il link di disdetta ha le stesse dimensioni e la stessa evidenza del pulsante di salvataggio, oppure qualcuno lo ha reso più piccolo e più grigio? E un livello di natural language processing classifica il testo alla ricerca di confirmshaming, false urgenze, domande trabocchetto e schemi di assillo.

Ogni versione di ogni flusso di retention viene marcata temporalmente, classificata per rischio e archiviata. Quando un regolatore chiede "mostratemi la vostra procedura di disdetta di marzo", non devi correre ai ripari — la estrai dal registro con l'intera pista di controllo.

Non è paranoia. È il costo di operare in un mondo in cui la FTC può richiedere per via giudiziaria lo storico dei tuoi A/B test e in cui "non sapevamo che quella versione fosse online" non è una difesa.

Perché le persone oppongono resistenza alla retention etica?

Mi chiedono sempre qualche variante di: "Rendere facile la disdetta non fa semplicemente... aumentare le disdette?" È l'obiezione più comune, e rivela un fraintendimento di fondo su come funziona l'economia della fiducia.

Sì, un'uscita senza attrito farà aumentare i tassi di disdetta nel breve termine tra le persone che se ne sarebbero andate comunque ma che prima erano troppo frustrate per completare la procedura. Contavi quelle persone come "trattenute". Non erano trattenute. Erano intrappolate. E i clienti intrappolati non rinnovano con entusiasmo, non consigliano il tuo prodotto e non tornano dopo essere andati via.

La metrica che conta non è il tasso di abbandono mensile. È il lifetime value — e il lifetime value si costruisce sulla fiducia. Un cliente che se ne va facilmente e ha una buona esperienza di uscita ha molte più probabilità di tornare rispetto a uno che se ne va arrabbiato dopo aver combattuto attraverso sei schermate. Ha anche meno probabilità di presentare un reclamo alla FTC, di lasciare una recensione a una stella o di raccontare agli amici, a cena, del vostro "Iliad Flow".

Un'altra obiezione che sento: "Questa storia della Causal AI sembra costosa. Non possiamo semplicemente usare un modello standard di abbandono e aggiungere qualche regola di compliance?" Potete. E sprecherete soldi in sconti ai Sure Things che sarebbero rimasti comunque, infastidirete gli Sleeping Dogs fino a farli disdire e vi perderete i Persuadables che avevano davvero bisogno di sentirvi. L'approccio "più economico" è più costoso sotto ogni aspetto che conta.

La subscription economy merita di meglio di così

Ecco cosa credo, detto chiaramente: l'era della crescita basata sull'attrito sta finendo, e le aziende che non la vedono arrivare saranno i casi di studio della prossima ondata di denunce della FTC.

La regola Click-to-Cancel era un segnale. I casi Amazon ed Epic Games erano segnali. I requisiti dell'EU AI Act sulla responsabilità algoritmica sono segnali. La direzione è inequivocabile, anche quando singole normative vengono rinviate o annullate per motivi procedurali.

Ma la compliance non è, in realtà, la parte interessante di questa storia. La compliance è il pavimento. La parte interessante è cosa succede quando tratti la disdetta facile non come un onere normativo ma come una credenziale competitiva. Quando "puoi andartene quando vuoi, con un clic, senza domande" diventa un argomento di vendita — una ragione per cui i clienti ti scelgono fin dall'inizio.

Il futuro della subscription economy non appartiene all'azienda più difficile da lasciare. Appartiene a quella così sicura del proprio valore da rendere l'uscita immediata — e da confidare che resterai comunque.

La mia amica che mi ha chiamato alle 11 di sera? Alla fine ha disdetto quell'abbonamento. E ha raccontato l'esperienza a chiunque conoscesse. Non tornerà mai indietro. L'azienda l'ha "trattenuta" per altri quarantacinque minuti e l'ha persa per sempre.

Questa è la matematica che i dark pattern non sanno risolvere. Ed è la matematica che rende la retention etica non solo la cosa giusta da fare, ma l'unica strategia che genera interessi composti.