Ho smesso di fidarmi dei generatori musicali IA la notte in cui uno ha sputato fuori una corsa vocale alla Mariah Carey

Era quasi mezzanotte e me ne stavo seduto nel nostro ufficio con due ingegneri e una caraffa di caffè pessimo, eseguendo stress test su una popolare piattaforma di audio generativo. Eravamo stati incaricati di valutare se un'agenzia pubblicitaria potesse usare in tutta sicurezza musica generata dall'IA in una campagna nazionale. Così stavamo interrogando metodicamente lo strumento — genere per genere, stile per stile — documentando ciò che ne usciva.

Poi una delle mie ingegnere, Priya, riprodusse una traccia che aveva generato con un prompt semplice: «ballata pop energica, voce femminile, estensione potente». Non menzionò alcun artista. Non chiese un'imitazione. Ma ciò che uscì dagli altoparlanti fece ammutolire tutti e tre.

Era inconfondibile. Il melisma — quella corsa vocale a cascata, che piega le note — apparteneva a una sola persona. Lo strumento non aveva «creato» uno stile vocale. Aveva ricostruito la tecnica caratteristica di Mariah Carey da qualunque cosa avesse inghiottito durante l'addestramento. E lo aveva fatto a partire da un prompt che non menzionava mai il suo nome.

Mi voltai verso Priya e dissi: «Se consegniamo questo a un cliente e qualcuno alla Sony lo sente, non saremo noi a essere citati in giudizio. È il cliente a essere citato in giudizio».

Fu la notte in cui smisi di considerare la musica generativa dell'IA uno strumento creativo e iniziai a vederla per ciò che è davvero: un algoritmo di compressione per materiale protetto da copyright, mascherato da casella di testo. E fu la notte in cui mi impegnai a costruire qualcosa di radicalmente diverso in Veriprajna.

La causa che ha cambiato tutto

Se non avete seguito le cause della Recording Industry Association of America contro Suno e Udio, dovreste farlo. Non è una causa pretestuosa. È la linea di demarcazione dell'industria musicale.

La RIAA sostiene che queste piattaforme si siano dedicate allo «stream-ripping» su scala industriale — aggirando la cifratura a codice cifrante rotante di YouTube per scaricare milioni di registrazioni protette da copyright e immetterle direttamente nelle loro pipeline di addestramento. Non un'acquisizione accidentale. Non qualche canzone sfuggita al controllo. Milioni di tracce, raccolte deliberatamente, le loro caratteristiche espressive quantificate in vettori affinché il modello potesse ricostruirle su richiesta.

La teoria giuridica è elegante e devastante: il frutto dell'albero avvelenato. Se i dati di addestramento sono ottenuti illegalmente, ogni output è contaminato. Non importa se l'utente avesse intenzioni innocenti. Non importa se l'output non è una copia nota per nota. Il modello ha imparato a generare «una canzone come Mariah Carey» memorizzando l'impronta statistica delle registrazioni reali di Mariah Carey. Non è ispirazione. È decompressione di dati con un prompt testuale come chiave.

Quando un modello non è in grado di dirti da dove provengono le sue decisioni creative, non ci si può fidare di esso in una catena di fornitura commerciale. Punto.

Ho descritto l'analisi giuridica e tecnica completa nella versione interattiva della nostra ricerca, ma la versione breve è questa: gli utenti aziendali di questi strumenti stanno noleggiando una causa legale. I Termini di Servizio delle piattaforme sono progettati per riversare la responsabilità sull'utente nel momento in cui un prompt diventa specifico. E «specifico» è un'asticella più bassa di quanto pensiate.

Perché il «fair use» fallisce per la musica IA?

Questa è la domanda che mi pongono più spesso i dirigenti che vogliono usare questi strumenti. «L'addestramento non è forse trasformativo? Non è come un musicista che ascolta la radio?»

No. E i tribunali lo affermano sempre più spesso.

Il fair use negli Stati Uniti dipende da quattro fattori, ma quello che condanna i generatori musicali IA è il quarto: l'effetto sul mercato potenziale. Quando uno strumento IA fa pagare agli utenti $24 al mese per generare tracce che competono direttamente con — e sostituiscono — le registrazioni concesse in licenza su cui è stato addestrato, il danno di mercato non è teorico. È il modello di business.

Un musicista in carne e ossa che ascolta Mariah Carey e scrive una canzone originale ha elaborato quell'influenza attraverso anni di esperienza vissuta, allenamento vocale fisico e interpretazione creativa. Un modello di diffusione che ingerisce il suo spettrogramma e impara a decodificarlo a ritroso dal rumore ha fatto qualcosa di categoricamente diverso. Ha compresso il suo lavoro in pesi e ha imparato a decomprimerlo a comando.

L'accordo transattivo di Udio con Universal Music Group ha reso tutto questo dolorosamente concreto. Come parte dell'intesa, gli utenti della piattaforma originale, a quanto si dice, non possono nemmeno più scaricare le proprie creazioni. Tutto è rinchiuso in un giardino recintato. Se avete costruito la colonna sonora di una campagna pubblicitaria su Udio, quella colonna sonora potrebbe ora essere commercialmente inutilizzabile per qualsiasi applicazione esterna alla piattaforma.

Ho visto il volto di una direttrice creativa d'agenzia sbiancare quando lo spiegai in una riunione. Aveva sei mesi di audio di campagna su una piattaforma che aveva appena chiuso una causa per violazione del copyright. Niente di tutto ciò poteva essere esportato.

La notte in cui discutemmo del problema sbagliato

Per un po', io e il mio team siamo stati ossessionati dalla domanda sbagliata. Continuavamo a chiederci: «Come rendiamo la musica generata dall'IA più sicura?» Abbiamo provato le guardrail sui prompt. Abbiamo provato il fingerprinting degli output. Abbiamo provato a costruire classificatori in grado di rilevare quando una traccia generata era troppo vicina a una registrazione conosciuta.

Tutto ciò non faceva che rattoppare fondamenta guaste.

La discussione che cambiò la nostra direzione avvenne davanti a una lavagna coperta di diagrammi di architettura. Uno dei nostri ingegneri senior — lo chiamerò Raj — continuava a contestare ogni salvaguardia che proponevo. «Stai cercando di far comportare in modo deterministico un sistema probabilistico», disse. «Non può. L'intero scopo della diffusione è ricostruire i dati di addestramento. Gli stai chiedendo di non fare esattamente ciò per cui è stato progettato».

Aveva ragione. Ed era frustrato, perché lo diceva da settimane e io non lo avevo ascoltato.

La domanda non era come rendere più sicura la generazione Black Box. La domanda era: perché stiamo generando da zero, in primo luogo?

Ogni cliente aziendale con cui parlavamo aveva già risorse audio. Aveva registrazioni demo. Aveva tracce stock concesse in licenza. Aveva materiale di catalogo storico. Non aveva bisogno di un modello che allucinasse una canzone dal nulla. Aveva bisogno di un modello che trasformasse ciò che già possedeva — cambiare una voce, modernizzare un mix, isolare uno stem — senza spezzare la catena di titolarità del copyright.

Quella consapevolezza segnò la nascita di ciò che oggi chiamiamo Source-Separated Licensing Engine.

Che cos'è un Source-Separated Licensing Engine?

Invece di chiedere a un'IA di generare audio a partire da un prompt testuale — il che richiede che il modello attraversi uno spazio latente costruito su copyright rubati — chiediamo all'IA di fare due cose molto specifiche e molto verificabili:

Primo, scomporre. Usando la Deep Source Separation, decostruiamo una traccia concessa in licenza nei suoi stem costitutivi: voci, batteria, basso e tutto il resto. L'IA non sta creando nulla. Sta isolando ciò che è già presente, come un chirurgo che separa strati di tessuto.

Poi, trasformare. Usando la Retrieval-Based Voice Conversion (RVC), cambiamo l'identità vocale sullo stem isolato. La melodia resta. Il testo resta. L'esecuzione resta. Ma la voce — il timbro, la texture, la grana — proviene da un modello vocale concesso in licenza che abbiamo addestrato su registrazioni di un doppiatore che ha firmato una liberatoria commerciale.

La composizione proviene dall'input concesso in licenza del cliente. La voce proviene dal nostro modello concesso in licenza. Ogni ingrediente ha una chiara catena di titolarità. Non c'è alcuno spazio latente di copyright raccolti abusivamente. Non c'è alcuna allucinazione probabilistica. Non c'è alcun mistero su dove abbia avuto origine ciascun elemento.

Abbiamo barattato la magia dell'allucinazione con la certezza dell'ingegneria. E i clienti aziendali non vogliono la magia — vogliono risorse che possano davvero possedere.

Come funziona davvero la Deep Source Separation?

Quando ascolti una canzone finita, senti una miscela polifonica — voci, batteria, basso, chitarre, sintetizzatori, tutti sovrapposti l'uno all'altro. Un basso elettrico e una grancassa vivono entrambi nella gamma 50–200 Hz. Una voce e un pianoforte condividono la gamma 500 Hz–2 kHz. I filtri audio tradizionali non riescono a separarli senza distruggere il suono.

La Deep Source Separation usa reti neurali per risolvere questo problema. L'audio mixato viene convertito in uno spettrogramma — essenzialmente una mappa visiva delle frequenze nel tempo — e la rete impara a generare una «maschera» per ogni sorgente. Immaginala come una mascherina: la maschera indica al sistema quali frequenze, in quali momenti, appartengono alla batteria, quali alle voci, quali a tutto il resto. Applica la maschera e ottieni uno stem isolato e pulito.

Eseguiamo un insieme delle migliori architetture — Hybrid Transformer Demucs per catturare schemi a lungo raggio come un ritmo di batteria che si ripete lungo un'intera canzone, e MDX-Net per la chiarezza spettrale attraverso le bande di frequenza. Eseguire più modelli e mediare i risultati minimizza il «bleeding», quei fastidiosi artefatti in cui si sente una batteria fantasma nella traccia vocale.

Il punto giuridico è ciò che conta: eseguiamo questa separazione su tracce che il cliente possiede già o ha concesso in licenza. L'IA è uno strumento di isolamento, non di invenzione. Gli stem risultanti derivano legalmente dalla traccia madre concessa in licenza.

Perché la conversione vocale conta più della generazione vocale?

È qui che l'intuizione della maggior parte delle persone le porta fuori strada. Danno per scontato che la parte impressionante dell'audio IA sia generare una voce dal nulla. Non lo è. La parte impressionante — e quella difendibile sul piano legale — è convertire una voce in un'altra preservando tutto il resto dell'esecuzione.

L'RVC funziona separando ciò che viene cantato da chi lo canta. Un modello chiamato HuBERT riduce la voce sorgente al puro contenuto linguistico e melodico — fonemi, prosodia, ritmo — scartando l'identità di chi parla. Anonimizza l'esecuzione.

Poi arriva la fase di recupero, che è l'innovazione chiave. Invece di far indovinare a una rete neurale come dovrebbe suonare la voce di destinazione (cosa che produce quella rivelatrice levigatezza sintetica), il sistema cerca in un indice precostruito le caratteristiche reali della voce di destinazione — respiri, raucedini, forme vocaliche — e inietta frammenti di caratteristiche reali nell'audio convertito. Il risultato suona autentico perché è autentico. È costruito a partire da campioni reali della voce concessa in licenza, non da un'approssimazione statistica.

Infine, un vocoder HiFi-GAN sintetizza la forma d'onda, addestrato in modo avversariale contro registrazioni reali del parlante di destinazione finché l'output non è indistinguibile da un'esecuzione autentica.

L'intero processo richiede solo 30–60 minuti di audio pulito da un singolo parlante per addestrare un modello vocale. Confrontatelo con Suno o Udio, che hanno bisogno di milioni di tracce raccolte abusivamente per imparare la «musica». Il nostro approccio è chirurgico dove il loro è industriale.

Il pulsante Elimina che i modelli Black Box non hanno

Ecco una cosa che tiene svegli di notte i team legali aziendali: se un doppiatore revoca il consenso, o un accordo di licenza scade, potete rimuovere il suo contributo dal vostro sistema di IA?

Con i grandi modelli transformer — quelli che alimentano Suno e Udio — la risposta è di fatto no. I dati di addestramento sono incorporati in miliardi di parametri. Rimuovere l'influenza di un artista specifico richiede un costoso riaddestramento e rischia l'«oblio catastrofico», in cui il modello perde capacità ben oltre ciò che si intendeva rimuovere.

Nella nostra architettura, ogni voce è un file separato. Circa 50 megabyte. Se un doppiatore dice «ho chiuso», eliminiamo il file. Il motore di separazione continua a funzionare. Ogni altro modello vocale continua a funzionare. La conformità alle richieste di «diritto all'oblio» è istantanea e chirurgica.

In un modello Black Box, il disapprendimento è un problema di ricerca. Nella nostra architettura, è un tasto Canc.

Non posso sottolineare abbastanza quanto tutto ciò conti man mano che le normative si inaspriscono. L'AI Act dell'UE esigerà trasparenza sui dati di addestramento. La capacità di dimostrare un controllo granulare su ogni componente della vostra pipeline di IA non è un optional — sarà il requisito minimo per partecipare.

Cosa succede quando qualcuno mette in dubbio il vostro audio IA?

Ogni file che esce dalla nostra pipeline porta con sé un manifesto C2PA — una firma crittografica della Coalition for Content Provenance and Authenticity. Pensatelo come un'etichetta nutrizionale digitale che viaggia con il file e non può essere falsificata.

Il manifesto registra: l'hash dell'audio di input (a prova della derivazione da una fonte concessa in licenza), l'hash del modello di separazione (a prova di quale strumento sia stato usato), l'hash del modello vocale (a prova di quale voce concessa in licenza sia stata applicata) e la firma crittografica di Veriprajna che certifica l'integrità dell'intera catena.

Se YouTube segnala una traccia, se Spotify ne mette in dubbio lo stato di copyright, se un concorrente sostiene che sia un deepfake — il cliente apre il manifesto e la provenienza è lì, matematicamente verificabile. Nessuna ambiguità. Nessun «fidatevi di noi». Prova crittografica.

Per l'architettura tecnica completa della pipeline e l'integrazione C2PA, ho pubblicato un documento di ricerca dettagliato che approfondisce più di quanto io possa fare qui.

«Ma questo non limita semplicemente ciò che l'IA può fare?»

Me lo chiedono di continuo. Di solito con un tono che lascia intendere che io sia un guastafeste.

La mia risposta: non sto limitando l'IA. Sto limitando la responsabilità. C'è una differenza.

Un generatore Black Box in grado di produrre qualsiasi canzone a partire da un prompt testuale è una tecnologia davvero impressionante. Non lo nego. Ma una tecnologia impressionante che non è in grado di dirti da dove provengono i suoi output, che non può essere sottoposta ad audit, che non può garantirti la proprietà di ciò che produce — quella tecnologia è un giocattolo per consumatori, non uno strumento aziendale.

L'US Copyright Office è stato sempre più chiaro: le opere puramente generate dall'IA probabilmente non sono tutelabili dal copyright. Digitare «crea una canzone jazz» non è paternità dell'opera. È un'idea, non un'espressione. Il che significa che se il vostro concorrente ruba il vostro jingle generato dall'IA e lo usa nella propria pubblicità, potreste non avere alcun ricorso legale.

Il nostro approccio preserva la tutelabilità dal copyright perché alla base c'è una traccia guida creata da un essere umano e una trasformazione diretta da un essere umano in ogni fase. L'IA è uno strumento nelle mani di un creatore, non un creatore essa stessa. Quella distinzione è la differenza tra possedere il proprio output e sperare che nessuno lo rubi.

La vera equazione dei costi

Sarò diretto sull'aspetto economico perché nessun altro in questo settore sembra disposto a esserlo.

Addestrare su dati raccolti abusivamente è gratuito. La responsabilità legale è illimitata — danni previsti dalla legge fino a $150,000 per opera violata. Se il vostro modello ha ingerito diecimila canzoni, fate i conti.

Concedere in licenza i dati di addestramento e le registrazioni vocali comporta un costo iniziale. Ma limita la vostra responsabilità a zero. Ogni componente della catena ha alle spalle un accordo firmato. Ogni output ha allegato un manifesto di provenienza.

L'agenzia pubblicitaria che ci aveva ingaggiati per quella valutazione iniziale? Ha fatto i conti. Il costo della nostra pipeline era un errore di arrotondamento rispetto a una singola richiesta di risarcimento per violazione del copyright. E, a differenza delle piattaforme Black Box, potevamo davvero garantire che quell'errore di arrotondamento fosse il costo totale — non un anticipo su una causa legale.

La fine del «prompt and pray»

Le cause della RIAA contro Suno e Udio non sono la fine dell'audio IA. Sono la fine della fase in cui nessuno chiedeva da dove provenissero i dati di addestramento. I termini delle transazioni — giardini recintati, restrizioni al download, nuove piattaforme concesse in licenza — vi dicono esattamente dove sta andando tutto questo. Il selvaggio west sta chiudendo i battenti.

Ciò che viene dopo è esattamente ciò che stiamo costruendo: pipeline audio sovrane in cui ogni artefatto ha un'origine verificabile, in cui i modelli possono essere sottoposti ad audit, aggiornati ed eliminati a livello di componente, in cui l'output è deterministico anziché probabilistico e in cui il cliente aziendale possiede davvero ciò per cui ha pagato.

Ripenso a quella notte con Priya e alla corsa vocale di Mariah Carey più spesso di quanto vorrei ammettere. Non perché fosse tecnicamente sorprendente — sapevamo che i modelli memorizzavano i dati di addestramento. Ma perché rese il rischio viscerale. Non era una teoria giuridica astratta a risuonare dai nostri altoparlanti. Era il lavoro di una vita di qualcuno, compresso in pesi e ricostruito senza permesso, pronto per essere consegnato a un cliente che non avrebbe avuto la minima idea di cosa stesse distribuendo.

Non puoi costruire un'impresa su un sistema che non è in grado di spiegare se stesso. Se non sai su quali dati è stato addestrato il modello, non possiedi l'output. Non stai creando. Stai scommettendo.

In un'era di incertezza sintetica, la provenienza è il prodotto.

Costruiamo sistemi in cui ogni nota ha un nome, ogni voce ha un contratto e ogni file porta con sé una prova. Non è una limitazione dell'IA. È l'aspetto che l'IA assume quando è pronta per il mondo reale.