Ik vertrouwde AI-muziekgeneratoren niet meer vanaf de nacht dat er een Mariah Carey-zangloopje uit kwam

Het was bijna middernacht en ik zat op ons kantoor met twee engineers en een pot afschuwelijke koffie, terwijl we stresstests uitvoerden op een populair generatief audioplatform. We waren ingehuurd om te beoordelen of een reclamebureau AI-gegenereerde muziek veilig kon gebruiken in een landelijke campagne. Dus prompten we de tool methodisch — genre voor genre, stijl voor stijl — en documenteerden we wat eruit kwam.

Toen speelde een van mijn engineers, Priya, een nummer af dat ze had gegenereerd met een simpele prompt: "opzwepende popballad, vrouwelijke zangeres, krachtig bereik." Ze noemde geen enkele artiest. Ze vroeg niet om iets dat als een bekende artiest moest klinken. Maar wat er uit de speakers kwam, maakte ons alle drie stil.

Het was onmiskenbaar. De melisma — die cascaderende, noten-buigende vocale loopjes — behoorde toe aan één persoon. De tool had geen vocale stijl "gecreëerd". Hij had Mariah Careys kenmerkende techniek gereconstrueerd uit wat hij ook maar had verzwolgen tijdens de training. En hij had het gedaan op basis van een prompt die haar naam nooit noemde.

Ik draaide me om naar Priya en zei: "Als we dit naar een klant sturen en iemand bij Sony hoort het, worden wij niet aangeklaagd. De klant wordt aangeklaagd."

Dat was de nacht waarop ik generatieve AI-muziek niet langer als een creatief hulpmiddel zag en ging inzien wat het werkelijk is: een compressiealgoritme voor auteursrechtelijk beschermd materiaal, verpakt in een tekstvak. En het was de nacht waarop ik me verbond aan het bouwen van iets fundamenteel anders bij Veriprajna.

De rechtszaak die alles veranderde

Als je de zaken van de Recording Industry Association of America tegen Suno en Udio niet hebt gevolgd, zou je dat moeten doen. Dit is geen kleine hinderlijke rechtszaak. Het is de streep in het zand van de muziekindustrie.

De RIAA beweert dat deze platforms zich op industriële schaal bezighielden met "stream-ripping" — het omzeilen van YouTube's rolling-cipher-encryptie om miljoenen auteursrechtelijk beschermde opnames te downloaden en die rechtstreeks in hun trainingspijplijnen te voeden. Geen toevallige opname. Geen paar nummers die erdoorheen glippen. Miljoenen tracks, bewust geschraapt, hun expressieve kenmerken gekwantificeerd in vectoren zodat het model ze op verzoek kon reconstrueren.

De juridische theorie is elegant en verwoestend: fruit of the poisonous tree — de vrucht van de giftige boom. Als de trainingsdata onrechtmatig is verkregen, is elke output besmet. Het maakt niet uit of de gebruiker onschuldige bedoelingen had. Het maakt niet uit of de output geen noot-voor-noot-kopie is. Het model leerde "een nummer zoals Mariah Carey" te genereren door de statistische vingerafdruk van Mariah Careys daadwerkelijke opnames te memoriseren. Dat is geen inspiratie. Dat is datadecompressie met een tekstprompt als sleutel.

Wanneer een model je niet kan vertellen waar zijn creatieve beslissingen vandaan komen, kan het niet worden vertrouwd in een commerciële toeleveringsketen. Punt uit.

Ik schreef over de volledige juridische en technische analyse in de interactieve versie van ons onderzoek, maar de korte versie is deze: zakelijke gebruikers van deze tools huren een rechtszaak. De gebruiksvoorwaarden van de platforms zijn ontworpen om de aansprakelijkheid terug te schuiven naar de gebruiker op het moment dat een prompt specifiek wordt. En "specifiek" is een lagere drempel dan je denkt.

Waarom faalt "fair use" voor AI-muziek?

Dit is de vraag die ik het vaakst krijg van leidinggevenden die deze tools willen gebruiken. "Is training niet transformatief? Is het niet zoals een muzikant die naar de radio luistert?"

Nee. En rechtbanken zeggen dat steeds vaker.

Fair use in de VS draait om vier factoren, maar degene die AI-muziekgeneratoren de das omdoet, is de vierde: effect op de potentiële markt. Wanneer een AI-tool gebruikers $24 per maand laat betalen om tracks te genereren die rechtstreeks concurreren met — en een vervanging vormen voor — de gelicentieerde opnames waarop hij is getraind, is de marktschade niet theoretisch. Het is het verdienmodel.

Een menselijke muzikant die naar Mariah Carey luistert en een origineel nummer schrijft, heeft die invloed verwerkt door jaren van geleefde ervaring, fysieke stemtraining en creatieve interpretatie. Een diffusiemodel dat haar spectrogram opneemt en leert het uit ruis te reverse-engineeren, heeft iets categorisch anders gedaan. Het heeft haar werk gecomprimeerd tot gewichten en geleerd het op commando te decomprimeren.

De schikking van Udio met Universal Music Group maakte dit pijnlijk concreet. Als onderdeel van de deal kunnen gebruikers van het oorspronkelijke platform naar verluidt niet eens meer hun eigen creaties downloaden. Alles zit opgesloten in een omheinde tuin. Als je de soundtrack van een reclamecampagne op Udio hebt gebouwd, kan die soundtrack nu commercieel nutteloos zijn voor elke toepassing buiten het platform.

Ik zag het gezicht van een creatief directeur van een bureau wit wegtrekken toen ik dit tijdens een vergadering uitlegde. Ze had zes maanden aan campagne-audio staan op een platform dat net een auteursrechtzaak had geschikt. Niets ervan kon worden geëxporteerd.

De nacht waarin we ruzieden over het verkeerde probleem

Een tijdlang waren mijn team en ik geobsedeerd door de verkeerde vraag. We bleven maar vragen: "Hoe maken we generatieve AI-muziek veiliger?" We probeerden prompt-guardrails. We probeerden output-fingerprinting. We probeerden classifiers te bouwen die konden detecteren wanneer een gegenereerde track te dicht bij een bekende opname lag.

Het was allemaal het oplappen van een kapot fundament.

Het argument dat onze richting veranderde, ontstond boven een whiteboard vol architectuurdiagrammen. Een van onze senior engineers — ik noem hem Raj — bleef zich verzetten tegen elke waarborg die ik voorstelde. "Je probeert een probabilistisch systeem zich deterministisch te laten gedragen," zei hij. "Dat kan niet. Het hele punt van diffusie is het reconstrueren van trainingsdata. Je vraagt het om niet te doen waar het voor is ontworpen."

Hij had gelijk. En hij was gefrustreerd, want hij zei het al weken en ik had niet geluisterd.

De vraag was niet hoe je Black Box-generatie veiliger maakt. De vraag was: waarom genereren we überhaupt vanaf nul?

Elke zakelijke klant met wie we spraken, had al audiomiddelen. Ze hadden demo-opnames. Ze hadden gelicentieerde stocktracks. Ze hadden materiaal uit oudere catalogi. Ze hadden geen model nodig dat uit het niets een nummer hallucineert. Ze hadden een model nodig dat transformeert wat ze al bezaten — een stem veranderen, een mix moderniseren, een stem isoleren — zonder de keten van auteursrechtelijk eigenaarschap te breken.

Dat besef was de geboorte van wat we nu de Source-Separated Licensing Engine noemen.

Wat is een Source-Separated Licensing Engine?

In plaats van een AI te vragen audio te genereren op basis van een tekstprompt — waarvoor het model een latente ruimte moet doorkruisen die is opgebouwd uit gestolen auteursrechten — vragen we de AI om twee zeer specifieke, zeer auditeerbare dingen te doen:

Ten eerste: uit elkaar halen. Met behulp van Deep Source Separation ontleden we een gelicentieerde track in zijn samenstellende stems: zang, drums, bas en al het andere. De AI creëert niets. Hij isoleert wat er al is, zoals een chirurg die weefsellagen scheidt.

Vervolgens: transformeren. Met behulp van Retrieval-Based Voice Conversion (RVC) veranderen we de vocale identiteit op de geïsoleerde stem. De melodie blijft. De tekst blijft. De uitvoering blijft. Maar de stem — het timbre, de textuur, de korrel — komt uit een gelicentieerd stemmodel dat we hebben getraind op opnames van een stemacteur die een commerciële vrijgave heeft ondertekend.

De compositie komt van de gelicentieerde input van de klant. De stem komt van ons gelicentieerde model. Elk ingrediënt heeft een duidelijke keten van titelrecht. Er is geen latente ruimte van geschraapte auteursrechten. Er is geen probabilistische hallucinatie. Er is geen mysterie over waar welk element vandaan komt.

We ruilden de magie van hallucinatie in voor de zekerheid van engineering. En zakelijke klanten willen geen magie — ze willen middelen die ze daadwerkelijk kunnen bezitten.

Hoe werkt Deep Source Separation eigenlijk?

Wanneer je naar een afgewerkt nummer luistert, hoor je een polyfoon mengsel — zang, drums, bas, gitaren, synths, allemaal boven op elkaar gelaagd. Een basgitaar en een kickdrum leven allebei in het bereik van 50–200 Hz. Een stem en een piano delen het bereik van 500 Hz–2 kHz. Traditionele audiofilters kunnen ze niet uit elkaar trekken zonder het geluid te vernietigen.

Deep Source Separation gebruikt neurale netwerken om dit op te lossen. De gemengde audio wordt omgezet in een spectrogram — in wezen een visuele kaart van frequenties in de tijd — en het netwerk leert een "masker" te genereren voor elke bron. Zie het als een sjabloon: het masker vertelt het systeem welke frequenties op welke momenten bij de drums horen, welke bij de zang, welke bij al het andere. Pas het masker toe en je krijgt een schone, geïsoleerde stem.

We draaien een ensemble van de beste architecturen — Hybrid Transformer Demucs voor het vastleggen van langeafstandspatronen zoals een herhalende drumbeat over een heel nummer, en MDX-Net voor spectrale helderheid over frequentiebanden. Door meerdere modellen te draaien en de resultaten te middelen, minimaliseren we "bleeding", die vervelende artefacten waarbij je spookdrums in de zangtrack kunt horen.

Het juridische punt is wat telt: we voeren deze scheiding uit op tracks die de klant al bezit of heeft gelicentieerd. De AI is een hulpmiddel voor isolatie, niet voor uitvinding. De resulterende stems zijn juridisch afgeleid van de gelicentieerde brontrack.

Waarom is Voice Conversion belangrijker dan Voice Generation?

Dit is waar de intuïtie van de meeste mensen hen op een dwaalspoor brengt. Ze gaan ervan uit dat het indrukwekkende aan AI-audio het genereren van een stem uit het niets is. Dat is het niet. Het indrukwekkende — en het juridisch verdedigbare — is het omzetten van de ene stem in de andere terwijl al het andere aan de uitvoering behouden blijft.

RVC werkt door te ontrafelen wat er wordt gezongen van wie het zingt. Een model genaamd HuBERT stript de bronstem terug tot pure linguïstische en melodische inhoud — fonemen, prosodie, ritme — terwijl het de identiteit van de spreker weggooit. Het anonimiseert de uitvoering.

Dan komt de retrieval-stap, wat de kerninnovatie is. In plaats van een neuraal netwerk te laten raden hoe de doelstem zou moeten klinken (wat die veelzeggende synthetische gladheid oplevert), doorzoekt het systeem een vooraf opgebouwde index van de daadwerkelijke kenmerken van de doelstem — ademhalingen, raspen, klinkervormen — en injecteert het echte feature-fragmenten in de omgezette audio. Het resultaat klinkt authentiek omdat het authentiek is. Het is opgebouwd uit echte samples van de gelicentieerde stem, niet uit een statistische benadering.

Ten slotte synthetiseert een HiFi-GAN-vocoder de golfvorm, adversarieel getraind tegen echte opnames van de doelspreker totdat de output niet meer te onderscheiden is van een echte uitvoering.

Het geheel vereist slechts 30–60 minuten schone audio van één enkele spreker om een stemmodel te trainen. Vergelijk dat met Suno of Udio, die miljoenen geschraapte tracks nodig hebben om "muziek" te leren. Onze aanpak is chirurgisch waar de hunne industrieel is.

De deleteknop die Black Box-modellen niet hebben

Hier is iets waar juridische teams van bedrijven 's nachts wakker van liggen: als een stemacteur zijn toestemming intrekt, of een licentiedeal afloopt, kun je dan zijn bijdrage uit je AI-systeem verwijderen?

Bij grote transformermodellen — het soort dat Suno en Udio aandrijft — is het antwoord in feite nee. De trainingsdata zit ingebakken in miljarden parameters. Het verwijderen van de invloed van een specifieke artiest vereist kostbare hertraining en riskeert "catastrophic forgetting", waarbij het model capaciteiten verliest die veel verder gaan dan wat je wilde verwijderen.

In onze architectuur is elke stem een apart bestand. Ongeveer 50 megabyte. Als een stemacteur zegt "Ik ben klaar", verwijderen we het bestand. De scheidingsengine blijft werken. Elk ander stemmodel blijft werken. Naleving van "Right to be Forgotten"-verzoeken is onmiddellijk en chirurgisch.

In een Black Box-model is ontleren een onderzoeksprobleem. In onze architectuur is het een deletetoets.

Ik kan niet genoeg benadrukken hoezeer dit ertoe doet nu de regelgeving strenger wordt. De EU AI Act zal transparantie over trainingsdata eisen. Het vermogen om granulaire controle over elk onderdeel van je AI-pijplijn aan te tonen is geen nice-to-have — het gaat basisvoorwaarde worden.

Wat gebeurt er als iemand je AI-audio in twijfel trekt?

Elk bestand dat onze pijplijn verlaat, draagt een C2PA-manifest — een cryptografische handtekening van de Coalition for Content Provenance and Authenticity. Zie het als een digitaal voedingslabel dat met het bestand meereist en niet vervalst kan worden.

Het manifest registreert: de hash van de input-audio (die de afleiding van een gelicentieerde bron bewijst), de hash van het scheidingsmodel (die bewijst welke tool is gebruikt), de hash van het stemmodel (die bewijst welke gelicentieerde stem is toegepast), en Veriprajna's cryptografische handtekening die de integriteit van de hele keten certificeert.

Als YouTube een track markeert, als Spotify de auteursrechtelijke status ervan in twijfel trekt, als een concurrent beweert dat het een deepfake is — de klant opent het manifest en de herkomst staat daar, wiskundig verifieerbaar. Geen dubbelzinnigheid. Geen "vertrouw ons maar." Cryptografisch bewijs.

Voor de volledige technische architectuur van de pijplijn en de C2PA-integratie heb ik een gedetailleerd onderzoekspaper gepubliceerd dat dieper gaat dan ik hier kan.

"Maar beperk je hiermee niet gewoon wat AI kan doen?"

Mensen vragen me dit voortdurend. Meestal op een toon die impliceert dat ik een spelbreker ben.

Mijn antwoord: ik beperk AI niet. Ik beperk aansprakelijkheid. Er is een verschil.

Een Black Box-generator die elk nummer uit een tekstprompt kan produceren, is oprecht indrukwekkende technologie. Dat ontken ik niet. Maar indrukwekkende technologie die je niet kan vertellen waar de output vandaan komt, die niet kan worden geaudit, die niet kan garanderen dat je bezit wat het produceert — die technologie is een consumentenspeeltje, geen zakelijk hulpmiddel.

Het US Copyright Office is steeds duidelijker geworden: puur AI-gegenereerde werken zijn waarschijnlijk niet auteursrechtelijk beschermd. Het typen van "maak een jazznummer" is geen auteurschap. Het is een idee, geen uitdrukking. Wat betekent dat als je concurrent je AI-gegenereerde jingle jat en in zijn eigen reclame gebruikt, je mogelijk geen juridisch verhaal hebt.

Onze aanpak behoudt de auteursrechtelijke bescherming omdat er aan de basis een door mensen gemaakte gidstrack ligt en bij elke stap door mensen aangestuurde transformatie. De AI is een hulpmiddel in handen van een maker, niet een maker zelf. Dat onderscheid is het verschil tussen het bezitten van je output en hopen dat niemand het steelt.

De echte kostenvergelijking

Ik zal direct zijn over de economie, want niemand anders in deze sector lijkt bereid dat te zijn.

Trainen op geschraapte data is gratis. De juridische aansprakelijkheid is ongelimiteerd — wettelijke schadevergoedingen tot $150.000 per inbreukmakend werk. Als je model tienduizend nummers heeft opgenomen, reken maar uit.

Het licentiëren van trainingsdata en stemopnames brengt vooraf kosten met zich mee. Maar het maximeert je aansprakelijkheid op nul. Elke component in de keten heeft een ondertekende overeenkomst erachter. Elke output heeft een herkomstmanifest eraan gehecht.

Het reclamebureau dat ons voor die eerste evaluatie inhuurde? Zij deden de rekensom. De kosten van onze pijplijn waren een afrondingsfout vergeleken met één enkele claim wegens auteursrechtinbreuk. En anders dan de Black Box-platforms konden wij daadwerkelijk garanderen dat de afrondingsfout de totale kosten was — geen aanbetaling op een rechtszaak.

Het einde van "Prompt and Pray"

De RIAA-rechtszaken tegen Suno en Udio zijn niet het einde van AI-audio. Ze zijn het einde van de fase waarin niemand vroeg waar de trainingsdata vandaan kwam. De schikkingsvoorwaarden — omheinde tuinen, downloadbeperkingen, nieuwe gelicentieerde platforms — vertellen je precies waar dit heen gaat. Het wilde westen sluit zijn deuren.

Wat hierna komt is wat wij aan het bouwen zijn: soevereine audiopijplijnen waarin elk artefact een verifieerbare oorsprong heeft, waarin modellen op componentniveau kunnen worden geaudit, bijgewerkt en verwijderd, waarin de output deterministisch is in plaats van probabilistisch, en waarin de zakelijke klant daadwerkelijk bezit waarvoor hij heeft betaald.

Ik denk vaker aan die nacht met Priya en het Mariah Carey-zangloopje dan ik zou willen toegeven. Niet omdat het technisch verrassend was — we wisten dat de modellen trainingsdata memoriseerden. Maar omdat het het risico voelbaar maakte. Dat was geen abstracte juridische theorie die door onze speakers klonk. Het was iemands levenswerk, gecomprimeerd tot gewichten en zonder toestemming gereconstrueerd, klaar om te worden geleverd aan een klant die geen idee zou hebben gehad wat hij verspreidde.

Je kunt geen bedrijf bouwen op een systeem dat zichzelf niet kan verklaren. Als je niet weet op welke data het model is getraind, bezit je de output niet. Je creëert niet. Je gokt.

In een tijdperk van synthetische onzekerheid is herkomst het product.

Wij bouwen systemen waarin elke noot een naam heeft, elke stem een contract heeft en elk bestand bewijs draagt. Dat is geen beperking van AI. Dat is hoe AI eruitziet wanneer het klaar is voor de echte wereld.