Dejé de confiar en los generadores de música con IA la noche en que uno escupió una cascada vocal de Mariah Carey

Era casi medianoche y yo estaba sentado en nuestra oficina con dos ingenieros y una jarra de café malísimo, ejecutando pruebas de estrés sobre una popular plataforma de audio generativo. Nos habían contratado para evaluar si una agencia de publicidad podía usar de forma segura música generada por IA en una campaña nacional. Así que le dábamos instrucciones a la herramienta de manera metódica —género por género, estilo por estilo— documentando lo que salía.

Entonces una de mis ingenieras, Priya, reprodujo una pista que había generado con una instrucción sencilla: "balada pop animada, vocalista femenina, amplio registro". No mencionó a ningún artista. No pidió una imitación. Pero lo que salió de los altavoces nos dejó a los tres en silencio.

Era inconfundible. El melisma —esa cascada de notas moduladas en la voz— pertenecía a una sola persona. La herramienta no había "creado" un estilo vocal. Había reconstruido la técnica característica de Mariah Carey a partir de lo que fuera que hubiera engullido durante el entrenamiento. Y lo había hecho a partir de una instrucción que jamás mencionó su nombre.

Me volví hacia Priya y le dije: "Si le entregamos esto a un cliente y alguien en Sony lo oye, no nos van a demandar a nosotros. Al que van a demandar es al cliente".

Esa fue la noche en que dejé de pensar en la música de IA generativa como una herramienta creativa y empecé a verla por lo que realmente es: un algoritmo de compresión de material protegido por derechos de autor, disfrazado dentro de un cuadro de texto. Y fue la noche en que me comprometí a construir algo fundamentalmente distinto en Veriprajna.

La demanda que lo cambió todo

Si no has estado siguiendo los casos de la Recording Industry Association of America contra Suno y Udio, deberías hacerlo. No es un pleito menor. Es la línea en la arena de la industria musical.

La RIAA alega que estas plataformas incurrieron en "stream-ripping" a escala industrial —sortear el cifrado rotativo de YouTube para descargar millones de grabaciones protegidas por derechos de autor y alimentarlas directamente en sus flujos de entrenamiento. No una ingesta incidental. No unas cuantas canciones que se colaron. Millones de pistas, raspadas deliberadamente, con sus rasgos expresivos cuantificados en vectores para que el modelo pudiera reconstruirlas a demanda.

La teoría jurídica es elegante y demoledora: el fruto del árbol envenenado. Si los datos de entrenamiento se obtienen ilegalmente, cada salida queda contaminada. No importa que el usuario tuviera intenciones inocentes. No importa que la salida no sea una copia nota por nota. El modelo aprendió a generar "una canción como la de Mariah Carey" al memorizar la huella estadística de las grabaciones reales de Mariah Carey. Eso no es inspiración. Es descompresión de datos con una instrucción de texto como clave.

Cuando un modelo no puede decirte de dónde vinieron sus decisiones creativas, no se puede confiar en él dentro de una cadena de suministro comercial. Punto.

Escribí sobre el desglose legal y técnico completo en la versión interactiva de nuestra investigación, pero la versión corta es esta: los usuarios empresariales de estas herramientas están alquilando una demanda. Los Términos de Servicio de las plataformas están diseñados para trasladar la responsabilidad de vuelta al usuario en el momento en que una instrucción se vuelve específica. Y "específica" es un umbral más bajo de lo que crees.

¿Por qué falla el "uso legítimo" para la música de IA?

Esta es la pregunta que más me hacen los directivos que quieren usar estas herramientas. "¿Acaso el entrenamiento no es transformador? ¿No es como un músico que escucha la radio?"

No. Y los tribunales cada vez lo dicen más.

El uso legítimo en EE. UU. depende de cuatro factores, pero el que mata a los generadores de música de IA es el cuarto: el efecto sobre el mercado potencial. Cuando una herramienta de IA cobra a los usuarios 24 dólares al mes por generar pistas que compiten directamente con —y sustituyen a— las grabaciones licenciadas con las que fue entrenada, el daño al mercado no es teórico. Es el modelo de negocio.

Un músico humano que escucha a Mariah Carey y escribe una canción original ha procesado esa influencia a través de años de experiencia vivida, entrenamiento físico de la voz e interpretación creativa. Un modelo de difusión que ingiere su espectrograma y aprende a reconstruirlo a la inversa a partir de ruido ha hecho algo categóricamente distinto. Ha comprimido su obra en pesos y ha aprendido a descomprimirla a demanda.

El acuerdo de Udio con Universal Music Group volvió esto dolorosamente concreto. Como parte del pacto, según se informa, los usuarios de la plataforma original ya ni siquiera pueden descargar sus propias creaciones. Todo queda encerrado en un jardín amurallado. Si construiste la banda sonora de una campaña publicitaria en Udio, esa banda sonora puede ser ahora comercialmente inútil para cualquier aplicación fuera de la plataforma.

Vi cómo el rostro de una directora creativa de agencia se ponía pálido cuando le expliqué esto en una reunión. Tenía seis meses de audio de campaña alojado en una plataforma que acababa de llegar a un acuerdo por una demanda de derechos de autor. Nada de ello podía exportarse.

La noche en que discutimos sobre el problema equivocado

Durante un tiempo, mi equipo y yo estuvimos obsesionados con la pregunta equivocada. Seguíamos preguntando: "¿Cómo hacemos que la música de IA generativa sea más segura?" Probamos con barreras de protección en las instrucciones. Probamos con huellas digitales en las salidas. Probamos con clasificadores que pudieran detectar cuándo una pista generada se parecía demasiado a una grabación conocida.

Todo aquello era parchear unos cimientos rotos.

El argumento que cambió nuestro rumbo ocurrió frente a una pizarra cubierta de diagramas de arquitectura. Uno de nuestros ingenieros sénior —lo llamaré Raj— rebatía cada salvaguarda que yo proponía. "Estás intentando que un sistema probabilístico se comporte de forma determinista", dijo. "No puede. El propósito mismo de la difusión es reconstruir los datos de entrenamiento. Le estás pidiendo que no haga aquello para lo que fue diseñado."

Tenía razón. Y estaba frustrado, porque llevaba semanas diciéndolo y yo no lo había escuchado.

La pregunta no era cómo hacer más segura la generación de caja negra. La pregunta era: ¿por qué estamos generando desde cero siquiera?

Cada cliente empresarial con el que hablábamos ya tenía activos de audio. Tenían grabaciones de demostración. Tenían pistas de stock licenciadas. Tenían material de catálogo heredado. No necesitaban un modelo que alucinara una canción de la nada. Necesitaban un modelo que transformara lo que ya poseían —cambiar una voz, modernizar una mezcla, aislar un stem— sin romper la cadena de propiedad de los derechos de autor.

Esa comprensión fue el nacimiento de lo que ahora llamamos el Motor de Licenciamiento por Separación de Fuentes.

¿Qué es un Motor de Licenciamiento por Separación de Fuentes?

En lugar de pedirle a una IA que genere audio a partir de una instrucción de texto —lo que exige que el modelo recorra un espacio latente construido con derechos de autor robados—, le pedimos a la IA que haga dos cosas muy específicas y muy auditables:

Primero, descomponer. Usando Separación Profunda de Fuentes, deconstruimos una pista licenciada en sus stems constituyentes: voces, batería, bajo y todo lo demás. La IA no está creando nada. Está aislando lo que ya está ahí, como un cirujano que separa capas de tejido.

Después, transformar. Usando Conversión de Voz Basada en Recuperación (RVC), cambiamos la identidad vocal sobre el stem aislado. La melodía se queda. La letra se queda. La interpretación se queda. Pero la voz —el timbre, la textura, el grano— proviene de un modelo de voz licenciado que entrenamos con grabaciones de un actor de voz que firmó una autorización comercial.

La composición proviene de la entrada licenciada del cliente. La voz proviene de nuestro modelo licenciado. Cada ingrediente tiene una cadena de titularidad clara. No hay ningún espacio latente de derechos de autor raspados. No hay ninguna alucinación probabilística. No hay ningún misterio sobre de dónde vino cada elemento.

Cambiamos la magia de la alucinación por la certeza de la ingeniería. Y los clientes empresariales no quieren magia: quieren activos que puedan poseer de verdad.

¿Cómo funciona realmente la Separación Profunda de Fuentes?

Cuando escuchas una canción terminada, estás oyendo una mezcla polifónica —voces, batería, bajo, guitarras, sintetizadores, todo superpuesto unos sobre otros. Un bajo eléctrico y un bombo viven ambos en el rango de 50–200 Hz. Una voz y un piano comparten el rango de 500 Hz–2 kHz. Los filtros de audio tradicionales no pueden separarlos sin destruir el sonido.

La Separación Profunda de Fuentes usa redes neuronales para resolver esto. El audio mezclado se convierte en un espectrograma —esencialmente un mapa visual de las frecuencias a lo largo del tiempo— y la red aprende a generar una "máscara" para cada fuente. Piénsalo como una plantilla: la máscara le indica al sistema qué frecuencias en qué momentos pertenecen a la batería, cuáles pertenecen a las voces y cuáles a todo lo demás. Aplica la máscara y obtienes un stem aislado limpio.

Ejecutamos un ensamblaje de las mejores arquitecturas —Hybrid Transformer Demucs para capturar patrones de largo alcance como un ritmo de batería que se repite a lo largo de toda una canción, y MDX-Net para nitidez espectral en las distintas bandas de frecuencia. Ejecutar varios modelos y promediar los resultados minimiza el "sangrado", esos molestos artefactos en los que se oye batería fantasma en la pista vocal.

Lo que importa es el punto legal: realizamos esta separación sobre pistas que el cliente ya posee o ha licenciado. La IA es una herramienta de aislamiento, no de invención. Los stems resultantes se derivan legalmente de la pista matriz licenciada.

¿Por qué la Conversión de Voz importa más que la Generación de Voz?

Aquí es donde la intuición de la mayoría de la gente los desvía. Suponen que la parte impresionante del audio de IA es generar una voz de la nada. No lo es. La parte impresionante —y la parte legalmente defendible— es convertir una voz en otra preservando todo lo demás de la interpretación.

El RVC funciona separando lo que se está cantando de quién lo está cantando. Un modelo llamado HuBERT reduce la voz de origen a puro contenido lingüístico y melódico —fonemas, prosodia, ritmo— mientras descarta la identidad del hablante. Anonimiza la interpretación.

Luego viene el paso de recuperación, que es la innovación clave. En lugar de que una red neuronal adivine cómo debería sonar la voz de destino (lo que produce esa característica suavidad sintética), el sistema busca en un índice preconstruido de las características reales de la voz de destino —respiraciones, aspereza, formas vocálicas— e inyecta fragmentos reales de esos rasgos en el audio convertido. El resultado suena auténtico porque lo es. Está construido a partir de muestras reales de la voz licenciada, no de una aproximación estadística.

Por último, un vocoder HiFi-GAN sintetiza la forma de onda, entrenado de forma adversaria contra grabaciones reales del hablante de destino hasta que la salida es indistinguible de una interpretación genuina.

Todo el proceso requiere solo entre 30 y 60 minutos de audio limpio de un único hablante para entrenar un modelo de voz. Compáralo con Suno o Udio, que necesitan millones de pistas raspadas para aprender "música". Nuestro enfoque es quirúrgico donde el suyo es industrial.

El botón de borrar que los modelos de caja negra no tienen

Aquí va algo que mantiene despiertos a los equipos jurídicos empresariales por la noche: si un actor de voz revoca su consentimiento, o un acuerdo de licencia expira, ¿puedes eliminar su contribución de tu sistema de IA?

Con modelos de transformadores grandes —del tipo que impulsa a Suno y Udio— la respuesta es, en la práctica, no. Los datos de entrenamiento están horneados dentro de miles de millones de parámetros. Eliminar la influencia de un artista específico exige un reentrenamiento costoso y arriesga el "olvido catastrófico", en el que el modelo pierde capacidades mucho más allá de lo que pretendías eliminar.

En nuestra arquitectura, cada voz es un archivo separado. Unos 50 megabytes. Si un actor de voz dice "he terminado", borramos el archivo. El motor de separación sigue funcionando. Todos los demás modelos de voz siguen funcionando. El cumplimiento de las solicitudes de "derecho al olvido" es instantáneo y quirúrgico.

En un modelo de caja negra, el desaprendizaje es un problema de investigación. En nuestra arquitectura, es una tecla de borrar.

No puedo exagerar cuánto importa esto a medida que las regulaciones se endurecen. La Ley de IA de la UE exigirá transparencia sobre los datos de entrenamiento. La capacidad de demostrar un control granular sobre cada componente de tu flujo de IA no es un lujo prescindible: va a ser un requisito mínimo indispensable.

¿Qué pasa cuando alguien cuestiona tu audio de IA?

Cada archivo que sale de nuestro flujo lleva un manifiesto C2PA —una firma criptográfica de la Coalition for Content Provenance and Authenticity. Piénsalo como una etiqueta nutricional digital que viaja con el archivo y no puede falsificarse.

El manifiesto registra: el hash del audio de entrada (probando la derivación de una fuente licenciada), el hash del modelo de separación (probando qué herramienta se usó), el hash del modelo de voz (probando qué voz licenciada se aplicó) y la firma criptográfica de Veriprajna que certifica la integridad de toda la cadena.

Si YouTube marca una pista, si Spotify cuestiona su estatus de derechos de autor, si un competidor alega que es un deepfake, el cliente abre el manifiesto y la procedencia está justo ahí, verificable matemáticamente. Sin ambigüedad. Sin "confía en nosotros". Prueba criptográfica.

Para conocer la arquitectura técnica completa del flujo y la integración de C2PA, he publicado un artículo de investigación detallado que profundiza más de lo que puedo hacerlo aquí.

"Pero, ¿no es esto simplemente limitar lo que la IA puede hacer?"

La gente me pregunta esto constantemente. Normalmente con un tono que da a entender que estoy siendo un aguafiestas.

Mi respuesta: no estoy limitando la IA. Estoy limitando la responsabilidad legal. Hay una diferencia.

Un generador de caja negra que puede producir cualquier canción a partir de una instrucción de texto es tecnología genuinamente impresionante. No lo niego. Pero una tecnología impresionante que no puede decirte de dónde vinieron sus salidas, que no puede auditarse, que no puede garantizarte que eres dueño de lo que produce —esa tecnología es un juguete de consumo, no una herramienta empresarial.

La Oficina de Derechos de Autor de EE. UU. ha sido cada vez más clara: las obras puramente generadas por IA probablemente no son susceptibles de derechos de autor. Escribir "haz una canción de jazz" no es autoría. Es una idea, no una expresión. Lo que significa que si tu competidor se apropia de tu jingle generado por IA y lo usa en su propio anuncio, quizá no tengas ningún recurso legal.

Nuestro enfoque preserva la susceptibilidad de derechos de autor porque en la base hay una pista guía creada por un humano y en cada paso hay una transformación dirigida por un humano. La IA es una herramienta en manos de un creador, no un creador en sí mismo. Esa distinción es la diferencia entre ser dueño de tu salida y esperar que nadie te la robe.

La verdadera ecuación de costes

Voy a ser directo respecto a la economía, porque nadie más en este ámbito parece dispuesto a serlo.

Entrenar con datos raspados es gratis. La responsabilidad legal es ilimitada —daños legales de hasta 150.000 dólares por obra infringida. Si tu modelo ingirió diez mil canciones, echa la cuenta.

Licenciar los datos de entrenamiento y las grabaciones de voz introduce un coste inicial. Pero limita tu responsabilidad a cero. Cada componente de la cadena tiene un acuerdo firmado detrás. Cada salida lleva un manifiesto de procedencia adjunto.

¿La agencia de publicidad que nos contrató para aquella evaluación inicial? Hicieron los números. El coste de nuestro flujo era un error de redondeo comparado con una sola reclamación por infracción de derechos de autor. Y a diferencia de las plataformas de caja negra, nosotros sí podíamos garantizar que el error de redondeo era el coste total, no un pago inicial de una demanda.

El fin del "instruye y reza"

Las demandas de la RIAA contra Suno y Udio no son el fin del audio de IA. Son el fin de la fase en la que nadie preguntaba de dónde venían los datos de entrenamiento. Los términos del acuerdo —jardines amurallados, restricciones de descarga, nuevas plataformas licenciadas— te dicen exactamente hacia dónde se dirige esto. El salvaje oeste está cerrando.

Lo que viene después es lo que hemos estado construyendo: flujos de audio soberanos donde cada artefacto tiene un origen verificable, donde los modelos pueden auditarse, actualizarse y eliminarse a nivel de componente, donde la salida es determinista en lugar de probabilística y donde el cliente empresarial es realmente dueño de aquello por lo que pagó.

Pienso en aquella noche con Priya y la cascada vocal de Mariah Carey más a menudo de lo que me gustaría admitir. No porque fuera técnicamente sorprendente —sabíamos que los modelos estaban memorizando datos de entrenamiento. Sino porque volvió el riesgo visceral. Aquello no era una teoría legal abstracta sonando por nuestros altavoces. Era la obra de la vida de alguien, comprimida en pesos y reconstruida sin permiso, lista para entregarse a un cliente que no habría tenido ni idea de lo que estaba distribuyendo.

No puedes construir un negocio sobre un sistema que no puede explicarse a sí mismo. Si no sabes con qué datos se entrenó el modelo, no eres dueño de la salida. No estás creando. Estás apostando.

En una era de incertidumbre sintética, la procedencia es el producto.

Construimos sistemas donde cada nota tiene un nombre, cada voz tiene un contrato y cada archivo lleva una prueba. Eso no es una limitación a la IA. Eso es lo que la IA parece cuando está lista para el mundo real.