一张极具张力的编辑风格图像,展示音频波形被拆解为带标注的透明层次——象征本文主题:可审计、可溯源的AI音频,与不透明的黑箱生成形成对照。
Artificial IntelligenceMusic IndustryIntellectual Property

那晚AI音乐生成器吐出一段玛丽亚·凯莉式花腔,我从此不再信任它

阿舒托什·辛加尔阿舒托什·辛加尔2026年2月22日14 min

那时已近午夜,我和两位工程师坐在我们的办公室里,喝着一壶糟糕的咖啡,对一个热门的生成式音频平台做压力测试。我们受雇评估一家广告公司能否在一场全国性广告活动中安全地使用AI生成的音乐。于是我们有条不紊地向这个工具输入提示——一个流派接一个流派,一种风格接一种风格——记录下产出的结果。

接着,我的一位工程师Priya播放了她用一个简单提示生成的曲目:“欢快的流行抒情歌,女歌手,音域强大。”她没有提到任何艺人。她没有要求模仿谁的声音。但从音箱里传出来的声音,让我们三个人都沉默了。

那是毫无疑问的。那段花腔——那种层层跌宕、婉转变调的人声演绎——只属于一个人。这个工具并没有“创造”出一种人声风格。它是从训练时吞下的一切素材中,重建出了玛丽亚·凯莉的标志性技巧。而且它是从一个从未提及她名字的提示中做到这一点的。

我转向Priya说:“如果我们把这个交付给客户,而索尼的某个人听到了,那被起诉的不会是我们。而是那个客户会被起诉。”

就是在那一夜,我不再把生成式AI音乐当作一种创作工具,而开始看清它真正的本质:一个针对受版权保护素材的压缩算法,只是被包装进了一个文本框里。也正是那一夜,我下定决心要在Veriprajna打造一种从根本上不同的东西。

那场改变了一切的诉讼

如果你一直没有关注美国唱片业协会(RIAA)针对Suno和Udio的诉讼,那你应该关注一下。这不是一起无关痛痒的骚扰性诉讼。这是音乐行业划下的底线。

RIAA指控这些平台从事了工业规模的“流媒体扒取”——绕过YouTube的滚动密码加密,下载数百万份受版权保护的录音,并将它们直接喂入其训练管线。不是偶然的摄入。不是几首歌曲的漏网。数百万首曲目,被蓄意抓取,它们的表现性特征被量化为向量,好让模型能够按需重建它们。

这套法律理论既精妙又极具杀伤力:毒树之果。如果训练数据是非法获取的,那么每一个输出都被污染了。用户是否怀有无辜的意图无关紧要。输出是否并非逐音符的复制也无关紧要。模型之所以学会生成“一首玛丽亚·凯莉风格的歌”,是因为它记住了玛丽亚·凯莉真实录音的统计指纹。那不是灵感。那是以文本提示为钥匙的数据解压。

当一个模型无法告诉你它的创作决策来自何处时,它就不能在商业供应链中被信任。就这么简单。

我在我们研究的交互式版本里完整剖析了法律与技术层面,但简短的版本是这样的:这些工具的企业用户,其实是在租借一场诉讼。这些平台的服务条款经过精心设计,一旦提示变得具体,就会把责任转回到用户身上。而“具体”的门槛,比你想象的要低。

为什么“合理使用”对AI音乐不成立?

并排对比示意图,对照黑箱AI音乐生成器的工作方式(抓取的数据 → 不透明的模型 → 无法验证的输出 → 法律责任)与白箱/源分离方法(已授权的输入 → 可审计的管线 → 打上溯源印记的输出 → 所有权)。

这是我从那些想使用这些工具的高管那里最常听到的问题。“训练难道不是转化性的吗?难道不就像一位音乐家在听收音机吗?”

并非如此。而且法院正越来越多地这样认定。

在美国,合理使用取决于四个要素,但真正击垮AI音乐生成器的是第四个:对潜在市场的影响。当一个AI工具每月向用户收取24美元,来生成那些与它所训练的授权录音直接竞争——并可替代它们——的曲目时,市场损害就不是理论上的了。它就是这门生意的商业模式本身。

一位人类音乐家听玛丽亚·凯莉的歌,然后写出一首原创歌曲,他是通过多年的人生阅历、身体上的声乐训练以及创造性的诠释,来消化那种影响的。而一个扩散模型摄入她的频谱图,学会从噪声中逆向工程还原它,所做的事情在本质上是完全不同的。它把她的作品压缩进了权重里,并学会按指令将其解压。

Udio与环球音乐集团(Universal Music Group)的和解,让这一点变得残酷而具体。作为协议的一部分,据报道,原平台的用户如今甚至无法下载自己的作品。一切都被锁进了一座围墙花园里。如果你曾在Udio上为一场广告活动制作配乐,那段配乐如今在任何脱离该平台的应用场景中,都可能在商业上毫无用处。

当我在一次会议上解释这一点时,我看着一位广告公司的创意总监脸色发白。她有六个月的广告活动音频,就搁在一个刚刚就一起版权诉讼达成和解的平台上。这些音频一份都导不出来。

我们为错误问题争论的那一夜

有一段时间,我和我的团队执迷于一个错误的问题。我们不断追问:“我们要如何让生成式AI音乐更安全?”我们尝试了提示词护栏。我们尝试了输出指纹识别。我们尝试构建分类器,以检测某段生成的曲目何时过于接近某段已知的录音。

所有这些,都只是在给一个破碎的地基打补丁。

真正改变了我们方向的那场争论,发生在一块写满架构图的白板前。我们的一位资深工程师——就叫他Raj吧——对我提出的每一项防护措施都不断反驳。“你是在试图让一个概率性系统表现得具有确定性,”他说,“它做不到。扩散的全部意义就在于重建训练数据。你是在要求它不去做它被设计出来要做的事。”

他是对的。而且他很沮丧,因为他已经说了好几个星期,而我一直没在听。

问题不在于如何让黑箱生成更安全。问题在于:我们究竟为什么要从零开始生成?

我们接触的每一个企业客户,都已经拥有音频资产。他们有样带录音。他们有已授权的素材曲目。他们有陈年的曲库素材。他们不需要一个模型凭空幻觉出一首歌。他们需要一个模型去转换他们已经拥有的东西——更换一个人声、让混音变得现代、分离出一条音轨——同时不打破版权所有权的链条。

那一刻的领悟,就是我们如今称之为“源分离授权引擎”的东西的诞生。

什么是源分离授权引擎?

一张带标注的管线示意图,展示完整的源分离授权引擎工作流程:已授权曲目输入 → 深度源分离为多条音轨 → 对人声音轨进行语音转换 → 重新合成 → 将C2PA溯源清单附加到最终输出上。

我们不是要求AI从一个文本提示中生成音频——那需要模型穿越一个由盗取的版权构建而成的潜在空间——而是要求AI去做两件非常具体、非常可审计的事:

第一,拆解。我们使用深度源分离,把一首已授权的曲目解构为它的组成音轨:人声、鼓、贝斯,以及其余的一切。AI并没有创造任何东西。它只是分离出本就存在的东西,就像一位外科医生分离组织的层次。

第二,转换。我们使用基于检索的语音转换(RVC),改变那条被分离出的音轨上的人声身份。旋律不变。歌词不变。表演不变。但那人声——它的音色、质地、颗粒感——来自一个已授权的人声模型,那是我们用一位签署了商业授权的配音演员的录音训练出来的。

作曲来自客户已授权的输入。人声来自我们已授权的模型。每一种原料都有清晰的产权链条。这里没有由抓取而来的版权构成的潜在空间。这里没有概率性的幻觉。这里没有任何关于某个元素来自何处的谜团。

我们用幻觉的魔法,换来了工程的确定性。而企业客户并不想要魔法——他们想要的是自己真正能够拥有的资产。

深度源分离究竟是如何工作的?

一张带注释的示意图,展示一段混合音频的频谱图如何通过神经网络掩码处理,产出被分离出的各条音轨——图解了频率重叠的问题以及掩码的解决方案。

当你听一首完成的歌曲时,你听到的是一种复调混合——人声、鼓、贝斯、吉他、合成器,全都层层叠加在一起。贝斯吉他和底鼓都处于50–200Hz的频段。人声和钢琴共享500Hz–2kHz的频段。传统的音频滤波器无法在不破坏声音的前提下把它们分开。

深度源分离用神经网络来解决这个问题。混合音频被转换成一张频谱图——本质上是一张随时间变化的频率视觉地图——网络则学着为每个声源生成一个“掩码”。你可以把它想象成一张镂空模板:掩码告诉系统,哪些时刻的哪些频率属于鼓,哪些属于人声,哪些属于其余的一切。套上这张掩码,你就得到一条干净的、被分离出的音轨。

我们运行一个由最优架构组成的集成——用于捕捉长程模式(比如贯穿整首歌曲反复出现的鼓点)的混合Transformer Demucs(Hybrid Transformer Demucs),以及在各频段实现频谱清晰度的MDX-Net。运行多个模型并对结果取平均,能把“串音”降到最低——就是那些恼人的伪影,让你能在人声轨里听到幽灵般的鼓声。

真正重要的是法律层面的要点:我们是在客户已经拥有或已获授权的曲目上进行这种分离的。AI是一件用于分离的工具,而不是用于发明。由此得到的各条音轨,在法律上是从已授权的母曲派生而来的。

为什么语音转换比语音生成更重要?

这正是大多数人的直觉把他们引入歧途的地方。他们以为AI音频令人惊叹的部分,是凭空生成一个人声。并不是。真正令人惊叹的部分——也是在法律上站得住脚的部分——是把一个人声转换成另一个人声,同时保留这段表演的其他一切。

RVC的工作原理是解耦所唱的内容由谁在演唱。一个名为HuBERT的模型,把源人声剥离成纯粹的语言与旋律内容——音素、韵律、节奏——同时舍弃演唱者的身份。它把这段表演匿名化了。

接下来是检索步骤,这是关键的创新。系统不是让一个神经网络去猜测目标人声应该听起来是什么样(那会产生那种一听便知的合成式平滑感),而是搜索一个预先构建的、关于目标人声真实特征的索引——呼吸声、沙哑声、元音口型——并把真实的特征片段注入到转换后的音频中。结果听起来很真实,因为它本就确实是真实的。它是由已授权人声的真实样本构建而成,而不是一种统计上的近似。

最后,一个HiFi-GAN声码器合成出波形,它经过对抗式训练,与目标说话者的真实录音相互对抗,直到输出结果与一段真实的表演难以区分。

整件事只需要来自单个说话者的30–60分钟干净音频,就能训练出一个人声模型。把这和Suno或Udio比一比——它们需要数百万份被抓取的曲目才能学会“音乐”。我们的方法是外科手术式的,而他们的是工业式的。

黑箱模型所没有的那个删除按钮

这里有一件让企业法务团队夜不能寐的事:如果一位配音演员撤回同意,或者一份授权协议到期,你能从你的AI系统中移除他们的贡献吗?

对于大型Transformer模型——也就是驱动Suno和Udio的那一类——答案实际上是不能。训练数据被烘焙进了数十亿个参数里。要移除某位特定艺人的影响,需要昂贵的重新训练,而且有“灾难性遗忘”的风险,也就是模型会丧失远超出你想移除范围的种种能力。

在我们的架构里,每一个人声都是一个独立的文件。大约50兆字节。如果一位配音演员说“我不干了”,我们就删掉那个文件。分离引擎照常运转。其他每一个人声模型也照常运转。对“被遗忘权”请求的合规响应,是即时且精准的。

在一个黑箱模型里,遗忘是一个研究难题。在我们的架构里,它只是一个删除键。

随着监管日趋收紧,我怎么强调这一点的重要性都不为过。欧盟《人工智能法案》(EU AI Act)将要求就训练数据保持透明。能够展示出对你AI管线中每一个组件的细粒度控制,将不再是一个“锦上添花”——它将成为入场的基本门槛。

当有人质疑你的AI音频时,会发生什么?

每一个离开我们管线的文件,都携带着一份C2PA清单——一个来自内容溯源与真实性联盟(Coalition for Content Provenance and Authenticity)的加密签名。你可以把它想象成一张随文件一同流转、且无法伪造的数字营养成分标签。

这份清单记录了:输入音频的哈希值(证明其派生自一个已授权的来源)、分离模型的哈希值(证明使用了哪个工具)、人声模型的哈希值(证明应用了哪个已授权的人声),以及Veriprajna的加密签名,用以证明整条链条的完整性。

如果YouTube标记了某段曲目,如果Spotify质疑它的版权状态,如果某个竞争对手指称它是深度伪造——客户只需打开这份清单,溯源信息就在那里,可在数学上加以验证。没有含糊。没有“相信我们就好”。而是加密学上的证明。

关于该管线的完整技术架构以及C2PA集成,我发表了一篇详尽的研究论文,它比我在这里所能讲的更加深入。

“但这不就是在限制AI所能做的事吗?”

人们不断这样问我。通常还带着一种言下之意是我在扫大家兴的语气。

我的回答是:我不是在限制AI。我限制的是法律责任。这两者是有区别的。

一个能从文本提示中生成任意歌曲的黑箱生成器,是一项真正令人惊叹的技术。我并不否认这一点。但一项无法告诉你其输出来自何处、无法被审计、无法保证你拥有它所产出之物的令人惊叹的技术——那样的技术是一件消费级玩具,而不是一件企业级工具。

美国版权局(US Copyright Office)的态度越来越明确:纯粹由AI生成的作品很可能不受版权保护。敲下“做一首爵士歌曲”并不构成著作权意义上的创作。那是一个想法,而不是一种表达。这意味着,如果你的竞争对手扒走了你AI生成的广告曲,并把它用在自己的广告里,你可能没有任何法律救济手段。

我们的方法保住了可版权性,因为在其根基处有一条由人类创作的引导轨,在每一个步骤中都有由人类主导的转换。AI是一件握在创作者手中的工具,而不是创作者本身。这一区别,正是“拥有你的输出”与“但愿没人来偷它”之间的差别。

真正的成本方程式

我会直白地谈谈其中的经济账,因为这个领域里似乎没有别人愿意这样做。

在抓取来的数据上训练是免费的。但法律责任是没有上限的——每一件被侵权的作品最高可判15万美元的法定赔偿金。如果你的模型摄入了一万首歌,你自己算算这笔账。

为训练数据和人声录音获取授权,会带来一笔前期成本。但它把你的法律责任封顶在了零。链条中的每一个组件背后,都有一份签署过的协议。每一个输出,都附带着一份溯源清单。

当初雇我们做那次评估的广告公司?他们算了算账。与哪怕一起版权侵权索赔相比,我们管线的成本不过是一个可以忽略的零头。而且,与那些黑箱平台不同,我们能够真正保证,这个零头就是全部成本——而不是一场诉讼的首付款。

“输入提示,然后祈祷”的终结

RIAA针对Suno和Udio的诉讼,并不是AI音频的终结。它们终结的,是那个没人过问训练数据从何而来的阶段。那些和解条款——围墙花园、下载限制、新的授权平台——已经明白无误地告诉你,事情正走向何方。蛮荒的西部正在落幕。

接下来登场的,正是我们一直在打造的东西:主权音频管线——其中每一件产物都有一个可验证的来源,其中模型可以在组件层面被审计、被更新、被删除,其中输出是确定性的而非概率性的,其中企业客户真正拥有他们所付费换来的东西。

我想起和Priya在一起、以及那段玛丽亚·凯莉式人声演绎的那一夜的次数,比我愿意承认的还要多。并不是因为它在技术上有多令人意外——我们早就知道这些模型在死记硬背训练数据。而是因为它让风险变得可触可感。那不是一套抽象的法律理论从我们的音箱里播放出来。那是某个人毕生的心血,被压缩进了权重里,在未经许可的情况下被重建出来,随时准备交付给一个根本不知道自己将要分发什么的客户。

你无法在一个无法解释自身的系统之上建立一门生意。如果你不知道模型是用什么数据训练的,你就不拥有那个输出。你不是在创作。你是在赌博。

在一个充满合成不确定性的时代,溯源本身就是产品。

我们打造的系统,让每一个音符都有名字,每一个人声都有合同,每一个文件都携带着证明。那不是对AI的一种限制。那才是AI在准备好迎接真实世界时应有的样子。

相关研究

同步发布于

满怀信心地构建您的 AI。

与一支在打造新一代企业级 AI 方面拥有深厚经验的团队携手合作。让我们助您设计、构建并部署一套值得信赖的 AI 战略。

Veriprajna 深度科技咨询公司 专注于为医疗健康、金融和监管等领域构建安全攸关的 AI 系统。我们的架构均依据成熟的规范进行验证,并配有完善的合规文档。