我为什么不再信任AI,而是转向构建"神谕"
那封邮件是在一个周二的晚上11:47发来的。一家我们一直在洽谈的电池制造商刚刚把一批电芯从产线上撤了下来。不是因为它们没通过测试——而是因为他们的AI辅助材料筛选工具通过了一种候选电解质,而当一位人类化学家最终把数字算清楚时,却发现它在150°C以上热力学不稳定。这种材料会在电池组内部分解。分解会释放热量。热量会引发业内委婉地称之为"热失控"的现象——而我们其余人则称之为火灾。
没有人受伤。但我坐在办公桌前盯着那封邮件,反复思量"合理"这个词。那个AI在任何显而易见的层面上都没有错。它推荐的分子结构看起来很合理。它预测的生成能也大致落在正确的范围内。它是合理的。它只是并不真实。
这个区别——合理与真实之间的区别——正是当下贯穿整个AI行业的那条断层线。这也是我创建Veriprajna的原因。
套壳经济存在一个真相问题
关于当前这波AI产品,大多数人没有意识到的是:它们中的绝大多数只是薄薄的界面层——"套壳"——架在通用大语言模型之上。大语言模型预测下一个最可能的词元。套壳让它看起来像一个应用。用户以为自己得到的是答案。他们得到的是概率。
对于撰写营销文案或总结会议记录,这没问题。概率已经足够好了。但与我合作的公司没有"足够好"这种奢侈。他们制造装进电动汽车的电池。他们制作在全球播出的音频内容。对他们而言,一个99%合理但1%物理上不可能的答案不是舍入误差。它是一次热事件,或一场版权诉讼。
当你的AI要为某种可能起火或让你被起诉的东西负责时,"统计上可能"与"正确"并不是一回事。
我开始把这称为AI的分岔。一边是套壳经济——快速、易得、建立在随机预测之上。另一边是我们在Veriprajna所做的:深度AI,每一个输出在被任何人看到之前,都要接受不可变规则的验证。物理。逻辑。来源出处。这些东西并不在乎你的训练数据分布。
当AI预测它并不理解的化学时,会发生什么?
让我用电池问题把这一点讲具体,因为它一直萦绕在我心头。
锂离子电池的失效是通过一系列确定性的化学分解发生的。它始于约80–100°C,此时负极上的保护层——被称为固体电解质界面膜——发生分解。到110–135°C时,隔膜熔化,电解液开始分解为可燃气体。超过200°C,正极崩塌,释放氧气,于是发生燃烧。
电解液是关键变量。传统液态电解液——通常是溶解在碳酸酯溶剂中的六氟磷酸锂——在高温下化学不稳定。它们实际上就是燃烧事件中的燃料来源。为了防止热失控,尤其是在高压或高温应用中,我们需要分解能足以让其在远高于200°C阈值时仍保持稳定的电解液。
问题在于如何找到它们。可能的无机晶体的化学空间估计包含10^100种组合。几十年来,材料科学家探索这一空间的方式就像爱迪生测试灯丝:假设一种结构,在实验室中合成它,测试它,等上几个月才有结果。而人类的直觉使我们偏向于对已知族系——石榴石、钙钛矿——的改造,而不是冒险进入真正新颖的成分领域。
于是行业转向了AI。这说得通。但对许多团队来说,问题恰恰出在这里:他们把一个大语言模型对准了这个问题。一个"读过"数百万篇化学论文的大语言模型能够预测分子结构——但它预测的是词元(token),而不是电子密度。它没有化合价规则的概念,也不理解量子力学作用力。它可以幻觉出一种在纸面上看起来正确、却以某种方式违反物理定律的晶体结构——这些方式只有当你试图把它造出来时才会暴露。
那封深夜邮件里发生的正是这样的事。AI提出了一个候选方案。这个候选方案合理。但它并不真实。
神谕架构:我们究竟如何解决这个问题
在那次事件之后,我和我的团队进行了一次漫长而令人不安的对话,讨论我们究竟在构建什么。我们构建的AI是在生成答案?还是在发现真相?
我们选择了真相。而真相需要一个神谕。
我们的材料发现架构将Google DeepMind的GNoME——用于材料探索的图网络(Graph Networks for Materials Exploration)——与严格的密度泛函理论验证相结合。关键的洞见是这样的:我们不用AI来回答问题。我们用AI来提出候选方案——从庞大的搜索空间中——然后在它进入任何后续环节之前,都用物理定律逐一验证每一个候选方案。
GNoME把晶体结构当作图来处理——原子是节点,化学键是边。与处理线性文本的大语言模型不同,GNoME理解三维几何与拓扑。它被构建为物理学家所称的E(3)-等变(E(3)-equivariant),意思是如果你在空间中旋转晶体,它的预测不会改变。这不是你事后加装的功能。它是一种嵌入架构之中的数学约束。该模型无法违反旋转对称性。
但即便是GNoME也是概率性的。它预测生成能——从元素组装出一个晶体所需的能量——但这些预测带有不确定性。一种晶体在神经网络看来可能是稳定的,却仍然在热力学上竞争不过其他可能的相。
于是我们构建了神谕层。
为什么DFT验证对电池安全至关重要?
密度泛函理论是一种量子力学方法,用于近似求解薛定谔方程。它以高精度计算电子密度和总能量。它计算成本高昂——单次计算可能耗费数百个CPU小时——但它不会产生幻觉。它求解方程。答案要么是正确的,要么是一个你可以量化并界定的数值误差。
我们采用分层验证策略。机器学习力场负责初始的几何弛豫——筛除那些明显有问题的候选方案。然后由PBE级别的计算进行高通量筛选。幸存下来的会用r²SCAN验证,这是一种元GGA泛函,能够准确预测强结合体系的晶格常数和生成能。过渡金属会额外施加一个Hubbard U校正,以处理d轨道中的自相互作用误差。
我意识到我刚刚朝你抛了一大堆物理术语。要点比这些细节简单:我们拥有多层越来越昂贵、越来越精确的物理模拟,并且每一个候选材料都必须通过所有这些层,我们才会推荐它用于电池。
最重要的指标是我们所称的"到凸包的距离"(Distance to Hull)。想象把某一给定成分空间中每一种可能的材料都标在一张图上——一个轴是成分,另一个轴是能量。稳定的材料构成一条下边界,即一个"凸包"。凸包上方的任何东西都会自发分解为凸包上的材料。到凸包距离为零的材料就是热力学基态。距离大于100 meV/atom的材料几乎肯定会分崩离析——而在电池中,分崩离析意味着释放热量。
凸包并不在乎你神经网络的置信度分数。一种材料要么在热力学上稳定,要么就不稳定。
一夜之间变得更聪明的飞轮
让这不只是一次性流程的,是那个主动学习回路。GNoME生成成千上万个候选结构。我们选出模型认为最有希望的那些以及它最不确定的那些——同时进行利用与探索。这些被送往DFT集群。真实的能量返回,并被输入GNoME的训练集。模型重新训练。它内部的物理认知得到修正。
我记得我们第一次看着命中率攀升——即AI提出的材料在经过DFT验证后实际证明稳定的比例。传统的随机搜索低于1%。标准的机器学习也许能让你达到50%。经过几个主动学习周期后,我们由GNoME驱动的流程超过了80%。
我的联合创始人看着仪表盘说:"它不再是在猜测了。它在学习稳定性意味着什么。"就在那一刻,我知道我们做成了点什么。不是因为那个数字孤立地看很惊艳,而是因为这个系统正通过迭代而非记忆,收敛于物理现实。
我更深入地写过这个架构,就在我们研究的交互式版本中,如果你想看到完整的工作流程。
另一种爆炸:生成式音频中的版权
现在让我告诉你一个完全不同的领域,在那里,同样的架构哲学——先提出,再验证——把我们从另一种灾难中拯救了出来。
一家媒体公司找到我们,想大规模生成音频内容。他们拥有一个庞大的已授权音乐和语音录音库。他们想用AI从这个库中创作新内容——本地化配音、重新混音的配乐,诸如此类。他们一直在试用现成的生成式音频工具。
我问了一个问题:"对于任何一个给定的输出,你能否证明究竟是哪些已授权的来源对它有所贡献?"
一片沉默。
这就是生成式媒体中的黑箱问题。扩散模型——大多数AI音频和图像生成器背后的架构——是在从互联网抓取的海量数据集上训练的。当它们生成输出时,会遍历一个高维潜空间来合成某种新东西。输出是训练数据的一种数学融合体。你无法追溯是哪些训练样本影响了结果的哪些部分。
对于一个把玩AI音乐工具的消费者来说,这是个新奇玩意。而对于一家全球性媒体公司,这是关乎存亡的法律风险。如果一段生成的音轨包含一个与某首受版权保护的歌曲完全相同的四小节循环,该公司就要为侵权承担责任——哪怕没有人有意为之。法院正在积极审理在受版权保护的数据上进行训练是否构成合理使用(Andersen v. Stability AI、New York Times v. OpenAI)。一家内容生产流程依赖这些工具的企业,可能某天早上醒来就发现其整个资产库在法律上已被污染。
一家无法证明其AI生成内容来源出处的媒体公司,是在沙地上建楼——每当法院作出一项裁决,这片法律的流沙就会移动一次。
你如何构建能够自证清白的AI音频?
我们彻底摒弃了"从噪声生成"的范式。取而代之,我们构建了我称之为面向音频的检索增强生成——与RAG为文本带来的概念转变相同,但应用于声音。
这套流程有两个阶段:解构与重构。
在解构阶段,我们使用Hybrid Transformer Demucs——一个声源分离模型,它接收混合音频并将其分离为一个个独立的音轨:人声、鼓、贝斯、其他乐器。其架构是一个带跳跃连接的U-Net(保留那些原本会在压缩中丢失的高频细节),并在瓶颈处配有一个Transformer编码器,利用自注意力来分析整个音频序列。它同时在时域和频域中处理音频,融合两者的信息。
我们让Demucs处理了客户的整个已授权档案库。数千小时的混合音频,被分离为干净、独立的音轨,每一条都按音频特征——音色、音高、节奏——进行了标记和索引。我们把他们的老唱片目录从一批成品歌曲,变成了一个庞大的构件库。
在重构阶段——特别是对于语音内容——我们使用基于检索的语音转换(Retrieval-Based Voice Conversion)。这与文本转语音或基于扩散的语音生成有着根本的不同。RVC是语音到语音的:它接收一段输入录音(比如某位创意总监用手机朗读一段脚本),并将其音色变换为匹配某个已授权的目标声音,同时保留原始表演的语调和节奏。
关键机制就藏在这个名字里:检索。我们用HuBERT从输入中提取与说话人无关的内容特征。然后,对于每一帧,我们查询一个FAISS索引,其中的特征向量来自那位已授权配音演员的录音。我们检索出最匹配的声学细节——气息感、共鸣、特定的嗓音质感——它们来自真实的、已授权的录音。输出之所以听起来像目标声音,是因为我们从他们的已授权索引中提取了具体的数据点,而不是因为某个神经网络凭空臆想出了一个近似值。
在法律上,这一点的重要性我怎么强调都不为过。在一个深度伪造模型中,目标声音以不透明的神经网络权重形式存在。而在我们的系统中,每一个声学细节都可以追溯到一段具体的、带时间戳的、已授权的录音。权属链条完整无缺。
随声音一同流转的文书
生成来源清晰的音频是必要的,但还不够。资产需要携带自己的证明。我们实现了C2PA标准——内容来源与真实性联盟(Coalition for Content Provenance and Authenticity)——它利用公钥密码学,将可防篡改的来源数据直接嵌入媒体文件之中。
我们生成的每一个音频文件都附带一份签名清单:输入引导音轨的哈希值、已授权语音模型的ID、完整的处理操作序列,以及工具版本。任何下游用户——一个流媒体平台、一家广播机构——都可以验证签名,并确认该资产完全由已授权的来源构建而成。
我们还改用了结构相似性指数来做音频质量控制。通过比较输入引导音与输出的频谱图,我们能捕捉到AI扭曲了表演的情况——漏掉一个词、改变了节奏、幻觉出一个停顿。任何低于0.95 SSIM阈值的都会被自动标记,以供人工审核。
要了解材料与音频这两种架构的完整技术细节,请参阅我们的研究论文。
那只用更好的提示词呢?
人们对这种做法提出反对。他们跟我说我们把问题过度工程化了。"用个更好的模型就行了。""在你的领域数据上微调一下就好。""加个免责声明不就行了。"
有一位投资人直截了当地跟我说:"用GPT配一个好的系统提示词就行,省下你的基础设施成本。"我问他,他愿不愿意让自己的家人坐进一辆电池电解液是由系统提示词选出来的电动汽车。他换了话题。
更深层的反对意见关乎成本和复杂度。是的,在HPC集群上运行DFT计算比调用一个API更昂贵。是的,构建一个带C2PA签名、以FAISS建立索引的音轨数据库,比把一个扩散模型对准一段文本提示词更难。但问题不在于确定性验证是否比概率性生成更昂贵。问题在于,它是否比一次电池召回更昂贵。或者比一场让你整个内容库作废的版权诉讼更昂贵。
还有人问这种方法能否扩展。它能——这正是主动学习飞轮的意义所在。系统每循环一次就更高效。命中率攀升。每个通过验证的候选材料的成本下降。音轨数据库不断壮大。你不只是在解决今天的问题;你是在构建一个会不断复利增长的引擎。
AI观光时代的终结
我认为我们正处在一个拐点。用AI做实验的时代——大堂里的聊天机器人、侧边栏里的副驾驶、无处不在的套壳——正在终结。不是因为那些工具没有用,而是因为最重要的那些企业如今正试图把AI放进其运营的核心。放进研发实验室。放进制作工作室。放进那些失败后果以热事件和诉讼来衡量、而非以尴尬的聊天机器人回复来衡量的系统。
在那些环境中,对幻觉的容忍度是零。不是低。是零。
我们在Veriprajna构建的架构——为电池、为音频、为每一个真相不容妥协的领域——都基于一条单一原则:神经网络的生成能力必须严格服从于神谕的验证能力。AI提出。物理决定。AI组装。来源出处证明。这些模型的创造力非同凡响。但没有问责的创造力,不过是精巧的猜测。
对于电池制造商,一次幻觉就是一场火灾。对于媒体公司,一次幻觉就是一场诉讼。唯一可行的架构是用验证来约束生成——每一次,无一例外。
我不认为AI的未来属于那些生成最有说服力输出的模型。我认为它属于那些能够证明其输出为真的系统。约束并不限制智能。它们创造现实。