為什麼我不再信任 AI，而是開始打造「先知」系統

那封電子郵件在某個週二晚上 11:47 送達。一家我們一直在洽談的電池製造商，剛剛把一批電芯從產線上撤了下來。不是因為它們沒通過測試——而是因為他們的 AI 輔助材料篩選工具放行了一種候選電解液，而當人類化學家最終把數據算了一遍，才發現它在 150°C 以上會出現熱力學不穩定。這種材料本會在電池組內部分解。分解會釋放熱量。熱量會觸發業界委婉稱為「熱失控」的現象——也就是我們其他人所說的火災。

沒有人受傷。但我坐在辦公桌前盯著那封郵件，思索著「看似合理」這個詞。這個 AI 並沒有在任何明顯之處出錯。它推薦的分子結構看起來合情合理。它預測的形成能也落在正確的量級範圍內。它是看似合理的。它只是並非真實的。

看似合理與真實之間的這種區別——正是當下貫穿整個 AI 產業的那條斷層線。而這也正是我打造 Veriprajna 的原因。

包裝經濟有個真相問題

以下是大多數人沒有意識到的、關於當前這波 AI 產品的事實：其中絕大多數不過是薄薄的介面層——「包裝」——套在通用型大型語言模型之上。LLM 預測下一個最可能出現的 token。包裝讓它看起來像個應用程式。使用者以為自己得到的是答案。他們得到的其實是機率。

對於撰寫行銷文案或總結會議記錄來說，這沒問題。機率已經夠好了。但我合作的那些公司沒有「夠好」這種餘裕。他們製造裝進電動車的電池。他們製作向全球播送的音訊內容。對他們而言，一個 99% 看似合理但 1% 物理上不可能的答案，並不是四捨五入的誤差。那是一場熱事件，或一樁著作權訴訟。

當你的 AI 要為某個可能起火或讓你被告的東西負責時，「統計上可能」就不等於「正確」。

我開始把這稱為 AI 的分岔。一邊是包裝經濟——快速、易得、建立在隨機預測之上。另一邊是我們在 Veriprajna 所做的：深度 AI，其中每一個輸出在被任何人看到之前，都會先對照不可變的規則進行驗證。物理。邏輯。溯源。這些東西不在乎你的訓練資料分布。

當 AI 預測它並不理解的化學時，會發生什麼？

讓我用電池問題把這件事講具體些，因為它一直縈繞在我心頭。

鋰離子電池會透過一連串確定性的化學崩解序列而失效。它大約從 80–100°C 開始，此時陽極上的保護層——稱為固態電解質界面——會分解。到了 110–135°C，隔離膜熔化，電解液開始分解成易燃氣體。超過 200°C，正極崩塌、釋放氧氣，於是燃燒發生。

電解液是關鍵變數。傳統液態電解液——通常是溶解在碳酸酯溶劑中的六氟磷酸鋰——在高溫下化學性質不穩定。它們實際上就是燃燒事件中的燃料來源。要防止熱失控，尤其是在高電壓或高溫應用中，我們需要分解能足以讓其在遠超 200°C 門檻之外仍保持穩定的電解液。

問題在於找到它們。可能的無機晶體的化學空間，估計包含 10^100 種組合。數十年來，材料科學家探索這片空間的方式就像愛迪生測試燈絲：假設一個結構、在實驗室裡合成它、測試它、等上數月才有結果。而人類直覺讓我們偏向於對已知家族的修改——石榴石、鈣鈦礦——而非真正闖入嶄新的組成領域。

於是產業轉向了 AI。這很合理。但問題就出在許多團隊在這裡走錯了：他們把一個 LLM 對準了這個問題。一個「讀過」數百萬篇化學論文的 LLM 能夠預測分子結構——但它預測的是token，而不是電子密度。它沒有價數規則的概念，也不理解量子力學的作用力。它可以幻想出一個在紙上看起來沒問題、卻以只有當你試圖建造它時才會顯現的方式違反物理定律的晶體結構。

這正是那封深夜郵件所發生的事。AI 提出了一個候選。這個候選看似合理。它並不真實。

先知架構：我們實際上如何解決這個問題

那次事件之後，我和我的團隊進行了一場漫長而不太自在的對話，談的是我們究竟在打造什麼。我們是在打造一個會生成答案的 AI 嗎？還是一個會發現真相的 AI？

我們選擇了真相。而真相需要一位先知。

我們用於材料探索的架構，將 Google DeepMind 的 GNoME——用於材料探索的圖形網路——與嚴謹的密度泛函理論驗證配對起來。關鍵洞見在於：我們不用 AI 去回答這個問題。我們用 AI 去提出候選，並從龐大的搜尋空間中挑出它們，然後在採用任何一個之前，都先對照物理定律逐一驗證。

GNoME 把晶體結構視為圖：原子是節點，化學鍵是邊。不同於處理線性文本的 LLM，GNoME 理解三維幾何與拓撲。它被設計成物理學家所說的 E(3) 等變，意即即使你在空間中旋轉晶體，它的預測也不會改變。這不是你事後加裝上去的功能。這是一項烘焙進架構之中的數學約束。這個模型不能違反旋轉對稱性。

但即使是 GNoME 也是機率性的。它預測形成能——把一個晶體從其元素組裝起來所需的能量——但那些預測帶有不確定性。某個晶體對神經網路而言可能看起來穩定，卻仍在熱力學上競爭不過其他可能的相。

於是我們建造了先知層。

為什麼 DFT 驗證對電池安全至關重要？

密度泛函理論是一種量子力學方法，用以近似求解薛丁格方程。它以高精度計算電子密度與總能量。它在計算上代價高昂——單次計算可能耗費數百個 CPU 小時——但它不會幻想。它求解方程式。答案要麼正確，要麼就是一個你能量化並界定範圍的數值誤差。

我們採用分層驗證策略。機器學習力場負責初步的幾何弛豫——篩掉那些明顯有問題的候選。接著 PBE 級別的計算進行高通量篩選。倖存者再以 r²SCAN 驗證，這是一種 meta-GGA 泛函，能準確預測強鍵結系統的晶格常數與形成能。過渡金屬還會額外加上 Hubbard U 校正，以處理 d 軌域中的自交互作用誤差。

我知道我剛才向你拋出了一大堆物理術語。重點比細節簡單得多：我們有多層日益昂貴且精確的物理模擬，而且每一個候選都必須通過全部這些層級，我們才會考慮把它推薦給某顆電池使用。

最重要的指標是我們所稱的「到凸包的距離」（Distance to Hull）。想像把某個給定組成空間中每一種可能的材料都畫在一張圖上——一軸是組成，另一軸是能量。穩定的材料構成一條下邊界，一個「凸包」。任何在該凸包之上的東西，都會自發分解成凸包上的材料。到凸包距離為零的材料，是熱力學基態。到凸包距離大於 100 meV/atom 的材料，幾乎肯定會分崩離析——而在電池裡，分崩離析就意味著釋放熱量。

凸包不在乎你神經網路的信心分數。一種材料要麼在熱力學上穩定，要麼不穩定。

那台在一夜之間變得更聰明的飛輪

讓這不只是一條一次性管線的關鍵，是主動學習迴路。GNoME 生成數以千計的候選結構。我們挑選出模型認為最有前景的那些，以及那些它最不確定的——同時進行利用與探索。這些會送往 DFT 叢集。真實的能量回傳，並被餵入 GNoME 的訓練集。模型重新訓練。它內部的物理得到修正。

我記得我們第一次看著命中率攀升的時候——也就是 AI 提出的材料在經過 DFT 驗證後實際被證實穩定的百分比。傳統的隨機搜尋低於 1%。標準的機器學習能把你帶到大約 50%。經過數輪主動學習循環後，我們由 GNoME 驅動的管線已超過 80%。

我的共同創辦人看著儀表板說：「它不再是在猜了。它正在學會穩定意味著什麼。」那一刻我知道我們手上有東西了。不是因為那個數字孤立來看令人印象深刻，而是因為這個系統正透過迭代、而非死記硬背，收斂到物理現實上。

我更深入地寫過這個架構，就在我們研究的互動版本中，如果你想看完整的工作流程的話。

另一種爆炸：生成式音訊中的著作權

現在讓我告訴你一個截然不同的領域，同樣的架構哲學——先提出，再驗證——在那裡救了我們，免於另一種災難。

一家媒體公司找上我們，想要大規模生成音訊內容。他們擁有一個龐大的、已獲授權的音樂與人聲錄音資料庫。他們想用 AI 從這個資料庫創作新內容——在地化配音、重混配樂之類的東西。他們一直在試用現成的生成式音訊工具。

我問了一個問題：「對於任何給定的輸出，你能否確切證明是哪些已授權的來源促成了它？」

一片沉默。

這就是生成式媒體中的黑盒問題。擴散模型——大多數 AI 音訊與影像生成器背後的架構——是在從網際網路上爬取的龐大資料集上訓練出來的。當它們生成輸出時，會穿越一個高維度的潛在空間，去合成某種全新的東西。輸出是訓練資料的一種數學融合體。你無法追溯是哪些訓練樣本影響了結果的哪些部分。

對於一個把玩 AI 音樂工具的消費者來說，這是個新鮮玩意。對於一家全球性媒體公司來說，這是一種攸關存亡的法律風險。如果一段生成的音軌包含一個與某首受著作權保護歌曲一模一樣的四小節循環，這家公司就要為侵權負責——即使沒有人有意為之。法院正積極審理在受著作權保護資料上訓練是否構成合理使用（Andersen 訴 Stability AI 案，紐約時報訴 OpenAI 案）。一家內容管線仰賴這些工具的企業，可能某天早上醒來，就發現自己的整個資產庫在法律上已遭污染。

一家無法證明其 AI 生成內容溯源的媒體公司，是在沙地上建造——一種每當法院作出一項裁決就會移位的法律沙地。

你要如何打造能夠證明自身清白的 AI 音訊？

我們徹底摒棄了「從雜訊生成」的範式。取而代之，我們打造了我心目中的音訊版檢索增強生成——就是 RAG 為文本帶來的那個概念性轉變，但應用於聲音。

這條管線有兩個階段：解構與重建。

在解構階段，我們使用 Hybrid Transformer Demucs——一種來源分離模型，它接收混合音訊，並將其分離為個別聲軌：人聲、鼓、貝斯、其他樂器。其架構是一個帶跳接的 U-Net（保留原本會在壓縮中流失的高頻細節），在瓶頸處還有一個 Transformer 編碼器，利用自注意力機制分析整段音訊序列。它同時在時域與頻域中處理音訊，並融合兩者的資訊。

我們把 Demucs 跑遍了客戶整個已授權的檔案庫。數千小時的混合音訊，被分離成乾淨、獨立的聲軌，每一段都依音訊特徵——音色、音高、節奏——加以標記與索引。我們把他們的舊有曲目庫，從一堆完成的歌曲，轉變成一個龐大的積木庫。

在重建階段——特別是針對人聲內容——我們使用基於檢索的語音轉換（Retrieval-Based Voice Conversion）。這與文字轉語音或基於擴散的語音生成有著根本的不同。RVC 是語音對語音：它接收一段輸入錄音（比方說，一位創意總監用手機唸出一段腳本），並將音色轉換成符合某個已授權的目標人聲，同時保留原始表演的語調與節奏。

關鍵機制就藏在名稱裡：檢索。我們用 HuBERT 從輸入中萃取與說話者無關的內容特徵。然後，對於每一幀，我們查詢一個由已授權配音員錄音所導出的特徵向量 FAISS 索引。我們檢索出最接近的匹配聲學細節——那種氣音、共鳴、特定的嗓音質地——全都來自實際獲得授權的錄音。輸出之所以聽起來像目標人聲，是因為我們從他們已授權的索引中拉取了特定的資料點，而不是因為某個神經網路憑空幻想出一個近似值。

我怎麼強調這在法律上有多重要都不為過。在深偽模型裡，目標人聲以不透明的神經網路權重形式存在。在我們的系統裡，每一個聲學細節都能追溯回一段特定的、有時間戳的、已授權的錄音。這條權利鏈完整無缺。

隨聲音一同傳遞的文件

生成溯源乾淨的音訊是必要的，但還不夠。這項資產需要攜帶它自己的證明。我們實作了 C2PA 標準——內容溯源與真實性聯盟——它使用公開金鑰密碼學，將防竄改的溯源資料直接嵌入媒體檔案之中。

我們生成的每一個音訊檔案，都附帶一份簽署過的資訊清單：輸入導引音軌的雜湊值、已授權人聲模型的 ID、完整的處理動作序列，以及工具版本。任何下游使用者——一個串流平台、一家廣播機構——都能驗證這個簽章，並確認這項資產完全由獲得授權的來源打造而成。

我們也把結構相似性指數（Structural Similarity Index）調整用於音訊品質控制。透過比對輸入導引與輸出的頻譜圖，我們能抓出 AI 扭曲了表演的情形——漏掉一個字、改變了節奏、幻想出一個停頓。任何低於 0.95 SSIM 門檻的情形，都會被自動標記，交付人工審查。

關於材料與音訊兩種架構的完整技術剖析，請見我們的研究論文。

那如果只是用更好的提示詞呢？

人們對這種做法會有所反駁。他們告訴我，我們把問題過度工程化了。「就用一個更好的模型嘛。」「就在你的領域資料上微調嘛。」「就加個免責聲明嘛。」

有一位投資人直截了當地對我說：「就用 GPT 配一個好的系統提示詞，替自己省下那些基礎設施成本。」我問他，他願不願意讓自己的家人坐進一輛電池電解液是由系統提示詞選出來的電動車。他把話題岔開了。

更深層的異議是關於成本與複雜度。是的，在 HPC 叢集上跑 DFT 計算，比呼叫一個 API 更昂貴。是的，建置一個帶 C2PA 簽章、以 FAISS 索引的聲軌資料庫，比把一個擴散模型對準一段文字提示更困難。但問題不在於確定性驗證是否比機率式生成更昂貴。問題在於它是否比一次電池召回更昂貴。或者比一樁讓你整個內容庫失效的著作權訴訟更昂貴。

還有人問這種做法能否擴展。它能——這正是主動學習飛輪的用途。系統每循環一次就變得更有效率。命中率攀升。每個經驗證候選的成本下降。聲軌資料庫成長。你不只是在解決今天的問題；你是在打造一台會複利增長的引擎。

AI 觀光時代的終結

我認為我們正處於一個轉捩點。用 AI 做實驗的時代——大廳裡的聊天機器人、側邊欄裡的副駕駛、什麼都要套個包裝——正在走向終結。不是因為那些工具沒用，而是因為那些最重要的企業，如今正試圖把 AI 放進其營運的核心。放進研發實驗室。放進生產工作室。放進那些一旦失敗，後果要以熱事件與訴訟、而非以尷尬的聊天機器人回覆來衡量的系統裡。

在那些環境裡，對幻覺的容忍度是零。不是低。是零。

我們在 Veriprajna 打造的架構——為了電池、為了音訊、為了每一個真相不容妥協的領域——都立基於單一原則：神經網路的生成能力，必須嚴格從屬於先知的驗證能力。AI 提出。物理決定。AI 組裝。溯源證明。這些模型的創造力非凡卓越。但沒有問責的創造力，只不過是精緻的猜測罷了。

對電池製造商而言，一次幻覺就是一場火災。對媒體公司而言，一次幻覺就是一樁訴訟。唯一可行的架構，會以驗證來約束生成——每一次，無一例外。

我不認為 AI 的未來屬於那些生成最具說服力輸出的模型。我認為它屬於那些能夠證明自身輸出為真的系統。約束並不會限制智慧。它們創造現實。