AIを信じるのをやめ、オラクルを築き始めた理由
そのメールが届いたのは、ある火曜日の午後11時47分だった。私たちが話を進めていたある電池メーカーが、セルの出荷分をたった今ラインから引き上げたところだった。テストに落ちたからではない ── 同社のAI支援型の材料スクリーニングツールが通してしまった候補電解質があったからだ。その電解質は、人間の化学者がついに数値を計算してみると、150°C超で熱力学的に不安定であることが判明した。この材料は電池パックの内部で分解していただろう。分解は熱を放出しただろう。その熱は、業界が婉曲的に「熱暴走」と呼び ── 私たち残りの人間が火災と呼ぶものを ── 引き起こしていただろう。
けが人は出なかった。だが私は机に向かい、そのメールを見つめながら「もっともらしい(plausible)」という言葉について考えていた。AIは、目に見えて明らかな形で間違っていたわけではない。推奨した分子構造は妥当に見えた。予測した生成エネルギーもおおよそ正しい範囲だった。それはもっともらしかった。ただ、それは真実ではなかっただけなのだ。
この区別 ── もっともらしさと真実との区別 ── は、いま AI 業界全体を貫く断層線だ。そして、私が Veriprajna を築いた理由でもある。
ラッパー経済は「真実」の問題を抱えている
現在の AI 製品の波について、ほとんどの人が気づいていないことがある。その圧倒的多数は、汎用の大規模言語モデル(LLM)の上に乗った薄いインターフェース層 ──「ラッパー」── にすぎない。LLM は次に最も来そうなトークンを予測する。ラッパーはそれをアプリのように見せる。ユーザーは答えを得ていると思い込む。だが彼らが得ているのは、確率なのだ。
マーケティングコピーを書いたり、会議メモを要約したりするなら、これで十分だ。確率で事足りる。だが私が関わる企業には「十分」などという贅沢は許されない。彼らは電気自動車に搭載される電池を作っている。世界中に配信される音声コンテンツを制作している。彼らにとって、99% もっともらしいが 1% 物理的にあり得ない答えは、丸め誤差ではない。それは熱事象、あるいは著作権訴訟だ。
あなたの AI が、発火しかねないもの、あるいは訴訟を招きかねないものに責任を負っているとき、「統計的にありそう」は「正しい」と同じではない。
私はこれを AI の分岐(バイファーケーション)と呼ぶようになった。一方には、ラッパー経済 ── 高速で、手軽で、確率的予測の上に築かれている。もう一方には、私たちが Veriprajna で行っていること、すなわち Deep AI がある。ここでは、あらゆる出力が、人間の目に触れる前に不変のルールに照らして検証される。物理。論理。来歴。学習データの分布など気にかけないものたちだ。
AI が理解していない化学を予測すると、何が起きるのか?
この電池の問題で具体的に説明させてほしい。この件は、いまも私につきまとって離れないからだ。
リチウムイオン電池は、化学的崩壊の決定論的な連鎖を通じて故障する。それは 80〜100°C あたりで、負極の保護層 ──「固体電解質界面(SEI)」と呼ばれる ── が分解することから始まる。110〜135°C になると、セパレータが溶け、電解質が可燃性ガスへと分解し始める。200°C を超えると、正極が崩壊して酸素を放出し、燃焼が起きる。
電解質こそが決定的な変数だ。従来の液体電解質 ── 典型的には炭酸エステル系溶媒に溶かした六フッ化リン酸リチウム ── は、高温では化学的に不安定だ。燃焼という事象において、それらは文字どおり燃料源となる。特に高電圧・高温の用途で熱暴走を防ぐには、あの 200°C という閾値を大きく超えても安定を保てるだけの分解エネルギーを持つ電解質が必要だ。
問題は、それを見つけ出すことだ。あり得る無機結晶の化学空間には、推定で 10^100 通りの組み合わせが含まれる。何十年ものあいだ、材料科学者はこの空間を、エジソンがフィラメントを試したのと同じやり方で探索してきた。構造を仮説として立て、研究室で合成し、試験し、結果を何か月も待つ。そして人間の直感は、真に新規な組成の領域へ踏み込むよりも、既知のファミリー ── ガーネット、ペロブスカイト ── の改変へと私たちを偏らせる。
そこで業界は AI に頼った。理にかなっている。だが、多くのチームが道を誤ったのはここだ。彼らは LLM をこの問題に向けたのだ。何百万本もの化学論文を「読んだ」LLM は分子構造を予測できる ── だが、それが予測するのはトークンであって、電子密度ではない。それは原子価の規則という概念を持たず、量子力学的な力も理解していない。紙の上では正しく見えても、実際に作ろうとして初めて露呈する形で物理法則に反する結晶構造を、幻覚(ハルシネーション)として生み出しかねない。
あの深夜のメールで起きたのは、まさにこれだ。AI は候補を提案した。その候補はもっともらしかった。だが、実在するものではなかった。
オラクル・アーキテクチャ ── 私たちが実際にこれをどう解くか
あの一件のあと、私とチームは、自分たちが本当は何を作っているのかについて、長く、居心地の悪い話し合いをした。私たちが作っていたのは、答えを生成する AI なのか? それとも、真実を発見する AI なのか?
私たちは真実を選んだ。そして真実には、オラクルが必要だ。
私たちの材料探索アーキテクチャは、Google DeepMind の GNoME ── Graph Networks for Materials Exploration ── を、厳密な密度汎関数理論(DFT)による検証と組み合わせる。核心となる洞察はこうだ。私たちは、質問に答えるために AI を使うのではない。私たちが AI を使うのは、候補を提案するためだ。広大な探索空間の中からそうするのだ。そして、その一つひとつを、どこかで使われる前に物理法則に照らして検証する。
GNoME は結晶構造をグラフとして扱う ── 原子がノード、化学結合がエッジだ。線形のテキストを処理する LLM とは違い、GNoME は三次元の幾何とトポロジーを理解する。物理学者が E(3)同変性と呼ぶものを備えるように作られており、これは結晶を空間内で回転させても予測が変わらないことを意味する。それは後付けする機能ではない。アーキテクチャに焼き込まれた数学的制約だ。このモデルは決して回転対称性を破ることはできない。
だが、その GNoME でさえ確率的だ。生成エネルギー ── 結晶を構成元素から組み立てるのに必要なエネルギー ── を予測するが、その予測には不確実性が伴う。ある結晶がニューラルネットワークには安定に見えても、他のあり得る相と比べれば熱力学的に競争力を欠く、ということがあり得る。
そこで私たちは、オラクル層を構築した。
なぜ DFT 検証は電池の安全性にとって重要なのか?
密度汎関数理論(DFT)は、シュレーディンガー方程式の解を近似する量子力学的手法だ。電子密度と全エネルギーを高い精度で計算する。計算コストは高く ── 一回の計算に数百 CPU 時間かかることもある ── だが、幻覚を起こさない。方程式を解くのだ。答えは正しいか、さもなければ、定量化して上限を見積もれる数値誤差か、そのどちらかだ。
私たちは段階的な検証戦略を採る。機械学習力場が初期の幾何最適化を担い ── 明らかに破綻した候補をふるい落とす。次に PBE レベルの計算が高スループットのスクリーニングを行う。生き残ったものは r²SCAN で検証される。これは、強く結合した系について格子定数と生成エネルギーを正確に予測するメタ GGA 汎関数だ。遷移金属には、d 軌道の自己相互作用誤差を扱うために、さらにハバード U 補正を加える。
物理の専門用語をずいぶん浴びせてしまったのは分かっている。だが要点は、細部よりもずっと単純だ。私たちには、次第にコストが高く精度も上がっていく物理シミュレーションの層が幾重にもあり、そしてどの候補も、そのすべてを生き延びなければならない ── それを電池向けに推奨するより前に。
最も重要な指標は、私たちが「ハルまでの距離(Distance to Hull)」と呼ぶものだ。ある組成空間の中のあらゆる材料を、グラフ上にプロットすることを想像してほしい ── 一方の軸に組成、もう一方の軸にエネルギーをとる。安定な材料は下側の境界、すなわち「凸包(convex hull)」を形づくる。その凸包より上にあるものはすべて、凸包上の材料へと自発的に分解する。ハルまでの距離がゼロの材料は、熱力学的な基底状態だ。距離が 100 meV/atom を超える材料は、ほぼ確実に崩れる ── そして電池において、崩れるとは熱を放出することを意味する。
凸包は、あなたのニューラルネットワークの信頼度スコアなど気にかけない。材料は熱力学的に安定であるか、そうでないか、そのどちらかだ。
一晩で賢くなるフライホイール
これを一回きりのパイプライン以上のものにしているのは、能動学習のループだ。GNoME は何千もの候補構造を生成する。私たちは、モデルが最も有望だと考えるものを選ぶ ── そしてモデルが最も不確かだと感じるものも選ぶ ── 活用と探索を同時に行うのだ。それらは DFT クラスタへ送られる。真のエネルギーが返ってきて、GNoME の学習データに投入される。モデルは再学習する。その内部の物理が補正されていく。
私は、ヒット率が上がっていくのを初めて目にしたときのことを覚えている ── ヒット率とは、AI が提案した材料のうち、DFT 検証のあとに実際に安定だと判明した割合のことだ。従来のランダム探索は 1% を下回る。標準的な機械学習ではせいぜい 50% ほどに届く。数回の能動学習サイクルを経て、私たちの GNoME 駆動パイプラインは 80% を超えていた。
共同創業者はダッシュボードを見て、こう言った。「これはもう当て推量じゃない。安定性が何を意味するのかを学んでいるんだ」。それが、私たちは何かを掴んだと確信した瞬間だった。数字がそれ単体で印象的だったからではなく、システムが、暗記ではなく反復を通じて物理的な現実へと収束しつつあったからだ。
このアーキテクチャについては、本研究のインタラクティブ版で、より詳しく書いている。全体のワークフローをご覧になりたい方は、そちらを参照してほしい。
もう一種類の「爆発」── 生成音声における著作権
ここで、まったく別の領域の話をさせてほしい。同じアーキテクチャの哲学 ── まず提案し、それから検証する ── が、別種の災厄から私たちを救った領域だ。
あるメディア企業が、音声コンテンツを大規模に生成することについて私たちに相談してきた。彼らは、ライセンス許諾済みの音楽と音声録音の巨大なライブラリを持っていた。このライブラリから新しいコンテンツを作るのに AI を使いたいと考えていた ── ローカライズされたボイスオーバー、リミックスしたサウンドトラック、そういったものだ。彼らは、市販の生成音声ツールを試していた。
私はひとつだけ質問した。「任意の出力について、どのライセンス済みソースがそれに寄与したのかを、正確に証明できますか?」
沈黙。
これが、生成メディアにおけるブラックボックス問題だ。拡散モデル ── ほとんどの AI 音声・画像生成器の背後にあるアーキテクチャ ── は、インターネットからかき集めた巨大なデータセットで学習されている。出力を生成するとき、それらは高次元の潜在空間をたどって、何か新しいものを合成する。その出力は、学習データの数学的な合成物だ。どの学習例が結果のどの部分に影響したのかを、たどることはできない。
AI 音楽ツールをいじって遊ぶ消費者にとっては、これは物珍しさにすぎない。だがグローバルなメディア企業にとっては、存亡に関わる法的リスクだ。生成された音声トラックに、著作権で保護された楽曲と同一の 4 小節のループが含まれていれば、たとえ誰も意図していなくても、その企業は侵害の責任を負う。著作権で保護されたデータで学習することがフェアユースに当たるかどうかを、裁判所は現に係争中だ(Andersen 対 Stability AI、New York Times 対 OpenAI)。これらのツールにコンテンツパイプラインを依存している企業は、ある朝目を覚ますと、自社の資産ライブラリ全体が法的に汚染されていた、という事態になりかねない。
AI が生成したコンテンツの来歴を証明できないメディア企業は、砂の上に建物を築いているのと同じだ ── しかも、裁判所が判決を下すたびに動く、法的な砂の上に。
自らの「潔白」を証明できる AI 音声を、どう作るのか?
私たちは「ノイズから生成する」というパラダイムを完全に退けた。代わりに、私が音声版の検索拡張生成(Retrieval-Augmented Generation)と考えるものを構築した ── RAG がテキストにもたらしたのと同じ概念的な転換を、音に適用したのだ。
このパイプラインには二つの段階がある。分解と再構成だ。
分解には、Hybrid Transformer Demucs を使う ── これは、混合された音声を受け取り、個々のステム、すなわちボーカル、ドラム、ベース、その他の楽器へと分離する音源分離モデルだ。そのアーキテクチャは、スキップ接続を備えた U-Net(圧縮で失われかねない高周波の細部を保つ)と、ボトルネックに置かれた Transformer エンコーダ(自己注意を用いて音声シーケンス全体を解析する)から成る。時間領域と周波数領域で同時に音声を処理し、両者の情報を融合する。
私たちは、クライアントのライセンス済みアーカイブ全体に Demucs を走らせた。数千時間に及ぶ混合音声が、きれいに分離された独立のステムへと切り分けられ、それぞれが音声特徴 ── 音色、ピッチ、リズム ── によってタグ付け・索引付けされた。彼らの旧作カタログを、完成した楽曲の集まりから、部品(ビルディングブロック)の巨大なライブラリへと変えたのだ。
再構成 ── とりわけ音声コンテンツについて ── には、検索ベースの音声変換(Retrieval-Based Voice Conversion、RVC)を使う。これは、テキスト音声合成や拡散モデルによる音声生成とは根本的に異なる。RVC は音声から音声への変換だ。入力となる録音(たとえば、クリエイティブディレクターがスマートフォンで台本を読み上げたもの)を受け取り、元の演技のイントネーションとリズムを保ちながら、音色をライセンス済みのターゲット音声に一致するよう変換する。
決定的な仕組みは、その名の中にある。すなわち「検索」だ。私たちは HuBERT を使って、入力から話者に依存しない内容特徴を抽出する。次に、フレームごとに、ライセンス済みの声優の録音から得た特徴ベクトルの FAISS 索引に問い合わせる。私たちは検索して取り出す── 最も近く一致する音響的な細部 ── 息づかい、共鳴、その独特の声質 ── を、実際に許諾された録音から。出力がターゲット音声のように聞こえるのは、ニューラルネットワークが近似を思い描いたからではなく、彼らのライセンス済み索引から具体的なデータ点を引き出したからだ。
これが法的にどれほど重要かは、いくら強調してもし足りない。ディープフェイクのモデルでは、ターゲット音声は不透明なニューラルネットワークの重みとして存在する。私たちのシステムでは、あらゆる音響的な細部が、特定の、タイムスタンプ付きの、ライセンス済みの録音までたどれる。権利の連鎖(チェーン・オブ・タイトル)が途切れていないのだ。
音とともに移動する「書類」
来歴のクリーンな音声を生成することは、必要ではあるが十分ではない。その資産は、自らの証明を携えている必要がある。私たちは C2PA 標準 ── Coalition for Content Provenance and Authenticity ── を実装している。これは、公開鍵暗号を用いて、改ざんが検知できる来歴データをメディアファイルに直接埋め込む。
私たちが生成するすべての音声ファイルには、署名済みのマニフェストが付いて出荷される。入力ガイドトラックのハッシュ、ライセンス済み音声モデルの ID、処理アクションの完全な連なり、そしてツールのバージョンだ。下流の利用者は誰でも ── ストリーミングプラットフォームでも、放送局でも ── その署名を検証し、その資産が完全に許諾済みのソースから作られたことを確認できる。
私たちはまた、構造的類似性指標(SSIM)を音声の品質管理向けに応用した。入力ガイドと出力のスペクトログラムを比較することで、AI が演技を歪めた事例 ── 単語を飛ばした、リズムを変えた、間(ポーズ)を幻覚した ── を捕捉する。0.95 という SSIM 閾値を下回るものはすべて、自動的に人間のレビュー対象としてフラグが立てられる。
材料と音声、両方のアーキテクチャの完全な技術的解説については、私たちの研究論文を参照してほしい。
ただ、もっと良いプロンプトを使えばいいのでは?
この手法には反発がある。問題を過剰に作り込んでいる、と言われる。「もっと良いモデルを使えばいい」。「自分たちのドメインデータでファインチューニングすればいい」。「免責事項を付ければいい」。
ある投資家には、面と向かってこう言われた。「良いシステムプロンプトを付けて GPT を使えばいい。インフラのコストを節約しなさい」。私は彼に、電池の電解質をシステムプロンプトが選んだ電気自動車に、あなたは自分の家族を乗せますか、と尋ねた。彼は話題を変えた。
より根深い反論は、コストと複雑さについてのものだ。確かに、HPC クラスタで DFT 計算を回すのは、API を呼び出すよりコストがかかる。確かに、C2PA 署名付きの FAISS 索引ステムデータベースを構築するのは、拡散モデルをテキストプロンプトに向けるより難しい。だが問うべきは、決定論的な検証が確率的な生成より高くつくかどうかではない。問うべきは、それが電池のリコールより高くつくかどうかだ。あるいは、あなたのコンテンツライブラリ全体を無効にする著作権訴訟より、高くつくかどうかだ。
この手法はスケールするのか、と問う人もいる。スケールする ── まさにそのために、能動学習のフライホイールがあるのだ。システムはサイクルごとに効率を増す。ヒット率は上がる。検証済み候補あたりのコストは下がる。ステムのデータベースは育つ。あなたは今日の問題を解いているだけではない。複利のように積み上がっていくエンジンを築いているのだ。
「AI 観光」の終わり
私たちは変曲点にいるのだと思う。AI を試す時代 ── ロビーに置かれたチャットボット、サイドバーのコパイロット、あらゆるものに被せられたラッパー ── は終わりつつある。それらのツールが役に立たないからではない。最も重要な企業が今、AI をその中核へと据えようとしているからだ ── 業務のただ中へ。研究開発ラボの中へ。制作スタジオの中へ。失敗の帰結が、ぎこちないチャットボットの返答ではなく、熱事象や訴訟で測られるシステムの中へ。
そうした環境では、幻覚に対する許容度はゼロだ。低い、ではない。ゼロだ。
私たちが Veriprajna で築いてきたアーキテクチャは ── 電池のため、音声のため、真実が交渉の余地を持たないあらゆる領域のため ── ただ一つの原則の上に立っている。ニューラルネットワークの生成する力は、オラクルの検証する力に、厳格に従属しなければならない。AI が提案する。物理が決める。AI が組み立てる。来歴が証明する。これらのモデルの創造的な能力は並外れている。だが、説明責任を伴わない創造性は、洗練された当て推量にすぎない。
電池メーカーにとって、幻覚とは火災だ。メディア企業にとって、幻覚とは訴訟だ。成り立つ唯一のアーキテクチャは、生成を検証で制約する ── 毎回、例外なく。
AI の未来は、最も説得力のある出力を生成するモデルのものになるとは、私は思わない。私が思うに、それは、次のようなシステムのものだ。すなわち、証明できる── 自らの出力が真実であることを、だ。制約は知性を制限しない。制約こそが現実を生み出すのだ。