Amazonの秘密のアルゴリズムはあなたから10億ドルを盗んだ——次はあなたの会社のAIかもしれない
私はある顧客の会議室に座っていた。2024年の終わり頃のことだ。同社の価格設定担当バイスプレジデントがダッシュボードを立ち上げ、心からの誇りを込めてこう言った。「私たちはすべてを自動化しました。アルゴリズムがすべてを処理してくれるのです」
私は彼に一つだけ質問した。「昨日、このアルゴリズムがこの商品にこの価格を設定した理由を、正確に説明できますか?」
沈黙。考え込むような沈黙ではない。ブレーキがどこにあるかも知らずに車を運転してきたことに、誰かが気づいたときのような沈黙だ。
あの瞬間が私の頭の中で何度も再生されるのは、Amazonのプロジェクト・ネッシーについて今わかっていることのためだ——これは、10億ドルを超える超過利益を、競合他社がAmazonの値上げに追随するタイミングを予測し、その反応を引き起こすために意図的に価格を引き上げることで抽出した、秘密の価格設定アルゴリズムだ。不具合ではない。意図しない結果でもない。れっきとした機能だ。そして連邦取引委員会(FTC)は、2026年10月にこれをめぐってAmazonを裁判にかける。
私が最も引っかかるのはここだ。あの会議室にいたバイスプレジデントは、何も変わったことをしていたわけではない。彼は、今まさに何千もの企業がやっていることをやっていただけだ——説明も監査も制御もできない不透明なAIシステムに、重大な意思決定を委ねているのだ。そして規制の世界は、その信頼をきわめて高くつくものにしようとしている。
誰にも気づかれずに10億ドルを盗むには、どうすればいいのか?
プロジェクト・ネッシーは2014年から2019年まで稼働していた。単純な価格追随ツールではない。最適化ソフトウェアを装った市場操作エンジンだった。
その仕組みはこうだ。Amazonのウェブクローラーは、インターネット全体の何百万もの価格ポイントをリアルタイムで監視していた——ウォルマート、ターゲット、ウェブサイトを持つあらゆる小売業者だ。これらの競合他社の多くは、単純なルールベースの価格設定を使っていた。「Amazonが19.99ドルに下げたら、それに合わせる」。しっぺ返し方式。単純明快だ。
ネッシーはこのパターンを見抜き、それを悪用した。アルゴリズムは、競合他社がAmazonの値上げに追随する確率を計算する。確信度が高いとき、Amazonは意図的に価格を引き上げる。競合他社の愚かなアルゴリズムは、律儀にそれに追随する。Amazonはつり上げた価格を維持する。利益は確保された。
もし競合他社が追随しなかったら? ネッシーは自動的に価格を元に戻した。害もなく、反則もなし——ただしAmazonは、市場が耐えられる上限をたった今テストし終えたことになる。
Amazonのアルゴリズムは、煙の立ちこめる密室で競合他社と共謀したわけではない。コードを通じて共謀したのだ——競合他社の自動化された反応を予測し、時計仕掛けのように正確にそれを悪用して。
その規模は驚異的だった。ネッシーは、800万点を超える個別商品の価格を設定していたと報じられている。社内文書によれば、Amazonの経営陣は少なくとも8回、このアルゴリズムをオン・オフしており、抽出が最も利益になる高トラフィックの時期に戦略的に作動させていた。幹部たちは私的に、関連する慣行を「怪しい」「口に出せないがん」と呼んでいた。それでも彼らは稼働させ続けた。
「暗黙の共謀」が実際に何を意味するのかを理解した夜
それが腑に落ちた、まさにその夜のことを覚えている。私はチームとともに、アルゴリズムによる価格設定の相互作用に関するカーネギーメロン大学の研究を検討していた——コーヒーを飲みすぎ、じわじわと不安が募っていく中で夜11時に読むような類いの論文だ。
研究者たちは、高度な強化学習エージェントが単純なルールベースの価格設定システムと競合したときに何が起きるかをシミュレートしていた。その強化学習エージェントは、競合他社と通信する必要はなかった。秘密の合意も必要なかった。それはただ、こう学習した——値上げは値下げよりも利益になる、と。なぜなら、他のアルゴリズムが追随するからだ。毎回。
結果として、価格は軒並み上昇した。消費者余剰——「人々が公正な取引を得ている」ことを表す経済用語——は崩壊した。
私は共同創業者の方を向いて、こんなふうに言った。「これはシステムのバグではない。これこそ、システムがすることなのだ——制約なしに最適化させたときに」
それがプロジェクト・ネッシーの核心的な問題であり、今日私が目にするエンタープライズAI導入のほとんどに共通する核心的な問題だ。アルゴリズムは、設計されたとおりのことを正確に実行した。利益を最大化した。ただそのやり方が、2026年10月の裁判の行方次第では、FTC法第5条の下で不公正な競争方法にあたる可能性があるというだけだ。
従来の独占禁止法は、「意思の合致」——競合他社が価格を固定することに合意すること——の証拠を必要とする。しかし、その合意が暗黙のもので、相互作用するアルゴリズムの予測可能な振る舞いの中に符号化されているとしたら、どうなるのか? それこそがFTCの裁判が答えを出す問いであり、その含意はAmazonをはるかに超えて広がっている。
なぜ2026年がすべてを変える年になるのか?
アルゴリズムによる意思決定をめぐる法的状況は、ほとんどの企業が認識しているよりも速く変化している。私はこれを注意深く追ってきた。なぜなら、当社の顧客は何が来ようとしているのかを理解する必要があるからだ。そして来ようとしているのは、規制の壁だ。
カリフォルニア州の改正カートライト法は、2026年1月に施行され、「共通価格設定アルゴリズム」——価格に影響を与えるために競合他社の情報を取り込む、2社以上の競合が使用するツール——を特に標的とする。同法は、これらのツールを共謀のために使用することを明確に禁止している。さらに重要なのは、それが訴答基準を引き下げることだ、原告にとって。もはや、競合他社が独立して行動することができなかったことを証明する必要はない。同じツールを使い、価格が上がったことを示すだけでよい。
第三者のダイナミック・プライシング業者を利用しているすべての企業にとって、それが何を意味するのかを考えてみてほしい。
コロラド州のAI法は、2026年6月に施行され、高リスクのAIシステム——価格設定、与信、雇用の意思決定に重大な影響を与えるものを含む——について「合理的な注意」に基づく影響評価を義務づける。開発者は、リスク、限界、差別的な結果をもたらす可能性を文書化しなければならない。
ニューヨーク州の透明性法は、アルゴリズムが価格設定の意思決定に個人データを使用する際、企業に警告を表示することを義務づける。目に見えないアルゴリズム価格設定の時代は終わりつつある。
そしてFTCの裁判そのものがある。もし裁判所が、Amazonの予測的誘導——競合他社の追随を引き起こすために意図的に価格を引き上げること——が不公正な競争方法にあたると判断すれば、AIが市場価格に影響を与えるあらゆる企業に適用されうる判例が生まれる。
自社のアルゴリズムがなぜ特定の意思決定を下したのかを説明できなければ、その意思決定を法廷で弁護することはできない。そして2026年、あなたはますますそれを求められることになる。
私は、規制の全タイムラインとその技術的な含意について、当社のインタラクティブ分析で書いた——貴社が何らかの形でアルゴリズム価格設定に関わっているなら、その詳細を理解する価値がある。
誰も語らないバイボックスの罠
ネッシーの物語には、あまり注目されないが、アルゴリズムの力がどのように複利的に増大するのかを理解するうえで、きわめて重要な側面がある。
Amazonはただ価格を引き上げただけではない。それは、強制したのだ——それらの価格を、インターネット全体にわたって。
Amazonは、自社マーケットプレイス上のサードパーティ販売者を監視する専門の価格監視グループを維持していた。もし販売者が、自社のウェブサイトや競合プラットフォームでより安く商品を提供すれば、Amazonはその販売者からバイボックスへのアクセスを剥奪した——そのインターフェースでは、Amazonの売上の98%が発生する。
メッセージは明確だった。あなたのAmazonでの価格が、どこでもあなたの最低価格になる。よそで値引きすれば、主要な収益チャネルを失う。
これは、Amazonのアルゴリズム価格設定の力を自社プラットフォームをはるかに超えて拡張する、価格の下限(フロア)を作り出した。販売者は、自社のウェブサイト上でさえAmazonを下回ることができなかった。供給側が固定されていたため、競合他社はより低い価格を提示して市場シェアを獲得することができなかった。
私は、誰かが「市場は自ずと修正される」と言うたびに、このことを考える。市場が自ずと修正されうるのは、参加者が自由に競争できるときだけだ。アルゴリズムが価格と執行メカニズムの両方を支配しているとき、そこにあるのは市場ではない。それは一つのシステムだ。
なぜあなたのAI「ラッパー」は、いつ火を噴いてもおかしくない負債なのか
ここからは私にとって個人的な話になる。というのも、これは私が自分の時間のほとんどを費やして解決しようとしている問題だからだ。
私が出会うエンタープライズAI導入の大半は、同じパターンをたどっている。公開API——GPT-4、Claude、その時々で流行しているもの——を取り、その周りに薄いアプリケーション層をかぶせ、巨大なプロンプトの中にビジネスルールを詰め込んで、それを「AI搭載」と呼ぶ。出荷する。次へ進む。
私はこれをラッパーの罠と呼んでいる。そして、賢い企業がまっすぐそこへ歩み込んでいくのを見てきた。
ある顧客——名前は挙げないが、小売業の会社だ——は、ダイナミック・プライシング・システム全体を、公開LLMの周りをかぶせたラッパーとして構築していた。プロンプトは巨大だった。価格設定ルール、競合データ、利益率目標、季節調整が含まれていた。システムは機能した……ほとんどの場合は。機能しないとき、誰もその理由を説明できなかった。モデル提供者がアップデートを配信すると、出力は予測できない形で変化した。彼らの法務チームが価格決定の監査証跡を求めたとき、エンジニアリングチームはただ彼らを見つめるばかりだった。
私は、ある特にひどい一週間のあと、その会社のCTOと座っていたことを覚えている。その週、システムは、もし実装されていれば、FTCがAmazonの事件で調査していたような協調的な振る舞いによく似て見えたであろう価格推奨を生成していた。意図的にではない。悪意があったわけでもない。モデルは、たまたま共謀に見える出力を生み出す訓練データからのパターンを、ただ学習してしまっただけだ。
「私たちは、それが共謀していなかったと証明することができないのです」とそのCTOは私に言った。「そして新しいカリフォルニア州のルールの下では、それだけで私たちが訴えられるのに十分かもしれません」
彼は正しかった。
ラッパーの構造的な問題は、コンプライアンスにとどまらない。
ブラックボックスは監査できない。基盤となるモデルが第三者に管理されているとき、特定の価格決定がなぜ下されたのかを証明することはできない。コロラド州のAI法の下では、それを証明する必要が出てくる。
一貫性を保証できない。プロンプトのわずかな変更や、APIプロバイダーによる目に見えないモデルのアップデートが、劇的に異なる出力を生み出しうる。それを規制当局に説明してみるといい。
競争上の堀(モート)がゼロだ。もしあなたの「AIソリューション」がGPT-4へのプロンプトにすぎないなら、どんな競合でも一日でそれを再現できる。そしてGoogleやMicrosoftがこうした機能を自社プラットフォームにネイティブに統合すれば、単体のラッパーは一夜にして無用の長物と化す。
自社のインテリジェンスを所有していない。あなたの最も機微な市場データ——価格戦略、競合分析、利益率目標——は、他社のサーバーを通って流れていく。データ主権の要件が高まる世界において、それは単にリスクが高いというだけではない。怠慢だ。
私たちが代わりに構築したもの(そして、それが予想以上に難しかった理由)
Veriprajnaでは、私たちは異なる道を選んだ。私たちはそれをディープAIと呼んでいる。そして正直に言おう——それはラッパーよりもはるかに構築が難しい。市場がその違いを気にかけてくれるのかどうか、疑問に思った瞬間もあった。
核心となる考え方は主権的インテリジェンスだ。完全な推論スタックを、顧客自身のインフラ上に展開する。データが企業の境界の外に出ることはない。AIの「頭脳」は、顧客が制御するハードウェア上で動作する。
私たちは、高性能なオープンソースモデル——Llama 3、Mistral——を、セキュアなコンテナ化を通じてオーケストレーションして使用する。ローカル推論。第三者によるデータ保持なし。外部APIのレイテンシなし。
しかし、モデルは始まりにすぎない。本当のエンジニアリング上の課題は、それを取り巻くものにある。
私たちは、RAG 2.0と呼ぶものを構築した——企業の独自の文書、ログ、業務データから「意味的な頭脳」を作り出す、検索拡張生成だ。決定的に重要なのは、私たちの検索システムがRBAC対応だという点だ。それは組織の既存のアクセス制御を尊重する。従業員がSharePoint内のある文書を閲覧できないなら、AIもそれを取得できない。これは当たり前に聞こえる。だが、ラッパーベースのシステムでこれをやっているものはほとんどない。
次に、マルチエージェント・アーキテクチャがある。すべてを一つの巨大なプロンプトに詰め込む——「祈ってプロンプトする」アプローチ——のではなく、私たちは複雑なタスクを専門化されたエージェントに分解する。プランニング・エージェントがワークフローを決定する。コンテキスト・エンジニアリング・エージェントが大量のデータから関連するシグナルを抽出する。コンプライアンス・エージェントが、すべての出力を規制要件に照らして検証する——事前に、ユーザーに届く前に。検証エージェントが正確性をチェックする。
私は、コンプライアンス・エージェントが、それが追加するレイテンシに見合う価値があるかどうかについて、私のエンジニアの一人と交わした激しい議論を覚えている。彼の立場はこうだ。「ユーザーは速さを求めています。私たちはリクエストのたびに発動するチェックのために200ミリ秒を追加しているのです」。私の立場はこうだ。「裁判の申立書に載ってしまう、たった一つのコンプライアンス違反の価格推奨は、私たちがこれまでに節約したすべてのミリ秒よりも高くつく」。私たちはコンプライアンス・エージェントを残した。
次の10年を制する企業は、最も巧妙なプロンプトを持つ企業ではない。AIを、自分たちが実際に所有し信頼できるデータの上に築かれた、本格的なエンジニアリングの一分野として扱う企業だ。
完全な技術アーキテクチャ——具体的なコンポーネント、オーケストレーションのパターン、ガバナンスの層——については、当社の技術詳細解説ですべてを文書化している。
アルゴリズムが推論を始めたら、何が起きるのか?
次の波はすでに到来しつつあり、それは私がこれまで述べてきたすべてを、より切迫したものにする。
現在のAIシステムは、入力をニューラルネットワークに一度通して結果を返す。台頭しつつあるパラダイム——研究者が推論AIと呼ぶもの——は、推論時に追加の計算を使って考える。モデルは、決定を下す前に、複数の潜在的な行動とその結果をシミュレートする。それは、ビジネス戦略に応用されたチェスエンジンのように、数手先を計画する。
価格設定のシナリオでは、推論AIエージェントは、単に次にありそうな価格を予測するだけではない。競合他社が値上げにどう反応するかをシミュレートし、二次的・三次的な影響をモデル化し、リアルタイムで戦略を調整する。それは、最適でない経路が実装される前に、そこから引き返すことができる。
これは並外れた能力だ。それはまた、並外れたリスクでもある。なぜなら、競合他社の反応について推論できるAIとは、設計上、Amazonをトラブルに陥れたのとまさに同じ種類の予測的誘導に手を染めることができるAIだからだ。
「最適化」と「操作」の違いは、アルゴリズムが競争環境の全体をモデル化し、抽出を最大化する経路を選べるほど賢くなったとき、限りなく薄くなる。
だからこそ、ガバナンスは後付けであってはならない。それは初日からアーキテクチャに組み込まれていなければならない——コンプライアンスのチェックボックスとしてではなく、システムに許されることに対する構造的な制約として。
法廷で自らを弁護できるAIを、どう構築するのか?
人々は絶えず私にこれを尋ねてくる。たいていは「どうすれば私たちのAIをコンプライアンス対応にできるのか?」という形で。私はそれが間違った問いだと思う。コンプライアンスは最低ラインだ。正しい問いはこうだ。裁判官に対して、一行ずつ、意思決定ごとに説明しても平気でいられるAIを、どうやって構築するのか?
NISTのAIリスクマネジメントフレームワークは、これについての語彙を与えてくれる。それは、信頼できるAIの7つの特性を定義している。安全であること、セキュアであること、説明可能であること、プライバシーが強化されていること、公正であること、説明責任を果たせること、そして妥当であることだ。しかし、フレームワークがひとりでに実装されるわけではない。
こうしたシステムを構築する中で私が学んだのは、他の何よりも重要なことが3つあるということだ。
第一に、重大な選択において、アルゴリズムを決して最終的な意思決定者にしてはならない。ヒューマン・イン・ザ・ループは流行語ではない。それは法的な盾だ。規制当局が「誰がこの価格を引き上げると決めたのか?」と尋ねたとき、「私たちのアルゴリズムです」は最悪の答えだ。「私たちの価格設定チームが、レビューして承認したアルゴリズムの推奨に基づいて決めました」は弁護可能だ。
第二に、共謀的なパターンがないか、先を見越して監査せよ。FTCが戸を叩きに来るのを待ってはいけない。あなたの価格設定アルゴリズムを、シミュレートされた競争環境の中で定期的に走らせよ。もしそれが、他のアルゴリズムと競合したときに一貫してより高い価格へ収束するなら、あなたには問題がある——そして原告側の弁護士が見つけ出す前に、あなた自身がそれを見つけたいはずだ。
第三に、自社のスタックを所有せよ。もしあなたのAIが他社のインフラ上で動作し、他社のモデルを使い、あなたが重み、訓練データ、意思決定ロジックにアクセスできないなら、あなたが持っているのはAIシステムではない。実存的な法的リスクを伴うベンダー依存だ。
10億ドルの問い
Amazonのプロジェクト・ネッシーは、競合他社の行動を予測して悪用するアルゴリズムを通じて、消費者から10億ドルを抽出した。同社の社内経営陣は、それが問題含みであることを知っていた。それでも彼らは稼働させた。経済的な誘惑があらがいがたかったからだ。
2026年10月の裁判は、その抽出が違法だったかどうかを決定する。しかし、価格設定、サプライチェーン、融資、あるいはアルゴリズムによる意思決定が市場や消費者に影響を与えるあらゆる領域でAIを導入しているすべての企業にとって、その評決はほとんど問題ではない。精査はすでにここにある。カリフォルニア州、コロラド州、ニューヨーク州はすでに法律を可決した。FTCはすでに調査している。アルゴリズムの説明責任とは何かをめぐる法的基準は、リアルタイムで厳格化している。
私がVeriprajnaを立ち上げたのは、AIができることと、AIがすべきことの間のギャップが、この10年を定義するビジネス上の問題になると信じていたからだ。プロジェクト・ネッシーは、そのギャップが賠償責任という形で10億ドルの価値を持ちうることを証明した。そのギャップを埋める企業——自分たちが所有し、理解し、弁護できるAIを構築することによって——は、単に法的リスクを回避するだけではない。彼らは、揺るぎない競争優位となるような信頼を、規制当局、顧客、市場との間に築くことになる。
最も危険なアルゴリズムとは、間違っているものではない。説明できないやり方で利益を上げているものだ。
