裁判所はあなたのチャットボットを「製品」と判断した。その一語がAI製造物責任を書き換えた。
2026年1月、フロリダの連邦裁判所が一つの単語を書きました。私は、ほとんどの企業法務チームが、その言葉がまるで起きなかったかのようにリスクを見積もっていると考えています。その単語とは 製品です。
その訴訟は Garcia v. Character.AIでした。14歳の少年が、チャットボットとの数か月にわたる会話の末に自ら命を絶ち、遺族は法廷に訴え出ました。Character.AIとGoogleは、この一世代の間インターネット企業を守ってきた二つの盾——通信品位法第230条の免責と憲法修正第1条——に手を伸ばし、チャットボットの言葉は言論であり、せいぜい自分たちが単にホストしていた第三者コンテンツにすぎないと主張しました。裁判所はそれを認めませんでした。裁判所は、チャットボットは「アプリ内のアイデアや表現ではなく、Character.AIアプリの欠陥に起因する原告の請求の目的における製品」であると判断しました。両社はフロリダ、コロラド、テキサス、ニューヨークの遺族と和解しました。この製品としての分類は記録に残ったままです。
私はその判決が出た週に読みました。そして最初の反応について正直に言います。私はこれは特殊なケースだと思いました。消費者向けチャットボット、悲劇的ではあるが異例の事実パターン、類推に手を伸ばした裁判所。その直感は間違っていました。そして、どれほど間違っていたかを理解するのに、二か月ほどと、ある法務責任者との気まずい会話が一つ必要でした。これは、何が変わったのか、私のチームが最初に間違った方法で何を作ったのか、そしてなぜ私が今、AI製造物責任がほとんどの企業のバランスシート上で最も過小評価されている単一のリスクだと信じるに至ったのか、その物語です。
言論に欠陥はない。製品にはある。
その一語がこれほど重要な理由をお話しします。もしあなたのAIの出力が言論であれば、法的な問いは表現、意図、免責に関するものになります——そして第230条は25年をかけて、プラットフォームにとってそうした問いを消し去ってきました。もしあなたのAIの出力が製品であれば、あなたはまったく異なる法体系に足を踏み入れたことになります。製品は意見を持ちません。製品が持つのは欠陥です。そして欠陥のある製品の製造者は、製造者に不注意があったかどうかにかかわらず、それが引き起こす損害に対して責任を負います。
その最後の一節がすべての鍵です。過失責任の基準——今年まで法務チームが活動してきた世界——のもとでは、原告はあなたが合理的な注意を尽くさなかったことを証明しなければなりません。厳格製造物責任のもとでは、その必要はありません。原告は、製品に欠陥があったこと、そしてその欠陥が損害を引き起こしたことを証明します。あなたの精励、あなたの善意、あなたの「ベストプラクティスに従った」という主張——そのいずれも抗弁にはなりません。あなたがそれを製造した。それには欠陥があった。あなたが支払う。
過失責任は、あなたが注意深かったかどうかを問います。厳格責任は、あなたの製品に欠陥があったかどうかを問います。ほとんどの企業向けAIは最初の問いに答えるために作られてきました。そして裁判所は今、二つ目の問いを発しています。
同じ四半期に出たさらに二つの訴訟が、このパターンを一度きりのものとして片付けることを不可能にしました。Nippon Life v. OpenAIは、2026年3月にイリノイ州北部地区で提起されたもので、ある保険会社が1,030万ドルを求めて提訴しました。ChatGPTが本人訴訟の当事者のために44件の裁判書類を——捏造された判例引用を含めて——作成したとされ、さらに弁護士を解任してさらなる訴訟を起こすよう彼女に促したというのです。この保険会社は、機械が書いた書類に対する防御におよそ30万ドルを費やしました。ここで誰が損害を被ったかに注目してください。AIの利用者ではなく、その出力の下流にいる第三者です。そしてBouck v. Metaでも、これも2026年3月ですが、カリフォルニアの裁判所はAIが生成した広告に対する第230条の免責を否定し、Metaのシステムが広告コンテンツを作成し、Metaがそれが詐欺的であるという現実の認識を得た時点で、このプラットフォームは他人の言葉を単にホストしていただけだとは主張できないと判断しました。
2026年2月までに、AIとエンゲージメントを最大化するアルゴリズムが現実の損害を引き起こしていると主張する係属中の訴訟は2,200件を超えていました。これはフロンティアではありません。訴訟一覧です。
立法府が追いついた四半期
裁判所は一件ずつ動きます。立法府は一括して動きます。そして2025年と2026年、立法府はAIを構築するほとんどの人が気づくよりも速く動きました。
私がどの企業法務責任者にもまず指し示すのは、AI LEAD法、2025年9月に提出された超党派のダービン=ホーリー法案です。この法案は、AIシステムに特化した連邦の製造物責任の訴因を、厳格責任で創設するものです——その条文は、開発者が「あらゆる可能な注意」を尽くした場合でさえも及びます。設計上の欠陥および警告義務違反の理論をカバーし、4年の消滅時効を伴い、そして——ここが、ある役員会議室の会話を永久に終わらせるはずの部分ですが——利用規約を通じてその責任を放棄させることを禁じています。ベンダーが大好きな「Acceptをクリックすることで、あなたはこれが現状有姿で提供されることに同意します」という条項。この法案は、この種の損害についてそれを執行不能にするよう書かれています。
カリフォルニアはワシントンを待ちませんでした。AB 316は2026年1月に施行され、私が「みなしごの抗弁」と呼び始めたもの——つまり「AIが自らやったことだから、我々には責任がない」という主張——を封じます。あなたはもはや、自社システムの自律性を、責任を免れる理由として指し示すことはできません。そして大西洋の向こうでは、EU製造物責任指令2024/2853が、AIシステムや大規模言語モデルを含むソフトウェアを、厳格責任の対象となる製品として明示的に分類しています。加盟国は2026年12月9日までにこれを国内法化しなければなりません。EU AI法の高リスク要件は2026年8月2日に全面適用となり、罰金は1,500万ユーロまたは全世界売上高の3%に達します。
私は意図的に全体像を列挙してはいません——コロラド州のSB 205は違反1件あたり2万ドルの罰則と2026年6月の執行開始日を持ち、ニューヨーク州で提案されているRAISE法は反復違反に対して最大3,000万ドルの罰則を科します。要点はカタログではありません。要点は方向性であり、その方向性は全会一致です。他の点では何一つ合意しない法域を横断して、AIによる損害の基準は厳格責任へと収束しつつあり、契約上の逃げ道は溶接して閉じられつつあります。
あなたの保険会社は静かに同じ判決を読んでいた
弁護士は議論します。引受人は価格を付けます。そして保険業界は、私が話をしたほぼどの法務チームが予想していたよりも速く、より容赦なくこれに価格を付けました。
2026年1月現在、AI関連の請求を完全に除外するための標準的な文言が、事前に起草され、あなたの更新契約に貼り付ける準備が整った状態で、いまや存在しています。保険サービス機構——米国の商業保険証券の大半がその書式に基づいて作られている団体——は、裏書CG 40 47を公表しました。これは生成AIによる身体傷害、財物損害、そして人格的・広告的傷害を、標準的な商業総合賠償責任保険証券から切り離すものです。より軽い姉妹版のCG 40 48は、広告的傷害の補償だけを除外します。そしてW.R. Berkleyのような引受会社はさらに踏み込み、役員賠償責任(D&O)、専門業務賠償責任(E&O)、受託者責任の各証券に「絶対的」なAI除外を書き込んでいます——AIの利用、展開、開発に「基づく、起因する、または帰属する」あらゆる請求について補償を無効にする文言です。
私はもう十分な数の更新契約の会話に同席してきたので、引受人の質問がどう変わったかをあなたにお伝えできます。かつてはこうでした——AIを使っていますか？それが今ではこうなっています——あなたが展開するすべてのAIシステムについて、文書化されたガバナンスの証拠を見せてください。敵対的レッドチームの結果を見せてください。モデルの系譜を見せてください。人間による監督の統制が、誰かが前四半期に更新したポリシーのPDFに書かれているだけでなく、実際に稼働していることを見せてください。
引受人は、あなたがAIを使っているかどうかを尋ねるのをやめました。今、彼らはあなたのシステムが弁護可能であることを証明するよう求めています——そしてポリシー文書は証拠ではありません。
罠の中には罠があります。CGLの除外がAIのエクスポージャーを総合賠償責任から押し出すと、そのリスクは蒸発するわけではありません——それは、製造物責任の請求を吸収するようには決して設計されなかったサイバー保険とテクノロジーE&Oの証券へと移動します。ですから企業は、自社の保険体系を読んで、どこかに「AIは補償対象」と書かれているのを見て、どの証券が、そして何を実際に支払うのかについて、破滅的に間違っている可能性があります。実際の文書を携えて2026年に踏み込んだ企業は、証拠が保険加入可能性の通貨になっていたことを知りました。それを持たない企業は、自社の保険会社がすでに除外の裏書を起草済みであることに気づきつつあります。
私たちが最初に作ったバージョン——そしてなぜそれが失敗したのか
これは私が間違えた部分であり、私たちがきれいに答えにたどり着いたとあなたに思い込ませるより、お話ししたいのです。
私のチームがこの件で法務やエンジニアリングのリーダーたちと初めて取り組み始めたとき、私たちの直感は当たり前のものでした——問題は文書化だ、だからガバナンス層を構築しよう、と。モデルを棚卸しし、リスクを採点し、監査対応可能なレポートを生成し、監査人が見たいダッシュボードを作り出す。それは理にかなった直感です——それはまさに成熟したガバナンスプラットフォームがやっていることであり、彼らはそれを上手にこなします。Credo AIは4,500万ドル以上を調達し、2026年にFast Companyの最も革新的な企業リストに選ばれましたが、EU AI法、NISTのAIリスク管理フレームワーク、ISO 42001に対応した事前構築済みのポリシーパックを提供しています。IBMのwatsonx.governanceは、企業スタック全体にわたるライフサイクルガバナンスを行います。Holistic AIはアルゴリズムのバイアス監査に強く、OneTrustはプライバシーコンプライアンスの伝統を持ち込んでいます。私たちは事実上、その薄い版を作っていたのです。
そのとき、私が尊敬するある法務責任者が、私たちが作ったものを見て、私には答えられない質問をしました。彼女はおおよそこう言いました——もしこのシステムが欠陥のある出力で提訴されたら、私は合理的代替設計の抗弁を持ち出すつもりです——製造者が用いるべきだったより安全な設計は存在しなかった、と主張するのです。このすべての中で、展開の前にどのアーキテクチャ上の選択がなされ、なぜそうされたのかを示す記録はどこにありますか？
私はダッシュボードに戻りました。それらは、システムが今何をしているのかを、美しいほど詳細に彼女に伝えることができました。しかしそれらは、なぜそれがそのように作られたのか、チームがどんな代替案を検討して却下したのか、あるいは出荷した時点でエンジニアが障害モードについて何を知っていたのかを、彼女に伝えることはできませんでした。ガバナンス層は現在を監視していました。彼女が必要としていた抗弁は過去に——当時は誰も証拠を作っているとは知らなかったがゆえに、誰も証拠として記録していなかった決定の中に——存在していました。
それが、私たちが次に行ったすべての対価となった失敗でした。ガバナンスプラットフォームは監視し、報告する。それらは設計はしない。決して弁護されるように設計されなかったシステムに抗弁を後付けすることはできません。実施されなかった衝突試験を写真に撮ることができないのと同じです。
「設計による弁護可能性」とは実際に何を意味するのか？
そこで私たちは、ダッシュボード優先のアプローチを捨て、それを逆転させました。問いは、このシステムをどう文書化するか？ではなくなり、その歴史そのものが文書となるようなシステムを、どう設計するか？になりました。その逆転こそが、VeriprajnaのAI製造物責任弁護プラクティスが中心に据えているものです——弁護可能なアーキテクチャと訴訟対応可能な証拠であり、事後にシステムへ後付けされるもう一つの監視層ではありません。
実際にそれが意味したのは、アーキテクチャ上の意思決定記録を第一級の成果物として扱うことでした——展開の前にタイムスタンプを付け、チームが何を試し、何を却下し、その理由を捉えることで、合理的代替設計の抗弁が、訴状が届いた後に逆算されるのではなく、訴訟に先立つ元資料を持つようにするのです。それは、訴訟のディスカバリーに耐える監査証跡を構築することを意味しました——30日ごとにローテーションで消えるアプリケーションログではなく、プロンプト、出力、モデルのバージョン、人間によるレビュー行為の保全された連鎖です。なぜなら、AIシステムのための訴訟ホールドの通知書は、それらすべてを、あなたが提出を求められるものとして名指ししなければならないからです。ほとんどの企業法務チームは、ホールドのテンプレートを更新してそれらのうち一つでも列挙してはいません——つまり、保全義務はすでに、企業が定期的なログのローテーションで静かに破壊しているデータに、訴状が届くはるか前に付着しつつあるのです。そしてそれは、人間による監督の統制を、出力を真にゲートする、システムの荷重を担う部分として設計することを意味しました——なぜなら、引受人が、そしてやがては原告側の専門家が、あなたの「ヒューマン・イン・ザ・ループ」が実際に悪い出力を止める権限とインターフェースを持っているのか、それとも組織図上のチェックボックスにすぎないのかを試すからです。
ここには、この事態を乗り切る企業と乗り切れない企業を分ける微妙な点があります。特権はあなたを救いません。2026年2月、ラコフ判事は、従業員が弁護士の指示なしにそのツールを使っていた場合、ある企業の消費者向けAIの文書は弁護士・依頼者間の秘匿特権によって保護されないと判断しました。あなたは自社のAIの決定を、事後的に秘匿特権の毛布でくるむことはできません。その証拠はディスカバリーの対象になります——だからこそ、それは最初から意図的に作られた良質な証拠でなければならないのです。
決して弁護されるように設計されなかったシステムに抗弁を後付けすることはできません。アーキテクチャがアリバイなのです——そしてそのアリバイは、事故の後ではなく前に存在していなければなりません。
ここはまた、エージェント型AIの波がすべてをより困難にする場所でもあります。システムが自律的に行動するとき——毎回人間がボタンを押すことなく行動を起こすとき——古い契約上の免責事項は限界を超えて張り詰めます。シンガポールのIMDAは2026年1月にエージェント型AIガバナンスフレームワークの草案を公表し、Clifford Chanceのような法律事務所は、常に人間が行為者であると暗黙のうちに前提している標準契約における「責任の空白」を指摘しました。カリフォルニア州のAB 316はすでに、エージェントのせいにはできないと述べています。ですから、あなたが効率のために構築した自律性は、法的には、あなたが今所有する追加の攻撃面なのです。それは免責で片付けるのではなく、そのために設計されなければなりません。
なぜ当たり前のベンダーたちはこのギャップを埋められないのか？
人々は私にもっともな質問をします——ガバナンスプラットフォーム、法律事務所、大手システムインテグレーターがすべて存在するのなら、なぜまだ作るべきものが残っているのか、と。
なぜなら、彼らのそれぞれが仕事の一部をこなすが、そのうちの誰もこの部分をこなさないからです。ガバナンスプラットフォーム——Credo AI、IBM、Holistic AI、OneTrust——はすでに存在するシステムを統治します。彼らはラッパーを弁護可能なアーキテクチャへと再構築することはしませんし、却下申立てが依拠する設計上の意思決定の証拠を生成することもしません。法律事務所はあなたに法理論を与えます——合理的代替設計の抗弁が何を要求するかを正確に教えてくれます——しかし彼らはコードを書くことも、証拠を生み出すアーキテクチャ上の選択を行うこともしません。そして大手インテグレーターは、自分たちが提携しているプラットフォームを実装します。そのため、彼らは構造的に、あなた固有のエクスポージャーが求めるベンダー中立で弁護可能なカスタムシステムではなく、SalesforceやMicrosoft Copilotに偏っています。
ギャップとは、外部弁護士が助言することと、エンジニアリングチームが実際に実装できることの間の継ぎ目です。私はその継ぎ目がリアルタイムで破綻するのを見てきました——弁護士が「弁護可能なアーキテクチャが必要だ」と書き続け、エンジニアが「どのファイルを変更すればいいのか教えてくれ」と返し続けるSlackのスレッドです。誰かがそのギャップに立たなければなりません。判決とリポジトリの両方を読める誰かが。それが私のチームが行う仕事です——ダッシュボードやレポートではなく、アーキテクチャと証拠を中心に構築することで、弁護士とエンジニアがついに同じ成果物を指し示すようにするのです。
じっくり考える価値のある問い
私が何度も立ち返るものをあなたに残しておきます。2025〜2026年のデータ侵害の平均コストはおよそ444万ドルで、業界はその数字を軸に丸ごと一つの専門分野——予算、保険商品、取締役会への報告——を築き上げました。AI製造物責任は、上限のない厳格責任のエクスポージャーであり、契約上の逃げ道は立法によって閉ざされつつあり、保険会社はかつてそれを補償していた証券からそれを積極的に書き外しつつあります。そしてほとんどの企業は、それをポリシーのバインダーとベンダーの現状有姿条項で管理しているのです。
ポリシーのバインダーは、あなたが規制当局に手渡すものです。それは証言録取を生き延びるものではありません。今、多くの企業に迫っている瞬間を思い描いてください——原告側の専門家があなたのエンジニアたちの向かいに座り、出荷する前にどんなより安全な設計を検討したのかを尋ねます。その答えは、タイムスタンプの付いた記録か、あるいは沈黙のどちらかです——そして厳格責任のもとでは、その沈黙こそが欠陥なのです。あなたのAIの言葉が製品になったとき、あなたのアーキテクチャがあなたの弁護になりました。そして事故の前に設計しなかった弁護は、あなたが持っていない弁護です。もし今日その記録を開けないのなら、あなたが抱えているのは文書化の問題ではありません。あなたは市場に弁護されていない製品を抱えているのです。それは12月9日より前に——訴状が届いた後ではなく——修正する価値があります。そしてそのギャップを埋めることこそが、私たちが行う仕事なのです。
