AIによるリーガルリサーチは信頼できるか？　現時点では「まだ」

問題点

2023年6月、ある弁護士がニューヨークの連邦裁判所に準備書面を提出しました。この書面は、Varghese v. China Southern Airlines、Shaboon v. Egyptair、Petersen v. Iran Air といった複数の判例を、事件番号・日付・引用句付きで援用していました。しかし、その判例はすべて捏造でした。すべてChatGPTがでっち上げたものだったのです。

Mata v. Avianca, Inc. の裁判官は、引用が捏造であることに気づきました。説得力のある法律文書の体裁を備えていたにもかかわらず、裁判官はAI生成の判決要旨の一部を「意味不明な言葉」と呼びました。裁判所は5,000ドルの罰金を科し、弁護士らに依頼人への報告を命じました。しかし、金銭的ペナルティは損害のごく一部にすぎませんでした。評判への打撃は国際的なニュースになりました。

この話をさらに悪くしているのが次の点です。相手方弁護士が偽の判例に異議を唱えると、この弁護士はChatGPTに戻り、それらが実在するかどうか尋ねました。AIは自分自身の嘘を「確認」したのです。判例は「確かに存在する」こと、「信頼できる法律データベース」で見つけられるとまで答えました。これがホワイトペーパーの言う「ハルシネーションループ（幻覚のループ）」です——検証に使われたツールが、生成に使われたツールと同じ欠陥を抱えていたのです。

裁判所は、「AIが情報を捏造しうると知らなかった」という弁護側の抗弁を退けました。裁判官たちは今や、テクノロジーの正確性について最終的に保証するのは弁護士自身であるという原則を確立しています。貴事務所が法務業務にAIを使うなら、責任を負うのはソフトウェアベンダーではなく、貴所です。

なぜ貴社のビジネスに関わるのか

Mata 事件は孤立した出来事ではありませんでした。この事件は、リーガルリサーチ、コンプライアンス、規制対応にAIを活用するあらゆる組織に影響する構造的問題を露呈させました。

懸念すべき数字は次のとおりです。

• 58%～82%： スタンフォード大学の研究者らは、汎用AIチャットボットが複雑な法律関連の質問に対してこの割合でハルシネーション（幻覚）を起こすことを発見しました——インターネットアクセスや基本的な検索機能を持つツールでさえ例外ではありません。
• 5,000ドル： Mata v. Avianca で科された直接の罰金額です。しかし本当のコストは、関係した弁護士に対する評判の破壊と、弁護士資格剥奪の潜在リスクの顕在化でした。
• 最大30～35%： 多段階の法的推論タスクにおける、先進的なグラフベース検索システムと標準的なベクトルベースシステムとの間の性能差です。

これらのリスクは、貴社のビジネスを3つの箇所で直撃します。

• 職務上過失（マルプラクティス）責任。 提出書面に含まれるAI生成の引用一つひとつについて、法的責任を負うのは貴事務所です。厳格なAIガバナンスを実証できない事務所では、職務過失保険の保険料が上昇する可能性が高くなります。
• 規制上のエクスポージャー（曝露）。 裁判所は、AI利用の義務的な開示を求める常置命令を出しています。使用中のツールがその推論根拠を説明できないなら、事件の本体に取りかかる前段階でコンプライアンス違反に直面します。
• 顧客の信頼。 クライアントから「どのAIを使っていますか」と問われる場面は今後ますます増えます。「ChatGPTです」——あるいは汎用モデルの薄いラッパーにすぎないどんなツール——という答えは、正確性について真剣に考えていないことを示すサインです。エンタープライズ法務において、この答えは許容されなくなりつつあります。

貴社の損益計算（P&L）に対する結論はこうです。もし弁護士がAI生成の引用を一件一件手作業で検証しなければならないなら、そもそものAI投資を正当化していたはずの効率化メリットは失われます。

内部で実際に起きていること

Mata がなぜ起きたのかを理解するには、大規模言語モデル（LLM）の仕組みについて一つの事実を押さえる必要があります。LLMは系列の中で次に来る単語を予測します。図書館を検索しません。データベースを照合しません。統計的パターンに基づいて、もっともらしく聞こえる テキストを生成するのです。

スマートフォンの入力補完（オートコンプリート）が、段落単位で行われるものと想像してください。「See you at the」と打ち込むと、スマホは「meeting」を候補に提示することがあります。LLMは同じことを桁違いの規模で行います。航空会社の事故に関する判例を求められても、実在の判例を調べることはしません。法的引用のパターンに沿った回答を組み立てるのです。「Varghese」は統計的にありそうな原告名であり、「China Southern Airlines」はありそうな被告名でした。しかし両者の関係は、法的現実ではなく数学的なフィクションだったのです。

業界最初の対策となったのが、検索拡張生成（RAG：Retrieval-Augmented Generation）という手法です——AIが回答を生成する前に実際の一次資料を与える方式です。標準的なRAGは法律文書を数値ベクトルとして保存し、質問と意味的に類似したテキスト断片（チャンク）を検索します。これは役に立ちますが、新たな問題も持ち込みます。

ベクトルベース検索は、言葉遣いが似ていれば少数意見を多数意見と同様に扱います。ある判例が破棄（overrule）されているかどうかを判別できません。文書を個別に検索するため、法令と、その法令を解釈する規則と、その規則を適用する判例との間のつながりを見落とします。研究によれば、LLMは長い検索結果リストを与えられると冒頭と末尾の情報に注目し、中間の材料を無視します。法務業務では、決定的な例外条項が、検索された判例の15番目のチャンクに埋もれていることが多いのです。

80%の割合で正しい判例を検索できるシステムは、残りの20%については職務過失リスクです。

何が有効で、何が有効でないか

リスクの高い法務AIにおいて、よく使われる3つのアプローチは失敗します。

• プロンプトの改善。 プロンプトエンジニアリングは、AI出力のスタイルや形式を変えることならできます。しかしモデルが持たない知識を注入することはできず、アクセスもできないデータベースに対して事実照合を行うようモデルに強いることもできません。
• ラッパー型アプリケーション。 これらはOpenAIなどのAPIの上に重ねられた薄いインターフェースです。「あなたは有能な弁護士です」というシステムプロンプトを追加することはあっても、検証済み判例データベースへのアクセスが得られるわけでも、AIが引用をでっち上げるのを防げるわけでもありません。
• 標準的なベクトルRAGのみ。 純粋な捏造は減らせますが、法のヒエラルキー（優先順位構造）を捉えることはできません。ある判例が別の判例を破棄（overrule）していることを知らず、管轄権も理解しません。廃止された法令であっても、テキストが質問に一致すれば現行法と同様に扱います。

実際に有効なのが、Citation-Enforced GraphRAG（引用強制型GraphRAG）という手法です——法的権威源を検証済みナレッジグラフへマッピングし、AIが偽の引用を生成することを物理的に阻止するシステムです。仕組みは次の3ステップです。

1. 入力：地図を作る。 あらゆる法令・規則・判例が、ナレッジグラフ——法的エンティティとその関係性を構造化したネットワーク——の中の特定のノードになります。ノード間のエッジは意味を運びます。「破棄する」「解釈する」「支持する」「区別する」。これは文書の山ではありません。法がどうつながっているかについての検証済みの地図なのです。

2. 処理：AIを拘束する。 テキスト生成の間、制約メカニズムが、AIが出力しようとする一つひとつの引用をナレッジグラフと突き合わせて検証します。AIが「Varghese v. China Southern」を出力しようとすると、システムはグラフを照合します。そのような判例は存在しないと分かり、出力全体をブロックします。検証済みデータベースに存在しない判例について、AIはトークン列を物理的に生成できません。これにより、貴システムは確率的な正確さから構造的な強制へと移行します。

3. 出力：根拠を示す。 システムが判例を引用する際には、正確な探索経路——どの法令から出発し、どの判例がそれを解釈し、それらの判例が今も有効な法であるかどうか——が提示されます。判例が破棄されている場合、グラフは「レッドフラグ」を付け、生成が始まる前にAIのコンテキストからその判例を除去します。

ここが、貴社のコンプライアンスチームが注目すべき点です。すべての引用には監査証跡（オーディットトレイル）が伴います。貴所の弁護士は、AIが判例を選んだことだけでなく、なぜ選んだのかを見ることができます。システムは、ネガティブ・トリートメント（不利な後続判例）を確認したこと——シェパーダイズのデジタル版——と、その権威源が有効であることを確認したことを示せます。 グラウンディング、引用、検証という レイヤーが、すべての出力を追跡可能かつ防御可能なものにします。

また、 法務およびプロフェッショナル・サービス分野の組織にとって、このアーキテクチャは内部ポリシーを外部規制へ対応付けることも可能にします。グラフは、コンプライアンスマニュアルの特定の段落を、その段落が扱う規則の該当箇所へ正確にリンクできます。これにより、監査に耐える、自動化された検証可能なコンプライアンス・マトリクスが生まれます。

ハイブリッド・アプローチ——関連テキストの発見にベクトル検索を、法的妥当性の確認にグラフベースの検証を組み合わせる方式——は、網羅性と精度の両方をもたらします。貴社の ソリューションアーキテクチャ は、捏造してしまう傾向なしに、AIの流暢さを手に入れます。

法務AIが、多段階のリサーチタスクを計画・実行できる自律エージェントへと向かうにつれ、グラフベースの構造は不可欠なインフラとなります。エージェントが複雑な問いについて推理するには、法律世界の地図が必要です。ベクトルデータベースが与えるのは文書の山です。ナレッジグラフが与えるのは地図です。

技術アーキテクチャをさらに深く掘り下げるには、 完全な技術分析をお読みになる か、 インタラクティブ版をご覧ください。