「緑のフラグ」は事務所を救わない——2026年、リーガルAIのハルシネーションが本当に取る姿
2026年3月、二人の弁護士が、合わせて3万ドルの支払いを命じられて第6巡回区控訴裁判所（Sixth Circuit）をあとにしたとき、彼らの準備書面に引用されていた判例は、そのすべてが架空だったわけではない。この事実こそ、誰もが向き合いたがらないものであり、私が日々、いま作っているものを作り続けている理由でもある。
私は、この問題の内側からここへたどり着いた。Veriprajna以前、私は訴訟担当アソシエイトとして働いていた。そして、誰もが美化して語らないこの仕事の一部が、引用チェックだ——深夜11時、赤字の入った準備書面を前に座り、ある引用を丸で囲み、こう走り書きする——この判例は、本当にそう言っているのか?——と、余白に。リーガルAIの最初の波が到来したとき、私はその夜が消えてなくなるものと思っていた。ところが実際には、その夜はより危険になった。ツールが、引用を、いかにもチェック済みであるかのように作り出すのが、実にうまくなったからだ。リーガルAIの引用検証は、スイッチひとつでオンにできる機能ではないと判明した。それは誰かが構築しなければならないレイヤーであり、しかも、ほとんど誰も構築していなかった。
本稿で私が擁護したい主張はこうだ——2026年に事務所を制裁に追い込むハルシネーションは、いまのツールが捕まえるよう設計されているものではない。有名な失敗——でっち上げられた判例——は、ほぼ解決済みだ。深刻化しているのは、実在する判例が、誤って引用され、緑のフラグをまとっている、という失敗のほうだ。
誰もがMataを覚えている。だが、正しい教訓を学んだ者は、ほとんどいない
名前は知らなくても、この話は知っているはずだ。Mata v. Avianca、2023年——ある弁護士がChatGPTに支持判例を求めると、AIはVarghese v. China Southern Airlinesを提示した——説得力のある事件番号、もっともらしい裁判所、詳細な内部引用まで揃っていた。だが、その判例は存在しなかった。5,000ドルの罰金と、キャリアぶんの恥辱が、あとに続いた。
この専門職がMataから得た教訓は、「AIは判例をでっち上げる」だった。そこで業界は、でっち上げの判例に対する防御を築いた。Thomson ReutersにはKeyCiteがある。LexisNexisには、数十年の歴史を持つゴールドスタンダード、Shepard'sがある。Harveyは、その出力をLexisNexisのデータボールトに基づかせている。これらのサイテーターは、Mata問題には本当に強い——どこにも行き着かない引用を与えれば、それがどこにも行き着かないと教えてくれる。
問題は、この専門職が2023年の問題を解決し、それで2026年の問題も解決したと思い込んでしまったことだ。
2026年2月、ニューオーリンズで実際に何が起きたかを見てほしい。ある弁護士が、捏造された、あるいは不正確に性格づけられた11件の引用を提出したとして制裁を受けた。眠れなくなるのはこの点だ——彼が使っていたのは、両方——ChatGPTとWestlaw Precision AIだった。彼は、基盤に裏打ちされ、専用に設計され、サイテーターに支えられたツールを使った——それでもなお、制裁を招く準備書面を提出したのだ。「削減する」は「根絶する」ではない。そして、その二つの言葉の隔たりにこそ、いまや法的責任が宿っている。
あなたのツールには見えない失敗
その失敗モードを正確に説明しておきたい。正確さこそが、この話の核心だからだ。
AIが、実在する判例を、その判例が支持していない命題のために引用する。事件番号は有効だ。判例は存在する。KeyCiteは緑のフラグを返す。Shepard'sも同意する。それでも分析は誤っている——なぜなら、AIが反対意見（dissent）を多数意見の判旨であるかのように引用していたり、あるいは2年前に改正された制定法（statute）のある版を解釈している判例を引用していたりするからだ。
これこそ、スタンフォードの研究が実際に測定したものだ。同研究は、Journal of Empirical Legal Studies誌で2025年に査読を経ており、Westlaw Precisionのハルシネーション率を33%、Lexis+ AIのそれを17%と算定した。人々は「ハルシネーション33%」と読み、3回に1回はツールが判例をでっち上げる姿を思い浮かべる。だが、それらの数字はそういう意味ではない。その大半は、実際には誤った分析なのだ——実在する引用についての。あなたの検証ツールは、その判例が存在することを確認する。実際に確認する。ただ、その判例が何を述べているかをチェックするとは、一度も謳っていないのだ。
具体的に話そう。これこそ、私自身のチームがようやく議論をやめるきっかけになった例だからだ。ある訴訟担当アソシエイトが、AIアシスタントに、デラウェア州法における信認義務違反の主張への抗弁を調べるよう依頼する。ツールは、きれいにまとまった分析を返してくる——引用しているのはStone v. Ritter（2006年）を、取締役の監督責任の基準として引いている。引用そのものは実在する。判旨の要約も正確だ——2006年当時としては。ツールが見落としたのは、デラウェア州最高裁の2019年判決、Marchand v. Barnhillが大きく拡大したのが、Caremark監督義務であり、それ以降の衡平法裁判所（Chancery Court）の判決が、その上に「ミッションクリティカル」なコンプライアンス基準を築き上げてきた、という点だ。
Stone v. Ritterは、いまなおKeyCiteの緑のフラグを保っている。判例変更されたことは一度もない。依然として「有効な判例（good law）」だ。それでも、2026年の提出書面がこれに依拠すれば、やはり誤りになる。なぜなら、その判旨の実務上の射程は、後続のあらゆる展開によって狭められたからだ——まさに、サイテーターのフラグが表面化させるようには作られていない類いの展開である。
サイテーターは、判例が生きていることを教えてくれる。だが、その判例がいまもあなたのAIの言うとおりの意味を持つかどうかは、教えてくれない。
それこそが、引用の捏造と文脈的ハルシネーションの違いであり、この分野全体で唯一にして最も重要な区別だ。締め切りに追われて出力をレビューするジュニアアソシエイトは、これを見抜けない。引用が正しく見えるからだ。それはまさに正しい——ツールがそもそもチェックしていた、唯一の意味においては。
私たちは最初これを間違えた——そして、そう主張したのは、他ならぬ私だ
これをどう学んだのか、正直に話しておきたい。理屈でたどり着いたわけではないからだ。私はまず、間違ったものを世に出してしまった。
私のチームが最初の検証チェッカーを作ったとき、私はこう主張した——自分たちの設計レビューの場で、声に出して、それなりの自信を持って——判例さえ実在するなら、それで問題ない、と。だから私たちの最初のパイプラインは、本質的にサイテーターのロジックを再実行するだけのものだった。引用されたすべての判例が存在することを確認し、その扱い状況（treatment status）を引き出す。速く、きれいで、パイロット運用では、ある準備書面をそのまま緑のダッシュボードまで通してしまった。
そのとき、パイロットユーザーの一人、現役の訴訟弁護士が、私たちのツールが問題なしとしたある段落に異議を唱えた。引用されていた判例は実在した。私たちのチェッカーはそれを気に入っていた。だが、その準備書面がその判例に帰していた判旨は、判決意見のうち拘束力を持たない部分から来ていた。私たちのシステムは、その点について何の見解も持っていなかった——私が、何の見解も持たないように設計したからだ。私はShepard'sを作り直して、それを検証と呼んでいたのだ。
それこそが、その後の私たちのすべての仕事の代償を支払った失敗だった。サイテーターをより速く再実行することは、検証ではない——同じ盲点を、より見栄えのよいインターフェースで包んだだけだ。方向転換は否応なく迫られた——私たちは、サイテーターのステータスの先を読み、後続の引用参照にまで踏み込むレイヤーを構築しなければならなかった。それは、後の判例がある判旨を区別（distinguish）したり狭めたりしていないかを問い、判例そのものは有効な判例のままでも、その中核的な命題が実質的に修正されている判決意見に警告を出すレイヤーだ。それがエンジニアリング上の課題だ。サイテーターは、どれだけ速く走らせても、決してそれを解決できはしなかった。
Harveyを買っても、なぜギャップは埋まらないのか?
人々は、プラットフォームのベンダーがこれを解決してくれると思い込んでいる。その気持ちは分かる——これらのプラットフォームは並外れているし、資金の流れは誰もがそう考えていることを物語っている。Harveyは2026年3月、年間経常収益（ARR）およそ1億9,000万ドルを背景に110億ドルの評価額に達し、カスタムエージェントは2万5,000を超え、AmLaw 100の半数に導入されている。Thomson Reutersは6億5,000万ドルでCasetextを買収し、CoCounselのエージェント型（agentic）ワークフローに組み込んだ。LexisNexisは2026年2月、Lexis+ AIをLexis+ Protegeに置き換えた——4つの専門エージェント、300を超える構築済みワークフローだ。
これらが問題なのではない。私は法律事務所にはっきりこう伝えている——プラットフォームはそのまま使い続けてください、と。問題は、これらのツールがどれ一つとして、独立した検証レイヤーを提供していないことだ。そして、優れたツールほど、出力の検証はユーザーの責任だと正直に認めている。スタンフォードの数字が出たあと、LexisNexisが「ハルシネーション100%ゼロ」という文言をひっそりと取り下げたのには、理由があるのだ。
そして、プラットフォームはエージェント型（agentic）へと移行することで、検証の問題をむしろ困難にした——容易にではなく。長期的な視野を持つエージェントが、複数ステップからなる調査・起草のワークフローを実行するとき、その出力は引用付きの一段落ではない——それは連鎖であり、各ステップが次のステップへ供給され、そのそれぞれが、文脈的な誤りが入り込み伝播しうる場所となる。ジュニアアソシエイトが深夜11時にSlackで「エージェントの出力はそのまま提出しても大丈夫か」と尋ねてくるとき、正直な答えはこうだ——何かが、すべての引用を、引用先の判例が実際に判示している内容と突き合わせて読み、どのエージェントのステップがそれを生成したかを記録するまでは、大丈夫ではない、と。その監査証跡（audit trail）は、あれば嬉しい程度のものではない。裁判官の常設命令（standing order）がますます要求している、まさにそのものだ。そして、これは私が身構えているような周辺的なワークフローではない——企業法務におけるAI導入は1年で23%から52%へと倍増し、Gartnerは2026年までにエンタープライズアプリケーションの40%がタスク特化型エージェントを組み込むと予測している。引用の連鎖という失敗モードは、その一つひとつとともに拡大していくのだ。
では、誤って引用された実在の判例を、実際に捕まえるのは何か?
別のAIではない——別の仕事だ。検証レイヤーは、AIの出力と人間の署名との間に位置し、サイテーターがやらないことをやる。判例がいまも有効な判例かどうかで立ち止まるのではなく、後続の引用参照にまで読み込み、後の判決意見がその判旨を区別（distinguish）したり狭めたりしていないかを問い、要旨（headnote）はきれいに読めても中核的な命題が実質的に修正されている判例に警告を出す。扱い状況（treatment status）は、調査の出発点であって、終点ではない。
その下で、検索（リトリーバル）は人々が思う以上に重要だ。ベクトル検索——ほとんどの検索拡張（retrieval-augmented）システムのデフォルト——は、クエリと文言的に類似した判例を見つける。だが、法的な権威（オーソリティ）は文言の類似性で編成されているのではない——判例が互いにどう引用し、区別し、判例変更し合うか、によって編成されている。それはリストではなく、グラフだ。フラットなベクトルインデックスではなく、法的なナレッジグラフ（knowledge graph）の上に構築された検索は、法務における検索関連性でベクトル検索をおよそ14%上回ることが示されている——拘束力を持つ判例を浮かび上がらせるのか、それとも拘束力を持つように聞こえるだけの判例を浮かび上がらせるのか、の違いである。グラフこそが、あのMarchand——静かに作り変えた相手がStone、誰もがいまだに引用するあの判例だ——を見つける方法なのだ。
これこそ、私たちがVeriprajnaで構築しているレイヤーだ——すなわち、引用検証パイプライン、ナレッジグラフ基盤、そしてガバナンスシステム——AIの出力を安全に提出できるものにする、これらだ。そして私たちはそれを、その周囲に構築する——Harveyであれ、Lexis Protegeであれ、オープンソースのモデルであれ、事務所がすでに動かしているどんなプラットフォームであっても、だ。うまく機能しているツールを引き剥がすよう誰かに求めるのではなく。
誰もスライドに載せない部分——ガバナンス
技術的な問題の下には、第二の問題がある。そしてそれこそが、制裁を過誤（マルプラクティス）の請求へと変えるものだ。
およそ法律専門家の68%が、承認されていないAIツールを少なくとも一度は使ったことがあると認めている。にもかかわらず、正式なAIポリシーを持つ事務所は5社に1社にも満たない——いまや弁護士のおよそ10人に7人が業務で生成AIを使い、その割合は1年で倍増したというのに。つまり大半の事務所では、弁護士たちが、誰も承認していないツールに顧客の案件を投げ込んでおり、どのツールを使ったかの記録もなく、検証のステップもなく、監査証跡もない。過誤（マルプラクティス）保険の引受会社は、これに気づいている。彼らはAIの利用を保険引受上の考慮事項に書き込み始めており、弁護士の監督を欠いた無断利用は、請求が起きたときにまさに補償を無効にする類いのものだ。
規制の下限（フロア）も動いたが、大半の事務所はそこに到達していない。2024年7月に公表されたABA正式意見512号（ABA Formal Opinion 512）は、生成AIに関する6つの倫理的義務——能力、守秘義務、裁判所への誠実性、そして監督などを含む——を示しており、人々が見落としがちな二つの刃を備えている。日常的に使うことになるツールの習得に費やした時間を、顧客に請求することはできない。そして、ある連邦裁判所はすでに、AIが生成した作業成果物は弁護士・依頼者間の秘匿特権（attorney-client privilege）で保護されない、と判断している。一方で、300人を超える裁判官がそれぞれ独自のAI常設命令（standing order）を出しており、そのどれもが固有の開示または証明の要件を伴っている。フロリダ州は2026年2月に開示義務を追加した。それでも、どの裁判官が何を要求しているかを体系的に追跡する術を持つ事務所に、私はまだ一つも出会っていない。しかも下限はなお上昇し続けている——EUのAI法（EU AI Act）は2026年8月に、コロラド州のAI法は同年6月に施行され、EUの製造物責任指令（Product Liability Directive）はいまやAIを無過失責任下の製造物として扱う——これにより、リスクは制裁を受けた一人のアソシエイトから、事務所のバランスシートへと移されるのだ。
シャドーAI（Shadow AI）は規律の問題ではない。それはインフラのギャップだ——人は、自分の働き方に合わないツールを迂回するのだ。
名に値するガバナンスシステムは、誰も読まないPDFにポリシーを記録するだけでは終わらない。ワークフローの中でポリシーを執行し、AIが関与したすべての引用を記録し、当該法域が要求する開示文言を生成し、そして、監督にあたるパートナーが、すべての引用がチェックされたと正直に証明できるようにする監査証跡を作り出す。
事務所がいつも私に尋ねる質問
たいてい、こんな趣旨で始まる——もしすべての引用を手作業で検証するのなら、AIがもたらしてくれた効率を、結局は捨ててしまったことにならないか?そのとおり——だからこそ、検証を、深夜に疲れ切ったアソシエイトに委ねるのではなく、パイプラインの中に組み込むことが肝心なのだ。AI出力の手作業による引用チェックはスケールしないし、それを省くことこそが過誤のリスクになる。このレイヤーは、まさに、安全性を保ったまま速度を生き延びさせるために存在している。
次に来るのは、懐疑派のバージョンだ——これは大げさすぎないか——文脈的ハルシネーションが実際に牙をむくことなんて、どれほどあるのか?Charlotinのハルシネーション・データベースが超えたのは、記録された1,222件——2026年初頭までの、米国の裁判所提出書類におけるAIハルシネーションの件数だ。2025年末の729件超から増えている。曲線は悪い方向に向かっており、制裁は500ドルの軽いお咎めから、いまや常態的に5桁の罰金へと跳ね上がった。しかもこの件数は、発覚して公表されたものだけを捉えているにすぎない。私はそのデータベースを、ブラウザのタブに開いたままにしている。数字は、あなたが見ていない間にも、刻々と増えていく。
そして、マネージング・パートナーからは、ほぼ決まってこうだ——これを全部まとめて、ビッグ4のファームか大手システムインテグレーターが引き受けてくれないのか?彼らはあなたのプラットフォームを構成（configure）できるし、そのために50万ドルから200万ドルを請求してくるだろう。だが、Harveyを構成することはプラットフォームを導入することであって、プラットフォームが意図的にあなたに委ねている検証レイヤーを構築することではない。この二つは別々の問題であり、あなたを制裁に追い込むのは、そのうちの片方だけだ。
深夜11時のアソシエイトに、私が伝えたいこと
リーガルAI市場は、2026年のおよそ56億ドルから2030年には125億ドルへと向かっており、法務リサーチはその最大の単一セグメントだ。その成長は本物であり、ツールはそれに値する。しかし業界全体は、出力の最適化——より速いリサーチ、より多くのエージェント、より長い自律的ワークフロー——に走り、検証を、誰か他人の責任として扱っている。それは実際には、誰の責任でもないということだ。
2026年にあなたを制裁に追い込む判例は、いまのツールが走らせるあらゆるチェックを通過するだろう。それは実在する。緑のフラグを掲げている。そして、それが厳密には述べていない何かのために引用され、締め切りに追われて深夜にそれを読むあなたは、それを見抜けない。画面上のすべてが「問題なし」と告げているからだ。
それは、リーガルAIを信用しない理由にはならない。それは、プラットフォームが取り残した、たった一つのレイヤーを構築する理由になる——すなわち、検証とガバナンスのレイヤー——判例がまだ息をしているかどうかだけでなく、それが実際に何を判示しているのかを読み取るレイヤーだ。これを導入する事務所は、速度を保ち続ける。導入しない事務所は、理由開示命令（show-cause order）を一つ受けるたびに、緑のフラグがそもそも約束などしていなかったものを、思い知らされ続けることになる。