税務コンプライアンスにおいてAIは信頼できるか？答えは「まだ早い」

課題

VeriprajnaがChatGPT、Claude、Geminiを対象に、新たな自動車ローン利息控除に関する具体的な税務問題の監査を実施したところ、すべてのモデルが誤った回答を出力しました。時々間違えたのではありません。例外なく毎回です。各AIは、One Big Beautiful Bill Act（OBBBA）に基づく新しい控除によって調整後総所得（AGI）が減額されると、自信を持ってユーザーに回答しました。しかし、その回答は法律上誤りです。この控除はAGIではなく、課税所得（Taxable Income）を減額するものです。税法において、これら2つは全く異なる概念です。

これは偶発的な不具合ではありません。これらのAIシステムが学習する仕組みそのものに組み込まれた、予測可能な障害でした。AIは何千ものブログ記事や、法律を過度に単純化したSEO最適化記事を読み込んでいます。トレーニングデータにおいて、実際の制定法条文はおそらく1〜2回程度しか登場しませんでしたが、ブログ記事は何千回も登場しました。その結果、AIは広く流通している——しかし誤っている——バージョンの規則を学習してしまったのです。

ホワイトペーパーでは、これを「合意エラー（Consensus Error）」と呼んでいます。AIに情報が不足していたわけではありません。AIが法律に基づく回答よりも、大衆の回答を選択したのです。財務チームがそのAIに依存している場合、企業は大衆の誤りをそのまま引き継ぐことになります。そして米国内国歳入庁（IRS）は、「おそらく正しいはずだ」という弁明を抗弁として認めません。

ビジネスへの影響と重要性

これは抽象的なAIの問題ではありません。収益（ボトムライン）、税務監査リスク、そして企業のコンプライアンス義務に直結する問題です。

OBBBAの自動車ローン控除は年間,000を上限とし、特定の所得水準で段階的に縮小（フェーズアウト）されます。単身申告者の場合、,000を超える所得**,000ごとにずつ控除額が減額され、,000で完全に消失します。夫婦合算申告者の場合、縮小は,000から始まり,000**で終了します。AIがAGIと課税所得の区別を誤ると、その下流で生じる損害が連鎖的に拡大します。

• 連邦税の過少申告。 システムがこの控除を総所得控除（above-the-line deduction）として分類すると、IRSが想定するよりも低いAGIを申告することになります。これはペナルティ（追徴課税・加算税）へ直結する道です。
• 州税監査リスク。 アリゾナ州などの各州は、州税の税額計算を連邦AGIと連動（コンプライアンス連動）させています。AGIの誤りは、連邦AGIと連動するすべての州において州税額の誤りを意味します。
• メディケア保険料の算定誤り。 AIのアドバイスに依存する退職者は、AIが決して実現しない保険料の減額を約束したために、予期せぬIRMAA（所得関連月額調整額）の追加課徴金に直面するリスクがあります。
• 医療費控除の否認。 医療費控除の下限基準（フロア）はAGIに連動しています。誤って低く算定されたAGIに基づいて申告すると、本来受給資格のない控除を請求することになります。
• 金融機関の報告義務違反。 OBBBAは第6050AA条（Section 6050AA）を創設し、適格利息が以上発生するすべての融資について、金融機関（貸し手）に情報申告書（information return）の提出を義務付けました。借り手側のメリットのみに焦点を当てるAIシステムは、貸し手側の報告義務を常に見落とします。これは内国歳入法第6721条/第6722条（IRC Sections 6721/6722）に基づく構造的なコンプライアンス違反です。

取締役会は、IRSからの是正通知によってこれらの誤りを知る事態を望んではいません。

水面下で実際に起きている技術的実態

なぜこのような問題が繰り返し発生するのかを理解するには、AIモデルが実際にどのように動作しているかを考える必要があります。大規模言語モデル（LLM）は、公認会計士（CPA）のように税法を「理解」しているわけではありません。トレーニング中に吸収したパターンに基づいて、文章中の次の単語を予測しているにすぎません。極めて高度なオートコンプリート（自動補完）エンジンなのです。

たとえて言えば、1,000人がいる部屋で税務上の質問をする場面を想像してみてください。そのうち900人は、法律を過度に単純化した同じブログ記事を読んでいます。実際に制定法条文を読んだのは100人だけです。部屋全体で多数決をとれば、誤った回答が900対100で勝利します。これこそがLLMの内部で起きていることそのものです。モデルは、広く流通しているバージョンを目にする機会がはるかに多かったため、正しい回答よりも大衆の回答により重い重み付けを行うのです。

これこそが、Veriprajnaの研究が「合意エラー（Consensus Error）」と呼ぶ障害モードです。特定の税務上の細部についてブログ圏の90%が誤っている場合（新しい立法ではよくあることです）、モデルは数学的に誤った回答を出力する運命にあります。どれほど巧妙なプロンプトを作成しても、これを修正することはできません。数学的な仕組みそのものが不利に働くからです。

実際の情報源文書をAIに読み込ませる手法である検索拡張生成（RAG）でさえ、ここでは力及ばずとなります。テストにおいて、OBBBAの全文を与えられたモデルであっても回答を誤りました。なぜでしょうか。条文には「第163条(h)は以下を挿入することにより改正される…」と記載されており、ブログ記事のようには書かれていません。AIは依然としてそれを解釈する必要があります。そして、その内部重みが何百万もの誤った実例でトレーニングされている場合、AIは正しい文書を読みながら誤った結論を導き出します。それは、すでに「信じ込んでいる」内容を追認する偏った読者のように振る舞うのです。

さらに悪いことに、その推論プロセスを確認することはできません。RAGシステムは、どの文書を取得したかを示すことはできますが、その文書から回答に至る論理パス（推論経路）を示すことはできません。コンプライアンスチームは情報源を検証できても、その推論を検証することはできません。監査証跡が存在すべき場所が、ブラックボックスになってしまっているのです。

有効な解決策と機能しない対症療法

まず、貴社のチームがすでに試行している可能性のあるアプローチと、なぜそれだけでは不十分なのかを見ていきましょう。

プロンプトエンジニアリング： AIに「段階的に考えて（think step-by-step）」や「シニア税務監査官として行動して」と指示しても、モデルに存在しない推論能力が付加されるわけではありません。質問をどのように言い換えても、偏った同一の重み付けの範囲内で動作するにすぎません。

より大規模なモデルやコンテキストウィンドウ： 同じインターネット上でトレーニングされた大規模モデルは、同じ誤ったコンテンツをより多く吸収します。データ量を増やしても、誤った情報源と正しい情報源の比率が改善されるわけではありません。

標準的なRAGパイプライン： AIに公式文書を与えることは情報の検索には役立ちますが、モデルは読み込んだ内容について依然として推論を行わなければなりません。ベクトル検索は自動車ローンに関する段落を見つけることはできても、第62条のAGIの定義を決して取得しない可能性があります。なぜなら、その条文には自動車ローンに関する言及がないからです。税法においては、法律に何が規定されているかと同じくらい、何が除外（省略）されているかが重要です。ベクトル検索は「存在しないこと（規定の欠如）」を検索することはできません。

実際に機能するのは、言語理解と法的推論を分離するシステムであるニューロシンボリック・アーキテクチャです。以下の3つのステップで機能します。

1. AIが入力情報を読み取る（ニューラル層）。 請求書やローン契約書をアップロードするか、質問を入力します。AIは構造化された事実情報（車種、購入日、最終組立地、融資額）を抽出します。AIは雑多な現実世界のデータを処理しますが、その控除が有効であるかどうかを判断することは決してありません。

2. 論理エンジンが法律を適用する（シンボリック層）。 構造化された事実情報は、実際の制定法条文をコード化して構築されたルールエンジンに渡されます。このエンジンは、法律を実行可能なコードに変換するために特別に設計されたCatalaなどの言語を使用し、決定論的な検証を実行します。車両は米国内で組み立てられているか。所得は縮小（フェーズアウト）基準値を下回っているか。この層はブログ記事に一切アクセスせず、コードとしての法律のみを認識します。

3. AIが結果を説明する（ニューラル層）。 論理エンジンは、具体的な条文の参照先とともに「認可（ALLOWED）」または「否認（DENIED）」の判定を返します。AIはそれを、チーム向けの明確で読みやすい説明へと変換します。

決定的な違いは、AIが法的判断を直接下すことが決してないという点です。AIは人間の言語を構造化データに変換し、論理エンジンの出力を再び人間の言語へと翻訳します。法律そのものは決定論的コードとして実行されるのです。

これにより、いかなるチャットボットも提供できない決定論的な監査証跡が得られます。監査人が「なぜシステムはこの控除を認めたのか」と質問した際、その回答は「確率がそう示したから」ではありません。「ローン契約日確認済み、車種確認済み、組立地確認済み、,000の所得上限未満確認済み、適用条文 IRC § 163(h)(4)」という追跡可能な経路です。この証跡は、IRSの税務調査官や社内監査委員会にそのまま提出することができます。これにより、貴社のAIはブラックボックスから、研究で「グラスボックス（Glass Box）」と呼ばれるものへと変貌を遂げます。