課題
Navy Federal Credit Union（ネイビー・フェデラル信用組合）は、2022年に黒人の住宅ローン申請者の半数以上を否認しました。その一方で、白人申請者については77%を承認しました。この29パーセントポイントの格差は、全米上位50社の住宅ローン貸付業者のなかで最大でした。一方、Earnest Operations LLCは、マサチューセッツ州当局から同社のAI融資モデルが黒人、ヒスパニック、および非米国市民の借り手に不当な不利益を与えていたと認定されたことを受け、2025年7月に250万ドルの和解金を支払いました。
これらは孤立した事案ではありません。業界全体に広がる構造的な問題を示す警告サインです。もし貴社の機関が信用供与に自動化された意思決定を使用しているなら——そしてほぼすべての貸付機関が使用していますが——貴社も同様のエクスポージャーに直面しています。
Earnestにおける核心的な問題は、コホートデフォルト率（CDR：Cohort Default Rate）と呼ばれる変数でした。この指標は特定の学校におけるローンの平均デフォルト率を追跡するものです。中立的に聞こえますが、歴史的黒人大学（HBCU）は、数十年にわたる構造的な資金不足や富の格差により、デフォルト率が高くなっています。モデル内でCDRを加重評価することにより、Earnestは個々の申請者の個人的な財務状況の健全さにかかわらず、出身校が抱える歴史的不利益を理由に申請者を減点していました。アルゴリズムは書類上は人種中立に見えましたが、実際には差別をコード化していたのです。
Navy Federalにおいては、問題の特定はさらに困難でした。研究者たちが所得、総返済負担率（DTI）、物件価格、居住地域など12項目以上の要素を統制（コントロール）した際にも、黒人申請者は全く同じ属性を持つ白人申請者に比べて2倍以上否認されやすい状態が続いていました。この信用組合の引受（アンダーライティング）アルゴリズム内部の何かが、従来の信用要素では説明できないバイアスを生み出していたのです。
これが貴社のビジネスに重要な理由
財務的な影響はすでに現実のものとなっています。Earnestは州当局の1件の調査を和解させるために250万ドルを支払いました。Navy Federalは併合された集団訴訟と連邦議会からの調査に直面しています。2024年5月、連邦裁判所の判事はNavy Federalに対する差別的影響（ディスパレート・インパクト）の訴えの継続を認める決定を下し、同信用組合の内部モデルロジックに関する証拠開示（ディスカバリー）への道を開きました。
これが貴社の機関にとって何を意味するかは、次のとおりです。
- 規制当局の法執行は具体化しています。 CFPB（消費者金融保護局）は現在、不利益処分（アドバース・アクション）に対して「正確かつ具体的な理由」を提示することを求めています。実際の否認理由が非伝統的なデータポイントに対するアルゴリズムのフラグであった場合、申請者に対して「収入不足」を理由として伝えることはできません。「アルゴリズムが判断した」は法的な抗弁にはなりません。
- 統計的格差だけでも却下の申立てを乗り切ることができます。 裁判所は立証責任を貴社側にシフトさせています。貴社の機関は、自社の引受プロセスが必要不可欠であり、かつ利用可能ななかで最も差別の少ない選択肢であることを証明しなければなりません。
- 方針と実務の乖離は法的リスクとなります。 Earnestにはモデルの例外処理に対して上級管理職の監視を義務付ける社内方針がありました。しかし調査員は、引受担当者が頻繁にモデルを迂回し、文書記録を残すことなく恣意的な基準を適用していたことを突き止めました。その乖離により、システムは監査も抗弁も不可能な状態に陥っていたのです。
- 全国ベンチマークが外れ値を浮き彫りにします。 CFPBの全国平均否認率は白人申請者が5.6%、黒人申請者が16.2%であり、10.6ポイントの格差があります。Navy Federalの格差はその3倍近くに達していました。貴社の数値が全国平均を上回っている場合、規制当局はその異常に気付くでしょう。
貴社の取締役会、法務顧問（ゼネラルカウンセル）、そして規制当局は皆、同じ問いを投げかけるでしょう。自社のAIがどのように融資判断を下しているのかを説明できますか？ これに明確に答えられない場合、貴社はEarnestやNavy Federalが現在直面しているのと同様のリスクを抱えることになります。
内部で実際に起きていること
今日のAI融資ツールの多くは、業界で「ラッパー（wrapper）」と呼ばれるものです。汎用製品に新しいラベルを貼り付けたようなものとお考えください。これらのシステムは貴社のデータを受け取り、GPT-4やGeminiのような汎用大規模言語モデル（LLM）に渡し、結果を返します。一見すると洗練されているように見えますが、内部には金融規制当局が要求するドメイン固有のルール、透明性レイヤー、そして因果推論が欠如しています。
ここに根本的な不一致があります。金融サービスには決定論的（デターミニスティック）なロジックが求められます。すなわち、同じ入力からは常に同じ出力が生成されなければなりません。しかしLLMは確率論的（プロバビリスティック）です。LLMは連続する次の単語を予測するだけであり、事実を取得したり保険数理的な計算を行ったりするわけではありません。信用引受の文脈において、LLMは「ハルシネーション（幻覚）」——申請者の実際の財務書類には一切根拠がないにもかかわらず、一見もっともらしく聞こえるローンの否認理由の捏造——を生成しかねません。
これは理論上のリスクではありません。エア・カナダのチャットボットが存在しない忌引運賃規定をでっち上げた際、同社は法的責任を問われました。同じ原則が貴社の融資判断にも当てはまります。
汎用AIプラットフォームはまた、住宅ローン関連書類、納税申告書、銀行口座取引明細書を正確に解釈するための業界特化型（バーティカル）コンテキストを欠いています。業界特有のトレーニングを受けていないモデルは、所得パターンやキャッシュフローを誤読し、信用力のある借り手を誤って否認することにつながります。さらに、LLMは歴史的バイアスに満ちた膨大なインターネットテキストでトレーニングされているため、個々の申請者のデータに問題がない場合であっても、特定の国籍や職業を低い信用力と結びつけてしまう可能性があります。
最悪なのは、これらが表面的な監査では一切表面化しないことです。バイアスは、研究者がモデルの「潜在空間（latent space）」と呼ぶ相関関係が形成される隠れ層に存在します。適切なツールがなければ、規制当局や原告側の弁護士が発見するまで、貴社がそれに気付くことはないでしょう。
何が有効で、何が有効でないか
まず、精査に耐えられない手法から見ていきましょう。
- 「モデルから人種項目を除去した。」 人種フィールドを削除しても、人種バイアスは除去されません。学校のデフォルト率、郵便番号、購買行動パターンなどの代理変数（プロキシ）が同じシグナルを伝達してしまうからです。Earnestは申請者に人種を尋ねることは一度もありませんでしたが、それでも差別を引き起こしました。
- 「信頼できるサードパーティAIベンダーを利用している。」 AIを外部委託しても、貴社の法的責任まで委託できるわけではありません。CFPBはベンダーではなく貸付機関に責任を問います。ベンダーのモデルがその判断を説明できない場合、コンプライアンス上の不備を負うのは貴社です。
- 「当社のチームが例外ケースを手動でレビューしている。」 構造化されていない人間による手動の上書き（オーバーライド）は、実際には事態を悪化させます。Earnestの引受担当者は文書記録なしにモデルを迂回し、アルゴリズムのバイアスと人間のバイアスが共存するハイブリッドなシステムを生み出しました。そしてそのどちらも監査不能だったのです。
真に有効なのは、個々の判断に求められる要件に応じて意思決定のタイプを分離する階層型（レイヤード）アーキテクチャです。
入力：AIがデータを処理する前のデータ検証。 すべてのデータポイントは、正確性、完全性、一貫性、適時性、関連性、代表性のチェックを通過します。これにより、汚染されたデータがバイアスのある結果を生み出すのを防ぎます。システムは、すべての入力がどこから来てどのように処理されたかというデータリネージ（データの系譜）を把握していなければなりません。
処理：適材適所のモデル選定。 居住要件のような厳格なコンプライアンスチェックは、常に同一の答えを導く決定論的ルールエンジンで実行します。構造化された信用スコアリングには、勾配ブースティング決定木のような解釈可能性の高いモデルを使用します。LLMは文書分析のような非構造化タスクのみを担当し、AIに推測させるのではなく実際のソース文書を与える検索拡張生成（RAG：Retrieval-Augmented Generation）と呼ばれる手法を通じて、申請者の実際のファイルにグラウンディング（根拠付け）されます。
出力：すべての判断に対する説明の付与。 各入力要素に特定の寄与度スコアを割り当てるゲーム理論に基づく手法であるSHAP（SHapley Additive exPlanations）などの説明可能性ツールにより、すべての不利益処分に対して監査対応可能な理由を生成します。さらに優れているのは、システムが反実仮想（カウンターファクチュアル）説明を生成することです。「もし貴殿の信用利用枠の使用率が15%低ければ、あるいは年収が5,000ドル高ければ、このローンは承認されていました。」これこそが、CFPBがいま求めている具体性の水準です。
これらすべてをまとめ上げるのが、監査証跡の優位性です。人間によるすべてのオーバーライドは、必須の正当化理由とともにログに記録されます。継続的なモニタリングにより、モデルドリフト（流入データがトレーニングセットと一致しなくなる現象）とバイアスドリフトの双方が追跡され、差別的影響の比率が許容閾値を下回った際にリアルタイムでアラートが発報されます。貴社のコンプライアンスチームは、ブラックボックスではなく抗弁可能な記録を手に入れることができます。そして規制当局から照会を受けた際には、すべての判断がどのように下され、検証され、文書化されたかを正確に示すことができるのです。
NIST AIリスクマネジメントフレームワーク2.0は現在、「AI部品表（AI Bill of Materials / AI-BOM）」——データソース、モデル、サードパーティ製コンポーネントの完全なインベントリ——の作成を求めています。もし貴社がこれを今すぐ提示できないなら、貴社の機関には規制当局がまさに目を光らせているガバナンス上の不備が存在することになります。
要点
- Navy Federalにおける白人と黒人の申請者間の住宅ローン承認率の29ポイント格差は上位50社の貸付業者の中で最大であり、研究者たちは所得、負債、物件価格でそれを説明することはできませんでした。
- Earnestは、中立に見えながらもAI融資モデル内で人種の代理変数として機能していた学校デフォルト率の変数を使用したことにより、250万ドルを支払いました。
- CFPBは現在、すべての融資否認に対して具体的かつ正確な理由を求めており、「アルゴリズムが判断した」は法的に抗弁可能な回答にはなりません。
- 大規模言語モデル上に構築された汎用AIラッパーは構造上確率論的であり、金融規制当局が求める決定論的で説明可能な判断を提供することはできません。
- 階層型アーキテクチャ（コンプライアンスのための決定論的ルール、スコアリングのための解釈可能モデル、文書のためのグラウンディングされたLLM）は、貴社の機関が自らの判断を抗弁するために必要な監査証跡を構築します。
結論
規制当局はもはや、貴社がAIを使用しているかどうかを問うてはいません。彼らが問うているのは、貴社のAIが下すすべての判断を説明できるか、それが利用可能ななかで最も差別の少ない選択肢であることを証明できるか、そして人間によるすべてのオーバーライドを文書化できるかです。答えを持たない代償は、和解金、集団訴訟の証拠開示、連邦議会の公聴会によって測られます。AIベンダーにこう尋ねてください。貴社のモデルがローンの申請者を否認した際、承認のために何を変更する必要があるかという具体的な反実仮想説明と、すべての入力変数がなぜ使用されたかを示す完全な監査証跡を提示できますか、と。