問題所在
海軍聯邦信用合作社（Navy Federal Credit Union）在 2022 年拒絕了超過半數的非裔房貸申請人，但核准了 77% 的白人申請人。這高達 29 個百分點的差距，是全美前 50 大房貸機構中最嚴重的。與此同時，麻薩諸塞州發現 Earnest Operations LLC 的 AI 借貸模型不成比例地損害了非裔、西語裔和非公民借款人的權益，該公司隨後於 2025 年 7 月支付了 250 萬美元的和解金。
這些並非孤立事件，而是全行業結構性問題的警訊。如果貴機構在信用決策中使用自動化決策——而幾乎所有借貸機構都在使用——你就面臨著相同的風險暴露。
Earnest 的核心問題出在一個稱為「同期違約率」（Cohort Default Rate，CDR）的變數上。這項指標追蹤特定學校的平均貸款違約情況，表面上看似中立。然而，由於數十年來的體制性資金不足和財富差距，傳統黑人大學與學院（HBCU）的違約率往往偏高。Earnest 在其模型中賦予 CDR 權重，實質上是因個別申請人就讀院校的歷史性劣勢而對其施加懲罰——完全無視個人的真實財務健康狀況。該演算法在帳面上看似種族中立，但在實踐中卻內嵌了歧視。
在海軍聯邦信用合作社，問題甚至更難以捉摸。當研究人員控制了包括收入、負債所得比、不動產估值、所在社區等十幾項因素後，背景完全相同的非裔申請人被拒絕的機率仍是白人申請人的兩倍以上。該信用合作社核保演算法內部的某些機制正在產生傳統信用因素無法解釋的偏誤。
為什麼這對貴企業至關重要
財務層面的後果已經顯現。Earnest 支付了 250 萬美元以了結單一州的調查。海軍聯邦信用合作社則面臨合併的集體訴訟和國會調查。2024 年 5 月，一名聯邦法官裁定針對海軍聯邦信用合作社的「差別性影響」（disparate impact）指控可以繼續推進，這為調查該機構內部模型邏輯的證據開示（discovery）敞開了大門。
以下是這對貴機構的意義：
- 監管執法正變得極為具體。 CFPB 現在要求對不利處分提供「準確且具體的理由」。如果真實的拒貸原因是演算法對非傳統數據點進行了標記，你就不能對申請人推託說是因「收入不足」而被拒絕。「這是演算法決定的」並不是合法的抗辯理由。
- 光是統計學上的差距就足以在駁回起訴聲請中勝出。 法院正將舉證責任轉移給借貸機構。貴機構必須證明其核保流程既屬必要，也是目前可行的方案中歧視性最小的選擇。
- 政策與實踐之間的脫節是一大責任風險。 Earnest 擁有要求對模型例外情況進行高階主管監督的內部政策。但調查人員發現，核保人員經常繞過模型，在沒有任何記錄的情況下套用隨意標準。這種脫節使得該系統既無法審計，也無法在法律上進行抗辯。
- 全國基準數據會讓離群值無所遁形。 CFPB 的全國平均拒貸率為白人申請人 5.6%、非裔申請人 16.2%——差距為 10.6 個百分點。而海軍聯邦信用合作社的差距幾乎是該基準的三倍。如果貴機構的數據高於全國平均水準，監管機構勢必會注意到。
你的董事會、法律總顧問以及監管機構都會提出同一個問題：你能否解釋你的 AI 是如何做出借貸決策的？如果你無法給出清晰的答案，你將承擔與 Earnest 和海軍聯邦信用合作社目前相同的風險。
底層究竟發生了什麼
當今大多數 AI 借貸工具都是業界所謂的「套殼應用」（wrappers）。這就像在通用產品上貼一個新標籤。這些系統接收你的數據，將其傳遞給像 GPT-4 或 Gemini 這樣的通用大型語言模型（LLM），然後傳回結果。它們外表看似精密，但在底層卻缺乏金融監管機構所要求的特定領域規則、透明度層以及因果推理機制。
根本性的錯配在於：金融服務需要確定性邏輯——相同的輸入必須始終產生相同的輸出。然而 LLM 本質上是機率性的，它們只負責預測序列中的下一個詞，並不會檢索事實或執行精算。在信貸核保的環境中，LLM 可能會產生「幻覺」——捏造出聽起來合情合理、但在申請人的實際財務檔案中毫無根據的拒貸理由。
這絕非理論上的風險。當加拿大航空的聊天機器人捏造了一項根本不存在的喪親撫卹票價政策時，該航空公司被判承擔法律責任。同樣的原則也適用於你的借貸決策。
通用 AI 平台還缺乏垂直領域上下文，無法準確解讀房貸文件、報稅單和銀行對帳單。由於缺乏產業專屬的訓練，這些模型會誤讀收入模式和現金流，導致對具備信用資質的借款人產生錯誤拒貸。而且，由於 LLM 是在充斥著歷史偏見的海量網路文本上訓練出來的，它們可能會將特定國籍或職業與較低的信用評級關聯起來——即便個別申請人的數據毫無瑕疵。
最糟糕的是：在表面層級的審查中，這些問題根本不會顯現。偏誤存在於研究人員所謂模型的「潛在空間」（latent space）中——即形成關聯性的隱藏層。如果沒有適當的工具，直到監管機構或原告律師發現之前，你都無法察覺它的存在。
哪些方法有效（哪些無效）
讓我們先從經不起嚴格檢驗的做法談起：
- 「我們已從模型中移除了種族欄位。」 移除種族欄位並不能消除種族偏誤。學校違約率、郵遞區號和消費模式等代理變數都傳遞著相同的訊號。Earnest 從未詢問申請人的種族，但其模型依然造成了歧視。
- 「我們使用的是信譽良好的第三方 AI 供應商。」 將 AI 外包並不能外包你的法律責任。CFPB 究責的對象是借貸機構而非供應商。如果你的供應商模型無法解釋其決策邏輯，合規缺口仍須由貴機構承擔。
- 「我們的團隊會手動審核極端案例。」 缺乏結構化規範的人工覆寫實際上會讓情況更糟。Earnest 的核保人員在毫無記錄的情況下繞過模型，製造出一個演算法偏誤與人為偏見並存的混合系統——而且兩者都無法被審計。
真正有效的是分層架構，它根據每類決策所需的具體條件進行職責分離：
輸入端：在 AI 接觸數據之前進行數據驗證。 每個數據點都必須通過準確性、完整性、一致性、及時性、相關性和代表性的檢查。這能防止受污染的數據產生有偏誤的結果。你的系統應當清楚其數據血統——即每個輸入項從何而來以及如何被處理。
處理端：適材適用，分配專屬模型。 嚴格的合規檢查（如居留資格要求）由確定性規則引擎運行，確保每次都產出相同答案。結構化信用評分使用可解釋模型，如梯度提升決策樹。LLM 僅用於處理文檔分析等非結構化任務，並透過稱為「檢索增強生成」（Retrieval-Augmented Generation，RAG）的技術錨定在申請人的真實檔案上——即向 AI 提供真實的源文檔，而非讓其憑空猜測。
輸出端：每項決策都有合理解釋。 像 SHAP（SHapley Additive exPlanations，一種基於賽局理論為各輸入因素分配具體貢獻分數的方法）這樣之可解釋性工具，能為每項不利處分生成可供審計的依據。更進一步，系統還能產出反事實解釋：「如果你的信貸額度使用率降低 15%，或年收入增加 5,000 美元，該筆貸款就能獲准。」這正是 CFPB 現今所要求的具體程度。
完整的審計軌跡優勢將這一切緊密串聯。每一次人工覆寫都會被強制記錄並附上理由。持續監控機制同時追蹤模型漂移（即傳入數據不再與訓練集匹配）與偏誤漂移，當你的差別性影響比率降至可接受的門檻之下時觸發即時警報。你的合規團隊獲得的是一份可進行抗辯的記錄，而非一個黑盒子。當監管機構前來審查時，你能向他們確切展示每項決策是如何做出、核查以及記錄存檔的。
NIST AI 風險管理框架 2.0 現在要求提供「AI 軟體物料清單」——一份涵蓋數據源、模型和第三方元件的完整清單。如果你今天無法拿出一份清單，貴機構就存在監管機構正在專門審查的治理缺口。
關鍵要點
- 海軍聯邦信用合作社在白人與非裔申請人之間 29 個百分點的房貸核准率差距，是全美前 50 大貸款機構中最嚴重的——且研究人員無法用收入、負債或不動產價值來合理解釋這一差距。
- Earnest 支付了 250 萬美元和解金，原因是在其 AI 借貸模型中使用了看似中立但在實質上充當種族代理指標的學校違約率變數。
- CFPB 現在要求對每一次拒貸提供具體、準確的理由——「這是演算法決定的」在法律上並非合理的抗辯答案。
- 基於大型語言模型構建的通用 AI 套殼應用在設計上就是機率性的，無法提供金融監管機構所要求的確定性與可解釋決策。
- 分層架構——合規採用確定性規則、評分採用可解釋模型、文檔採用錨定事實的 LLM——能建立貴機構在法律上抗辯自身決策所需的審計軌跡。
總結
監管機構已不再詢問你是否使用了 AI。他們現在要求你解釋 AI 做出的每一項決策、證明該決策是目前可行的方案中歧視性最小的選擇，並記錄每一次人工覆寫。缺乏答案的代價體現為鉅額和解金、集體訴訟中的證據開示程序以及國會聽證會。請向你的 AI 供應商詢問：當模型拒絕一位貸款申請人時，它能否產生具體的反事實解釋——明確指出需要做出哪些改變才能獲准——以及出具一份說明每個輸入變數使用理由的完整審計軌跡？