一張 250 萬美元罰單，揭露了 AI 放貸真正的問題——而且不是你想的那樣
2025 年 7 月一個週四的傍晚，我坐在家中的辦公室，滑著麻州檢察總長針對 Earnest Operations 發布的新聞稿，這時我感覺到一種自己也沒料到的情緒：如釋重負。
並不是因為有一家放款機構因 AI 驅動、針對黑人與西語裔借款人的歧視而被罰了 250 萬美元。那件事令人憤怒。如釋重負來自別的地方——來自那些指控的具體程度。檢察總長辦公室並不只是說「你們的 AI 有偏誤」。他們點名了確切的變數。他們追溯了確切的機制。他們鉅細靡遺地展示，一個看似中立的資料點——借款人所讀大學的群體違約率（Cohort Default Rate）——如何成為一條被寫進程式碼裡的種族歧視管道。
多年來，我和我在 Veriprajna 的團隊一直主張，多數金融科技公司在放貸中部署 AI 的方式，在架構上就是壞掉的。不只是道德上可議——更是在結構上就不可能做到公平。Earnest 的和解案，是第一起以監理機關實際使用的語言證明我們是對的重大執法行動。
而它不會是最後一起。
那個看起來無害的變數
以下是 Earnest 的做法，我希望你好好想一想，因為這比「演算法有種族歧視」要細膩得多。
Earnest 打造了一個由 AI 驅動的學生貸款再融資模型。其中一項輸入變數是群體違約率，也就是 CDR——這項指標追蹤特定學校的畢業生有多常在聯邦助學貸款上違約。紙面上看，這似乎很合理。違約率高的學校，或許會培養出還款吃力的借款人。你為什麼不把這一點納入考量？
因為 CDR 衡量的不是個人的信用能力。它衡量的是機構層面的結果。而那些結果，是由數十年的系統性資金不足、跨世代財富差距，以及高等教育中的種族隔離所塑造的。傳統黑人學院與大學（HBCU）之所以 CDR 較高，不是因為他們的畢業生能力較差，而是因為這個體制給了那些學校——以及他們的學生——更少的資源。
當你因為一個人所屬機構的統計歷史而懲罰他，你不是在預測風險。你是在延續風險。
麻州檢察總長主張，CDR 的預測力並非來自任何關於借款人本身的訊號，而是來自它與種族及社經階級的相關性。一位信用紀錄無瑕、收入穩固、從未遲繳的 HBCU 黑人畢業生，得分會低於一位資源充裕的州立大學白人畢業生——原因在於他們讀的是哪所大學，而不是他們畢業後做了什麼。
我記得我調出和解文件，透過電話唸給我的共同創辦人聽。「他們還有淘汰規則，」我說，「寫死的關卡，凡是連綠卡都沒有的人就自動拒絕。」一陣長長的沉默。「所以偏誤從一開始就在架構裡了，」她說。是的。從決策樹的第一行開始就是。
為什麼沒有人發現？
這是那晚讓我睡不著的部分。Earnest 有內部政策。他們有模型監督要求。他們對例外情形有高階審查流程。
沒有一項發揮作用。
調查揭露，核貸人員經常繞過模型，或在沒有任何文件紀錄的情況下套用任意的標準。所謂「人在迴路中」的保障機制——每當監理機關上門，每家 AI 公司都會指著的那個東西——不過是演戲。沒有一致的日誌紀錄。沒有獨立審查。沒有任何稽核軌跡能告訴你為什麼會發生某一次特定的推翻。
這種模式我見過太多次，多到我們在內部給了它一個名字：治理 cosplay。這家機構在紙面上擁有所有正確的政策。組織圖上有一支合規團隊。董事會簡報裡提到「負責任的 AI」。但當你掀開引擎蓋，卻找不到任何把政策連接到程式碼的機制。演算法在一個宇宙裡運行；治理框架則存在於另一個宇宙。
Earnest 一案把這一點講明了。演算法偏誤與無人監控的人為偏誤，在同一套系統中並存，使它——正如我在我們對此案的互動式分析中所寫的——從根本上既無法稽核、也無法辯護。
當差距達到 29 個百分點時，會發生什麼事？
如果說 Earnest 是手術刀等級的案子——精準、細到變數層級、可追溯——那麼海軍聯邦信用合作社（Navy Federal Credit Union）就是大鐵鎚。
2022 年，全美最大的信用合作社海軍聯邦，核准了約 77% 的白人傳統房貸申請人。黑人申請人呢？48.5%。那是將近 29 個百分點的差距——全國前 50 大房貸機構中最寬的一個。
海軍聯邦的辯詞不出所料：「公開的 HMDA 資料並不包含信用分數或手頭現金。沒有完整的圖像，你無法下結論。」這是每一家機構都會抓住的同一套說法。十年前，它或許還管用。
這一次它沒用。當獨立研究人員控制了十多項變數——收入、債務收入比、房產價值、社區特徵——之後，黑人申請人被拒絕的機率，仍然是條件完全相同的白人申請人的兩倍以上。
我記得去年在一場金融科技研討會上簡報這些數字。一位聽眾——某家中型放款機構的風險副總——舉手說：「但也許資料裡有些我們沒看到的東西。某個正當的因素。」我反問他：「如果你的模型在控制了你叫得出名字的每一個變數之後，仍然產生 29 個百分點的種族差距，那麼到什麼時候你才會停止尋找無害的解釋，開始檢視模型本身？」
他答不出來。這個產業的大多數人也答不出來。
2024 年 5 月，一位聯邦法官裁定，針對海軍聯邦的差別性影響（disparate impact）主張可以進入證據開示程序。這意味著原告將能檢視這家信用合作社核貸演算法的內部邏輯。「我們的模型是專有的，而且太複雜、無法解釋」的時代已經結束了。
如今光是統計上的差距，就足以讓案件挺過駁回聲請。舉證責任已經轉移：證明你的流程是公平的，否則就準備面對證據開示。
為什麼 LLM 包裝層一再無法通過公平性檢驗？
接下來我得直言不諱地談一件很多 AI 圈的人不想聽的事。
此刻金融科技 AI 的主流架構——我稱之為「包裝層」（wrapper）模型——在結構上就不可能達到早已存在的監理標準，更別說 2026 年即將上路的那些。
包裝層接收你的資料，把它傳給 GPT-4 或 Gemini 這類第三方大型語言模型，然後回傳一個輸出。它做起來很快。它 demo 起來很漂亮。而它是一顆合規的定時炸彈。
LLM 預測的是序列中的下一個 token。它們不檢索事實。它們不做精算計算。它們不對因果關係進行推理。當你要求一個 LLM 評估一份貸款申請，它生成的文字聽起來像是一份信用評估。但它可能捏造出一個在申請人實際檔案中毫無根據的拒貸理由。業界稱之為幻覺。監理機關稱之為違法。
CFPB 的態度毫不含糊：債權人必須為不利行動提供「準確且具體的理由」。你不能告訴被拒的申請人「是演算法決定的」，也不能在真正的觸發因素其實是模型抓住的某個非傳統資料點時，卻引用「購買紀錄」這種模糊的類別。「是演算法決定的」在法律上站不住腳——該局已經明確這麼說了。
還有一個更深層的問題。LLM 是用網際網路訓練出來的。而網際網路飽含歷史偏見——種族的、性別的、社經的。當你的包裝層用 LLM 去「評估」一位借款人的工作經歷或自述時，模型可能會套用嵌在訓練資料裡的刻板印象。某些國籍、某些職業、某些郵遞區號，在模型的潛在空間中帶著看不見的權重。這不是因為有人把偏誤寫了進去。而是因為訓練資料就是偏誤本身。
早期我曾為此和一位投資人爭論。他說：「用 GPT 加上好的提示詞就行了。你把事情弄得太複雜。」我調出一個 demo，把同一份貸款申請透過包裝層跑了兩個版本——一個用聽起來像白人的名字，一個用聽起來像黑人的名字。輸出並不相同。語氣變了。風險用語變了。變化不劇烈，很細微。而正是這種細微，在數百萬筆決策的規模上，會造成 29 個百分點的差距。
他不再爭論了。
「深度 AI」到底是什麼意思？
我使用「深度 AI」這個詞並不是為了行銷——雖然我理解大家的懷疑——而是為了和產業裡大多數人正在打造的東西做技術上的區隔。
用於放貸的深度 AI 系統，不會只呼叫單一模型然後回傳一個答案。它是一個多層次的架構，由不同類型的智慧處理不同類型的決策，而且每一層都可稽核。
確定性規則引擎負責處理那些必須 100% 正確的事情——居留身分要求、法規門檻、硬性合規檢查。這些不是機率性的。它們是邏輯。它們不會產生幻覺。
梯度提升模型（例如 XGBoost）負責處理結構化的信用評分——這類表格式資料看重的是可解釋性與穩定性，而非語言流暢度。這些模型很無聊。它們同時也可靠、可解釋，而且監理機關十分熟悉。
微調過的 LLM也會派上用場——但只用在它們真正擅長的事情上：從非結構化文件中萃取實體、解析報稅表、閱讀銀行對帳單。而且它們透過檢索增強生成（Retrieval-Augmented Generation）加以接地，意味著模型只能引用申請人的實際文件，而不是訓練資料裡那些模糊的關聯。
在這一切之上，坐著一個持續監控層，即時追蹤模型漂移、偏誤漂移與幻覺率。當差別性影響比率（Disparate Impact Ratio）——受保護群體與對照群體核准率之間的比值——跌破 0.8 的門檻（也就是監理機關視為紅旗的五分之四規則）時，系統會在任何人為申訴浮現之前就發出警報。
這並非停留在願景階段。我們之所以打造它，是因為另一種選擇——包裝層、黑盒子、治理 cosplay——不斷製造出 Earnest 這樣的和解案與海軍聯邦這樣的訴訟。
你究竟該如何把公平性工程化進模型裡？
人們不斷問我這個問題，我想他們期待答案很簡單。並不簡單。但它也不神秘。
公平性工程意味著在模型生命週期的每一個階段套用數學約束。訓練之前，你要檢視資料中的代表性缺口，並運用合成過採樣之類的技術，平衡代表性不足的族群。訓練期間，你要部署對抗式去偏——一種讓次要模型試圖從主要模型的輸出中預測申請人種族的技術。如果它預測得出來，就代表主要模型正在洩漏受保護資訊，而你必須重新訓練，直到對抗者失敗為止。
訓練之後，你要校準決策門檻以確保均等勝算（equalized odds）——也就是模型在各個人口族群之間同樣準確。不是同樣寬鬆。而是同樣準確。一個對所有人都核准的模型並不公平。一個對每個人都以相同比率判斷正確的模型才公平。
接著是可解釋性。我們系統產生的每一項不利行動，都附帶 SHAP 值——一種數學上嚴謹的歸因方法，能準確告訴你是哪些特徵驅動了這項決策、以及各自的影響有多大。我們即時生成反事實解釋：「如果你的信用使用率再低 15%，或你的收入再高 $5,000，這筆貸款就會獲得核准。」那不是一種禮貌。在現行 CFPB 指引之下，它正逐漸成為一項要求。
公平的 AI 不是一個避免說出冒犯言論的模型。它是一套讓每一項決策都能被拆解、被挑戰、並用數學來辯護的系統。
想了解我們公平性工程管線與架構的完整技術剖析，我發表了一篇詳盡的研究論文，內容比我在這裡所能談的更深入。
監理高牆正在逼近
讓我為那些認為自己還有時間的人，勾勒一下這片監理態勢。
CFPB 在 2023 年與 2025 年關於不利行動通知的指引是有牙齒的。SR 11-7——聯準會的模型風險管理標準——如今要求有文件紀錄的概念健全性、由與開發毫無關聯的團隊進行獨立驗證，以及定期的結果分析。2025 年發布的 NIST AI 風險管理框架 2.0，引入了「AI 物料清單」（AI Bill of Materials）的概念——一份涵蓋每一個資料來源、每一個模型（包括第三方 API）以及元件之間每一次互動的完整清冊。
這不是你可以忽略的指引。一位聯邦法官剛剛准許對海軍聯邦的演算法進行證據開示。麻州檢察總長並不只是罰了 Earnest——他們還要求該公司徹底翻修其模型治理、實施獨立驗證，並接受持續監控。
訊息很清楚：如果你無法解釋你的模型，你就無法為它辯護。而如果你無法為它辯護，你就會付出代價——在和解金上、在訴訟成本上、在商譽損害上，以及在你聲稱要服務的那些社群對你的信任逐漸流失上。
為什麼「尋找替代方案」是沒人準備好面對的要求
有一個監理概念，我認為它將比其他任何概念都更能重塑這個產業，卻幾乎沒有人在談論它。
在現行的公平放貸法之下，光是證明你的模型準確並不足夠。你必須主動尋找歧視性較低的替代方案——也就是能達到相當預測效能、但差距更小的模型。如果原告能證明這樣的替代方案存在、而你沒有採用它，那麼無論你的模型多準確，都無法通過法律檢驗。
想想這在營運上意味著什麼。你不能只建一個模型、測試它的偏誤，然後就出貨。你必須訓練多種組態——不同的特徵集、不同的演算法、不同的門檻校準——並記錄你為何選擇了你所選的那一個。你需要證據顯示你尋找過更公平的選項，而且要嘛找到了（並採用了它），要嘛證明了不存在實質上歧視性更低的替代方案。
我們花了三個月建置我們的 LDA 搜尋管線。那三個月裡，我的工程團隊一直在問：「我們是不是想太多了？」然後 Earnest 的和解案落地了，而檢察總長辦公室特別點名了該公司未能尋找替代方案。我們並沒有想太多。是這個產業想得太少。
大多數人錯過的 Earnest 教訓
我想以一件從七月以來一直困擾著我的事作結。
關於 Earnest 和解案的評論，大多聚焦在 CDR 這個變數上。是的，那是頭條。但更深層的失敗並不是一個糟糕的變數。而是缺少那種能在糟糕變數進入生產環境之前就攔下它的架構。
Earnest 沒有獨立的模型驗證。他們沒有系統性的代理變數測試。他們沒有可稽核的人為推翻日誌。他們沒有持續的偏誤監控。他們有的是一個模型、一份政策文件，以及兩者之間一道大到足以開進一場集體訴訟的鴻溝。
這 250 萬美元不是偏誤的代價。它是在缺乏基礎設施、無從得知偏誤何時存在的情況下打造 AI 的代價。
這就是我不斷回到的那個區別。問題不是「你的 AI 有偏誤嗎？」——每一個用歷史資料訓練出來的模型，都帶著歷史不平等的指紋。問題是：你是否具備能在監理機關替你動手之前，偵測它、量測它、解釋它並修正它的架構？
大多數放款機構，如果誠實作答，會說沒有。
我們創辦 Veriprajna，是因為我們相信答案必須是「有」——不是作為一種抱負，而是作為系統本身的結構性屬性。公平不是一個上線後再拴上去的功能。它是一面承重牆。把它拆掉，整棟建築就會倒塌。
AI 在放貸領域的第一波浪潮，由速度與規模所定義。第二波將由你的系統能否挺過一紙傳票來定義。我知道我是為哪一波而建的。