意外變成醫療檢測的招聘演算法

我的一位朋友——傑出的軟體工程師，也是我見過最擅長模式思考的人之一——告訴我，他連續被十一家公司拒絕。不是在技術面試之後，而是在技術面試之前。他從來沒能通過最初的「性格評估」。

他是自閉症患者。而那些公司每一家都在使用某種版本的同一款 AI 驅動篩選工具。

2024 年 5 月，當 ACLU 就 Aon Consulting 向聯邦貿易委員會提出正式申訴時，我不斷回想起那場對話。指控的具體程度令人震驚：Aon 那套 AI 招聘工具——被行銷為「無偏見」且能提升多元性——很可能實際上是一種隱蔽的殘疾篩檢。這些工具衡量的是諸如「活潑度」、「積極性」與「情緒覺察力」之類的特質。這些特質不只是模糊的性格維度，它們幾乎完美地映照出用來診斷自閉症的臨床標準。

當我坐在書桌前、在晚上十一點捧著一杯已經涼掉的印度奶茶讀完整份申訴時，一件困擾我多年的事突然豁然開朗。AI 招聘產業沒有偏見問題，它有的是架構問題。而再多的「負責任 AI」品牌包裝都無法修復它。

破碎的承諾

在過去將近十年裡，AI 招聘供應商的推銷詞既誘人又簡單：人類有偏見，演算法沒有。讓機器來決定，你就會得到更公平的結果。

早期我也曾相信這套說法的某個版本。當我創辦 Veriprajna 時，我真心相信只要能把決策形式化——剔除直覺、「文化契合」的臆測、以及對那些令你想起自己的人的無意識偏好——你就能得到更接近任人唯才的東西。數學會讓我們獲得自由。

AI 招聘產業沒有偏見問題，它有的是架構問題。

後來我開始檢視這些工具實際上衡量的是什麼。我意識到，數學正在編碼它宣稱要消除的那些偏見——只是把它們翻譯成一種看起來客觀的語言。

Aon 的旗艦性格工具 ADEPT-15 從十五個維度評估應徵者。像是「活潑度」（你外向還是內向？）、「覺察力」（你能讀懂言外之意嗎？）、「沉著度」（你在壓力下冷靜還是熱情？）以及「彈性」（你偏好例行常規還是變化？）。這個工具採用強迫選擇的形式——你在兩個陳述之間做出選擇——並根據你先前的答案即時調整。

在紙面上，它聽起來很精密。實際上，它問的是：你有多神經典型？

當招聘工具映照出臨床診斷時，會發生什麼？

這就是那晚讓我輾轉難眠的部分。我調出了自閉症光譜商數——一種標準的臨床篩檢工具——把它放在 Aon 的 ADEPT-15 構念定義旁邊。這種重疊並不細微，而是結構性的。

AQ 衡量社交技巧、注意力轉移、對細節的注意、溝通與想像力。ADEPT-15 衡量「活潑度」、「彈性」、「結構性」、「覺察力」與「果斷性」。這些並非遠親，它們是穿著不同衣服的同一批構念。

當一套演算法因為某人「內向」而非「外向」就給他扣分時，它衡量的不是工作勝任度，而是社交表現。而對於那些大腦以不同方式處理社交資訊的人——自閉症患者、患有 ADHD 的人、有社交焦慮的人——這種衡量是一個偽裝成測驗的陷阱。

ACLU 的申訴直言不諱：這些評估「與自閉症／心理健康診斷高度吻合」。根據《美國殘疾人法案》，雇主不得在招聘過程中進行醫學檢查，除非其與工作直接相關。如果一項性格測驗在功能上與臨床篩檢工具毫無區別，那它究竟是什麼？

我記得曾和一位在工業與組織心理學領域深耕多年的同事談起這件事。他的第一反應是防衛性的——「這些都是經過效度驗證的心理測量工具。」我的回應是：對照什麼來驗證效度？對照一個絕大多數是神經典型者的常模樣本嗎？那不是效度驗證，那是披著實驗室白袍的循環論證。

視訊面試的問題比你想的更嚴重

Aon 的第二款工具 vidAssess-AI 把性格模型疊加在非同步視訊面試之上。應徵者錄下自己回答問題的過程。一個 NLP 引擎把他們的語音轉錄成文字、分析內容，並依據 ADEPT-15 性格框架為其評分。

這正是真正令人擔憂的地方。自然語言處理模型是在龐大的文本資料集上訓練的，而這些資料集絕大多數反映的是神經典型的溝通模式。典型言談的節奏。自信該有的抑揚頓挫。組織一段敘事的「正常」方式。

我的團隊花了數週時間測試不同的言談模式如何與商用 NLP 系統互動。平板的語調——在自閉症說話者中很常見——會被標記為「缺乏熱情」。非典型的停頓會被解讀為「不確定」。非線性的敘事——許多 ADHD 患者自然而然組織思緒的方式，在相關聯的想法之間跳躍、然後再繞回來——會被判定為「思緒混亂」。

當一套演算法因為某人「內向」而非「外向」就給他扣分時，它衡量的不是工作勝任度，而是社交表現。

這一切都與某人能否勝任這份工作毫無關係。它們全都只關乎某人能否在鏡頭前令人信服地演出神經典型。

杜克大學的研究發現，大型語言模型會系統性地將神經多樣性相關詞彙與負面含意連結在一起。在某些模型中，「我有自閉症」得到的分數比「我是銀行搶匪」更負面。當這些相同的模型透過 API 整合驅動招聘工具時，它們會把那些連結直接帶進篩選過程。沒有任何開發者有意如此，是架構保證了它會發生。

關於這一點的技術機理，我在我們研究的互動版本中有更深入的論述，但簡短的版本是這樣的：你無法靠在有偏見的模型外面套一層包裝來修復湧現的能力歧視。偏見不是一個 bug，而是系統建構方式的一項特性。

我為何不再相信「無偏見」

有一個時刻——我能精確地指出它——我對這件事的想法從「我們需要更好的偏見測試」轉變為「整個範式都是錯的」。

我們當時正在對一個客戶的招聘流程進行內部稽核。都是些標準的東西：人口統計均等性檢查、不利影響比率、大家都在用的那些指標。數字看起來很乾淨。各人口群組的錄取率都在可接受範圍內。客戶很滿意，他們的法務團隊也很滿意。

接著，我的一位工程師 Priya 提出了一個讓全場靜默的問題：「如果那些原本會被篩掉的人，一開始根本就沒來應徵呢？」

她說得對。我們衡量的是那些通過了性格篩檢的人之間的公平性。但篩檢本身早已過濾了應徵者的池子。我們稽核的是倖存者，卻把它稱作公平。

就在那時，我理解了「包裝」式 AI 公平性做法的根本缺陷。一個包裝層拿一個既有的基礎模型——GPT-4 或隨便哪個——把資料傳進去，再呈現輸出。你可以在上面加上偏見檢查，你可以對結果做後處理。但這個模型的內部表徵早已編碼了其訓練資料的偏見。你只是把一張公平性貼紙貼在一台根本不公平的機器上。

這些模型訓練所用的招聘資料，反映的是數十年來對神經典型的偏好。當模型部署後，它的決策又會回饋進未來的訓練集。內向的應徵者被拒絕，於是模型學到「內向」能預測被拒，於是它拒絕更多內向的應徵者。這個迴圈越收越緊，偏見不斷累積。而儀表板卻說一切都很好。

你究竟該如何打造不歧視的招聘 AI？

這正是我過去幾年一直試圖回答的問題。不是「你如何讓 AI 偏見更少」——那種提法接受了現有的架構，並試圖對它打補丁。真正的問題是：你該如何打造出讓偏見無處藏身的系統？

我們在 Veriprajna 開發的方法建立在一個核心洞見之上：相關性正是歧視藏身之處。傳統機器學習在資料中尋找模式。如果神經典型的溝通風格與被錄取相關，模型就會把溝通風格當作是否值得錄取的代理指標。它不知道自己在歧視，它只是在做最佳化。

要打破這一點，你需要因果推理，而不僅僅是統計上的模式比對。

我們採用一種稱為因果表徵學習的方法。我們問的不是「哪些特徵能預測招聘成功？」，而是「哪些特徵能預測招聘成功，而且在因果上不屬於某項受保護特徵的下游？」這是一個根本不同的問題，也需要一個根本不同的架構。

可以這樣想。把一位應徵者的檔案想像成一張由相互連結的屬性所構成的網。有些連結是正當的——多年的經驗連結到技能水準。但有些連結卻穿越了受保護的領域——溝通風格連結到神經類型，而神經類型又連結到一項性格測驗如何為你評分，這又連結到你是否能獲得面試。因果表徵學習繪製出這些路徑，並在數學上切斷那些不正當的連結。

我們把這個方法與對抗式訓練搭配——這是一種讓兩個模型彼此對抗的技術。一個模型試圖預測工作表現。另一個則試圖從第一個模型的內部表徵中猜出應徵者的殘疾狀態。如果對抗者成功了，就意味著預測器正在洩漏受保護資訊，系統便會對它施加懲罰。在一輪輪的訓練循環中，預測器學會做出真正無法被逆向工程還原出某人神經類型的決策。

你無法靠在有偏見的模型外面套一層包裝來修復湧現的能力歧視。偏見不是一個 bug，而是系統建構方式的一項特性。

然後還有反事實測試——我認為這是最具智識誠實的部分。我們拿一位真實應徵者的資料，生成一個只有受保護特徵不同的合成分身，然後檢查模型的推薦結果是否維持不變。不是問「群體層級的統計是否平衡？」，而是問「如果這個特定的人不是自閉症患者，他會得到不同的結果嗎？」那才是《ADA》真正在問的問題。那也是大多數招聘 AI 無法回答的問題。

若想了解這些方法的完整技術剖析——介入不變性背後的數學、對抗式損失函數、結構因果模型——請參閱我們的技術研究論文。

監管機構不再等待了

Aon 這起申訴清楚無誤地表明了一件事：「先快速行動、之後再稽核」的時代已經結束了。

FTC 的「AI 合規行動」（Operation AI Comply）計畫已經對那些提出無根據 AI 宣稱的公司採取了執法行動。DoNotPay 因為誇大宣傳其 AI 法律工具的能耐而被處以 193,000 美元的罰款。Rytr 則因生成假評論而成為打擊對象。FTC 態度明確：如果你宣稱自己的工具「無偏見」，你最好拿得出實證證據來證明。「我們用大數據訓練了它」不是證據，而是自白。

與此同時，EEOC 已把演算法歧視列為執法的首要重點。它們的立場很直白：即使供應商向雇主兜售了一堆關於公平性的空話，雇主仍須為其所採購的 AI 工具所造成的歧視負法律責任。你無法把你的公民權利義務外包給一紙軟體合約。

有時人們會問我，這股監管壓力是否會拖慢 AI 在招聘領域的採用。我認為這問錯了。這股壓力會拖慢的是糟糕的AI 採用。它會加速那些真正能夠證明公平性的工具的市場——不是靠行銷文案，而是靠可稽核的證據。投資於嚴謹架構的公司將擁有巨大優勢。而購買了包裝層的公司將收到一筆巨額的法律帳單。

為運作方式不同的大腦而設計

在技術與法律的論述之下，還有一個更深層的問題，也是我最在意的問題。

大多數招聘 AI 建立在殘疾研究學者所稱的「醫學缺陷」模型之上——也就是假設神經多樣性的特質是偏離某種常態的偏差，需要被偵測並篩除。整套架構預設了大腦運作存在一種「正確」的方式，而演算法的工作就是找出大腦以那種方式運作的應徵者。

這不僅在倫理上破產，在策略上也愚蠢至極。

神經多樣性的個體往往恰恰擅長那些公司口口聲聲說極度渴求的能力：深度的模式辨識、對細節持久的專注、能跳脫傳統框架的創造性問題解決。一套以「活潑度」與「社交大膽度」為篩選標準的招聘系統，正在系統性地過濾掉那些最有可能看見別人所忽略之處的人。

在 Veriprajna，我們開始打造我稱之為時間彈性評估系統的東西。這套系統不會把每一位應徵者都拿去和神經典型的基準線比較——平均反應時間、典型的言談節奏、預期的情緒表達——而是在互動的早期階段建立起一條個體化的基準線。它會學習「正常」對這個人而言是什麼樣子，而不是對某個抽象的平均值而言。

我們也強力主張一件本該是理所當然的事：每一項自動化評估都必須包含一個清楚、不受懲罰的選項，讓人可以要求改用人工替代方案。《ADA》要求提供合理的便利措施。但撇開法律合規不談，這根本就是好的工程實務。任何在使用者要求換一種介面時就會出錯的系統，都是脆弱的系統。

沒有人願意回答的問題

每當我展示這項工作時，總會出現一陣令人不自在的沉默。它通常發生在我指出：Fortune 500 公司拿來「提升多元性」的那些相同 AI 工具，很可能正在系統性地排除殘疾應徵者之後。房間裡的某個人——通常是那個和供應商簽了合約的人——會在座位上不安地挪動。

令人不安的真相是，大多數企業從未針對殘疾偏見稽核過它們的招聘 AI。它們檢查過種族與性別的差異，因為那些是監管機構歷來關注的指標。但神經多樣性呢？它甚至根本不在儀表板上。

Aon 這起申訴改變了這一切。並不是因為 Aon 特別糟糕——它們代表的是一種全產業通行的做法。它之所以改變局面，是因為它點出了這個機制。它清楚地展示了一項「性格評估」是如何變成一道殘疾篩檢的。而一旦你看見了它，就再也無法視而不見。

任何使用性格代理演算法來篩選應徵者的公司，都正在系統性地過濾掉正是那些推動創新的人才。

我想起了我的朋友——那位無法通過性格篩檢的傑出工程師。他最終被一家改採即時技術評估的公司錄用了。不到六個月，他就重新設計了他們的整個資料管線。那十一家拒絕他的公司，錯過的不只是一位優秀的員工。它們是被一套演算法告知：他根本不值得一談。

那不是偏見問題，那是一套壞掉的系統在對自己說它運作良好。

接下來會走向何方

Aon-ACLU 這起申訴並不是某件事的終點。它是一場清算的開端，這場清算將重新形塑每一家企業對於在人力資本決策中運用 AI 的思考方式。

等到這波執法與訴訟浪潮達到頂峰時，仍屹立不搖的，將是那些把 AI 治理當作一門工程學科、而非一場公關作秀的公司。那些要求因果邏輯而非相關性的公司。那些稽核個體層面公平性、而不只是人口統計均等性的公司。那些為人類認知的完整光譜、而不只是恰好與訓練資料相符的那一小片而設計的公司。

我創辦 Veriprajna 不是為了打造合規工具。我創辦它，是因為我相信 AI 可以成為招聘史上最強大的均衡器——但前提是我們把它做對。不是套在有偏見模型上的包裝層。不是打扮成心理測量的性格代理指標。而是能夠理解「一個人能做什麼」與「他的大腦恰好如何連結」兩者之間差異的深層系統。

那套拒絕了我朋友十一次的演算法並不邪惡，它只是膚淺。而在招聘領域，膚淺就等同於歧視。

我們能夠打造得更深。我們必須如此。