AI 招募工具可能歧視身心障礙求職者

問題所在

Aon 的 AI 招募工具在「活力」（liveliness）一項上給自閉症求職者打了低分。2024 年 5 月，ACLU（美國公民自由聯盟）向聯邦貿易委員會（Federal Trade Commission）正式提出針對 Aon Consulting 的申訴。ACLU 指控 Aon 將其 AI 驅動的招募評估行銷為「無偏見」，並聲稱這些工具能「提升多元性」且「不會造成不利影響」。但事實上，這些工具很可能因種族與身心障礙而篩除掉合格的求職者。

事情經過是這樣的。Aon 打造了一款名為 ADEPT-15 的人格測驗，用來衡量 15 項特質，包括「正向性」、「情緒覺察」與「活力」。ACLU 發現，這些特質與自閉症及心理健康狀況的臨床診斷標準高度吻合。如果你的得分被判定為「內斂」而非「外向」，演算法就會給你扣分。它不會過問你的身心障礙狀況。它根本不需要問。數學運算就會自動完成這種歧視。

Aon 還部署了一款名為 vidAssess-AI 的視訊面試工具。它運用自然語言處理（natural language processing）——一種解讀口說話語的軟體——依據那些相同的人格特質為求職者評分。對於言語帶有平板語調或非典型停頓的自閉症人士而言，AI 可能會將這些模式解讀為「缺乏自信」。這款工具製造了申訴中所描述的「雙重危險」：求職者不僅因其回答受到評判，同時 還因一個經由帶偏見的語言模型過濾後、由機器詮釋出的人格版本而受到評判。

這項申訴獲得了自閉症自我倡議網絡（Autistic Self-Advocacy Network）及其他公民權利團體的支持。這並非邊緣的訴訟案件。它是一個信號，代表演算法招募不受監督的時代已經結束。如果貴公司使用 AI 來篩選求職者，你就必須了解這裡究竟出了什麼問題。

為何這對貴公司至關重要

帶偏見的 AI 招募工具所帶來的財務與法律風險龐大且持續增長。看看這些數字：

• 在 2024 財政年度，EEOC（美國平等就業機會委員會）為歧視受害者爭取到了 數億美元 的金錢賠償。演算法偏見如今已是首要的執法重點。
• FTC 因 DoNotPay 對其 AI 能力提出未經證實的宣稱，對其開罰 193,000 美元。該機構有權永久禁止企業銷售高風險軟體。
• 到了 2027 年，全球人才經濟的規模將達到 300 億美元。無法證明自身招募工具公平的企業，將失去接觸頂尖人才的管道。
• Aon 的 ADEPT-15 測驗從一個含有 350,000 個獨特題項 的資料庫中取材，用以評估人格。這套系統的規模龐大，若沒有專門工具幾乎無法進行稽核。

你的法律風險並不止於供應商。EEOC 已明確表示，雇主須為其向第三方採購的 AI 工具所造成的歧視負法律責任。購買一款「無偏見」的工具並不會轉移你的責任，反而會加重它。

這對貴組織意味著以下幾點：

• 訴訟風險：針對你的招募流程（而不只是供應商產品）的集體訴訟與 EEOC 申訴。
• 監管罰款：FTC 的「Operation AI Comply」行動正積極執行對 AI 宣稱的舉證要求。
• 聲譽損害：一則將貴公司與身心障礙歧視連結在一起的公開申訴，可能在一夜之間侵蝕雇主品牌。
• 人才流失：神經多樣性人士往往在模式辨識、細節專注與創意解決問題方面表現出色。帶偏見的篩選機制正好篩掉了那些推動創新的人。

如果你的 AI 供應商無法提供其工具不具歧視性的實證證據，你就是在資產負債表上承擔著無法量化的風險。

檯面下究竟發生了什麼

可以把大多數 AI 招募工具想像成遊樂園裡的哈哈鏡。它們確實反映出某種真實的東西——你的資歷——但這個倒影卻被鏡子的形狀扭曲了。在此情況下，這個「形狀」就是訓練資料，而這些資料絕大多數反映的是神經典型（neurotypical）的行為模式。

核心的失效在於一種被稱為「遞迴偏見迴圈」（recursive bias loop）的現象。機器學習模型以歷史招募資料進行訓練。那些資料反映了數十年來對神經典型溝通風格的偏好。當 AI 上線運作時，它的決策又會回饋到未來的訓練資料集中。那些「看起來像」過去成功錄用者的求職者會在演算法中被抬升，其餘所有人則被篩除。偏見便隨著時間不斷疊加。

杜克大學（Duke University）的研究發現，大型語言模型——許多招募工具背後的 AI 引擎——會系統性地將神經多樣性相關詞彙與負面意涵連結在一起。「我有自閉症」這句話在這些模型眼中，比「我是銀行搶匪」更為負面。當這些相同的語言模型透過 API 連結為招募工具提供動力時，它們便把帶歧視的關聯嵌入到你的招募流程之中。開發者從未有此意圖，是資料自動造成了這樣的結果。

Aon 的 ADEPT-15 正好精確地說明了這一點。它沿著「內斂 vs. 外向」與「淡漠 vs. 富同情心」等兩極來對應 15 項人格構念。ACLU 將這些構念與自閉症光譜商數（Autism Spectrum Quotient，AQ）——一種標準的 50 題臨床篩檢工具——進行對照。兩者的重疊無可否認。當招募演算法提出與臨床標準如出一轍的問題——例如「我會高度專注於細節」或「我偏好獨自工作」——它便在身心障礙身分與招募結果之間建立了一條隱藏的路徑。演算法從不過問診斷，它也無需如此。

一個簡單的「包裝層」（wrapper）——一種將你的資料傳遞給如 GPT-4 這類基礎模型再呈現輸出結果的工具——無法解決這個問題。包裝層會繼承其底層模型的偏見。它們缺乏區辨真正的工作資歷與那些和受保護特徵相關聯之雜訊的能力。

哪些做法有效（哪些無效）

三種常見卻失敗的做法：

• 「我們用大數據訓練，所以它很公平。」 更多的資料並不代表更少的偏見。如果你的訓練資料反映的是 30 年來的神經典型招募偏好，你的模型就會大規模地複製那些偏好。
• 「我們的供應商給了我們一張模型卡（model card）。」 供應商提供的文件並非獨立稽核。Aon 一案顯示，「不會造成不利影響」的行銷宣稱，可能與工具實際的運作表現直接相牴觸。
• 「我們已從輸入資料中移除受保護的欄位。」 當「活力」與「情緒覺察」這類特質充當代理變數時，從資料中移除身心障礙身分並無濟於事。演算法會找到後門。

真正有效的，是一套能切斷受保護特徵與招募決策之間連結的三步驟方法：

1. 繪製隱藏路徑（輸入端）。 運用結構因果模型（Structural Causal Modeling）——一種以圖示呈現不同資料點如何相互影響的方法——來辨識身心障礙身分可能影響招募結果的每一條途徑。這並不是統計檢定，而是你整個評估流程的因果地圖。你的目標，是在監管機構替你找出代理變數之前，先自己把它們找出來。

2. 從模型邏輯中剝除受保護資訊（處理端）。 部署對抗式去偏（adversarial debiasing）——一種讓第二個 AI 模型嘗試從主模型的內部資料中猜出求職者受保護特徵的技術。如果第二個模型成功了，就代表主模型仍在洩漏受保護資訊。系統會對主模型施以懲罰，迫使它去學習掉那些帶偏見的模式。這尤其適用於影片和 行為訊號充當身心障礙代理變數的人格評估。

3. 以反事實模擬檢驗每一項決策（輸出端）。 針對真實求職者的資料，生成合成的變體。只改變敏感屬性——例如，將神經典型的言語模式切換為神經多樣性的言語模式——同時讓所有其他變數維持不變。如果 AI 的推薦結果因此改變，你就存在公平性上的失效。這會為你的 合規團隊提供一份具體的稽核軌跡 ，適用於每一項招募決策。

對你的法律與合規團隊而言，稽核軌跡才是最重要的。群體層級的統計數字——「我們錄用的員工中有 10% 是身心障礙者」——並不足夠。你需要的是個體層級的證據，證明每一位求職者都受到平等對待。反事實模擬正能提供這一點。當 EEOC 或 FTC 追問你的系統為何拒絕某位特定求職者時，你就能把背後的運算攤開來給他們看。

根據 NIST AI 風險管理框架， 人力資源與人才科技領域的組織 應以「適應型」（Adaptive）成熟度為目標。這意味著要有一套書面記錄的流程，用以追蹤歧視漂移——也就是 AI 模型隨著與真實世界資料互動、隨時間變得愈發帶有偏見的現象。每年進行獨立的偏見稽核（而非供應商的自我報告）至關重要。每一項自動化評估都應包含一個明確的選項，讓求職者能在不受懲罰的情況下要求改用真人替代方案。

你可以 閱讀完整技術分析 ，以更深入地了解因果建模與對抗式去偏方法。此外， 互動式逐步導覽 也可供你的團隊使用。