您的招聘 AI 早已是一項責任風險——唯一的問題是您是否已經察覺。原本沉睡的執法行動如今已然啟動,一宗進行中的集體訴訟直指企業界部署最為廣泛的 HCM 平台,而一家在紐約市、加州、科羅拉多州、歐盟與伊利諾州各地篩選求職者的全國性雇主,需要的是一套合規架構,而非一份政策文件。我們的工作,就是建構公平性與稽核基礎設施,讓招聘 AI 能夠通過稽核、挺過訴訟,並經受住下一部法律的考驗。
紐約市《144 號地方法》執法轉向
紐約州審計長於 2025 年 12 月審查了《144 號地方法》的執法情況,發現紙面與實務之間的落差。在 32 家公司中,市府自身的消費者保護機構(DCWP)認定了 恰好一起 不合規案例,而審計長的審查人員在同一樣本中卻發現了 至少 17 起 潛在違規。 75% 關於自動化招聘工具的投訴電話遭到錯誤轉接,從未送達執法機構。該法律自 2023 年 7 月起即已具可執行性,然而負責執法的機構卻形同未運作。
那個時代正在結束。DCWP 已承諾將 EEOC 與 FTC 的申訴案件作為執法線索,罰則最高可達 每項違規每日 $1,500。
多轄區合規地圖
紐約市只是其中一個轄區。一家全國性雇主面臨五套相互重疊的法規制度,每一套都有各自的定義、期限與罰則:
| 法規制度 | 核心要求 | 關鍵日期 | 罰則風險 |
|---|---|---|---|
| 紐約市《144 號地方法》 (AEDT 框架) | 針對自動化就業決策工具的年度獨立偏差稽核;DCWP 現已將 EEOC/FTC 的申訴案件作為執法線索 | 自 2023 年 7 月起可執行 | 每項違規每日最高 $1,500 |
| 加州 FEHA (自動化決策系統) | 偏差測試、對所有 ADS 輸入與輸出進行四年紀錄保存、責任延伸至提供工具的供應商 | 於 2025 年 10 月 1 日生效 | — |
| 科羅拉多州 SB 24-205 | 風險管理政策,其後進行影響評估(重大決策標準) | 政策須於 2026 年 6 月 30 日前完成;影響評估須於 2027 年 2 月前完成 | — |
| 歐盟《AI 法案》 (附件 III 高風險) | 所有用於招募與求職者評估的 AI 均屬高風險;須履行符合性評估義務;招聘中的情緒辨識全面禁止 | 符合性評估於 2026 年 8 月 2 日起可執行;情緒辨識禁令自 2025 年 2 月起生效 | 最高達 3,500 萬歐元或全球營業額的 7% |
| 伊利諾州 BIPA +《AI 視訊面試法》 | 針對任何在評估過程中擷取生物特徵資料的工具,在《AI 視訊面試法》之上再疊加生物特徵資料責任 | — | — |
將這些法規制度之間相互衝突的定義整合為單一的營運架構——而非五份各自獨立的政策文件——才是真正的合規難題。
Mobley 訴 Workday 案:為何供應商合約無法為您擋下風險
Mobley 訴 Workday 案是每一位人資長都應該研讀的案件。Derek Mobley 向使用 Workday AI 篩選功能的公司投遞了逾 100 個職缺,每一次都遭到拒絕。在 2025 年 5 月,一家聯邦法院就年齡歧視主張授予有條件的集體訴訟認證,代表一個據信包含 數以百萬計求職者的群體。在 2025 年 7 月,範圍擴大至納入經由 HiredScore 的 AI 功能處理的求職者,而 Workday 已於 2024 年收購 HiredScore。
法院認定,AI 服務供應商在「代理人」理論下可能就就業歧視承擔 直接責任 (詳見 我們關於 AI 招募中演算法代理人責任的研究)。這並非抽象的法律風險——它是一宗針對企業界部署最為廣泛的 HCM 平台、正在進行中的集體訴訟。
AI 篩選中已被記錄的偏差問題
潛在的偏差問題已有充分記錄:
- 一項由 華盛頓大學 進行的研究發現,AI 履歷篩選工具偏好與白人相關聯的姓名的比例達 85% ,涵蓋超過 500 則職缺列表。
- 史丹佛 研究人員發現,AI 篩選給予年長男性求職者的評分,系統性地高於資歷完全相同的女性或較年輕的求職者。
- 代理歧視(Proxy discrimination)透過那些在使用者介面上看似中立、卻在統計上與受保護特徵相關的訊號運作:郵遞區號對應到種族,畢業年份對應到年齡,姓名模式對應到原籍國。
五分之四規則,規範於 《員工甄選程序統一準則》(UGESP) 提供了標準測試,但它僅是一項實務顯著性門檻。法院日益要求同時進行統計顯著性檢定——而執行任一項檢定都需要粒度足夠細的人口統計資料,而這是多數 ATS 平台原生無法擷取的。我們在區分真實偏差與混淆訊號方面的工程方法,詳述於 我們關於運用因果 AI 實現公平招募的技術白皮書。
平台整併正使獨立稽核更加困難
獨立的 HR AI 供應商市場正整併為各種平台生態系,在其中,招聘 AI、ATS 與 HCM 資料全都置於同一道高牆之後:
- Workday 於 2025 年 10 月以 45 億美元收購 Paradox ,並於 2024 年 3 月收購 HiredScore ,打造出一套整合式招聘 AI 技術堆疊,在單一平台中結合了對話式篩選、求職者評分與人才情報。
- SAP 收購了 SmartRecruiters,金額逾 15 億美元 ,時間為 2025 年 1 月。
- Dayforce 透過一筆 123 億美元 與 Thoma Bravo 的交易私有化。
這種整併所造成的合規問題,有別於一般的供應商鎖定。當您的偏差監控工具與它所監控的招聘 AI 出自同一家供應商時,稽核便不具獨立性。當您的人口統計資料存放於供應商的租戶架構、受其存取控制管轄時,您若不透過其 API,便無法執行 LL144 與 FEHA 所要求的交叉性分析。當供應商推出模型更新時,您上一次的偏差稽核即告失效——但您所收到的通知,粒度可能不足以讓您得知哪些甄選標準發生了變動。
持續監控所需的基礎設施,必須置於供應商技術堆疊 之外 ,能從多個資料來源讀取,並依您的時程、以您的方法論執行公平性運算。
招聘中的代理型 AI 打破了所有現有的稽核框架
52% 的人才主管 計劃在 2026 年部署對流程各階段負有端到端責任的 AI 代理。這些並非回答求職者問題的聊天機器人。代理型 AI 系統會自主地從多個管道尋源求職者、依動態標準評估資格、發送個人化外聯訊息、安排面試,並推進求職者通過各個流程階段,而每一步都無需人類觸發。Paradox 的 Olivia 目前已能處理 100+ 場同步的求職者對話 ,並在 48 小時 內完成過去需耗時一週的篩選流程。
治理難題在於,現有的偏差稽核框架都假設是由人類觸發決策、再由模型產出建議。代理型系統會做出一連串的決策,其中一個代理的輸出會餵入下一個代理的輸入。這個決策鏈中,是哪一項決策造成了不利影響?當沒有任何人類審查中間步驟時,就《民權法案》第七章而言,決策者究竟是誰?我們在 我們關於企業 AI 問責架構的研究中深入探討這個決策歸因難題。
OWASP 於 2026 年 3 月發布了其首份 代理型應用程式十大風險 ,指出的風險包括目標劫持、工具濫用與失控代理。但針對多步驟自主招聘流程的偏差稽核方法論,尚未以標準的形式存在。組織若在部署代理型招聘工具時,未從一開始就建構決策歸因與人為推翻架構,便是在製造日後將回溯性浮現的責任風險——當集體訴訟的證據開示請求到來之時。
以技能為本的招聘並非自動公平
從以學歷為本轉向以技能為本的招聘,是人才招募領域最重大的變革之一。AI 技能配對工具聲稱在預測工作表現方面達到 78% 準確率 ,而各公司回報 首年留任率提高 25–35%。但技能本體論(skills ontologies)本身編入了自己的偏差(我們在 我們關於運用知識圖譜實現招募 AI 公平性的研究中探討了這個問題)。哪些經歷被認定為展現了某項「技能」,取決於是誰設計了這套分類體系。若本體論將正式證照的權重置於同等的實務經驗之上,便會使來自非傳統背景的求職者處於不利地位。若它將特定工具的熟練度(Tableau、Python)視為可與其背後的分析能力互換,便會在配對中製造出虛假的精確性。
內部流動使這個問題更形複雜。Mastercard 回報透過一個 AI 人才市集節省了 2,100 萬美元 ,並將外部招募成本削減了 30%。但基於技能檔案來推薦橫向調動與延展性任務的內部流動 AI,若技能資料反映的是歷來由誰獲得發展機會、而非誰能夠勝任該職位,便可能鞏固既有的模式。人才市集市場正以 每年 25% 的速度成長,到 2033 年將達 100 億美元。如今建構這些系統的組織,正在編入將延續多年的勞動力結構決策。
我們為 HR 與人才科技建構什麼
我們的做法是建構合規與公平性基礎設施,使其置於您的招聘 AI(無論您使用哪家供應商)與您的法規義務(無論您在哪些轄區營運)之間。這是架構性工作,而非評估性工作——一項委任案的範圍是產出可運行的系統,而非投影片。一項委任案旨在產出:
- 跨平台偏差監控 ,透過一個供應商中立的資料層,連接至 Workday、SuccessFactors、Oracle HCM、Greenhouse、Lever 以及獨立的 ATS 平台。
- 持續性的不利影響計算 ,同時採用五分之四規則與統計顯著性方法,並在自我識別資料不足時,運用貝氏改良姓氏地理編碼(BISG)進行人口統計推算。
- 多轄區合規映射 ,將 LL144 的 AEDT 框架、加州 FEHA 的 ADS 規則、科羅拉多州 SB 24-205 的重大決策標準,以及歐盟《AI 法案》附件 III 的高風險分類之間相互衝突的定義,整合為單一的營運架構。
- 稽核軌跡系統 ,能跨越代理型招聘流程擷取決策來源,將每一項篩選、評分與晉級決策,歸因至產出該決策的特定模型版本、輸入資料與甄選標準。
- 無障礙評估架構 ,能在不因神經多樣的溝通風格、非典型面試行為或身心障礙相關便利措施而對求職者造成不利的前提下,評估與工作相關的職能;這是我們在 我們關於 AI 治理中演算法能力歧視危機的研究中所探討的領域。
我們不販售招聘 AI。我們的委任案旨在讓招聘 AI 變得可稽核、合規且經得起辯護。
重點摘要
- 執法如今已然啟動: 2025 年 12 月紐約州審計長的審查,在 32 家公司中發現了 17 起以上潛在的 LL144 違規,而 DCWP 僅標記了一起;罰則最高可達每項違規每日 $1,500。
- 五套法規制度同時作用: 紐約市 LL144(自 2023 年 7 月起)、加州 FEHA(2025 年 10 月 1 日)、科羅拉多州 SB 24-205(2026–2027 年)、歐盟《AI 法案》(2026 年 8 月 2 日;最高達 3,500 萬歐元或營業額的 7%),以及伊利諾州 BIPA,全都觸及同一套招聘技術堆疊。
- 供應商不會為您吸收風險: Mobley 訴 Workday 案(2025 年 5 月/7 月)認證了一個數以百萬計成員的群體,並依「代理人」理論認定 AI 供應商須負直接責任。
- 偏差是被量測出來的,並非假設: 85% 偏好白人姓名(華盛頓大學)、對年長男性求職者系統性給予較高評分(史丹佛),以及僅憑五分之四/UGESP 測試無法察覺的代理訊號。
- 整併與代理型 AI 提高了門檻: Workday–Paradox(45 億美元)、SAP–SmartRecruiters(15 億美元以上)與 Dayforce(123 億美元)將稽核綁定於供應商,而 52% 的人才主管計劃在 2026 年部署現有稽核框架無法歸因的自主代理。
常見問題解答
當 AI 招聘工具造成歧視時,由誰負責——雇主還是供應商?
雇主。無論 AI 工具是否為現成採購,《民權法案》第七章對差別影響的責任都歸屬於雇主。Mobley 訴 Workday 案(2025 年)擴大了這一點,認定 AI 服務供應商在代理人理論下也可能承擔直接責任,但該裁決是在雇主責任之上再增加供應商責任,而非將責任轉移。EEOC 的立場(儘管指引已被撤回,但在歷屆政府間保持一致)是:五分之四規則適用於 AI 驅動的招聘決策,其適用方式與適用於人類決策完全相同。若您供應商的篩選工具對某個受保護群體造成不利影響,在申訴中作為被申訴人的是您,而非供應商。與供應商之間的合約補償條款,鮮少能在集體訴訟的實際成本面前存續。我們建構偏差監控基礎設施,讓雇主無論供應商如何回報,都能對其 AI 招聘工具的甄選率、不利影響比率與人口統計結果具備獨立的可視性。
當執法力度正在加強時,我們該如何遵循紐約市《144 號地方法》?
LL144 要求對任何用於紐約市招聘或晉升的自動化就業決策工具(AEDT)進行年度獨立偏差稽核。2025 年 12 月的州審計長審查揭露,DCWP 在執法上大致形同未運作,在審查人員認定 17 起以上違規之處,僅發現 1 起。DCWP 此後已承諾將 EEOC 與 FTC 的申訴案件作為執法線索,罰則最高可達每項違規每日 $1,500。合規要求計算性別、種族/族裔與交叉性類別的影響比率,這需要粒度足夠細的人口統計資料,而多數 ATS 平台原生並不支援。我們建構資料蒐集基礎設施、針對自我識別率偏低群體的 BISG 推算,以及持續監控流程,產出全年皆可備妥稽核的文件,而非為了單一的年度稽核而臨時應付。
歐盟《AI 法案》對於篩選歐盟求職者的美國公司意味著什麼?
歐盟《AI 法案》依附件 III 第 4 點,將所有用於招募、篩選、評估或對求職者做出決策的 AI 歸類為高風險。符合性評估義務於 2026 年 8 月 2 日起變得可執行。招聘中的情緒辨識自 2025 年 2 月 2 日起即遭禁止。罰則可達 3,500 萬歐元或全球年營業額的 7%,以較高者為準。任何總部設於美國、篩選屬於歐盟居民的求職者,或使用擁有歐盟客戶的 HCM 平台的公司,均落入適用範圍。相關要求包括技術文件、人為監督機制、資料治理與日誌記錄。CEN 與 CENELEC 錯過了標準制定期限,因此並不存在符合性推定的捷徑。我們建構符合性評估文件、人為監督架構,以及能直接依據法規條文滿足附件 IV 的日誌記錄基礎設施。
當我們的自我識別資料不完整時,該如何執行偏差稽核?
這是招聘 AI 合規中最常見的技術障礙。自願性自我識別率通常過低,無法為較小的受保護類別產出具統計顯著性的結果,而交叉性分析(LL144 所要求)更加劇了樣本規模的問題。標準做法是貝氏改良姓氏地理編碼(BISG),它根據姓氏與人口普查地段資料推算種族/族裔的機率。BISG 為聯邦監管機構所接受,並用於公平放貸分析,但其準確度會因地理與人口密度而異。我們在傳統自我識別蒐集之外一併實作 BISG,建構統計檢定基礎設施以同時執行五分之四規則(實務顯著性)與卡方檢定或費雪精確檢定(統計顯著性),並設計資料流程,使分析得以持續進行,而非依賴單一的年度快照。
我們該自行建構客製化的 AI 招聘工具,還是向 Workday 或 Eightfold 等供應商採購?
自建 vs. 採購的問題自 2025 年以來已有所轉變。Workday 收購 Paradox(45 億美元)與 HiredScore,加上 SAP 收購 SmartRecruiters(15 億美元以上),意味著採購方正整併為各種平台生態系,其中轉換成本高昂,且偏差監控與供應商自身的工具綁定。採購路徑讓您獲得更快的部署與供應商代管的更新,但您也承接了供應商的合規風險(參見 Mobley 訴 Workday 案),並失去獨立稽核能力。自建路徑讓您獲得由設計即具備的可稽核性與多轄區彈性,但需要持續的工程投入。多數企業落在兩者之間:他們保留 HCM 平台用於核心工作流程,並在其上建構一個供應商中立的合規與監控層。這正是我們通常所架構的——那個獨立的層,能讓任何供應商的招聘 AI 都變得可稽核且合規,不受平台整併影響。
我們該如何稽核那些自主尋源與篩選求職者的代理型 AI 系統?
您無法以傳統的偏差稽核方法論來稽核它們。現有框架都假設由模型產出建議、再由人類做出決策。代理型招聘系統會做出一連串自主決策:從多個管道尋源求職者、評估資格、發送外聯訊息、安排面試,並在無人類觸發的情況下推進流程階段。不利影響可能源自決策鏈中的任一步驟,而若沒有決策歸因的日誌記錄,您便無法判定是哪一個 agent、模型版本或輸入資料造成了該結果。我們建構代理型招聘治理架構,包含三個核心元件:將每一項篩選、評分與晉級動作標記至其特定 agent 與模型版本的決策歸因;於各流程階段獨立進行的持續性不利影響監控;以及當人口統計失衡超出可設定的上限時,附帶強制審查門檻的人為覆核點。
我們該如何讓 AI 招聘評估對神經多樣性求職者具備無障礙性?
多數 AI 評估在未量測與工作相關職能的情況下,便對非典型的溝通風格加以懲罰。Aon 的 AI 在「活力」一項給自閉症求職者低分,引發一宗 ACLU 向 FTC 提出的申訴。一名失聰的原住民女性被一套 AI 評估告知要「練習積極聆聽」。《美國身心障礙者法》(ADA)要求雇主提供能量測工作技能、而非量測身心障礙相關特質的無障礙評估;而神經多樣性狀況因會影響專注、溝通與學習等重大生活活動,通常在 ADA 之下符合身心障礙的認定。我們設計評估架構,將與工作相關的職能評估與溝通風格評分區分開來,提供替代性的評估途徑而無需求職者揭露身心障礙身分,並將便利措施工作流程建入系統之中,而非將其視為一項例外處理程序。
跨多個轄區進行 AI 招聘合規的真實成本是多少?
成本取決於有多少 AI 系統觸及招聘決策,以及您的求職者身處多少個轄區。由獨立公司執行的 LL144 偏差稽核,每套系統每年費用為 $15,000–$75,000。歐盟《AI 法案》符合性評估估計每套系統為 5,000 至 50,000 歐元,每套系統的年度平均合規成本為 29,277 歐元。加州 FEHA 要求對 ADS 進行四年的紀錄保存,這意味著需要日誌記錄基礎設施。科羅拉多州 SB 24-205 要求風險管理政策與影響評估。將合規改裝進既有系統的成本,比從一開始就建入高出 3 至 5 倍。平均每次招聘成本已達 $4,700(Gartner 2025),而 AI 工具可將其降低 20–30%,但只要一宗集體訴訟到來,那些節省便會化為烏有。Mobley 訴 Workday 案代表著涵蓋數以百萬計求職者的潛在責任風險。我們依實際的 AI 覆蓋範圍與轄區風險來界定委任案範圍,而非依假設性的涵蓋範圍。
自信打造您的 AI。
與一支在打造新世代企業級 AI 方面擁有深厚經驗的團隊攜手合作。讓我們協助您設計、建置並部署值得信賴的 AI 策略。
Veriprajna 深度科技顧問公司 專精於為醫療、金融及法規監管領域打造攸關安全的 AI 系統。我們的架構均依循既定規範進行驗證，並備有完整的合規文件。