AI 竟叫一位失聰女性去「練習積極聆聽」——那一刻，我確信這整個產業已經壞了
那是一個星期二的深夜，我坐在家裡的書房，滑著美國公民自由聯盟（ACLU）針對 Intuit 與 HireVue 提出的申訴文件，讀到某一行時，我把筆電放下，只是怔怔地盯著牆壁。
一位失聰的原住民女性——在文件中以 D.K. 為代稱——為了爭取升遷，被要求完成一場自動化的視訊面試。她早已取得正面的績效評核、年度獎金，以及一份本應讓升遷水到渠成的工作紀錄。然而，處理她面試的那套 AI 系統，卻產生了一則將困擾這個產業多年的回饋意見：它要她去「練習積極聆聽」。
她是失聰者。
系統並不知道。系統也不在乎。系統做的，正是每一個大型語言模型都會做的事——它比對的訓練資料集，絕大多數建構自能聽見、神經典型、說標準美式英語的人；於是它認定，任何聽起來不像那套資料集的人，都是有缺陷的。不是不同，是有缺陷。
我在 Veriprajna 花了多年時間，打造專門對人做出高風險決策的 AI 系統。而我可以百分之百肯定地告訴你：這不是一個程式錯誤。這是架構完全按照設計在運作。這正是問題所在。
D.K. 究竟遭遇了什麼？
這些事實值得我們靜下心來細想，因為它們揭露的，遠比一次軟體失靈更為深層。
D.K. 曾提出一項合理的便利措施請求——具體來說，是要求一名由真人擔任的即時通訊翻譯（CART）聽打員，協助她應對這場視訊面試。結果，她拿到的卻是自動字幕。如果你曾看過自動字幕如何把一位帶有輕微地方口音的講者糟蹋得面目全非，不妨想像一下，當講者帶有語言學家所稱的「失聰口音」——一種由於一生在缺乏聽覺回饋下溝通而形成的言語模式——時會發生什麼事。
自動語音辨識系統無法解析她的言語。它產生的逐字稿，實質上就是一堆垃圾。接著，第二層 AI 分析了那份垃圾逐字稿，評估其中的「領導特質」與「溝通能力」，然後斷定她還沒有準備好擔任管理職。
我在跟團隊的討論中開始把這稱為串連式失效——也就是某一層 AI 的錯誤不只是延續下去，而是在傳遞到後續各層時被不斷放大。糟糕的逐字稿餵養糟糕的分析，糟糕的分析又餵養糟糕的建議。等到有人看見輸出結果時，它看起來乾淨無瑕。一個分數。一個排名。一封拒絕通知。沒有人看見底下那 78% 的字詞錯誤率。
當作為基礎的逐字稿有 78% 的錯誤率時，建構在其上的每一個模型，分析的都不是應徵者——而是雜訊。
那個數字並非憑空假設。針對處理言語清晰度中等至偏低之失聰講者的語音辨識系統，研究一致顯示其字詞錯誤率介於 77% 到 78% 之間。相較之下，標準美式英語講者的錯誤率落在 10–18%。這套系統對 D.K. 從來就不可能行得通。它從根基上，就是為了將她排除在外而設計的。
為什麼每一款 AI 招聘工具都有這個問題？
在這裡，我必須誠實談談我所身處的這個產業。
眼下市場上絕大多數的「AI 招聘解決方案」，就是我們所稱的外殼產品。它們是建構在通用型大型語言模型——GPT-4、Claude、Gemini——之上的一層薄薄介面。公司加上一個漂亮的使用者介面、一些人資專用的提示詞，或許再配一個附圖表的儀表板，然後把它當作「AI 驅動的人才智慧」來販售。
我曾與企業採購方隔桌而坐，他們是真心分辨不出外殼產品與專門打造的系統有何差別。而他們又何嘗有辦法分辨？行銷話術看起來一模一樣。展示會做得光鮮亮麗。外殼公司說「我們採用先進 AI」，深度 AI 公司也說「我們採用先進 AI」，於是採購團隊挑了價格標籤較低的那一個。
唯有當像 D.K. 這樣的人走進門來時，差別才會顯現。
通用型大型語言模型繼承了它們受訓時所依據的網際網路規模資料集中，每一項根深柢固的偏見。如果數十年的招聘資料反映出對某種說話方式、某種外貌、某種呈現方式之應徵者的偏好，模型不會去質疑那個模式——它會為那個模式進行最佳化。這並不是模型推理上的瑕疵。這就是模型被打造出來要做的事：找出模式，然後複製它們。
我記得曾和我的一位工程師——姑且叫他 Ravi——激烈爭辯過，對抗式去偏是否值得那筆運算開銷。他的立場很務實：「絕大多數應徵者不會觸發那些邊緣案例。我們是在為一個大概只影響 2% 面試的情境增加延遲。」我的回應很直接：「如果你的系統對 98% 的人運作得完美無瑕，卻對另外那 2% 的人系統性地歧視，那你打造的就不是一款有些邊緣案例的好產品。你打造的，是一樁準確率很高的公民權侵害。」
Ravi 後來想通了。但我常常想起那場對話，因為我知道，此時此刻在每一家 AI 公司都正上演著同樣的事，而且在其中大多數公司裡，各個 Ravi 都占了上風。
你到底要如何打造一套不會歧視的 AI？
技術上的答案固然重要，但我想用向朋友解釋的方式來說明它，而不是用我寫在規格文件裡的方式。
我們在 Veriprajna 所打造之事物背後的核心概念，是一種稱為對抗式去偏的做法。想像你同時在訓練兩個 AI 模型。第一個模型——也就是你真正在乎的那個——試圖預測某位應徵者能否勝任某個職位。第二個模型則是一個對抗方。它唯一的任務，就是檢視第一個模型的內部表徵，並試圖猜出應徵者的種族、性別、身心障礙狀態，或任何其他受保護的屬性。
接著，每當對抗方猜中，你就懲罰第一個模型。
歷經數千次訓練循環後，主模型學會做出真正對受保護特徵視而不見的預測——這並非因為你把那些資料點從輸入中移除了（那是天真的做法，而且行不通，因為代理變數依然存在），而是因為模型的內部推理被迫去尋找不經過人口統計資訊、就能抵達其結論的路徑。
反事實公平意味著要證明：即便某位應徵者的受保護屬性——種族、性別、身心障礙——換成不同的樣態，其分數仍會維持一致。這不是一種期許。這是一項數學檢驗。
這與外殼產品所能做到的，有著根本上的不同。你無法把對抗式去偏硬栓到一次 GPT API 呼叫上。你無法回溯稽核一個你並不掌控之模型的內部表徵。你只不過是把文字送進一個黑盒子，然後祈禱輸出結果不帶歧視。祈禱，並不是一套合規策略。
我把完整的技術架構——包括多模態融合的做法，以及正式的公平性度量——都寫進了我們的互動式白皮書，如果你想更深入了解的話。
那場擊沉 D.K. 的模態崩潰
在 HireVue 這樁案子裡，有一個特定的技術性失效，我認為大多數報導都漏掉了，而它正是讓我夜不能寐的那一個。
這套系統受累於研究人員所稱的模態崩潰。在一套多模態 AI 系統中——也就是同時處理視訊、音訊與文字的系統——每一個管道（或稱「模態」）都對最終評估有所貢獻。理論上，這比單一管道的系統更為穩健。如果音訊有雜訊，視訊可以補償。如果逐字稿一團糟，視覺線索可以填補空缺。
但實際上，HireVue 的系統似乎過度倚重音訊管道。當 D.K. 的言語不符合模型所預期的模式時，音訊訊號並不只是貢獻了一個低分——它主宰了整場評估。而視覺管道，那個原本可能捕捉到她的投入程度、她的自信、她的表達力的管道，卻被完全淹沒。
我們用一種我們稱之為模態融合協同去偏的做法來解決這個問題。當我們的系統偵測到某一個模態正在產出低信心的輸出時——比方說語音辨識正吃力地應付一個非標準口音——它不會只是把問題標記出來。它會自動提高其他模態的權重。書面回應會取得更大的影響力。視覺行為線索會取得更大的影響力。受損的音訊管道則影響力變小。
但接下來這一部分，才是我認為最要緊的，而且它一點也不牽涉技術：當我們系統的信心低於某個門檻時，它會轉交給真人。這不是事後的補充。不是埋在設定選單裡的某條「升級路徑」。而是一項核心的架構決策。
D.K. 要求了一名真人聽打員。她被拒絕了。在我們的系統裡，她根本不需要開口要求。系統會意識到自身的局限，並自動引入一名真人。
AI 應該知道自己何時正在失效。HireVue 的系統竟自信滿滿地為一份錯誤率高達 78% 的逐字稿評分，這件事已經把這些工具是如何被打造的——以及它們是為誰而打造的——告訴了你的一切。
當法律迎頭趕上時，會發生什麼事？
多年來，AI 招聘產業一直在一個監管真空中運作。企業可以部署任何它們想要的東西、什麼都不稽核，並在其服務條款中免除自身責任。那個時代正在終結，而且結束得很快。
《科羅拉多州人工智慧法》（SB 24–205），於 2026 年初生效，確立了某項前所未有的東西：對任何開發或部署高風險 AI 系統者，課以法律上的「合理注意義務」。招聘與升遷決策被明確歸類為高風險。該法要求進行年度影響評估，以篩查演算法歧視。這不是自願的。這不是「最佳實務」。這是強制性的。
紐約市的《第 144 號地方法》，早已要求對自動化就業決策工具進行獨立的偏見稽核。加州與伊利諾州也有類似的立法正在推進。歐盟《人工智慧法》將招募 AI 歸類為高風險，並課以透明度與人為監督的要求，且以營收為基準的罰款作為後盾。
然後還有Mobley 訴 Workday 案，這或許是大多數人從未聽聞、卻最具深遠影響的一樁案子。一間聯邦法院認可了一項集體訴訟，並裁定：當一套 AI 廠商的軟體執行傳統上由真人招聘主管處理的職能時，該廠商可被視為「代理人」或「間接雇主」。那單單一項裁決，就摧毀了每一家外殼公司賴以存續的責任防火牆——也就是那個「廠商提供工具、但雇主承擔一切風險」的觀念。
大約一年前，曾有一位潛在投資人告訴我，以合規為先的 AI 是「一門利基市場的生意」。市場想要的是速度與規模，不是可稽核性。我告訴他，市場即將被告到開始想要可稽核性。我認為，ACLU 的這份申訴文件證明了這個論點。
若想了解詳盡的監管分析，以及企業應如何準備的完整框架，技術深度剖析請見此處。
「可是我們的系統通過了偏見稽核」
人們不斷這樣問我——如果一套系統通過了年度偏見稽核，那不就夠了嗎？
不夠。原因如下。
大多數的偏見稽核，都是用四分之五規則來檢驗差別影響：如果某個受保護群體的錄取率，低於錄取率最高群體之錄取率的 80%，那就有問題。這是一個有用的下限，但它是一個糟糕透頂的上限。一套系統可以在總體上通過四分之五規則，卻系統性地虧待某些特定的交織性群體——比方說失聰的原住民女性——因為樣本數太小，不足以觸發那個統計門檻。
D.K. 並不是被一套廣泛歧視女性、或廣泛歧視原住民的系統所辜負。她是被一套無法處理她那份獨特之身分與溝通風格組合的系統所辜負。總體性的公平度量，永遠不可能捕捉到這一點。
這就是為什麼我們把SHAP（SHapley Additive exPlanations，夏普利加法解釋）分析當作一道持續監測的層級來運用，而不是一年打一次勾的檢核項目。SHAP 讓我們得以把每一個單獨的決策，拆解成它的各項貢獻特徵。如果某位應徵者被評了低分，我們可以精確看出是哪些特徵驅動了那個分數。而如果那些特徵與受保護屬性相關、而非與工作相關的能力相關——如果扛起重任的是「韻律」或「言語節奏」，而不是「問題解決能力」或「領域專業」——系統就會即時把自己標記出來，以待矯正。
偏見稽核與持續可解釋性監測之間的差別，就如同一年一次的健康檢查與一台心臟監測儀之間的差別。前者告訴你什麼事已經出了差錯。後者則在還有時間採取行動之際，就抓出問題。
把這件事做錯的真正代價
我想以一件無關乎技術或監管的事，來作為結尾。
當 D.K. 的升遷被否決時，這間公司不只侵犯了她的權利。它還失去了一名績效卓越的員工，一個曾贏得獎金與正面評價的人——一個以每一項人性化的衡量標準來看，都已準備好勝任該職位的人。那套 AI 並沒有讓公司免於一次糟糕的聘用。它讓公司錯失了一次絕佳的聘用。
每當一套帶偏見的系統篩掉一位合格的應徵者——因為一個口音、一項身心障礙、一個名字、一種不符合訓練資料的言語模式——公司面臨的就不只是法律風險。它失去了那個人。它失去了那份觀點、那套解決問題的方式、那份任何程度的「文化契合度」最佳化都無法複製的親身閱歷。
我把 Veriprajna 建立在一項信念之上，而如今我對它的堅信，更甚於當初起步之時：能主宰下一個十年的公司，是那些想通如何把 AI 當作一座通往人才之橋樑——通往它們原本會錯過的人才——而非一道把人才篩掉之濾網的公司。外殼產品的時代，正在自身訴訟的重壓下崩塌。黑盒子的時代，正被立法逐出這個世界。
取而代之的，必須是本質上的不同，而非程度上的不同。不是一款更好的外殼。不是一次提示得更周全的 GPT 呼叫。而是一套根本上不同的架構——一套知道自己何時出錯、能解釋自己為何正確、並在兩者皆不確定時引入真人的架構。
AI 應該是一座通往人才的橋樑，而不是一道阻擋人才的屏障。任何一套分不清身心障礙與能力缺陷之差別的系統，都沒有資格去為人們的職涯做決策。
「先部署、後免責」的時代已經結束。接下來要來的，是更艱難、更緩慢、打造起來更昂貴的東西，也是唯一真正行得通的東西。
