AI 招聘工具可能歧视残疾求职者

问题所在

Aon 的 AI 招聘工具在"活力"一项上给自闭症候选人打了低分。2024 年 5 月,美国公民自由联盟(ACLU)向联邦贸易委员会正式投诉了 Aon Consulting。ACLU 指控 Aon 将其 AI 驱动的招聘评估宣传为"无偏见",并声称它们"提升多样性"且"无不利影响"。而实际上,这些工具很可能基于种族和残疾筛除合格的候选人。

事情经过如下。Aon 开发了一套名为 ADEPT-15 的人格测试,用于测量 15 项特质,包括"积极性"、"情绪觉察"和"活力"。ACLU 发现,这些特质与自闭症及心理健康状况的临床诊断标准高度吻合。如果你被评为"内敛"而非"外向",算法就会给你减分。它不会询问你的残疾情况。它也无需询问。数学运算会自动完成这种歧视。

Aon 还部署了一款名为 vidAssess-AI 的视频面试工具。它使用自然语言处理——一种解读口语的软件——来根据那些相同的人格特质给候选人打分。对于说话时语调平淡或停顿异常的自闭症人士,AI 可能将这些模式解读为"缺乏自信"。这款工具制造了投诉中所描述的"双重危险":候选人既根据他们的回答受到评判,又根据一个经过带偏见的语言模型过滤、由机器解读的人格版本受到评判。

这项投诉得到了自闭症自我倡导网络(Autistic Self-Advocacy Network)及其他民权团体的支持。这不是一场边缘诉讼。它是一个信号:不受约束的算法招聘时代已经结束。如果贵公司使用 AI 来筛选求职者,你需要了解这里出了什么问题。

为何这对贵公司的业务至关重要

带偏见的 AI 招聘工具所带来的财务和法律风险巨大且日益增长。请看这些数字:

• EEOC(平等就业机会委员会)在 2024 财年为歧视受害者争取到了数亿美元的金钱赔偿。算法偏见如今已成为首要的执法重点。
• FTC 因 DoNotPay 对其 AI 能力作出无根据的宣称而对其处以19.3 万美元的罚款。该机构有权永久禁止企业销售高风险软件。
• 到 2027 年,全球人才经济的价值将达到300 亿美元。无法证明其招聘工具公平的公司将失去接触顶尖候选人的机会。
• Aon 的 ADEPT-15 测试从一个包含35 万个独特条目的数据库中提取内容来评估人格。系统的规模之大,使得在没有专门工具的情况下几乎无法对其进行审计。

你的法律风险并不止于供应商。EEOC 已明确指出,雇主须对其从第三方购买的 AI 工具所造成的歧视承担法律责任。购买一款"无偏见"的工具并不会转移你的责任。它反而会加大你的责任。

以下是这对贵组织意味着什么:

• 诉讼风险:针对贵公司招聘流程(而不仅仅是供应商产品)的集体诉讼和 EEOC 投诉。
• 监管罚款:FTC 的"AI 合规行动"(Operation AI Comply)计划正在积极执行对 AI 宣称的证实要求。
• 声誉损害:一项将贵公司与残疾歧视挂钩的公开投诉,可能在一夜之间侵蚀雇主品牌。
• 人才流失:神经多元的个体往往在模式识别、注重细节和创造性解决问题方面表现出色。带偏见的筛选恰恰会滤除那些推动创新的人。

如果你的 AI 供应商无法提供其工具不存在歧视的实证证据,你就是在资产负债表上背负着无法量化的风险。

底层实际发生了什么

可以把大多数 AI 招聘工具想象成一面哈哈镜。它们反映出某种真实的东西——你的资历——但这个映像被镜子的形状扭曲了。此处的"形状"就是训练数据,它压倒性地反映了神经典型的行为模式。

核心的失灵在于所谓的"递归偏见循环"。机器学习模型在历史招聘数据上进行训练。这些数据反映了几十年来对神经典型沟通方式的偏好。当 AI 部署上线后,它的决策又反馈回未来的训练集。那些"看起来像"过往成功录用者的候选人在算法中得到提升。其他所有人都被滤除。偏见随时间不断累积。

杜克大学的研究发现,大语言模型——许多招聘工具背后的 AI 引擎——会系统性地将神经多元相关的词汇与负面含义相关联。"我有自闭症"这句话被这些模型视为比"我是银行劫匪"更负面。当这些相同的语言模型通过 API 连接驱动招聘工具时,它们就把歧视性的关联嵌入了你的招聘流程之中。开发者从未有此意图。是数据自动造成的。

Aon 的 ADEPT-15 恰恰印证了这一点。它沿着"内敛与外向"和"冷静克制与富有同情"这样的两极来映射 15 项人格构念。ACLU 将这些构念与自闭症谱系商数(AQ)——一套标准的 50 项临床筛查工具——进行了对照映射。二者的重叠不容否认。当一套招聘算法提出与临床标准相呼应的问题时——比如"我会高度专注于细节"或"我更喜欢独自工作"——它就在残疾身份与招聘结果之间创造了一条隐藏的通道。算法从不询问是否有诊断。它无需如此。

一个简单的"外壳"——一种把你的数据传给像 GPT-4 这样的基础模型再呈现输出的工具——无法解决这个问题。外壳会继承其底层模型的偏见。它们缺乏能力去区分真正的岗位资历与那些同受保护特征相关的噪声。

什么有效(以及什么无效)

三种常见但失败的做法:

• "我们用大数据训练,所以它是公平的。" 更多的数据并不意味着更少的偏见。如果你的训练数据反映了 30 年来对神经典型的招聘偏好,你的模型就会大规模复制这些偏好。
• "我们的供应商给了我们一张模型卡。" 供应商提供的文档不是独立审计。Aon 一案表明,"无不利影响"的营销宣称可能与工具的实际表现直接相矛盾。
• "我们从输入中移除了受保护字段。" 当"活力"和"情绪觉察"这类特质充当代理变量时,从数据中移除残疾身份也无济于事。算法会找到后门。

真正有效的是一套三步走的方法,它切断受保护特征与招聘决策之间的关联:

1. 绘制隐藏通道图(输入)。 使用结构因果建模——一种描绘不同数据点如何相互影响的方法——来识别残疾身份可能影响招聘结果的每一条路径。这不是一次统计检验。它是对你整个评估流水线的因果映射图。你的目标是在监管者替你找到代理变量之前,先找到它们。

2. 从模型逻辑中剥离受保护信息(处理)。 部署对抗性去偏——一种技术,其中第二个 AI 模型试图从主模型的内部数据中猜出候选人的受保护特征。如果第二个模型成功了,说明主模型仍在泄露受保护信息。系统会惩罚主模型,迫使它去遗忘带偏见的模式。这对视频和 行为信号充当残疾代理的人格评估尤为有效。

3. 用反事实模拟检验每一个决策(输出)。 生成一个真实候选人数据的合成变体。只改变敏感属性——例如,从神经典型切换到神经多元的言语模式——同时保持所有其他变量不变。如果 AI 的推荐结果发生了变化,你就存在公平性缺陷。这为你的 合规团队提供了一条具体的审计轨迹 ,覆盖每一个招聘决策。

审计轨迹是对你的法律与合规团队最重要的东西。群体层面的统计数据——"我们 10% 的录用者是残疾人"——是不够的。你需要个体层面的证据,证明每一位候选人都受到了平等对待。反事实模拟提供了这一点。当 EEOC 或 FTC 询问你的系统为何拒绝某一特定候选人时,你可以把数学运算摆出来给他们看。

根据 NIST AI 风险管理框架, 人力资源与人才技术领域的组织 应力争达到"自适应"(Adaptive)成熟度。这意味着要有一套记录在案的流程,用于追踪歧视漂移——即 AI 模型随着与真实世界数据交互而随时间变得更加带偏见的现象。每年进行的独立偏见审计(而非供应商的自我报告)必不可少。每一次自动化评估都应包含一个明确的选项,让候选人无需承担不利后果即可请求人工替代方案。

你可以 阅读完整的技术分析 ,以更深入地了解因果建模和对抗性去偏方法。此外,还为你的团队提供了一个 交互式演练 。