那套意外变成医学检查的招聘算法：当AI性格测评沦为残障筛查
我的一位朋友——一名出色的软件工程师，也是我见过最擅长模式思维的人之一——告诉我，他接连被十一家公司拒绝了。不是在技术面试之后，而是在技术面试之前。他从来没能通过最初的那道"性格测评"。
他是自闭症患者。而那些公司无一例外都在使用同一款AI驱动的筛选工具的某个版本。
2024年5月，当美国公民自由联盟（ACLU）就Aon Consulting向联邦贸易委员会正式提起申诉时，我一直在回想那次对话。这项指控在细节上令人震惊：Aon旗下这套以"无偏见"和促进多元化为卖点的AI招聘工具，很可能实际上充当了一道隐蔽的残障筛查。这些工具衡量诸如"活力""积极性"和"情绪意识"之类的特质。这些特质并不只是模糊的性格维度，它们几乎完美地映照出用于诊断自闭症的临床标准。
当我读完整份申诉时，晚上十一点坐在书桌前，端着一杯已经凉透的印度奶茶，某个困扰了我多年的东西突然豁然开朗。AI招聘行业面对的并不是偏见问题，而是架构问题。任何数量的"负责任AI"品牌包装都无法解决它。
破碎的承诺
近十年来，AI招聘供应商的推销话术既诱人又简单：人类有偏见，算法没有。让机器来决定，你就能得到更公平的结果。
早年间我也曾接受过这套说法的某个版本。当我创办VeriPrajna时，我真诚地相信，只要能把决策过程形式化——剔除凭直觉的判断、"文化契合度"的臆测、对那些让你想起自己的人的无意识偏爱——你就能得到更接近精英选拔制的东西。数学会让我们获得自由。
AI招聘行业面对的并不是偏见问题，而是架构问题。
然后我开始审视这些工具究竟在衡量什么。我意识到，那些数学正在把它声称要消除的偏见原封不动地编码进去——只不过把它们翻译成了一种看起来客观的语言。
Aon的旗舰性格测评工具ADEPT-15从十五个维度评估候选人。诸如"活力"（你外向还是内敛？）、"觉察力"（你能读懂言外之意吗？）、"沉着"（你在压力下冷静还是激动？）以及"灵活性"（你更喜欢一成不变还是变化？）。该工具采用强制选择格式——你在两句陈述之间做出选择——并根据你之前的回答实时调整。
纸面上看，它显得很精密。而实际上，它在问的是：你有多神经典型？
当一款招聘工具映照出临床诊断时，会发生什么？
这就是那晚让我难以入睡的部分。我调出自闭症谱系商数（AQ）——一款标准的临床筛查工具——把它与Aon的ADEPT-15构念定义并排放在一起。这种重叠一点也不微妙，它是结构性的。
AQ衡量社交技能、注意力转换、对细节的关注、沟通和想象力。ADEPT-15衡量"活力""灵活性""条理性""觉察力"和"果断性"。它们不是远房表亲，而是穿着不同外衣的同一批构念。
当一个算法因为某人"内敛"而非"外向"就给他扣分时，它衡量的不是胜任岗位的能力，而是社交表现。而对于一个大脑以不同方式处理社交信息的人——一个自闭症患者、一个多动症患者、一个有社交焦虑的人——来说，这种衡量是一个伪装成测试的陷阱。
ACLU的申诉直言不讳地指出：这些测评"与自闭症/心理健康诊断高度吻合"。根据《美国残疾人法案》（ADA），除非与工作直接相关，否则雇主不得在招聘过程中实施医学检查。如果一项性格测试在功能上与临床筛查工具毫无区别，那它到底算什么？
我记得曾和一位在工业与组织心理学领域深耕多年的同事提起这件事。他的第一反应是辩护——"这些是经过效度验证的心理测量工具。"我回应道：对照什么验证的？对照一个绝大多数是神经典型者的常模样本吗？那不叫效度验证，那叫披着白大褂的循环论证。
视频面试的问题比你想象的更糟
Aon的第二款工具vidAssess-AI，把性格模型叠加在异步视频面试之上。候选人录下自己回答问题的视频。一个NLP引擎转录他们的话语、分析内容，并依据ADEPT-15性格框架为其打分。
问题的真正令人警惕之处就在这里。自然语言处理模型是在海量文本数据集上训练的，而这些数据集绝大多数反映的是神经典型的沟通模式。典型话语的节奏。自信应有的抑扬顿挫。构建叙事的"正常"方式。
我的团队花了数周时间测试不同的言语模式如何与商用NLP系统交互。平淡的语调——自闭症说话者中很常见——被标记为"缺乏热情"。非典型的停顿被解读为"不确定"。非线性的叙事——许多多动症患者天生就是这样组织思路的，在相互关联的想法之间跳跃，然后再绕回来——则被判定为"思维混乱"。
当一个算法因为某人"内敛"而非"外向"就给他扣分时，它衡量的不是胜任岗位的能力，而是社交表现。
这一切都与某人能否胜任这份工作毫无关系。而这一切又都与某人能否在镜头前令人信服地表演出神经典型息息相关。
杜克大学的研究发现，大语言模型系统性地把神经多样性相关词汇与负面含义联系在一起。在某些模型中，"我有自闭症"的负面评分甚至高于"我是银行劫匪"。当这些相同的模型通过API集成为招聘工具提供支持时，它们就把那些联想直接带入了筛选过程。没有开发者是有意为之的，是架构注定了这一结果。
我在我们研究的交互式版本中更深入地写过这背后的技术机理，但简短版本是这样的：你无法通过给一个有偏见的模型套一层外壳来修复涌现出的能力歧视。这种偏见不是bug，而是系统构建方式的一项特性。
我为何不再相信"无偏见"
有一个时刻——我能精确地定位它——我对这件事的思考从"我们需要更好的偏见测试"转变为"整个范式都是错的"。
我们当时正在为一家客户的招聘流程做内部审计。都是些标准操作：人口统计均等检查、不利影响比率，人人都在用的那些指标。数字看起来很干净。各人口群体的录用率都在可接受范围内。客户很满意。他们的法务团队也很满意。
然后我的一位工程师普里娅（Priya）提了一个让整个房间都安静下来的问题："如果那些本会被筛掉的人从一开始就没来申请呢？"
她说得对。我们衡量的是那些通过了性格筛查的人之间的公平。但这道筛查本身早已过滤了候选人池。我们审计的是幸存者，却把它称作公平。
就在那一刻，我理解了AI公平性中"外壳"式做法的根本缺陷。外壳的做法是取一个现成的基础模型——GPT-4或别的什么——让数据从中通过，然后呈现输出。你可以在上面加偏见检查，可以对结果做后处理。但模型的内部表征早已把其训练数据的偏见编码了进去。你是在给一台根本不公平的机器贴上一张公平贴纸。
这些模型训练所依据的招聘数据，反映了数十年来对神经典型的偏好。当模型上线后，它的决策又会反哺进未来的训练集。内敛的候选人被拒绝，于是模型学到"内敛"预示着被拒，于是它就拒绝更多内敛的候选人。循环收紧。偏见叠加。而仪表盘却显示一切正常。
你到底该如何构建一个不会歧视的招聘AI？
这就是我过去几年一直试图回答的问题。不是"如何让AI偏见更少"——那种表述接受了当前架构并试图给它打补丁。真正的问题是：如何构建一个让偏见无处藏身的系统？
我们在VeriPrajna发展出的方法建立在一个核心洞见之上：相关性正是歧视藏身之处。传统机器学习在数据中寻找模式。如果神经典型的沟通风格与被录用相关，模型就会把沟通风格当作值得录用与否的代理变量。它并不知道自己在歧视，它只是在优化。
要打破这一点，你需要的是因果推理，而不仅仅是统计上的模式匹配。
我们使用一种叫做因果表征学习的方法。我们不再问"哪些特征能预测招聘成功？"，而是问"哪些特征能预测招聘成功，而在因果上又不是某个受保护特征的下游产物？"这是一个根本不同的问题，它需要一个根本不同的架构。
可以这样想。把一个候选人的画像想象成一张由相互关联的属性构成的网。有些连接是正当的——工作年限连接到技能水平。但有些连接则穿越了受保护的领地——沟通风格连接到神经类型，神经类型连接到性格测试如何给你打分，打分又连接到你能否获得面试。因果表征学习绘制出这些路径，并从数学上切断那些非正当的连接。
我们把它与对抗训练搭配使用——一种让两个模型相互对抗的技术。一个模型试图预测工作表现。另一个则试图从第一个模型的内部表征中猜出候选人的残障状态。如果对手成功了，就意味着预测器在泄露受保护信息，系统便会惩罚它。在一轮轮训练中，预测器学会做出真正无法被反向工程以揭示某人神经类型的决策。
你无法通过给一个有偏见的模型套一层外壳来修复涌现出的能力歧视。这种偏见不是bug，而是系统构建方式的一项特性。
然后还有反事实测试——我认为在思想上最诚实的部分。我们取一个真实候选人的数据，生成一个只改变受保护特征的合成孪生体，检查模型的推荐是否保持不变。不是问"群体层面的统计是否均衡？"，而是问"如果这个具体的人不是自闭症患者，他会得到不同的结果吗？"这才是ADA真正在问的问题。这也是大多数招聘AI回答不了的问题。
关于这些方法的完整技术剖析——介入不变性背后的数学、对抗损失函数、结构因果模型——请参见我们的技术研究论文。
监管者不再等待了
Aon申诉案清楚无误地表明了一件事："先快速推进、以后再审计"的时代结束了。
联邦贸易委员会的"AI合规行动"（Operation AI Comply）倡议已经促成了针对那些提出无根据AI主张的公司的执法行动。DoNotPay因夸大其AI法律工具的能力而被处以19.3万美元罚款。Rytr则因生成虚假评论而成为打击目标。FTC已明确表态：如果你声称自己的工具"无偏见"，那你最好有实证证据来证明这一点。"我们用大数据训练了它"不算证据，那是一份供词。
与此同时，平等就业机会委员会（EEOC）已把算法歧视列为首要执法重点。他们的立场很明确：雇主对其所购买的AI工具造成的歧视负有法律责任，即便供应商在公平性问题上向他们兜售了一堆空话。你无法把自己的公民权利义务外包给一份软件合同。
有人有时会问我，这种监管压力是否会拖慢AI在招聘中的普及。我认为这是个错误的问题。这种压力拖慢的将是劣质AI的普及。它将加速那些真正能够证明公平性的工具的市场——不是靠营销文案，而是靠可审计的证据。那些投资于严谨架构的公司将拥有巨大优势。那些购买了外壳的公司将收到一张巨额法律账单。
为运作方式不同的大脑而设计
在技术和法律论点之下，还有一个更深层的问题，也是我最在意的一个。
大多数招聘AI建立在残障研究者所称的"医学缺陷"模型之上——即假定神经多样性特质是对某种常态的偏离，需要被检测出来并加以筛除。整个架构预设了大脑存在一种"正确的"运作方式，而算法的任务就是找到大脑以那种方式运作的候选人。
这不仅在伦理上破产，在战略上也是愚蠢至极。
神经多样性个体往往恰恰擅长企业口口声声说自己求贤若渴的那些能力：深度的模式识别、对细节的持续关注、突破常规框架的创造性问题解决。一个筛查"活力"和"社交大胆"的招聘系统，正在系统性地过滤掉那些最有可能看到别人所忽视之处的人。
在VeriPrajna，我们已经开始构建我称之为时间弹性测评系统的东西。系统不再拿每个候选人去与神经典型的基准线相比较——平均反应时间、典型的说话节奏、预期的情绪表达——而是在互动的早期阶段为其建立一条个体化的基准线。它学习的是对这个人而言"正常"是什么样子，而不是对某个抽象的平均值而言。
我们还大力倡导一件本应显而易见的事：每一次自动化测评都必须包含一个清晰、无惩罚的选项，以请求人工替代方案。ADA要求提供合理便利。但抛开法律合规不谈，这本身就是好的工程实践。任何一个在用户请求不同界面时就崩溃的系统，都是一个脆弱的系统。
没人愿意回答的那个问题
当我展示这项工作时，总会有一个令人不适的沉默时刻。它通常出现在我指出这一点之后：那些财富500强公司用来"改善多元化"的同一批AI工具，可能正在系统性地排斥残障候选人。房间里的某个人——通常是签下那份供应商合同的人——会在座位上不自在地挪动。
令人不适的真相是，大多数企业从未为残障偏见审计过它们的招聘AI。它们检查过种族和性别差异，因为那些是监管者历来关注的指标。但神经多样性呢？它甚至根本不在仪表盘上。
Aon申诉案改变了这一点。不是因为Aon格外糟糕——它们代表的是整个行业的做法。它之所以改变局面，是因为它点明了机制。它精确展示了一项"性格测评"是如何变成一道残障筛查的。而一旦你看到了它，你就再也无法视而不见。
任何使用性格代理算法来筛选候选人的公司，都在系统性地过滤掉那些恰恰推动创新的人才。
我想起我那位朋友——那位过不了性格筛查的出色工程师。他最终被一家改用现场技术测评的公司录用了。不到六个月，他就重新设计了他们的整个数据管线。那十一家拒绝他的公司，错过的不只是一位优秀的员工。它们是被一个算法告知，他连交谈的价值都没有。
那不是一个偏见问题，那是一个坏掉的系统在告诉自己它运转正常。
接下来会走向何方
Aon与ACLU的申诉案不是某件事的终点，而是一场清算的开端，这场清算将重塑每一家企业对AI在人力资本决策中作用的思考方式。
等到这一波执法与诉讼浪潮达到顶峰时，仍然屹立不倒的将是那些把AI治理当作一门工程学科、而非一场公关演练的公司。是那些要求因果逻辑而非相关性的公司。是那些为个体公平、而不仅仅是人口统计均等而审计的公司。是那些为人类认知的完整谱系、而不仅仅是恰好与训练数据相匹配的那一小片而设计的公司。
我创办VeriPrajna并不是为了打造合规工具。我创办它，是因为我相信AI能够成为招聘史上最强大的平等化力量——但前提是我们把它构建对。不是在有偏见的模型上套外壳。不是把性格代理装扮成心理测量。而是能够理解一个人能做什么与其大脑恰好如何连接之间差异的深度系统。
那个把我朋友拒绝了十一次的算法并不邪恶，它只是肤浅。而在招聘中，肤浅与歧视是一回事。
我们能够构建得更深。我们必须如此。
