招聘中的算法单一文化

# 招聘中的算法单一文化 来源：https://algorithmichiring.github.io/ 论文（https://arxiv.org/abs/2605.27371）代码（https://github.com/rishibommasani/HiringAlgorithms）博客（https://hai.stanford.edu/news/ai-hiring-tools-can-yield-racial-bias-and-systemic-rejection）引用（https://algorithmichiring.github.io/#citation） 超过90%的美国雇主依赖（https://www.weforum.org/stories/2025/03/ai-hiring-human-touch-recruitment/）招聘算法筛选求职者。许多不同雇主使用来自同一少数供应商的算法。我们开展了规模最大的招聘算法实证研究，数据涵盖**340万真实求职者**提交的**400万份申请**，涉及**156家雇主**、**11个市场行业**。每份申请均由同一供应商的算法评估：我们测试这种**算法单一文化**是否形成了求职机会的瓶颈。我们首次在大规模数据中证明，高风险的招聘决策中存在种族差异和同质化结果。 --- ## 主要发现 1**对亚裔和黑人的大规模不利影响。** 我们首次在实际部署的招聘算法中证明不利影响，这是真实高风险AI决策中不公平结果的最大规模实证之一。**25.87%** 由黑人求职者提交的申请，以及**14.74%** 由亚裔求职者提交的申请，被导向对其产生不利影响的职位（依据美国相关就业法律《民权法案》第七章（https://www.eeoc.gov/statutes/title-vii-civil-rights-act-1964）的标准）。 2**不利影响仅通过按职位逐项分解分析得以揭示。** 尽管由于数据获取限制，招聘算法的实证研究非常受限，但先前的研究显示（https://dl.acm.org/doi/10.1145/3442188.3445928），当将供应商数据整体分析时，不利影响很小。通过依据《民权法案》第七章的标准分别研究每个职位，我们识别出那些在总体分析中被掩盖的、表现不利影响的职位。 3**招聘中的算法单一文化导致系统性拒绝。** 我们首次在已部署的招聘算法中证明系统性拒绝，这与先前关于算法单一文化的理论（https://arxiv.org/abs/2211.13972）研究（https://www.cambridge.org/core/journals/canadian-journal-of-philosophy/article/algorithmic-leviathan-arbitrariness-fairness-and-opportunity-in-algorithmic-decisionmaking-systems/3AA0ECA77F8622488E9DB0834287215B）所（https://scholarship.law.unc.edu/aidr_collection/11/）提出的假设一致。观察到的系统性拒绝率显著高于统计独立决策的基线率，尽管在缺乏集中算法单一文化的其他招聘数据中，该基线准确预测了观察到的系统性拒绝率。 4**数据获取障碍限制了招聘算法的独立研究。** 我们是第一个也是唯一一个独立开展大规模部署招聘算法实证研究的团队，尽管招聘算法中介了高风险决策并被广泛采用。鉴于数据障碍，可能需要政策干预来促进科学探究，并增强对这一高影响力AI应用场景的问责。 --- ## 算法招聘流程 许多雇主从相同的第三方供应商采购招聘算法。超过60%的财富100强企业使用HireVue的算法。当来自同一供应商的招聘算法在多家雇主之间中介招聘决策时，它们就构成了**算法单一文化**。 展示AI中介招聘流程的图表，说明求职者如何被多家雇主共享的算法筛选**图1.** 工作申请由招聘AI评估，以决定推荐或不推荐。如果求职者未被算法推荐，则很可能会被拒绝，无需人工进一步考虑。 --- ## 揭示不利影响 美国《民权法案》第七章规范招聘中的歧视。先前的研究（https://dl.acm.org/doi/10.1145/3442188.3445928）发（https://link.springer.com/article/10.1007/s43681-022-00208-x）现在整体招聘算法数据中发现的不利影响非常有限。我们通过分别研究每个职位，揭示了此前被忽视的不利影响。黑人求职者最可能受到不利影响：30%的黑人求职者至少申请了一个对黑人求职者表现不利影响的职位。从总体影响来看，亚裔求职者面临的最大缺口：如果每个职位上亚裔被选中的比率与选中率最高的种族群体相同，那么会有29,000份额外的亚裔申请获得推荐。 各求职群体中的不利影响**图2.** 根据《民权法案》第七章的五分之四规则，在职位层面（左）和申请/求职者层面（中）衡量的不利影响。缺口（右）是指如果受不利影响的种族群体以与选中率最高群体相同的比率被选中时，本应被选中的申请数量。 --- ## 识别系统性拒绝 当求职者申请多个职位时，他们可能收到相同的结果。算法单一文化可能使这种结果最易发生。如果是这样，求职者所有申请都被拒绝的系统性拒绝尤其令人担忧。在提交4份申请的求职者中，10%被系统性拒绝。观察到的系统性拒绝率显著高于独立决策下的基线率（χ2=18,481，*p*<0.001）。 显示系统性拒绝率超过基线预测的图表**图3.** 招聘AI数据中的系统性拒绝率。观察到的比率始终超过基线：对同一供应商的共同依赖导致同质化结果。为了将观察到的系统性拒绝率置于背景中，我们引入了独立决策的基线（Toups等，2023（https://arxiv.org/abs/2307.05862））。为了测试该基线的预测能力，我们使用了此前最大规模招聘研究的数据（Kline等，2022（https://www.nber.org/papers/w29053）），该研究向108家财富500强企业发送了83,000份申请。基线准确预测了观察到的比率（χ2=20.05，*p*=0.69）。因此，过度的同质性正是集中式算法评估的特征。 Kline等研究中与基线预测匹配的系统性拒绝率**图4.** 来自Kline等（2022）（https://www.nber.org/papers/w29053）数据的系统性拒绝率。与招聘算法数据不同，基线准确预测了观察到的比率。 --- ## 模拟反事实结果 如果求职者的申请范围比实际更广，会发生什么？这会降低他们被系统性拒绝的可能性吗？当求职者申请所有职位时，我们发现至少有一个模型会推荐他们。但在更现实的行为下，求职者需要提交25份申请，才能以99.9%的概率确保至少获得一次推荐——相比之下，独立决策只需10份申请。 模拟在更广泛的申请行为下系统性拒绝率的图表**图5.** 模拟的系统性拒绝率：如果求职者按照实际情况申请，以及如果他们也申请相邻的、共享求职者的模型。 --- ## 政策建议 招聘AI受就业歧视法律、通用AI法规以及针对算法招聘的具体规则管辖。在美国，《民权法案》第七章已经以具体工作岗位（https://www.ecfr.gov/current/title-41/subtitle-B/chapter/60/part-60-3/subject-group-ECFR34f59e83ab36f01/section-60-3.15）而非混合汇总数据来评估不利影响。更广泛地说，招聘系统正日益被归类为高风险AI（https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689），包括在欧盟AI法案下。在市政层面，纽约市地方法144号建立了监管自动化就业决策工具的早期框架，但当前指南（https://codelibrary.amlegal.com/codes/newyorkcity/latest/NYCrules/0-0-0-138393）并未充分解决我们记录的职位层面影响。 1 **按职位衡量不利影响。** 监管机构和审计人员应在个别职位层面评估不利影响比率。仅进行总体分析可能掩盖差异影响。 2 **加强市场监测。** 联邦机构应量化同质化结果的发生率。如果没有跨雇主的链接，现有报告将无法捕获系统性拒绝。 3 **监控算法单一文化。** 政策制定者应监控招聘供应链中的共享依赖关系。对相同系统的集中依赖可能导致相关失败、系统性拒绝以及招聘竞争的减少。 4 **扩大研究人员访问权限。** 立法者应促进对主要招聘平台的独立研究，包括底层数据访问。没有基于实证的外部调查作为基础，问题将难以诊断，更不用说纠正了。 --- ## 引用 @article{bommasani2026algorithmic, title={Algorithmic Monocultures in Hiring}, author={Bommasani, Rishi and Bana, Sarah H. and Creel, Kathleen A. and Jurafsky, Dan and Liang, Percy}, booktitle={Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency}, year={2026} }