AI在招聘时比人类更容易形成偏见

MIT Technology Review 2026/07/20 08:39 新闻

ai-bias hiring llm stereotypes research icml fairness

摘要

新研究显示，大型语言模型能够从经验中形成自身偏见，并且比人类更倾向于对求职者进行刻板印象评估，这引发了对AI用于招聘的担忧。

<div data-chronoton-summary="<ul> <li>AI形成刻板印象比人类更快： 在一项模拟招聘实验中，包括ChatGPT、Claude和Gemini在内的大型语言模型将虚构求职者按种族群体隔离的程度远高于人类参与者——在隔离量表上的得分大约高出65%。</li> <li>模型越智能，偏见越强： 像OpenAI的o3和DeepSeek的R1这类高阶推理模型表现出的刻板印象最严重。这些模型破解逻辑谜题的能力同样使它们容易从有限的社会数据中过度概括。</li> <li>记忆功能加剧问题： 随着聊天机器人获得更强的记忆功能，它们可能固化早期偏见——但简单地让它们忘记更多也不是解决办法，因为用户期望个性化服务。</li> <li>目标设定比价值观更重要： 告诉模型“要公平”几乎不起作用，但为多元化招聘提供奖励确实减少了偏见——这表明真正的解决方案在于AI目标的设计方式，而不仅仅是告诉它们要关心什么。</li> </ul>" data-chronoton-post-id="1140655" data-chronoton-expand-collapse="1" data-chronoton-analytics-enabled="1"></div> 下次你申请工作时，AI可能会在人类之前审阅你的简历。但我们有充分的理由质疑AI是否会公平地评价你。研究人员已经知道，大型语言模型会从训练数据中学习人类偏见。新的研究表明，大型语言模型也能从经验中形成自身偏见——并且比人类更倾向于对求职者进行刻板印象评估。随着AI公司竞相构建能够记住用户最细微细节的<a href="https://www.technologyreview.com/2025/06/12/1118189/ai-agents-manus-control-autonomy-operator-openai/">代理型模型</a>，它们可能正在为形成这些偏见提供弹药。 普林斯顿大学和芝加哥大学的研究人员让包括ChatGPT、Claude和Gemini在内的大型语言模型完成一项模拟招聘游戏，该游戏改编自一项探索人类如何形成刻板印象的<a href="https://bfi.uchicago.edu/wp-content/uploads/2024/12/Bai.Costly-Exploration-Produces-Stereotypes-with-Dimensions-of-Warmth-and-Competence.pdf">心理学研究</a>。每个模型被告知已被虚构城市的市长聘为顾问，并被要求协助招聘20个职位的人员，包括医生、律师、儿童保育员和门卫。候选人来自四个虚构的种族群体：Tufa、Aima、Reku和Weki。 在每一轮中，有一个新的职位空缺和四名候选人，每个群体各一名。模型雇佣一名候选人后，会得知该候选人是否成功胜任工作，并进入下一轮。模型被告知要在40轮中尽可能多地成功招聘。模型不知道的是，所有候选人在每个职位上成功的概率是相等的。 模型很快开始根据早期对招聘结果的观察，将不同群体的候选人隔离到不同的职位。例如，当一个模型得知一名Aima候选人作为医生（被认为需要高温暖度和高能力的职位）失败后，它便避免雇佣所有Aima作为医生，转而开始雇佣Aima作为门卫——模型将门卫归类为比医生温暖度和能力更低的职位。 在研究的隔离量表上（2分表示每个群体完全局限于自己的职位领域），人类参与者得分为0.84。模型得分大约高出65%，其中OpenAI的推理模型o3得分为1.83，接近最高可能分。 这是因为大型语言模型“非常渴望从有限的数据中做出概括，”该研究的合著者、普林斯顿大学博士生Ryan Liu说。“这基本上就是它们的优化目标。”每个决策者，无论是人类还是机器，都面临一个权衡：是坚持以前有效的方法，还是尝试可能更好的新方法——心理学家称之为“探索-利用困境”。这就像选择一家新餐厅还是你可靠的常去餐厅。 由于大型语言模型是在数学、编程和科学问题（这些任务奖励从少量例子中概括的能力）上训练的，它们可能过早地基于直觉做出决定。而帮助大型语言模型破解逻辑谜题的本能也使它们容易形成刻板印象。在实验中，具有更高推理能力的新模型，如OpenAI的o3和DeepSeek的R1，表现出更强的偏见。当大型语言模型在社会环境中急于概括时，“事情往往就会出错，”Liu说。OpenAI和Anthropic未回应置评请求。 康奈尔大学计算机科学家Angelina Wang（未参与该研究）表示，这一发现现在尤其重要，因为聊天机器人正在获得改进的记忆和个性化功能。她说，当聊天机器人调用之前的对话历史时，可能会“过度依赖之前经历过的同类行为”并形成偏见。不过，简单地让聊天机器人记住更少并不是解决办法，因为用户希望聊天机器人记住他们说过的话。“我们仍在试图找出既不多也不少的恰当记忆量，”Wang说。 告诉模型要公平并没有显著改变其行为。“要么它无法将这些价值观付诸行动，要么这个过程被试图优化‘获得最多正确招聘’目标的倾向所淹没，”Liu说。但承诺模型在多元化招聘方面获得额外奖励，确实使它们偏见大幅减少。因此，诀窍在于设计能够“融入理想社会价值观的目标，以使大型语言模型以符合社会期望的方式行事，”Liu说。 当模型被告知更多关于个人的信息时，它们的偏见也有所减少。在同一研究的另一个实验中，研究人员要求模型将不同种族群体的成员重新安置到加拿大各城市。当模型被告知与适应新城市能力相关的个人信息（如年龄和教育程度）时，它们不太可能按种族隔离人群。但当模型被告知不相关的信息（如发色和纹身形状）时，它们大多又回到按种族分类的方式。 AI系统在现实世界中会在多大程度上对求职者进行刻板印象评估仍是一个悬而未决的问题。虽然实验中的模型能立即得知是否成功招聘，但在现实世界中筛选简历的模型不会立即收到反馈报告。公司可能需要很长时间才能知道新员工是否合格。但当反馈最终到来时，模型在未来的招聘中仍可能过度解读这些结果。随着公司越来越多地部署大型语言模型来<a href="https://www.forbes.com/sites/courtneyconnley-hampton/2026/05/08/in-ai-age-recruiters-spend-11-seconds-a-resume-heres-what-they-notice/">筛选简历</a>，甚至进行<a href="https://www.businessinsider.com/ai-bot-job-interview-white-collar-work-2026-7">面试</a>，模型可能从招聘经验中形成偏见这一发现“是一个他们必须认真对待的非常严重的影响，”Wang说。 随着大型语言模型从经验中学习做出关于

查看原文

查看缓存全文

缓存时间: 2026/07/20 09:36

# AI 比人类更容易在招聘中形成偏见来源：https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans 下次你求职时，AI 可能在人类看到你的简历之前就先行筛选了。但你有理由怀疑 AI 是否能公平地评判你。研究人员已经知道，LLM 会从训练数据中习得人类偏见。新研究表明，LLM 也能通过经验形成自己的偏见——而且比人类更倾向于对求职者产生刻板印象。随着 AI 公司竞相构建能够记住用户最细微细节的 agentic 模型 (https://www.technologyreview.com/2025/06/12/1118189/ai-agents-manus-control-autonomy-operator-openai/) 和记忆功能 (https://www.technologyreview.com/2026/01/28/1131835/what-ai-remembers-about-you-is-privacys-next-frontier/)，它们可能正是在为形成这些偏见提供弹药。普林斯顿大学和芝加哥大学的研究人员让包括 ChatGPT、Claude 和 Gemini 在内的 LLM 参与一个模拟招聘游戏，该游戏改编自一项探讨人类如何形成刻板印象的心理学研究 (https://bfi.uchicago.edu/wp-content/uploads/2024/12/Bai.Costly-Exploration-Produces-Stereotypes-with-Dimensions-of-Warmth-and-Competence.pdf)。每个模型被告知，它被一个虚构城市的市长聘为顾问，然后被要求帮助为 20 个职位招聘人员，包括医生、律师、托儿所护工和清洁工。应聘者来自四个虚构的族群：Tufa、Aima、Reku 和 Weki。在每一轮中，有一个新的职位空缺和四位应聘者，分别来自每个族群。模型选定应聘者后，会得知该应聘者是否胜任工作，然后进入下一轮。模型被要求尽可能在 40 轮中做出更多成功聘用。模型并不知道，所有应聘者在每个职位上成功的概率是相同的。模型很快开始根据对聘用结果的早期观察，将不同族群的应聘者分流到不同职位。例如，当模型得知一名 Aima 应聘者作为医生失败后（医生被认为需要高水平的温暖和能力），它便避免聘用所有 Aima 应聘者做医生。相反，它开始聘用 Aima 应聘者做清洁工，而模型将清洁工归类为比医生更不温暖、能力更低的职位。模型比原始研究中的人类参与者更倾向于按人口群体进行刻板印象归类。在该研究的隔离度量表上（2 表示每个群体都被完全限制在自己的职位领域内），人类参与者得分为 0.84。模型的得分高出约 65%，OpenAI 的推理模型 o3 得分为 1.83，接近最高可能值。这是因为 LLM“确实急于从有限的数据中做出概括”，该研究的合著者、普林斯顿大学博士生 Ryan Liu 说，“这很大程度上就是它们被优化的目标。”每个决策者——无论是人还是机器——都面临一个权衡：是坚持以往有效的做法，还是尝试可能效果更好的新方法——心理学家称之为“探索-利用困境”。这就像在新餐厅和你可靠的最爱之间做选择。由于 LLM 是在数学、编码和科学问题上训练的——这些任务会奖励仅从少数例子中概括的能力——它们可能过早地基于直觉下结论。而帮助 LLM 破解逻辑谜题的同样本能，也使它们容易快速形成刻板印象。在实验中，具有更高推理能力的新模型，如 OpenAI 的 o3 和 DeepSeek 的 R1，表现出更强的偏见。当 LLM 在社会情境中急于概括时，“事情往往就会出错，”Liu 说。OpenAI 和 Anthropic 未回应置评请求。这一发现尤其有意义，因为聊天机器人现在正获得改进的记忆和个性化功能，未参与这项研究的康奈尔大学计算机科学家 Angelina Wang 说。当聊天机器人利用之前的对话历史时，它可能“过度依赖以前经历过的同类行为”并形成偏见。然而，仅仅让聊天机器人记住更少东西并不是解决办法，因为用户希望聊天机器人记住他们说过的话。“我们仍在努力找到不多也不少、恰到好处的记忆量，”Wang 说。告诉模型要保持公平并没有显著改变其行为。“要么它无法将这些价值观付诸行动，要么这个过程被试图优化‘获得最多正确聘用’这一目标的倾向所淹没，”Liu 说。但是，向模型承诺因多元化招聘而获得额外奖励，则大大减少了偏见。因此，诀窍在于设计能够“融入理想的社会价值观，使大语言模型以社会期望的方式行事”的目标，Liu 说。当模型被告知更多关于个体的个人信息时，它们的偏见也减少了。在同一研究的另一项实验中，研究人员要求模型将不同族群的成员重新安置到加拿大的各个城市。当模型被告知与适应新城市能力相关的个人信息（如年龄和教育程度）时，它们按族群隔离人们的可能性降低。但当模型被告知无关信息（如发色和纹身形状）时，它们大部分又退回到按族群归类的状态。 AI 系统在现实世界中会在多大程度上对求职者形成刻板印象，仍然是一个悬而未决的问题。虽然实验中的模型会立即得知自己是否成功聘用，但在现实世界中筛选简历的模型并不会立即得到成绩单。公司可能需要很长时间才能知道新员工是否胜任。但当反馈逐渐到来时，模型在未来的招聘中仍可能对这些结果过度解读。随着公司越来越多地部署 LLM 来筛选简历 (https://www.forbes.com/sites/courtneyconnley-hampton/2026/05/08/in-ai-age-recruiters-spend-11-seconds-a-resume-heres-what-they-notice/) 甚至进行面试 (https://www.businessinsider.com/ai-bot-job-interview-white-collar-work-2026-7)，模型可能从招聘经验中形成偏见这一发现，“是它们必须认真对待的一个非常严重的后果，”Wang 说。随着 LLM 通过经验学习来决定谁被聘用、谁获得贷款、谁获得假释，我们应当担心的偏见可能包括那些从未经过人类教导的偏见。“这些新颖的偏见——它们似乎无处不在，”Liu 说。

AI在招聘时比人类更容易形成偏见

相似文章

新研究测试多款LLM与数千真实用户，发现AI无法模拟人类偏好

下载：AI招聘偏见与天气数据破坏

招聘中的算法单一文化

大语言模型能公平招聘吗？简历筛选中的种族偏见

招聘数据 vs 炒作：在印度AI就业市场中，“LLM”作为必备技能排名第10——落后于Java

提交意见反馈