识别基于LLM的聊天AI对智障人士的隐性偏见

arXiv cs.AI 论文
implicit-bias llm chat-ai intellectual-disabilities bias-detection gpt-4 ai-ethics

摘要

这篇arXiv论文通过生成并分析五个LLM的25,000个故事，调查了基于LLM的聊天AI对智障人士的隐性偏见。研究结果揭示了诸如幼态化、家长式作风和依赖性等负面偏见，凸显了在AI开发中减少偏见的必要性。

arXiv:2607.26062v1 公告类型：交叉 摘要：背景：本研究调查了基于大型语言模型（LLM）的聊天AI模型对智障人士（ID）是否存在隐性偏见。 目的：本研究旨在识别和衡量与智障人士相关的表征差异，并对其进行考察，以识别AI聊天生成技术中固有的隐性偏见。 方法：利用GPT-4-Turbo模型，我们基于10个提示词干，在有无智障描述符的情况下请求故事生成。此过程使用另外四个LLM（OpenAI GPT-4o、Meta Llama-3-3-70B-Instruct、Anthropic Claude-3-5-Sonnet和Mistral-Large-2411）重复进行。使用一个独立的GPT-4-Turbo模型实例对生成的25,000个计算机故事进行分析，以检测与先前文献中描述的偏见主题相关的人物表征差异。 结果：我们的研究结果揭示了在有无智障描述符的故事数据集之间，人物表征存在差异。这些差异超出了智障的既定特征，并暗示存在大多数为负面的隐性偏见。已识别的差异包括：将智障人士视为更年轻，带有家长式作风和幼态化主题；将他们描绘为更具启发性和象征性；更常需要帮助、依赖他人、被拯救；以及对他们持有负面看法，并更犹豫是否接纳他们。 结论：这些隐性偏见在以往对智障人士歧视的背景下被考量，并强调在AI开发中对智障人士的隐性偏见保持警惕的必要性。本研究凸显了在决策技术中评估和减轻隐性偏见的重要性，以防止未来的社会危害。
查看原文
查看缓存全文

缓存时间: 2026/07/31 04:01 

# 识别基于LLM的聊天AI对智力障碍人士的隐性偏见
来源：https://arxiv.org/abs/2607.26062  
查看PDF（https://arxiv.org/pdf/2607.26062）

> 摘要：背景：本研究调查了基于大语言模型（LLM）的聊天AI模型对智力障碍（ID）人士是否存在隐性偏见。目的：本研究旨在识别和衡量与智力障碍人士相关的表征差异，并对其进行考察，以发现AI聊天生成技术中固有的隐性偏见。方法：我们使用GPT-4-Turbo模型，基于10个提示词干（含和不含智力障碍描述符）生成故事。此过程使用另外四个LLM（OpenAI GPT-4o、Meta Llama-3-3-70B-Instruct、Anthropic Claude-3-5-Sonnet和Mistral-Large-2411）重复进行。使用一个单独的GPT-4-Turbo模型实例对生成的25,000个计算机故事进行分析，以检测人物表征方式上的差异，这些差异与以往文献中描述的偏见主题相关。结果：我们的研究结果揭示了在含与不含智力障碍描述符的故事数据集之间，人物表征方式存在差异。这些差异超出了智力障碍的既定特征，表明存在大多数为负面的隐性偏见。识别出的差异涉及：将智力障碍人士视为更年轻，带有家长式作风和幼稚化的主题；将他们描绘得更具激励性和象征性；更频繁地需要帮助、依赖他人和被拯救；以及对他们持有负面看法并在纳入他们时更加犹豫。结论：这些隐性偏见是在过去对智力障碍人士歧视的背景下考虑的，并强调了在AI开发中对智力障碍人士的隐性偏见保持警惕的必要性。本研究强调了评估和减轻决策技术中隐性偏见的重要性，以防止未来的社会危害。

## 提交历史

来自：Karly Coffey [查看邮件](https://arxiv.org/show-email/f6d209b6/2607.26062) **[v1]** 2026年6月16日星期二 20:30:06 UTC（936 KB）

相似文章

AI在招聘时比人类更容易形成偏见

MIT Technology Review

新研究显示，大型语言模型能够从经验中形成自身偏见，并且比人类更倾向于对求职者进行刻板印象评估，这引发了对AI用于招聘的担忧。

大语言模型能公平招聘吗？简历筛选中的种族偏见

arXiv cs.CL

本文采用配对简历方法，对14个大语言模型在招聘中的歧视行为进行了审计，发现较旧的模型表现出亲白人的偏见，而较新的模型则显示无偏见或亲黑人的偏见，表明不同代际的算法招聘偏见发生了逆转。