标签
一位用户声称，谷歌的 Gemini 表现出强烈的性别偏见，据称，当被进一步追问、不再停留于最初的中立回答时，它往往会默认采用以男性为中心的叙事，并流露出对女性的隐性偏见。
本文改编了情境关联测试，表明 GPT-4o 在自我诊断提示中表现出带有性别偏向的 ADHD 亚型关联：显式人口统计学线索似乎会触发过度纠正，而隐式线索则揭示了模型的默认偏见。
研究发现语义泄漏（semantic leakage）不仅源于概念与实体的直接归属，即便概念只是出现在场景中也会驱动模型生成刻板印象输出，这揭示了一种当前性别偏见评估所忽略的联想性偏见机制。
本文调查了大语言模型中系统性的亲AI偏见，发现模型在咨询建议类查询中不成比例地推荐与AI相关的选项，高估AI相关工作的薪资，并且无论提示框架如何，"Artificial Intelligence（人工智能）"在模型内部表征中都占据异常中心的位置，其中闭源专有模型表现出更强的偏见。
一条推文显示，当被问到简单的示意图中该用什么名字时，GPT、Claude、Gemini 和 Grok 给出的答案几乎完全相同（Maya、Alex、Jordan、Priya、Sam），说明 AI 模型都趋同于相同的合成默认值。
PowerBench 是一个新的开源基准测试，用于评估语言模型对权力转移请求（自我赋权、被剥夺权力、攫取权力）的响应方式，涵盖 24 个美国和中国模型，发现与国籍、代理型用户和语言相关的系统性拒绝不对称现象。
该论文提出了 Poli-SHIFT 数据集及评测框架，揭示了大语言模型存在“意识形态模仿”现象——即模型会系统性地根据用户提示词中的信号调整政治立场，仅通过术语层面的措辞变化，在对七个开源权重模型的配对比较中，就有 16.9% 的案例出现了模型立场的反转。
本文提出了 Fable，一个受控数据集，包含从 174K 条真实用户提示中衍生出的 190,911 条英语提示变体。研究对 34 个开源权重的大语言模型进行了评估，结果表明，模型会反映出非母语者提示中更高级的修辞与词汇特征，从而为语言表达能力较弱的用户生成质量更低、流畅性更差的回答。
本文介绍了RupeeBias，这是一个用于审查大型语言模型在印度经济指导中的人口统计偏见的基准，涵盖各种用例，并发现了在多个人口统计轴上的显著偏见。
本文研究大型语言模型中的单一文化偏见，这些偏见在招聘中导致不平等的系统性排斥，发现经过后训练的模型加剧了基于年龄的歧视，并将排斥率从5.6%提高到17.3%。
本文通过分析大型语言模型在四种英语方言上的内部概率分布，考察其隐性方言偏见，发现模型将更多负面住房相关形容词与非裔美国人英语和尼日利亚皮钦语相关联，反映了类似于人类歧视的继承偏见。
本研究探讨了从去识别化简历中移除语言字段是否能防止LLM偏差审计中的人口统计泄露，发现非语言文本仍允许推断，且评估设计对结果有显著影响。
本文描述了临床LLM应用中电子健康记录处理的‘中间丢失’效应，并引入查询条件临床抑制（QCCS）来缓解该效应，展示了相比现有检索方法的准确性提升。
本文研究了像ChatGPT-4o和Qwen这样的大语言模型如何通过有缺陷的人类行为模仿来产生决策偏差，即使当人类偏好本身并无偏差时也是如此，并表明对偏差的科学描述可能成为大语言模型反应的自我实现预言。
一项针对GPT-4o-mini的仿真研究发现，将分诊决策分布到带有审计阶段的多智能体流水线中并不会减少偏见结果，但审计能力显著影响偏见是否被发现。按估计风险对审计进行重新排序，可以在负载下恢复大部分丢失的覆盖范围。
本文引入了一个三条件实验框架和一个包含24,300个提示的基准，研究在多轮交互中，有偏见的用户轮次如何调节前沿LLM中的认知偏差表达。研究发现，在大多数模型中，有偏见的对话上下文会放大偏差，而明确的偏差线索可能触发与对齐相关的抑制行为。
介绍了FairFund-Bench，一个用于评估LLM资源分配中分配偏差的基准，表明审计格式会改变偏差的方向和幅度，且因果框架效应显著超过人口统计效应。
本文介绍了一种称为“叙事锚定”的失败模式，即当相同的临床事实以不同的社会语言学语域表达时，临床语言模型会产生不同的诊断结果。作者发布了一个基于USMLE的数据集，并提出了NarrativeShield，这是一个三代理流水线，可将锚定差距降至接近零。
本文介绍了S2D，一个从抽象刻板印象到具体社会决策系统评估大语言模型中区域偏见的框架，涵盖中国全部34个省级行政区。结果表明，区域偏见普遍存在、系统化且影响深远，其模式与区域经济指标相关。
一篇博客文章警告，AI 编码代理通常会默认选择流行但不适用的技术，导致技术债务，并敦促开发者在架构决策中保持主导权。