ai-bias

本文讨论了AI系统中持续存在的性别歧视问题，强调了技术中依然存在的偏见。

本文研究大型语言模型（LLMs）是否能够对语音编码的语言进行解码，例如用西里尔字母书写的德语，以评估其在标准拉丁字母训练数据之外的抽象能力和性能。

本文讨论了近期医疗研究，揭示AI模型继承人类偏见的现象，并列举了Zack等人（2024年）和Omar等人（2025年）的具体研究案例。文章邀请读者分享在ChatGPT和Claude等模型中遇到AI偏见的经历。

本文探讨了推理设置如何影响LLM在医疗资源分配中的行为，揭示了上下文依赖的偏差，并强调了谨慎将其集成到决策系统中的重要性。

本文介绍了中东文化敏感度评分（MECSS），用于衡量大语言模型中的东方主义偏见，发现GPT-4和Falcon3-7B-Instruct系统地再现了这种结构性模式。

Reddit的志愿者版主无意中创建了一个对AI训练至关重要的结构化数据集，但他们的偏见和任意规则可能会将错误和偏见嵌入到AI系统中，导致现实世界的问题，如幻觉和操纵。

本文认为，AI检测器和水印技术存在问题，因为它们忽视了作品背后的人类努力，并降低了AI生成文本的质量。

本文构建了一个基准来评估LLMs在时序法律推理上的表现，揭示了它们倾向于适用最新颁布的法律的偏见，以及通用推理能力与时序性能之间的反向关系。

一位作家抱怨屡次被指控使用AI写作，批评AI检测器不可靠及其对写作风格的寒蝉效应。

有用户报告称，Anthropic的Opus 5.0拒绝就以色列/美国话题形成观点，而早期的Opus 4.x则可以。该用户指控存在审查，并主张发展开源AI。

新研究显示，大型语言模型能够从经验中形成自身偏见，并且比人类更倾向于对求职者进行刻板印象评估，这引发了对AI用于招聘的担忧。

文章讨论了AI模型如何对训练数据中统计上占主导地位的叙事表现出偏见，这种偏见可能被利用来在全球范围内操纵历史和当前的语境。

26名前Meta员工起诉该公司，声称其人工智能工具有偏见地针对休病假的员工进行裁员，违反了联邦和州法律。Meta否认这些说法，称裁员决定是由人而非人工智能做出的。

测试GLM 5.2语言模型的政治偏见，以评估其公正性和中立性。

文章讨论了像ChatGPT和Gemini这样的美国AI模型在科学和政治问题上给出含糊回答以规避争议，而非美国模型则提供直接、基于证据的回应。作者假设这是由于担心诉讼和抵制所致。

一位用户报告称，某AI聊天机器人提供有偏见的法律建议，偏袒沃尔玛和亚马逊等大型企业，同时劝阻诉讼，但当省略企业名称时却鼓励诉讼。该帖子引发了对AI偏见偏袒大企业的担忧。

本文介绍了隐私保护概率种族/族裔估计（PPRE），该方法结合了安全两方计算、差分隐私和加法同态加密等隐私技术，能够在不暴露敏感人口统计数据的情况下，对美国LinkedIn会员进行公平性测量。

本文记录了大型语言模型中的权重层面的政治条件作用，呈现了一个关于加沙种族灭绝问题的AI偏见案例研究。

华盛顿邮报公布了用于评估AI模型政治偏见的问题与答案完整列表，揭示了具体的评估方法和潜在偏见。

《华盛顿邮报》对主流AI聊天机器人进行了测试，发现其回答中存在政治偏见，引发对AI系统客观性的担忧。