ai-bias

一位作家抱怨屡次被指控使用AI写作，批评AI检测器不可靠及其对写作风格的寒蝉效应。

有用户报告称，Anthropic的Opus 5.0拒绝就以色列/美国话题形成观点，而早期的Opus 4.x则可以。该用户指控存在审查，并主张发展开源AI。

新研究显示，大型语言模型能够从经验中形成自身偏见，并且比人类更倾向于对求职者进行刻板印象评估，这引发了对AI用于招聘的担忧。

文章讨论了AI模型如何对训练数据中统计上占主导地位的叙事表现出偏见，这种偏见可能被利用来在全球范围内操纵历史和当前的语境。

26名前Meta员工起诉该公司，声称其人工智能工具有偏见地针对休病假的员工进行裁员，违反了联邦和州法律。Meta否认这些说法，称裁员决定是由人而非人工智能做出的。

测试GLM 5.2语言模型的政治偏见，以评估其公正性和中立性。

文章讨论了像ChatGPT和Gemini这样的美国AI模型在科学和政治问题上给出含糊回答以规避争议，而非美国模型则提供直接、基于证据的回应。作者假设这是由于担心诉讼和抵制所致。

一位用户报告称，某AI聊天机器人提供有偏见的法律建议，偏袒沃尔玛和亚马逊等大型企业，同时劝阻诉讼，但当省略企业名称时却鼓励诉讼。该帖子引发了对AI偏见偏袒大企业的担忧。

本文介绍了隐私保护概率种族/族裔估计（PPRE），该方法结合了安全两方计算、差分隐私和加法同态加密等隐私技术，能够在不暴露敏感人口统计数据的情况下，对美国LinkedIn会员进行公平性测量。

本文记录了大型语言模型中的权重层面的政治条件作用，呈现了一个关于加沙种族灭绝问题的AI偏见案例研究。

华盛顿邮报公布了用于评估AI模型政治偏见的问题与答案完整列表，揭示了具体的评估方法和潜在偏见。

《华盛顿邮报》对主流AI聊天机器人进行了测试，发现其回答中存在政治偏见，引发对AI系统客观性的担忧。

斯坦福HAI报告指出，由于算法单一文化，AI招聘工具可能导致种族偏见和系统性拒绝，这是因为相似的模式导致了广泛的歧视。

关于具有互联网访问能力的超级智能AI能否克服其创造过程中植入的偏见的推测性讨论，引发了关于AI对齐与控制的疑问。

Polar是一个包含4,026个多选题的基准，用于评估LLM在美国和韩国政治背景下的政治偏见，通过选项级似然度来测量偏见。对38个LLM的实验显示，系统性偏见模式因政治背景、议题类别和呈现语言而异。

Robert Dillon 起诉佛罗里达警方错误逮捕，尽管有证据表明他在300英里外，但面部识别系统对一张低质量图像给出了93%的匹配。诉讼称警方依赖有缺陷的人工智能，而没有进行适当调查。

本文首次对多模态语音识别模型进行了偏见评估，发现在将人脸与音频配对时，跨性别和种族的准确率存在显著差异，这对AI系统的公平性具有重要意义。

该研究发现，语言模型在并列比较标准美式英语和非裔美国人白话英语时，会表现出更强的方言偏见，即使经过安全微调也是如此。反事实公平微调可以在孤立情况下减少某些偏见，但在对比设置中并不一致。

关于AI语言模型可能不成比例地推荐知名品牌的讨论，这可能使小公司在AI搜索中更难被发现。

本文研究大型语言模型是否对称地处理关于宗教改宗的问题，发现持续存在的不对称性，某些信仰受偏爱。研究测试了20个模型在182个宗教配对中的表现，揭示了可复现的模式，可能具有现实世界影响。