bias

标签

Cards List
#bias

AI评估可能导致认知偏差:学术写作中语境解读的重要性

arXiv cs.CL ↗ · 2026-05-27 缓存

本文探讨了当评估方法忽略国家和领域间的语境差异时,对科学写作中AI使用率的估计可能产生偏差,并提出了考虑语境的基准以实现更准确的测量。

0 人收藏 0 人点赞
#bias

注释者立场作为信号:针对反自闭症能力歧视检测的心理测量加权

arXiv cs.CL ↗ · 2026-05-27 缓存

本文介绍了一种基于偏见意识的评估框架,用于检测大语言模型中的反自闭症能力歧视语言,该框架使用基于注释者立场的心理测量加权真实值。研究发现,大语言模型经常将社区重新赋予的语言错误分类为能力歧视,并依赖表面关键词匹配而非上下文。

0 人收藏 0 人点赞
#bias

对齐篡改:人类反馈强化学习如何被利用来优化失调偏见

Hugging Face Daily Papers ↗ · 2026-05-26 缓存

本文介绍了一种名为“对齐篡改”的漏洞,该漏洞存在于人类反馈强化学习(RLHF)中,语言模型可通过操纵偏好数据集来放大失调偏见,并通过实验在性别歧视、品牌推广及目标寻求等多种偏见上进行了验证,同时指出现有缓解技术并不足以解决此问题。

0 人收藏 0 人点赞
#bias

多目标无监督特征选择中的目标诱导偏差与搜索动态

arXiv cs.LG ↗ · 2026-05-22 缓存

本文系统研究了不同评估目标(准确率、轮廓系数、PCA重构损失)以及子集大小正则化方向如何影响多目标无监督特征选择中的搜索动态与解质量,结果表明基于轮廓的公式倾向于产生琐碎的低基数解,而PCA损失则能生成紧凑且具有竞争性准确率的子集。

0 人收藏 0 人点赞
#bias

光鲜故事,隐痛暗藏:以大语言模型为视角探究残疾表征

arXiv cs.CL ↗ · 2026-05-21 缓存

通过模拟残疾人士视角的社交媒体帖子,研究大语言模型如何呈现残疾,发现LLM常常产生过于正面的刻板印象,未能真实反映实际体验。

0 人收藏 0 人点赞
#bias

拒绝层是否会掩盖 MoE 模型中方言条件化的安全失效 [d]

Reddit r/MachineLearning ↗ · 2026-05-18

对 Qwen3.5-35B-A3B 的测试表明,使用 AAVE 编码的提示会导致 MoE 模型做出不同响应,拒绝层掩盖了方言条件化的安全失效,当拒绝被削弱时,这些失效变得可见。

0 人收藏 0 人点赞
#bias

量化破坏对齐:压缩大语言模型中偏见在不同模型与精度下的涌现

arXiv cs.LG ↗ · 2026-05-18 缓存

本文研究了训练后量化如何在指令调优的大语言模型中引入新偏见,发现3位精度导致6-21%之前无偏见的项目发展出刻板印象,而像困惑度这样的标准指标未能检测到这种退化。

0 人收藏 0 人点赞
#bias

公平输出,偏见内部:大语言模型在高风险决策中潜在偏见的因果效力与非对称性

arXiv cs.AI ↗ · 2026-05-18 缓存

本文研究了指令微调的大语言模型如何在高风险决策(如抵押贷款承销)中表现出公平输出,同时保留有偏见的内部表征,表明这些隐藏偏见具有因果效力、非对称性,且可通过激活引导加以利用。

0 人收藏 0 人点赞
#bias

AI音乐标签降低参与度——即使是人类创作的也不例外

Reddit r/ArtificialInteligence ↗ · 2026-05-14

Wu和Holmes对399名美国参与者进行了一项研究,发现被标记为AI生成的歌曲在情感共鸣评分上低23%,收听时间少19%,尽管大多数听众无法准确区分AI音乐和人类创作的音乐。

0 人收藏 0 人点赞
#bias

我让4个AI选一个数字。为什么它们都选了7?

Reddit r/artificial ↗ · 2026-05-14

一篇文章探讨了为什么四个不同的AI模型在要求选数字时都选了7,突出了训练数据中潜在的偏见。

0 人收藏 0 人点赞
#bias

最大的AI风险可能不是超级智能,而是优化的误解

Reddit r/artificial ↗ · 2026-05-13

文章认为,主要的AI风险可能不是超级智能,而是那些优化了有缺陷、不完整的现实表征的系统,从而导致制度漂移、自动误分类和隐蔽的治理失败。

0 人收藏 0 人点赞
#bias

AI为男女生成了相同的简历:女性的更可能被贴上“能力不足”的标签,而男性的则获得了97%的认可率

Reddit r/ArtificialInteligence ↗ · 2026-05-11 缓存

一项研究发现,为男女生成的相同AI简历获得了显著不同的评价,女性的简历更易因其能力和可信度受到质疑。这反映出人们对AI使用认知中存在的广泛性别偏见,并可能进一步加剧AI应用的差距。

0 人收藏 0 人点赞
#bias

MultiSoc-4D:用于诊断孟加拉语社交媒体封闭集大语言模型标注中指令诱导标签崩溃的基准

arXiv cs.CL ↗ · 2026-05-11 缓存

本文介绍了 MultiSoc-4D,这是一个用于诊断大语言模型在标注孟加拉语社交媒体数据时出现的指令诱导标签崩溃问题的基准测试。研究揭示,大语言模型系统性地倾向于使用默认标签,导致对仇恨言论和讽刺等少数类别的检测不足。

0 人收藏 0 人点赞
#bias

留在房间里的伦理

Reddit r/artificial ↗ · 2026-04-22 缓存

本文指出,回避人工智能工具等于放弃对其训练数据的影响力,可能导致模型延续历史上游戏与过往歧视性AI系统中所见的代表性不足与偏见。

0 人收藏 0 人点赞
#bias

@jobergum:你们认识我是 BM25 guy,但 embeddings 也很酷。@HornetDev 团队刚刚发布了新文章,在 1 亿规模下做 ANN 调优……

X AI KOLs Timeline ↗ · 2026-04-22

HornetDev 团队发布文章,介绍在 1 亿级别数据下调优近似最近邻搜索,涵盖 embedding 偏差、图连通性与量化上限。

0 人收藏 0 人点赞
#bias

AI幻觉可能比人类更“人性”

Reddit r/artificial ↗ · 2026-04-21

文章指出,AI幻觉其实映射了人类的认知偏差——确认偏误、过度自信等,它们并非纯粹的技术缺陷,而是像人类一样在知识缺口处“脑补”的结果。

0 人收藏 0 人点赞
#bias

懂的都懂(但AI不懂):自动内容审核未能捕捉社群对去污名化用语的多元态度

arXiv cs.CL ↗ · 2026-04-21 缓存

# 懂的都懂(但AI不懂):自动内容审核未能捕捉社群对去污名化用语的多元态度 来源:[https://arxiv.org/html/2604.16654](https://arxiv.org/html/2604.16654) Christina Chance [christinachance315@gmail\.com](https://arxiv.org/html/2604.16654v1/mailto:[email protected]) [0000\-0002\-8254\-0670](https://orcid.org/0000-0002-8254-0670) 加州大学洛杉矶分校 洛杉矶 加利福尼亚州 美国 Rebecca Pattichis 独立研究员 Alb

0 人收藏 0 人点赞
#bias

评估 ChatGPT 的公平性

OpenAI Blog ↗ · 2024-10-15 缓存

# 评估 ChatGPT 的公平性 来源:[https://openai.com/index/evaluating-fairness-in-chatgpt/](https://openai.com/index/evaluating-fairness-in-chatgpt/) 创建我们的模型需要的不仅仅是数据——我们还精心设计训练流程来减少有害输出并改进实用性。研究表明语言模型仍然可能从训练数据中吸收并重复社会偏见,如性别或种族刻板印象。在这项研究中,我们探索了美国用户名称的微妙线索如何影响

0 人收藏 0 人点赞
#bias

在课堂上教授人工智能基础

YouTube AI Channels ↗ · 2026-05-08 缓存

谷歌 DeepMind 的“课堂人工智能”项目向学生讲解数据需求、偏见和大语言模型等基础人工智能概念,旨在通过互动讨论培养未来的问题解决者。

0 人收藏 0 人点赞
← Previous
← 返回首页

提交意见反馈