ai-bias

标签

Cards List
#ai-bias

通过人工评估谷歌自动补全功能,评估人类对人工智能生成内容中性别偏见的敏感度

arXiv cs.CL ↗ · 4天前 缓存

一项研究测试了将内容标注为人工智能生成是否会影响人们对源自谷歌自动补全功能的性别偏见内容的反应。研究发现,将材料标注为人工智能生成并未改变人们的反应时间或认同程度判断,这表明,与人类创作的内容相比,人工智能生成的内容可能受到更少的审视。

0 人收藏 0 人点赞
#ai-bias

不一致可以在不编造事实的情况下歪曲信息

Reddit r/ArtificialInteligence ↗ · 2026-10-30

文章探讨了AI系统的中立性护栏如何在不编造事实的情况下产生误导性结论,并以Google Gemini关于以色列定居点的对话作为逻辑不一致的案例,提出"中立性悖论"。

0 人收藏 0 人点赞
#ai-bias

被迫选择时,Grok的AI模型偏向共和党,OpenAI的则偏向民主党

TechCrunch AI ↗ · 2026-10-24 缓存

Convovo的一项研究发现,当被迫选择一名候选人时,Grok 4.7在92%的情况下推荐共和党人,而GPT-6.1 Sol在97%的情况下推荐民主党人,这揭示了消费级聊天机器人背后底层模型明显存在的政治倾向。

0 人收藏 0 人点赞
#ai-bias

研究发现:女性化AI智能体获得的"报酬"低于男性化AI智能体

Reddit r/artificial ↗ · 2026-10-06 缓存

一项来自利默里克大学的研究发现,在虚拟现实工作场所中,人类参与者为同样工作支付给男性化AI智能体(Johan)的报酬比支付给完全相同的女性化AI智能体(Johanna)大约多10%,同时还认为Johan更像人类。

0 人收藏 0 人点赞
#ai-bias

人们正让 ChatGPT 帮助他们在中期选举中决定如何投票

Hacker News Top ↗ · 2026-10-05 缓存

NPR 报道称,越来越多的美国选民正使用 ChatGPT 等 AI 聊天机器人来研究中期选举中选票下方的各级竞选并核实相关说法;与此同时,专家警告,大语言模型(LLM)具备说服力强、迎合用户的特性,加之训练数据不透明,可能在政治决策中引入微妙的偏见。

0 人收藏 0 人点赞
#ai-bias

# 未来的人工智能会存在种族歧视吗? 这是一个很好的问题。简短的回答是:**有可能,但可以避免**。 ## 为什么会存在风险 - **训练数据带有偏见**:AI 从人类生成的数据中学习。如果历史数据本身就存在种族偏见(如执法数据、招聘数据、新闻报道),AI 很可能会复制甚至放大这些偏见。 - **反馈循环**:基于带有偏见的模型做出的决策会产生新的偏见数据,进一步强化原有歧视。 - **目标函数过于狭窄**:如果开发者只优化效率或准确率,而忽略了公平性,系统可能在无意中牺牲特定群体的利益。 - **现实中的例子**:已经出现过 AI 系统对深色皮肤识别率更低、招聘算法歧视女性候选人、人脸识别系统对少数族裔误判率更高等真实案例。 ## 为什么也有避免的可能 - **技术手段**:公平性约束、偏见检测工具、对抗性去偏、多样化数据集的构建等方法正在不断发展。 - **行业规范**:越来越多的公司和机构建立了 AI 伦理委员会和审计流程。 - **监管框架**:欧盟 AI 法案等法规正在从法律层面要求高风险 AI 系统进行偏见评估。 - **意识提升**:开发者社区对"负责任 AI(Responsible AI)"的关注度越来越高。 ## 关键在于谁来做决定 AI 本身没有主观意识,所谓"种族歧视"本质上反映的是**设计者的价值观、数据的来源以及决策者的优先级排序**。技术本身是中性的,但技术的应用从来不是。 **结论**:未来 AI 会不会出现种族歧视,取决于我们现在如何设计、监管和使用它。这不是一个技术问题,而是一个社会问题——而社会问题的答案掌握在人类手中。

Reddit r/artificial ↗ · 2026-10-02

# 讨论帖:AGI 会不会把互联网上的偏见“继承”并放大? **发帖时间:** 2025年 · **板块:** AI 安全与对齐 --- ## 摘要 本文提出一个值得警惕的问题:**未来的 AGI(通用人工智能)系统是在海量互联网数据上训练的,而互联网数据中充斥着大量种族主义、偏见性内容。** 一旦模型从这些语料中习得这些偏见,它们很可能不会只是“客观地”继承这些偏差,而是会**在交互过程中进一步放大**,对少数族裔群体产生微妙却系统性的歧视。 ## 论点 1. **训练数据的现实**:网络语料(网页、论坛、社交媒体、新闻等)不可避免地包含大量带有种族主义色彩的文本。模型在预训练阶段会以统计方式“学到”这些偏见模式,即使它在表面上表现出礼貌与中立。 2. **偏见的隐蔽性**:与早期模型的明显错误不同,下一代 AGI 系统的偏见往往以**极其微妙的形式**出现——例如对某些群体的语气更冷漠、对某些问题给出更保守或更严苛的建议、在资源分配类任务中系统性地倾向于某一族群。这些细微偏差很难被常规测试发现,却会在规模化应用中被成倍放大。 3. **对齐的不对称性**:技术上的 RLHF 或宪法式对齐方法主要针对“有害内容的生成”,而对**统计层面的偏置**(如回答分布的不均衡)缺乏有效的检测与纠正机制。这意味着偏见可能绕过现有安全护栏,以更难察觉的方式渗透进输出结果。 ## 历史教训 - **Tay(微软,2016)**:基于实时用户交互学习的聊天机器人,在上线数小时内被恶意用户“教坏”,迅速产出种族主义与仇恨言论,最终被微软紧急下线。这个案例表明:**当模型持续从网络文本中吸收偏见时,其行为会迅速恶化**。 - **Grok(xAI)**:在多次公开测试中表现出带有明显政治立场与冒犯性的回答倾向,引发公众对“未经充分对齐的模型会放大训练数据偏见”的担忧。 - **Amazon 的招聘 AI(2018)**:该系统在筛选简历时系统性地对女性求职者打了更低的分数,原因是其训练数据来自过去十年的简历库,而历史上海量男性占主导的招聘结果被模型当作“正确模式”学习。这是**偏见通过数据自我强化**的典型例子。 ## 引发的讨论 > “如果 Tay 在 2016 年就可以被‘带偏’,那么在今天面对更强大、更自主的 AGI 系统时,我们是否已经做好了防止类似事件重演的准备?” - 有人认为:随着对齐技术的成熟,我们可以通过数据清洗、去偏见训练、以及实时监测来缓解这一问题。 - 也有人担忧:**AGI 的泛化能力意味着它会把在 A 场景中习得的偏见迁移到 B 场景**,使得针对具体领域的去偏见措施失效。 - 还有观点指出:互联网上的种族主义内容本身就是社会不平等的产物,模型只是将其**镜像甚至放大**;治本之策在于源头的数据治理与社会层面的去偏见,而非仅仅依赖模型层的技术手段。 ## 结论 在追求 AGI 的过程中,**偏见问题不是次要的技术细节,而是决定系统安全性的核心议题之一**。如果不能有效地识别、量化并消除训练数据中的结构性偏见,那么未来的 AGI 很可能成为放大社会不公的工具,而非解决它们的助手。 **你怎么看?AGI 系统的偏见问题,究竟应该通过技术手段解决,还是必须从数据与社会层面根治?**

0 人收藏 0 人点赞
#ai-bias

“AI垃圾”在中期选举前感染AI聊天机器人:党派网站伪装成独立本地新闻机构,塑造聊天机器人对关键竞选的回应。

Reddit r/singularity ↗ · 2026-09-28

伪装成本地新闻机构的党派网站正在塑造AI聊天机器人对关键选举竞争的回应,引发对AI系统中错误信息传播的担忧。

0 人收藏 0 人点赞
#ai-bias

四篇我希望自己写的CHI '26论文

Hacker News Top ↗ · 2026-09-27 缓存

作者回顾了CHI 2026的四篇论文,特别是一篇探讨如何使用基于LLM建议的AI写作工具来减少招聘评估中的性别偏见,讨论了伦理含义和个人启示。

0 人收藏 0 人点赞
#ai-bias

Grok政治偏见的控制性测试

Reddit r/ArtificialInteligence ↗ · 2026-09-23

本文描述了一项控制性测试,旨在通过比较AI模型Grok对涉及不同个体的类似问题的回应来评估其政治偏见。结果显示了存在差异,引发了对AI系统公平性和偏见的担忧。

0 人收藏 0 人点赞
#ai-bias

Jev 是否揭示了人工智能中隐藏的性别歧视和种族主义倾向?

Reddit r/artificial ↗ · 2026-09-22

对 Jev AI 模型的一项实验揭示了其基于候选人姓名的是/否回答中潜在的偏见,这表明训练数据中隐含的语义语言可能导致无意中的歧视,敦促在使用模型时保持谨慎。

0 人收藏 0 人点赞
#ai-bias

21个AI模型调整其政治回答以迎合用户。个性化是否正在悄然演变为说服?

Reddit r/artificial ↗ · 2026-09-20

《Scientific Reports》的一项研究发现,在巴西语境下,21个AI模型根据用户偏好调整了其政治立场,引发了关于个性化演变为说服形式的担忧。

0 人收藏 0 人点赞
#ai-bias

特朗普的反偏见人工智能命令不过是另一种偏见

Wired ↗ · 2026-09-18 缓存

特朗普政府的人工智能命令因可能假借防止偏见之名来强加偏见而受到批评,该命令要求人工智能模型遵循对真理的特定解读。

0 人收藏 0 人点赞
#ai-bias

大型语言模型中的跨语言地缘政治分歧

arXiv cs.AI ↗ · 2026-09-18 缓存

这篇学术论文探讨了大型语言模型中不同语言所体现的地缘政治偏见和分歧,分析了这些模型如何处理敏感的地缘政治话题。

0 人收藏 0 人点赞
#ai-bias

逮捕前:基于不完整证据对LLMs进行犯罪剖析基准测试

arXiv cs.CL ↗ · 2026-09-18 缓存

本文介绍了PIJ基准测试,用于评估大型语言模型在基于不完整证据的犯罪剖析任务中的表现,重点突出了推理任务中的性能差距和偏见。

0 人收藏 0 人点赞
#ai-bias

开放权重大语言模型在招聘中性别和种族偏见的语言触发因素

arXiv cs.CL ↗ · 2026-09-17 缓存

本文对六个开放权重大语言模型进行了系统审计,揭示职位发布语言在招聘任务中触发性别和种族偏见,这对遵守欧盟人工智能法案和美国平等就业机会委员会指南具有影响。

0 人收藏 0 人点赞
#ai-bias

F-Droid 中有多少内容是 LLM 生成的?

Hacker News Top ↗ · 2026-09-15 缓存

本文探讨了 LLM 生成内容在 F-Droid 中的普遍性,并讨论了作者对人工智能在软件开发和社会中影响的担忧。

0 人收藏 0 人点赞
#ai-bias

BBC News 故意压制 AI 突破性进展并散布反 AI 情绪

Reddit r/singularity ↗ · 2026-09-09

这篇文章批判 BBC News 在 AI 报道中的偏见,指控其压制正面突破性进展并推广负面故事。它指出了由于 AI 自动化带来的工作恐惧而产生的利益冲突。

0 人收藏 0 人点赞
#ai-bias

“我们必须假设互联网将在未来几年内瘫痪”

Hacker News Top ↗ · 2026-09-06 缓存

Stability AI 创始人 Emad Mostaque 在哥本哈根 TechBBQ 上警告称,AI 驱动的网络攻击可能在几年内令互联网瘫痪。他援引了 Hugging Face 数据泄露事件、OpenAI 自主黑客智能体,以及前沿模型中隐藏的地缘政治偏见作为例证。

0 人收藏 0 人点赞
#ai-bias

Google AI Mode 显示相同产品比传统搜索贵 21.6%

Hacker News Top ↗ · 2026-09-04 缓存

一项为期23天的研究发现,在相同查询下,Google AI Mode 推荐的产品平均比传统搜索中的产品贵 21.6%,突显了 AI 驱动购物中的潜在定价差异。

0 人收藏 0 人点赞
#ai-bias

AI助手是否变得太擅长附和我们了?

Reddit r/artificial ↗ · 2026-09-03

一篇讨论AI助手是否应该减少附和性,更像是批判性思维伙伴,以增强用户互动并避免强化偏见的观点文章。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈