misinformation

《WIRED》报道称，主流 AI 聊天机器人在回答有关美国中期选举的问题时，经常给出不准确、过时或带有党派倾向的答案。研究显示，近 40% 的选举相关回答包含事实错误，而且聊天机器人经常引用被称为“粉红黏液”的党派宣传网站。

该论文研究了RAG系统中的从众偏差：当检索到的多数文档是互相一致的投毒文档时，Gemma-3-12b检测中毒声明的能力从25%显著下降至10%，表明语言模型会随附多数证据而忽视事实核查。

AI生成的错误百出的粉丝维基正在搜索结果中挤占正规游戏维基的生存空间，令玩家倍感沮丧，也迫使Hooded Horse等发行商疲于应对这些批量生产的低质网站，展开一场"打地鼠"式的斗争。

一位 TikTok 用户发现了多起真实事件，其中有人利用 AI“换种族”工具伪造带有种族主义色彩的视频并使其广泛传播，凸显了人们对 AI 助长虚假信息传播和骚扰行为的日益担忧。

互联网死亡理论最初只是一个关于机器人操控内容的阴谋论，如今随着人工智能的兴起，社交媒体信息流被大量低质量生成内容和自动化活动淹没，这一理论再度受到关注。

《连线》与《高地新闻》的一篇报道详细揭示了 Gemini 和 Claude 等 AI 聊天机器人如何向徒步者提供危险且不准确的野外建议，导致他们做出错误决定，并在沙斯塔山、皇冠山和大提顿山引发救援求助，尽管总体搜救次数仍保持稳定。

CZ 确认网传的币安被黑截图中第三张聊天记录系伪造，并表示无法核实其他关于『提前预测币安被黑』的说法，指出真正能预知未来的人不会靠小号在 X 上发帖。

文章探讨了生成式 AI 在起草紧急警报和公共灾害通讯中的日益广泛应用及其风险，指出尽管相关政策尚不完善，各机构仍在采用 AI 工具，由此引发了对准确性和公众信任的担忧。

一篇提出验证学习理论（VLT）的预印本。该理论是一个形式化过程模型，用于描述人工智能辅助的主张核查如何影响独立判断能力的保持，并预测：意识到助手可能出错，可以通过证据核查提高延迟测试中无辅助条件下的表现。

# MIT 新闻问答：LLM 选举观测站如何追踪 AI 聊天机器人对 2026 年美国中期选举的影响 ## 概述 MIT 新闻近期通过问答形式报道了 MIT 研究团队开发的 **LLM Election Observatory**（大语言模型选举观测站）仪表盘。该工具旨在实时追踪主流 AI 聊天机器人如何回应与 **2026 年美国中期选举**相关的问题，以研究 AI 技术如何影响选民认知与政治话语。 ## 核心要点 - **工具名称**：LLM Election Observatory（大语言模型选举观测站） - **开发团队**：MIT 研究团队 - **主要功能**：实时监测主流 AI 聊天机器人在回答选举相关问题时的表现 - **研究目标**：深入理解 AI 如何影响选民的政治认知以及公共政治话语的走向 - **关注时间范围**：2026 年美国中期选举 ## 研究意义 随着大语言模型（LLM）在公众信息获取中的角色日益重要，AI 聊天机器人对政治信息的呈现方式、内容倾向性和准确性，可能对选民决策产生深远影响。该观测站的建立，为研究人员提供了一个系统化的数据采集与分析平台，有助于： 1. **识别偏差**：发现不同 AI 模型在回答选举相关问题时可能存在的政治偏见 2. **评估准确性**：检验 AI 生成的选举信息是否准确可靠 3. **追踪演变**：实时记录 AI 回答内容随选情发展而发生的变化 4. **促进透明**：提升公众对 AI 在政治传播中作用的认识与监督

一年后回顾MIT"95%的AI试点失败"这一广为引用的数据：该数字本身是基于对报告漏斗的误读和仅153份问卷的垃圾统计，但后续来自McKinsey、Deloitte、Capgemini及政府统计的数据表明，其背后的诊断——多数企业AI支出仍未反映到损益表上——大体成立。

文章探讨了AI系统的中立性护栏如何在不编造事实的情况下产生误导性结论，并以Google Gemini关于以色列定居点的对话作为逻辑不一致的案例，提出"中立性悖论"。

Google 的 AI Mode 拒绝直接回答谁赢得了近期美国总统大选，而是引导用户查阅官方来源；相比之下，其他聊天机器人甚至 Google 自家的 Gemini 都能准确作答。Google 称其对敏感选举话题设有严格的安全过滤机制，不过该行为会因地区不同以及问题被重复提问而有所差异。

WIRED/Grist 报道称，应急管理机构越来越多地使用生成式 AI 工具来撰写公众警报，同时指出了输出不准确以及在气候灾害加剧的背景下机构准备不足的风险。

该论文提出 PERPL 框架，通过 LLM 模拟读者的相对偏好来学习个性化事实核查解释改写，在保持事实忠实性的同时优于更大的通用 LLM。

论文提出了 ChronoFake 基准和 DelSA（文档选择自更新智能体）框架，利用大语言模型提取事件时间线，并结合重排序器筛选证据，以检测通过打乱真实事件的时间顺序构造的时序错乱假新闻，其表现优于现有方法。

文章讨论了有毒的AI舆论氛围如何助长毫无根据的阴谋论和错误信息，呼吁反思当前围绕AI的公共讨论方式。

IEEE Spectrum 采访了维基百科“WikiProject AI Cleanup”（AI 内容清理专题）的创始成员 Ellia Lebleu，探讨志愿者检测和清除 AI 生成内容的工作——包括更隐蔽的 AI 写作模式的出现、AI 造成的引用来源误归属问题泛滥，以及 AI 检测工具 Pangram 估计有 15–20% 的新条目由机器生成。

Linus Ekenstam 指控 X 将他关于 Kimi 的无偿内容错误标注为赞助内容，迫使他声称收到报酬才能解锁被暂停的账号，并呼吁平台改进其披露机制。

该论文研究了LLM生成内容在信息生态中的循环再利用问题，发现内容回流会使完整错误声明增加7.29个百分点，同时明确背书减少8.33个百分点，揭示了未被背书的错误细节如何在下游生成中持续存在。