How AI Slop Is Damaging Our News Media

Reddit r/ArtificialInteligence 新闻

摘要

文章分析了AI生成的虚假专家、抗议海报和特朗普的合成照片如何侵蚀新闻媒体的可信度,指出媒体在核实信息源上的缺失导致错误信息扩散。

AI slop is creeping into our news, whether it's being taken seriously by the public or being shared by Donald Trump on Truth Social. I talk about the rise of AI-generated content in the news, PR agencies producing fake AI experts, how AI slop is being reported, why it's changing the media and what could happen next
查看原文
查看缓存全文

缓存时间: 2026/06/10 11:46

**TL;DR:** AI生成的假专家、假抗议海报和特朗普的合成照片正悄然侵蚀新闻媒体的可信度,而部分媒体未经核实就大肆报道,导致错误信息扩散。 ## AI垃圾信息如何侵入新闻媒体 AI生成的内容——无论是无聊的“肥皂剧”视频、虚假专家头像,还是看似逼真的抗议海报——正在悄悄改变我们获取新闻的方式。尽管许多新闻机构已公开其AI使用政策,但外部AI应用正渗透入主流报道,威胁着原创新闻的底线。本文基于YouTube频道Mikeltee的分析,梳理了AI垃圾信息影响新闻的三种途径。 ## AI生成的“专家”:来自新闻稿的幻觉 许多企业为了推广品牌或产品,会在新闻稿中附上“专家”评论。但英国《新闻公报》(Press Gazette)的一项调查发现,这些专家中大量根本不存在——他们只是一些AI生成的素材头像,甚至更糟:成人娱乐明星。这些所谓的专家没有任何官方头衔或经过认证的医学背景,却在提供医疗建议、害虫防治指导或个人理财建议。 例如: - 一位被广泛引用的“肠道健康专家”毫无医学资格,却在电商新闻稿中大谈健康建议。 - 来自地毯公司的“电商专家”竟给出害虫防治方案。 - 一个优惠券网站的CEO自称“个人理财专家”。 更令人担忧的是,这些文章曾出现在《太阳报》和《每日镜报》等大型媒体上。直到媒体被指出问题后,才删除了文章。这暴露了新闻编辑室在核实信息源上的严重缺失:许多机构只将新闻稿从Word文档变成印制品,中间可能只剩下两个人审核。AI生成的“专家”就这样溜进了我们的新闻。 ## 虚假抗议海报:媒体为何“先报后查” 社交媒体上曾流传一张“英国燃油抗议”海报:声称要在主要道路上发动大规模抗议,促使政府应对油价上涨。海报充满疑点: - 背景是米字旗(英国旗),而非英格兰的圣乔治旗;抗议范围应是英格兰,却写“英国”。 - 时间写成“12:00 noon”,英式英语通常说“12:00 p.m.”或直接“noon”。 - 地点列表有苏格兰和威尔士边界道路。 - 无任何组织者联系方式,无法核实。 - 排版浮夸,卡车司机不见人影,背景布满爆炸和烟雾——明显是AI生成。 尽管如此,当地媒体和全国媒体纷纷联系警方获取声明,部分报纸(如Reach旗下媒体)甚至列出了受影响道路,但并未尝试核实海报来源。最夸张的是,Newsquest旗下的《威尔特郡时报》和《雷丁纪事报》为了报道M4公路的“可能混乱”,启动了一个实时博客: - 9:39:早安,称M4可能有抗议。 - 9:56:直接贴上海报。 - 12:00后:一片寂静。 - 16:36:感谢关注,实时博客关闭。 事后证明,根本没有发生任何抗议。媒体在假设事件绝对会发生的情况下启动了博客,最终让自己看起来像傻瓜,同时在Facebook上造成了大量困惑。问题在于:编辑室未能以批判性态度对待社交媒体帖子,未能主动验证来源,反而放大了假事件。 ## 特朗普的AI垃圾信息:当最高权力者随意造假 地球上最有权势的人——唐纳德·特朗普——长期在Truth Social上分享AI生成的内容:他和C罗踢足球、和狮子自拍、扮演超人、成为西斯尊主……最近,他更发布了一张自己扮演教皇的照片(同时正与真正的教皇发生矛盾)、一张把自己描绘成耶稣基督的图片,以及一张举枪威胁伊朗的合成照。 记者当面问他:“总统先生,您是否发布了那张把自己描绘成耶稣基督的照片?”特朗普回答:“那不是我描绘的。那就是我。我确实发了,我以为那是我扮演医生,和红十字会有关……我作为医生让人好转,而我确实能让人好转。”这个回应随即又引发新一轮嘲笑和批评。 请注意:这是美国总统制造的AI垃圾信息。那些平时会被你叔叔在Facebook上分享的搞笑梗图,如今成了新闻媒体不得不报道的对象。宗教团体(包括支持他的保守派)纷纷批评。媒体在质疑他、报道他的同时,也在某种程度上将这种荒诞“正常化”了。正如视频作者所言:“世界上有这么多重大问题,我们却在报道特朗普发了一张和狮子的自拍。” ## 结语:AI垃圾信息与新闻的未来 AI垃圾信息不会很快消失。它使新闻廉价化,也让新闻媒体面临两难:忽略它可能错失监督责任,报道它则可能助长其传播。无论是假专家、虚假抗议,还是总统的合成照,都需要媒体保持更严格的核实机制——否则,信任的流失将比AI本身更可怕。 如果你发现更多媒体发布的AI垃圾信息案例,欢迎一起讨论,或许会有后续视频。 Source: https://youtu.be/XrTlbFB04LE

相似文章

依赖AI获取准确新闻的后果

MIT News — Artificial Intelligence

麻省理工学院媒体实验室的一项新研究发现,依赖AI聊天机器人验证新闻的人,在独立识别虚假信息方面反而变得更差,凸显了“AI依赖悖论”。

引用《纽约时报》编辑说明

Simon Willison's Blog

《纽约时报》发布更正声明,指出此前发现一款 AI 工具生成了加拿大政治家 Pierre Poilievre 的虚假引言,突显了新闻报道依赖 AI 所带来的风险。