标签
分析亚马逊上的AI生成儿童书籍，指出普遍存在的质量问题和怪异的视觉错误（即“身体恐怖”），这些问题削弱了先进AI模型的前景。
对OpenClaw仓库中拉取请求的统计分析显示，AI生成的PR垃圾邮件激增，合并率从48%下降到9.3%，贡献者每天提交数百个自动PR。文章将这一现象与早期的电子邮件垃圾邮件进行比较，并讨论了基于信誉的过滤器和信任管理系统（如Vouch）等新兴解决方案。
本文揭露了约翰·柯尼希（John Koenig）的《The Dictionary of Obscure Sorrows》的一个抄袭版本，该版本抄袭了整本书的文字，并用AI生成的图片替换了原始插图，同时还使用GPT-4让用户创作新的“悲伤”词条。这一事件引发了对AI助长抄袭和侵犯版权的担忧。
一位资深工程师观察到，AI生成文档的兴起导致人们不再阅读冗长的自动生成文档，从而造成文档泛滥，降低了书面材料的价值。
文章表达了对AI生成内容污染互联网的长期影响的担忧，这使得验证真实性和与现实依据变得困难，并对未来AI治理的系统造成严重后果。
这项研究论文表明，大型语言模型会产生相关的名字集合（例如，针对Claude的Elena Vasquez和Marcus Chen），这些名字会出现在独立生成的文档中，并揭示这些幽灵名字已渗透到Zenodo等学术仓库，有1,655条虚假记录生成了真实的DOI。
AI生成的深度伪造变得越来越逼真且更难检测，引发对其在中期选举中用于传播错误信息的担忧。
Claude Fable的Fable 5模型一次性生成了一款可玩的《魔兽世界》克隆版开源MMORPG，展示了强大的AI游戏生成能力。
一篇分析人工智能生成内容在互联网上日益普及的文章，讨论了“黑暗森林理论”，以及像 Polsia 这样的工具如何实现大规模自动化发帖，用低质量内容泛滥公共空间，并驱使用户进入封闭花园。
欧盟委员会发布了一份自愿性行为准则，概述了生成式人工智能的提供者和部署者如何满足《人工智能法案》下的透明度义务，要求对涉及公共利益问题的深度伪造和人工智能生成内容进行清晰标注。
来自Meta和卡内基梅隆大学的这篇论文提出了一种多模态视觉-语言模型管道，用于检测社交媒体上的AI生成内容，实现了最先进的性能，并对用户参与度产生了积极的下游影响。
文章分析了AI生成的虚假专家、抗议海报和特朗普的合成照片如何侵蚀新闻媒体的可信度，指出媒体在核实信息源上的缺失导致错误信息扩散。
本文提出了一种对抗性方法，用于创建和检测AI生成的社交机器人内容，并整理了一个多语言、跨平台的人类与AI消息配对数据集。在这种对抗性数据上进行训练，能够在实际环境中显著超越现有的基于内容的机器人检测模型。
一项针对450万联邦民事案件的新研究发现，AI正推动自辩诉讼激增，AI检测到的文本比例从2023年的1%上升至2026年的18%。虽然AI帮助诉讼当事人更清晰地表达论点，但也引入了虚假引用，并引发关于聊天机器人因提供不良法律建议而需承担责任的合法性问题。
A user comments on a small device that can run a 70B model and generate uncensored AI content including pornography.
在有关虚构引用的报道后，WIRED调查了Steve Rosenbaum的著作《未来真相》，揭示了他使用ChatGPT和Claude等AI工具的情况，以及验证AI生成内容的难度。
Higgsfield称其AI生成的电影《Hell Grind》在戛纳首映，但电影节组织者确认该片并未列入官方节目，凸显了AI炒作可能误导传播。文章详细介绍了该片50万美元的预算及技术挑战。
有用户指出，Substack 上充斥着大量明显是 AI 生成的内容，而人们因为过于反 AI 而无法识别 AI 写作的痕迹，反而对这些内容大加赞赏。