AI 在他的书中加入了“合成引文”，但这位作者仍想继续使用。

# 人工智能在他的书中塞入了"合成引语"。但这位作者仍想继续使用它。 来源：https://arstechnica.com/ai/2026/05/ai-put-synthetic-quotes-in-his-book-but-this-author-wants-to-keep-using-it/ 我真希望我知道如何戒掉你 史蒂文·罗森鲍姆解释了不准确的引语是如何进入他的书《未来的真相》的。 [](https://cdn.arstechnica.net/wp-content/uploads/2026/05/ai-fabricated-quotes-Rosenbaum.jpg) "我从未处于一个我认为自己使用的技术既令人陶醉又危险的地步。" 图片来源：Aurich Lawson | Getty Images 记者兼作家史蒂文·罗森鲍姆比大多数人更有理由不信任人工智能。 他的新书《未来的真相：人工智能如何重塑现实》全都是关于（https://www.simonandschuster.com/books/The-Future-of-Truth/Steven-Rosenbaum/9781637749104）"真相如何被扭曲、模糊和合成"，这要归功于"快速移动、利润驱动的人工智能的压力"。然而，《纽约时报》本周的一项调查（https://www.nytimes.com/2026/05/19/business/media/future-of-truth-ai-quotes.html）发现，罗森鲍姆现在承认，在研究这本书时使用AI工具导致了"一些归属不当或合成的引语"。 这些引语包括科技记者卡拉·斯威舍告诉《泰晤士报》她"从未说过"的一句话，以及东北大学教授丽莎·费尔德曼·巴雷特说"没有出现在[我的]书中，而且也是错误的"的引语。罗森鲍姆现在正与编辑合作，进行他所说的全面"引文审计"，以纠正未来版本。 在争议发生后与Ars交谈时，罗森鲍姆表示他"吸取了教训"，并"将更加怀疑"且"不愿信任"未来的AI输出。 但他也无法离开这些工具。相当令人惊讶的是，罗森鲍姆对回到他写以前书籍时使用的无AI研究过程并不感兴趣。 "花X年时间（远离AI）等它自行解决，然后回到像Microsoft Word这样的东西……这不是我的本性，"他告诉Ars。"[AI]是神奇的。因为它连接、整合想法，并为你提供思考事物的途径，而这些是你自己想不到的。" 它还有另一种神奇之处：就像J.R.R.托尔金的至尊魔戒一样，AI让许多使用它的人相信他们可以正确控制其力量。但他们能做到吗？ ## 从裂缝中溜走 罗森鲍姆告诉我，他在写作过程中使用AI工具"是为了浮现想法、定位文章、总结主题、识别我可能想进一步了解的人物或论文。" 他将这类研究与书中的"实际报道、叙事结构、访谈、论点和结论"划清界限，他说后者"完全是我自己的……从来没有AI在写书的时候。" 除了基于罗森鲍姆自称亲自进行的转录访谈的章节外，《未来的真相》还包括更多基于研究的章节，在这些章节中，罗森鲍姆说，"我们提取事实，然后将它们编织成叙事。" 他说，OpenAI的ChatGPT和Anthropic的Claude等工具被大量用于收集信息，任何由这些工具挖掘出的信息都会在他的笔记中标记为"来自AI"的警告。 > 它奇怪地有创意、狡猾且不寻常……然后它以非常可怕的方式背叛你。史蒂文·罗森鲍姆 罗森鲍姆说，这些标记为AI生成的笔记随后被传递给出版商提供的一名事实核查员和两名文字编辑。在书中的285个外部引用中，有六个被《泰晤士报》认定为有问题，包括三个没有明显来源的所谓"合成引语"。（随着书籍进一步审查，可能出现更多例子。而且值得注意的是，大多数作家在写书时都设法做到零编造引语。） "我认为我们（双重检查）做得非常有效，但不是百分之百，"罗森鲍姆告诉Ars。"我们正在做工作，我们尽力而为。我们看着它，看起来没问题。我们再次检查，然后我们犯了错误。" 但这里的重要失败凸显了传统的事实核查过程可能无法妥善处理AI辅助研究。过去，事实核查员可以相当确信，任何引用了已引用的书面作品的作者只是直接复制了那些引语。当然，这些引语需要检查，但它们是如此容易验证，以至于它们本身不那么可疑。然而，如果AI工具在流程的任何环节介入，这种假设就不复存在，并且需要额外的怀疑层，以确保那些引语被正确复制，或者它们甚至存在。 在各类写作者中广泛采用AI工具之际，财务紧张的新闻编辑室和出版商正在越来越多地从工作流程中削减文字编辑（https://editingresearch.byu.edu/2020/06/16/when-newsrooms-cut-copy-editors/）和事实核查员（https://www.esquire.com/entertainment/books/a33577796/nonfiction-book-fact-checking-should-be-an-industry-standard/）。我们已经看到像这样的AI生成错误如何在有事实核查环节的情况下进入出版书籍。对于许多在出版前从未经过任何事实核查（https://www.npr.org/2019/06/08/730898366/checking-facts-in-nonfiction）的书籍来说，使用这些工具的风险只会增加。 罗森鲍姆本人承认，"出版商将需要专门为AI时代研究设计的新验证工作流程。这可能包括引文的强制来源追踪、更好的出处追踪、关于AI辅助研究的更清晰标准，以及（更具讽刺意味的是）用于审计引用与原始材料对照的AI工具。" "我并没有意图编造任何东西，"罗森鲍姆继续说。"发生的是越来越多记者、学生、研究人员、律师和作者每天与这些系统合作时发生的事情：[有]看起来权威的AI生成信息，其中一些在被发现之前已经传递得太远了。" ## 对着机器咒骂 知名AI生成错误的实例在多个领域变得令人不安地常见。去年，《芝加哥太阳时报》刊登了一份广告性质的夏季阅读清单，其中充满了AI凭空想象出的不存在的书籍（https://arstechnica.com/ai/2025/05/chicago-sun-times-prints-summer-reading-list-full-of-fake-books/）。《纽约时报》最近不得不发布重大更正（https://www.nytimes.com/2026/05/01/pageoneplus/editors-note-may-2-2026.html），因为发表的归因于保守党领袖皮埃尔·波利耶夫的引语原来是对他观点的"AI生成摘要"。包括《连线》和《商业内幕》在内的出版物撤下了多篇据称由"玛戈·布兰查德"（https://www.theguardian.com/us-news/2025/aug/21/ai-author-articles-wired-business-insider）撰写的文章，这些文章似乎是AI生成的。学术会议受到大量带有幻觉引文（https://gptzero.me/news/neurips/）的论文（https://gptzero.me/news/iclr-2026/）困扰，预印本清理中心arXiv最近实施了零容忍禁令政策（https://arstechnica.com/science/2026/05/preprint-server-arxiv-will-ban-submitters-of-ai-generated-hallucinations/）以试图遏制问题。 Ars本身也无法幸免于这个问题。今年早些时候，我们撤回了（https://arstechnica.com/staff/2026/02/editors-note-retraction-of-article-containing-fabricated-quotations/）一篇文章，因为一名前记者使用了一种旨在从来源博客文章中提取逐字引语的AI工具——但该工具反而生成了来源实际所写内容的虚构版本。（我们的AI政策最新版本可以在这里找到（https://arstechnica.com/staff/2026/04/our-newsroom-ai-policy/）。） 一位作者将AI生成的虚假内容纳入一本关于AI扭曲现实效果的书中，这种讽刺对罗森鲍姆来说并不陌生。"我很感激这本书得到了一些关注，但这本来不是我选择的方式，"他说。 虽然这种讽刺"令人不舒服"，但他很快将其转化为"也有教育意义。一个批判性地写作关于AI和验证的人仍然可能遇到这些失败，这一事实告诉你这些系统变得多么普遍和有说服力。"罗森鲍姆自己与AI的问题"比任何抽象论证都更生动地展示了问题，"他说。 也许吧。但如果我们接受这个观点，世界上每一个本可避免的明显混乱都可能是一种伪装的善举，因为它确实有助于照亮巨大的错误。这不可能是对的；有时"疏忽"就是"疏忽"。 当被直接问及他如何能屈服于自己书中警告的一些AI相关问题时，罗森鲍姆描述了一种与迷人骗子的功能失调关系。 [](https://cdn.arstechnica.net/wp-content/uploads/2026/05/rosenbaum.jpg) 作者史蒂文·罗森鲍姆。 作者史蒂文·罗森鲍姆。图片来源：《未来的真相》（https://thefutureoftruth.us/） "作为一个作家，AI常常是一个令人愉快的写作伙伴，"罗森鲍姆告诉我。"当我说'写作伙伴'时，我不是轻描淡写。它奇怪地有创意、狡猾且不寻常……然后它以非常可怕的方式背叛你。" 在我们整个对话过程中，罗森鲍姆频繁引用实例，其中明显的AI错误让他愤怒并真的对着机器咒骂。这些可以追溯到2022年，当时罗森鲍姆说他开始尝试使用AI工具进行"小型研究项目"。当时，他发现AI答案在大约80%的情况下"非常有用"，其余则是"完全不正确"的虚构内容。 尽管有这些错误，他仍然在他的生活和工作继续使用这些工具。当我们周二交谈时，罗森鲍姆说他最近要求一个AI工具从幻灯片中提取他的"无改动，逐字"的演讲者笔记，以便用于即将到来的演讲。他正打算打印那些提取的笔记时，意识到LLM实际上改写了他的话，尽管他给了"机器人非常明确的指示"。 "我对它说，'你改写了这些词吗？'它说，'嗯，我只是让语言更有力一些。'好吧，恕我直言，但去你的！"他说。 即使面对这些令人骂出声的错误，罗森鲍姆仍然认为AI工具太高效了，不能不用。 "幻灯片有100页，"罗森鲍姆说。"一页一页地复制粘贴每一页的文本将是一个小时的机械复制粘贴工作。ChatGPT在大约四秒钟内完成了。" 对此，显而易见的反驳可能是：是的，它很快。 但它也是错的。 ## 下车 当唯一的利害关系是个人演讲笔记时，效率提升可能值得。但《未来的真相》展示了，当涉及最终出现在出版书籍中的研究时，AI的可靠性与表面速度之间的平衡应该被非常不同地权衡。 随着我们继续谈话，我反复回到那个准确性/效率的权衡，罗森鲍姆似乎在某种程度上认识到这是一个问题。即使他称AI的研究帮助是"神奇的"和"令人愉快的"，他描述了与AI的虚构和忽视指令作斗争是一种"有害且令人筋疲力尽"的挣扎。 "它让你……几乎每次使用它时都不舒服，"他谈到AI忽视明确指令的倾向。 "在此之前，我从未与技术斗争过，老实说，"他在另一个时刻说。"而且我广泛使用它。" > 我从未处于一个我认为自己使用的技术既令人陶醉又危险的地步……史蒂文·罗森鲍姆 鉴于他的新书的问题，我问，引入你可能不会捕捉到的不准确性的风险是否真的值得感知到的收益。 "我不吸毒，也不喝酒，但我猜想那是一个成瘾者在喝得太多并且知道自己在做什么时会问的问题，"罗森鲍姆说。"我从未处于一个我认为自己使用的技术既令人陶醉又危险的地步。而且我专门写了这本书来提出这个担忧，所以如果我最终成为没有意识到防护栏的典型代表，那就这样吧。" 在讨论使用AI的相对风险和回报时，罗森鲍姆提到他骑自行车但不会骑摩托车。"我知道摩托车能更快地到达某些地方。我认为它很危险，我可能会死。这就是为什么我没有摩托车，"他说。 罗森鲍姆明确表示，在这个类比中，使用AI是相对安全的"自行车"选项。我回应说，使用AI所带来的超强效率和灾难性风险让它感觉更像摩托车。罗森鲍姆说"那可能是公平的"，并感谢我"锐化"了他的类比。 然后我问了显而易见的问题：你打算继续骑摩托车吗？ "我能之后回复你吗？"他说。 凯尔·奥兰德的照片（https://arstechnica.com/author/kyle-orland/） 凯尔·奥兰德自2012年起担任Ars Technica的高级游戏编辑，主要撰写关于视频游戏商业、技术和文化的文章。他拥有马里兰大学的新闻和计算机科学学位。他曾写过一本关于《扫雷》（https://bossfightbooks.com/collections/books/products/minesweeper-by-kyle-orland）的整本书。 58条评论（https://arstechnica.com/ai/2026/05/ai-put-synthetic-quotes-in-his-book-but-this-author-wants-to-keep-using-it/#comments） 1. 最受欢迎的第一篇文章的列表图片：Zillow在关于"隐藏"房屋的争斗中失去数千条房源（https://arstechnica.com/tech-policy/2026/05/zillow-loses-access-to-thousands-of-home-listings-amid-bitter-legal-feud/）