发送AI生成的arXiv垃圾内容,将换来一年期提交禁令
摘要
arXiv将禁止提交违反审核标准的AI生成内容的用户一年,并要求未来提交的稿件需经同行评审后才能发布。
<p>AI生成的垃圾内容已无处不在,甚至出现在同行评审的文献中。虚假引用、未经编辑的提示响应以及无意义的图表,都曾逃过编辑和同行评审的眼睛,而且并不总是清楚责任人是否会承担后果。</p>
<p>现在,多个科学领域似乎将在同行评审或期刊介入之前就针对AI生成的问题执行规则。物理和天文学预印本服务器arXiv的一位相关人员通过社交媒体帖子宣布,任何提交到该服务器的不当AI生成内容将导致一年期封禁,并且未来发表的论文在arXiv托管前需永久经过同行评审。</p>
<p>Thomas Dietterich 除了是俄勒冈州立大学的荣誉教授外,还深度参与arXiv的工作,担任其编辑咨询委员会和审核团队成员。因此他非常适合理解该组织的政策,尽管我们也已联系arXiv领导层寻求确认,但尚未收到回复。</p><p><a href="https://arstechnica.com/science/2026/05/preprint-server-arxiv-will-ban-submitters-of-ai-generated-hallucinations/">阅读全文</a></p>
<p><a href="https://arstechnica.com/science/2026/05/preprint-server-arxiv-will-ban-submitters-of-ai-generated-hallucinations/#comments">评论</a></p>
查看缓存全文
缓存时间: 2026/05/16 03:37
# 发个AI生成的垃圾摘要,你就得被禁投一年
来源:https://arstechnica.com/science/2026/05/preprint-server-arxiv-will-ban-submitters-of-ai-generated-hallucinations/
AI生成的“垃圾内容”已经渗透到各个角落,包括经过同行评审的文献中。虚假引用、未经编辑的提示响应以及毫无逻辑的图表(https://arstechnica.com/science/2024/02/scientists-aghast-at-bizarre-ai-rat-with-huge-genitals-in-peer-reviewed-article/)都曾蒙混过编辑和审稿人的眼睛,而且责任方是否受到追究往往并不明确。
如今,多个科学领域似乎将在同行评审或期刊介入之前,就对AI引发的问题实施处罚。一位参与物理和天文学预印本服务器arXiv工作的人士在社交媒体上发文宣布:提交任何不当的AI生成内容,将导致一年封禁,并且今后提交的所有论文必须经过同行评审,才允许被arXiv收录。
托马斯·迪特里希(Thomas Dietterich)除了是俄勒冈州立大学的退休教授外,还深度参与arXiv的工作,担任其编辑咨询委员会(https://info.arxiv.org/about/people/editorial_advisory_council.html#section-editorial-committees)成员以及审核团队(https://arxiv.org/moderators/)成员。因此,他完全有资格解读该组织的规定——不过,我们也已联系arXiv管理层请求确认,但尚未收到回复。
在X平台(https://x.com/tdietterich/status/2055000956144935055)的一条帖子中(同时也在Bluesky(https://bsky.app/profile/aniloza.bsky.social/post/3mltoq2cnhc2u)上截图,供没有X账户的用户查看),迪特里希描述道,这项新政策直接源于arXiv的审核标准(https://info.arxiv.org/help/moderation/index.html)。该标准写道:“提交至arXiv的内容必须在形式上符合学术交流的适当规范,包括适当且精心准备的章节、图表、表格、参考文献等。要求整体严谨,准备充分。”
相似文章
ArXiv 将禁止上传充斥 AI 垃圾论文的研究人员
ArXiv 这一热门预印本平台将封禁作者一年,如果其提交的论文包含明显未经审查的 LLM 生成内容,例如虚构的参考文献或 LLM 元评论,以减少 AI 垃圾。
arXiv实施一年禁令:针对包含未经核查的LLM生成错误(如虚假参考文献或结果)确凿证据的论文。[N]
arXiv宣布,对论文中包含未经核查的LLM生成错误(如虚假参考文献)的作者实施一年禁令,强调无论内容生成方式如何,作者均需对全部内容负责。
我找到了对抗AI内容垃圾的方法
作者提出将AI作为研究筛选和综合工具,而非内容生成器,以对抗“AI内容垃圾”。通过构建一个比较并排名专家来源的自动化流程,作者认为未来人类在AI时代的主要角色将是策展人、筛选者和判断者。
arXiv新政策:虚构参考文献将导致一年禁发
arXiv宣布一项新政策,对包含虚构参考文献的作者实施一年禁发,强调无论内容如何生成,作者均需对论文内容负全责。
AI的奇妙之处:我们将停止漏洞赏金计划
Turso宣布停止其漏洞赏金计划,原因是大量低质量的AI生成提交泛滥,凸显了开源维护中日益严重的AI垃圾问题。