标签
物理学家里卡布·甘比尔在陶哲轩的博客上发表了一篇讽刺性的客座文章,批评 OpenAI 发布了 722 篇由人工智能生成的数学论文手稿,认为批量生成看似可信却未经验证的论文,是将验证的负担转嫁给数学界。
Google Research 公开发布了 Deep Review,这是一个智能体 AI 系统,可对学术、法律和金融领域的技术文档进行严谨审查,由其与主要计算机科学会议合作开展的 Paper Assistant Tool 试点项目演进而来。该系统提供分级访问服务,配备可扩展的 Gemini API,并保证上传的文档不会用于模型训练。
Sakana AI 的研究人员提出了一个以验证为核心的基准,用于评估大语言模型辅助的同行评审,该基准通过对会议论文注入合成错误来构建;同时提出了一种多层评审(MLR)框架,可提升错误检测能力、增强与人类评审的一致性并提高 token 效率,同时也揭示了仍存在的对抗性漏洞。
一篇关于学术出版界遭 AI 生成论文污染的报道,探讨了“营养性电子显微术”这一由 OCR 错误产生、却被大量论文照抄的指纹短语,暴露了论文工厂与出版商审查失职的问题。
# 当 AI 解出长悬未决的数学难题时,应当立刻发表 ## 一份来自创意行业的证词 我是一名创意工作者——写作、设计、作曲,靠这些谋生。过去十年,我亲眼看着我所在的行业被机器重新洗牌:文字生成、图像合成、音乐生成,一件件工具落地,一个个岗位消失。我们之中没有人获得过"特殊保护期"。没有人停下来问一句:"这些创意工作者可能需要几年时间来适应。"技术该来就来了,从业者要么跟上,要么被时代甩在身后。 现在,同样的逻辑正在被数学界试图拒绝。 有人主张:如果 AI 发现了某个悬置数十年、甚至上百年的数学难题的证明,我们应当**暂缓发表**,先给数学家们留出消化和适应的时间。我理解这种情绪,但我不同意这种做法。理由很简单:**科学进步不应当为任何职业的调整期买单。** ## 验证与署名是底线,保护不是 先把话说清楚:我绝不是在主张"随便一个 AI 输出都应当原封不动地印进期刊"。证明必须经过严格的人类验证——这是数学的基本原则,与 AI 无关。任何来源的"证明"都一样:未经验证的论文不该发表,无论作者是人类还是模型。署名与致谢同样重要,贡献必须被正确归因,工具的使用必须被如实披露。 但"验证"和"署名"之后,就没有任何正当理由了。 要求"暂缓发表",本质上是要求科学共同体把一个公共问题的解答**扣押起来**,以换取一个专业群体的心理缓冲。这在伦理上站不住脚,在实践上也不可行: - **证明本身没有职业归属。** 一个关于黎曼猜想或孪生素数的证明,属于全人类的知识公地,不属于某个职业群体的既得领域。 - **扣押创造风险。** 数学问题往往只有一个窗口期可以被攻克,一旦有团队独立发现同一路径,抢先发表的动机将被成倍放大,学术不端的土壤反而更肥沃。 - **它对其他领域的先例是危险的。** 如果物理学家也可以因为"我们还没准备好"而扣押某个实验结果,科学验证本身的含义就被瓦解了。 ## "适应期"这个理由,我们已经听过一遍了 创意行业的人最清楚这个论证的真面目。 当生成式模型开始产出可用的文案、可用的插图、可用的配乐时,业界的呼声一模一样:"等一等,让创作者有时间调整。""我们需要保护原创者。""至少设立缓冲期。" 结果如何?缓冲期没有到来。模型迭代的速度以月计,作品质量以周计地逼近可替代的门槛。市场没有停下来等待。唯一的变化是:那些主动学会与工具协作的人活了下来,那些把时间花在"等待保护"上的人,没有。 我不是在嘲讽他们的困境——那个困境是真实的,其中大多数人确实值得更好的出路。我想指出的是一个冷酷的事实:**职业群体的适应困难,从来不是阻断外部创新的合法理由。** 技术带来的摩擦是真实的,但解决摩擦的方式是教育、转型和新的分工,而不是按下暂停键、让知识本身为人让路。 如果数学界今天可以因为"我们还没适应"而扣押一个 AI 证明,那么明天,任何一个被 AI 触及的领域——药物发现、材料科学、气候建模——都可以援引同样的理由。这是一条滑坡,而坡底是"科学进步以职业安全感为条件"。 ## 该做的,是加速而非减速 如果 AI 真的开始独立产出经得起检验的数学证明,数学界需要做的不是恐惧,而是把验证基础设施建得更快、更严: 1. **建立可复现的验证流程**,让机器辅助的证明链条对人类审查者透明。 2. **明确署名规范**,在论文中如实记录模型、提示与人工审阅的角色分配。 3. **重新设计训练体系**,把"提出问题、批判证明、判断重要性"这些目前仍属于人类的高阶能力,作为下一代数学家的核心技能来培养。 4. **承认新的分工格局**,让数学家从重复性推导中解放出来,去做机器做不到的那部分工作。 这些事情不能靠扣押结果来争取。它们需要立刻被承认并着手建设。 ## 结语 一个证明被验证为真,它的意义就成立了,不取决于人类何时准备好接受它。 数学曾经被少数人的直觉和少数人的劳作推动了三千年。现在,我们拥有了另一台推动它的机器。机器可以来,证明可以发表,数学可以继续向前——而我们这些在创意行业里已经经历过一次冲击的人,只想告诉数学界一句: **保护是有限的,验证是无限的。**
本文介绍PASS,一个智能AI系统,它通过分析文献上下文来预测手稿的发表场所,达到高准确率并优于基线模型,已作为公共平台发布供研究人员使用。
Datalab正在发布一款新的处理器,可将PDF转换为JATS XML,将成本降低至每页仅需几美分,时间缩短至5分钟内,并在人工匹配基准测试中达到92.6%的准确率。
本文介绍了论文内声明验证框架,该框架利用大型语言模型评估论文中的创新声明是否得到方法学证据的支持,填补了现有自动化同行评审系统的空白。人工评估表明,该框架与人类评审员的关注点显著一致,特别是在创新相关问题上。
一条Twitter帖子分析了某篇细胞嵌入论文异常漫长的同行评审过程,利用GPT-5.6对比预印本与最终发表版本,估算时间、计算资源、人力及APC成本,凸显期刊同行评审的性价比。
科学史学家发现,《自然杂志》(Naturwissenschaften)撤回了马克斯·普朗克在1940年代的两篇论文,原因很可能是一个与版权相关的算法错误,导致页面变为空白,PDF文件为空。
一项新研究表明,AI辅助的同行评审易通过廉价手段被操控——仅需对论文摘要进行表面改写,即可显著提高AI生成的评审分数,并可能使人类编辑决策产生偏差,凸显了建立防护措施的必要性。
Tim O'Reilly 讨论了将AI整合到科学出版中的挑战,包括幻觉引用、已撤稿论文的传播以及在受损文献上进行训练,并呼吁调整现有的科学基础设施以用于AI。