一份新报告揭示了研发自我改进型人工智能的秘密竞赛

# 一份新报告揭示了打造自我改进型 AI 的秘密竞赛 来源：https://time.com/article/2026/10/14/recursive-self-improvement-AI-report/ 数月来，Anthropic 和 OpenAI 一直警告称，AI 可能即将开始自我改进\。 这一被称为“递归式自我改进”（recursive self\-improvement，简称 RSI）的临界点，可能意味着新的 AI 能力将以前所未有的速度涌现\。但 RSI 的到来也可能给人类带来极大危险，甚至可能标志着开发者彻底失去对 AI 系统控制的阶段\。 尽管 AI 公司警告 RSI 可能带来的危险，它们却极少透露自己如何推进这一目标\。Gladstone AI 公司于周三发布的一份新报告（https://aiendgame.com/p/what-rsi-looks-like）试图改变这一状况\。该报告对 RSI 可能如何运作，以及 AI 公司正如何向这一目标迈进，给出了迄今最详尽的描述之一\。作者称，这份报告基于他们与顶尖 AI 公司内部六名研究人员的交谈\。 这份在发布前独家分享给《时代》杂志的报告强调，AI 公司正在“积极致力于”将 AI 开发流程的所有环节自动化，包括提出新想法、开展实验以检验这些想法，以及解读结果\。报告指出，Gladstone 访谈的大多数内部人士“认为，假设美国政府不干预，也没有出现进展放缓，RSI 将在未来 3 至 12 个月内开始，甚至可能更早”\。 Gladstone 首席技术官 Edouard Harris 表示，这些研究人员中“有相当一部分人正在做\[灾难\]应急准备，并购买生物安全地堡”\。 Gladstone 的高管告诉《时代》杂志，这份报告旨在让立法者更好地理解 RSI 如何运作，进而增强他们监管 RSI 的能力\。 “我们的目标是把递归式自我改进定义得足够清楚，让人们能够理性地讨论它，尤其是在华盛顿，”Gladstone 首席执行官 Jeremie Harris 说\。\(这两人是兄弟\。\)“目前有各种提议禁止超级智能的法案，它们都是应对这一问题的很有意思的尝试\。但我们更关心的是：究竟哪个过程需要受到监管？” ## RSI 可能如何运作 报告简要概述了 AI 公司内部目前的 AI 研究流程，以及这些公司如何开始将这一过程自动化\。 在 AI 模型训练的第一阶段，也就是预训练阶段，重点很大程度上在于寻找方法，用越来越少的计算能力，让模型具备更高的智能；这种计算能力在业内被称为“算力”\。 AI 公司采用投资组合式的方法来检验这些想法\。研究人员为每个想法分配少量算力，用来训练一系列模型\。那些在规模扩大时能够稳定表现得更好的模型，会被选中进入下一轮训练，使用更多算力\。 公司的算力并非无限，这限制了它们能够在更大规模上检验的有前景想法的数量\。这意味着，即使 AI 公司能够训练出一个可以提出看似有前景想法的 AI，它同时提出多少糟糕的想法，也至关重要\。如果公司需要花费大量时间或算力，才能从 AI 生成的想法中筛出好的、剔除坏的，那么继续依靠直觉敏锐的人类研究人员可能更合理\。 反过来，拥有更多算力的 AI 公司能够检验更多想法，这可能使它们率先实现 RSI\。有更多算力投入实验，公司也可能更容易发现那些被 Gladstone 报告称为最稀有、也最受 AI 公司青睐的想法：即使在较小规模下看起来毫无成效，随着投入的算力增加，它们却表现得*更好*\。 能够判断这些想法何时被发现，尤其是判断 AI 是否在帮助发现它们，“是这个过程中极其关键的一环，而目前立法者对这一环节的了解基本为零”，Jeremie Harris 说\。 RSI 难以监管的原因之一，是它是一个渐进的过程\。“这其实也是我们不遗余力地对它进行如此详细描述的原因之一，”Edouard Harris 说\。“这样，人们就可以指着这个过程中的某个环节说：这里*必须*有人类参与\。”