当人工智能开始自我构建时会发生什么？

# 当AI开始自我构建时会发生什么？ | TechCrunch 来源: https://techcrunch.com/2026/05/14/what-happens-when-ai-starts-building-itself/ Richard Socher 在 AI 领域已是一位重要人物多年，最知名的是他创立的早期聊天机器人初创公司 You.com，以及在此之前他在 ImageNet 上的工作。现在，他加入了当前这一代专注于研究的 AI 初创公司行列，创立了 Recursive Superintelligence——这家总部位于旧金山的初创公司于周三走出隐身模式，并获得了 6.5 亿美元融资。 与 Socher 共同加入这一新事业的还有一批杰出的 AI 研究人员，包括 Peter Norvig 和 Cresta 联合创始人 Tim Shi。他们共同致力于创建一个递归自我改进的 AI 模型——能够自主识别自身弱点并重新设计以修复这些弱点，无需人类介入——这可谓是当代 AI 研究中长期追求的核心目标。 在发布后，我通过 Zoom 与他进行了交谈，深入探讨了 Recursive 独特的技术路线，以及为什么他不认为这个新项目是“neolab”（新实验室）——一个非正式术语，用于指代那些优先研究而非构建产品的新一代 AI 初创公司。 以下访谈经过编辑以追求简洁与清晰。 **最近我们听到了很多关于“递归”的说法！似乎不同实验室都在追求这个共同目标。您认为您的独特方法是什么？** 我们独特的方法是使用“开放性”来实现递归自我改进，这是目前还没有人做到的。对很多人来说，这是一个难以捉摸的目标。很多人已经认为，当你只是进行自动研究时，递归自我改进就会发生。你知道，你可以用 AI 让它把其他东西变得更好——可能是一个机器学习系统，或者只是一封你写的信，或者其他什么，对吧？但这并不是递归自我改进，这只是改进。 我们的主要焦点是构建真正递归的、能够大规模自我改进的超智能。这意味着从研究思路的产生、实施到验证的整个过程都将实现自动化。 首先，它会自动化 AI 研究思路，最终会自动化任何类型的研究思路，甚至包括物理领域的研究。但尤其强大的地方在于，当 AI 作用于自身时，它会发展出一种对自身缺陷的新型自我意识。 **您用了“开放性”（open-ended）这个词——它有特定的技术含义吗？** 有的。事实上，我们的联合创始人之一 Tim Rocktäschel 曾在 Google DeepMind 领导开放性和自我改进团队，尤其致力于世界模型 Genie 3 的研究，这是开放性的一个很好的例子。你可以告诉它任何概念、任何世界、任何智能体，它就会生成出来，并且是可交互的。 在生物进化中，动物适应环境，然后其他动物会对这些适应进行反适应。这是一个可以进化数十亿年的过程，而且有趣的事情不断发生，对吧？这就是我们（头部）长出眼睛的方式。 另一个例子是彩虹团队（rainbow teaming），来自 Tim 的另一篇论文（https://iclr.cc/virtual/2024/23768）。你听说过红队测试吗？ **在网络安全中，它指的是——** 对，红队测试在 LLM 上下文中也需要进行。基本上，你试图让 LLM 告诉你如何制造炸弹，并且你要确保它不会这样做。 现在，人类可以花很长时间想出一些有趣的例子，说明 AI 不应该说什么。但是，如果你用第二个 AI 来测试第一个 AI，第二个 AI 的任务是让第一个 AI 说出所有可能的不良内容，然后让它们来回进行数百万次迭代呢？ 实际上，你可以让两个 AI 共同进化。一个不断攻击另一个，并且不只是从一个角度，而是从许多不同的角度出发——这就是彩虹的类比。然后你可以加固第一个 AI，使其越来越安全。这是 Tim Rocktäschel 的想法，现在已被所有主要实验室采用。 **你怎么知道它什么时候完成？我想它永远不会完成。** 其中一些事情永远不会完成。你总能变得更智能，在编程、数学等方面变得更好。智能是有一些界限的，我现在正在尝试将这些界限形式化，但它们非常巨大。我们离这些极限还很远。 **作为一个“新实验室”（neolab），感觉你们应该在做主要实验室没有在做的事情。所以这其中的一部分含义是，您认为主要实验室通过他们正在做的事情无法达到 RSI（递归自我改进）？这样说公平吗？** 我无法对他们的做法发表评论，但我确实认为我们的方法有所不同。我们真正拥抱“开放性”这一概念，我们的团队完全专注于这一愿景。而且这个团队在过去十年中一直在研究这一领域并发表论文。这个团队有着显著推动领域发展并交付真实产品的记录。你知道，Tim Shi 把 Cresta 打造成了独角兽。Josh Tobin 是 OpenAI 最早的员工之一，最终领导了他们的 Codex 团队和深度研究团队。 实际上，我有时对“新实验室”这个类别感到有些纠结。我觉得我们不仅仅是一个实验室。我希望我们成为一家真正有活力的公司，拥有人们喜爱的、对人类产生积极影响的出色产品。 **那么，你们计划什么时候发布第一款产品？** 我对这个问题思考了很多。团队已经取得了很大进展，我们实际上可能会比最初假设的时间表提前。但没错，会有产品，你们需要等待几个季度，而不是几年。 **关于递归自我改进的一个想法是，一旦我们有了这种系统，算力就成了唯一的重要资源。系统运行得越快，改进得就越快，人类的外部活动就不会真正产生什么影响。所以，竞争就变成了：我们能投入多少处理能力？你认为是这样吗？** 算力不可低估。我认为在未来，一个非常重要的问题是：人类愿意花费多少算力来解决哪些问题？这里有这种癌症，那里有那种病毒——你想先解决哪一个？你愿意投入多少算力？这最终变成了资源分配的问题。这将成为世界上最大的问题之一。 *当您通过我们文章中的链接购买商品时，我们可能会获得少量佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不会影响我们的编辑独立性。*