红皇后假说——自我改进AI的新方向

Hacker News Top 论文

摘要

研究人员提出了Red Queen Gödel Machine,这是一种用于自我改进AI的框架,其中代理和评估者共同演化以克服评估上限,在科学论文写作和评分等任务中展示了性能提升。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/08/17 03:49

# 红皇后假说——自我改进AI的新范式 来源:https://www.cst.cam.ac.uk/news/red-queen-hypothesis-new-way-forward-self-improving-ai ## 在公众对AI自我改进能力高度关注的当下,我们研究团队正着手攻克影响其发展的核心挑战之一。 研究团队(包括来自NVIDIA和Flower Labs的合作者)提出了一种新方法,使递归自我改进的AI智能体能够通过持续测试与优化自身代码来实现自我进化,从而突破其常遭遇的评估上限问题。 该方法还为降低此类AI智能体开发所需的计算资源成本提供了新思路。 尽管现有智能体已能通过编辑代码、测试变体并保留性能更优的修改来实现自我改进,但此过程通常受限于固定的评估器、基准或测试套件。当智能体从固定评估信号中获得所有可辨别的提升后,改进速度便会减缓甚至停滞。 "自我改进智能体的上限取决于对其评分的测试,"团队成员、剑桥大学**机器学习系统实验室**博士生**Alex Iacob**(导师为**Nic Lane教授**)解释道,"测试不仅衡量进展,更定义了进展。因此测试的有效性便成为智能体无法逾越的上限。" 为此,研究团队通过让自我改进智能体与评估器协同进化来解决这一难题。Alex补充道:"我们不再用固定测试来改进智能体,而是让**评估器与智能体同步进化**。随着智能体提升,**测试难度也同步增加**,标杆持续攀升。" ### 红皇后哥德尔机 Alex是该团队刚上传至arXiv的预印本论文第一作者。**《红皇后哥德尔机:协同进化的智能体及其评估器》**(https://arxiv.org/abs/2606.26294)详细阐述了该研究成果,并展示了在多类任务中应用该框架取得的卓越效果。 *图示:智能体与评估器的协同进化。红皇后哥德尔机在搜索AI智能体多种可能版本的同时,持续优化评估器。每个阶段评估器保持固定以确保进展的可测量性。在关键节点,若新评估器在可信基准测试中表现更优,即可替代旧评估器。随后清除旧评估器的评分,使下一阶段在更高要求的标准下推进。这构成了一个自我改进闭环:智能体与评估器协同进化,同时系统始终锚定于可靠的校验机制。* --- 在学术论文撰写与评审、数学奥林匹克级证明写作与评分任务中,红皇后哥德尔机相比以往的自我改进AI智能体均实现了性能突破。 "在多元化的智能体评委团评审下,协同进化的论文撰写系统使接收率提升至1.78倍–1.86倍;协同进化的评分系统则实现真实准确率9%的提升,"研究团队在论文中报告。 ### 红皇后假说 该框架的命名源自《爱丽丝镜中奇遇记》中的红皇后角色——她对爱丽丝说:"你必须拼命奔跑,才能留在原地。"1973年提出的红皇后假说(进化生物学理论)正是以此角色命名,该假说认为:物种必须在与其他持续进化的物种竞争中不断适应、进化与繁衍方能生存。 这一假说现已被引入AI领域。 > "我们不再用固定测试改进智能体,而是让评估器与智能体协同进化。随着智能体提升,测试难度同步增加,标杆持续攀升。"——博士生Alex Iacob 本研究由剑桥大学团队主导,获得NVIDIA、院系衍生企业**Flower Labs**(https://flower.ai/)、MBZUAI及Inria的支持。 ### 迈向高性能低成本开放智能体系统的新路径 另一关键发现是:结合使用开源模型与ChatGPT等计算密集型工具,可显著降低自我改进AI系统的开发成本。 在协同进化论文审阅与写作系统的实验中,研究团队将**NVIDIA Nemotron 3 Ultra**(https://www.nvidia.com/en-us/ai-data-science/foundation-models/nemotron/)与ChatGPT-5.5结合使用。在论文评审任务中,该混合方案接近ChatGPT的独立性能,同时将搜索标记成本降低约13倍。 共同作者Nic Lane教授指出:"这是个有限的结论,我们应避免过度解读。但它揭示了该方法的发展方向——若开源模型能承担主要搜索工作,而前沿强大模型主导高层级改进过程,我们将获得构建更高性能、更低成本开放智能体系统的可行路径。" NVIDIA客户关系经理Daniel Burkhardt表示:"本研究展示了开源模型在高级智能体系统中的重要价值。NVIDIA Nemotron模型专为推理与智能体负载优化设计,本研究证明了它们在自我改进闭环中的应用潜力。" 研究团队强调该工作仍处于初步阶段,需要更长的搜索周期来验证其扩展潜力。但现有成果已指向新型自我改进系统的诞生:智能体与评估器通过递归相互引导,为构建更高性能、更高效、更开放的智能体AI开辟了新道路。 论文《红皇后哥德尔机:协同进化的智能体及其评估器》已发布于arXiv。基础方法将开源以促进广泛应用,团队将继续探索该自我改进方法在更广泛AI任务中的表现,包括规划远超初始成果的大规模实验。 - **《红皇后哥德尔机:协同进化的智能体及其评估器》**(https://arxiv.org/pdf/2606.26294):Alex Iacob, Andrej Jovanović, William F. Shen, Daniel Burkhardt, Meghdad Kurmanji, Nurbek Tastan, Lorenzo Sani, Niccolò Alberto Elia Venanzi, Ambroise Odonnat, Zeyu Cao, Bill Marino, Xinchi Qiu, Nicholas D. Lane

相似文章

红皇后哥德尔机:共同进化的智能体及其评估者

arXiv cs.LG

本文介绍了红皇后哥德尔机(RQGM),这是一个在非平稳效用下进行递归自我改进的进化框架,其中智能体和评估者共同进化,提高了在编程任务、科学写作和奥林匹克级证明评分方面的性能。

@rohanpaul_ai: 来自剑桥大学、英伟达及其他顶尖实验室的新论文教会AI智能体和AI评判者共同改进,使任何一方都不会……

X AI KOLs Following

来自剑桥大学、英伟达及其他实验室的一篇新论文介绍了Red Queen Gödel机器,这是一种让AI智能体及其评估者共同进化以防止停滞的方法。该方法通过允许评判者在安全交接点改进来避免固定基准,从而在编程和论文写作任务中取得更好的性能。

@Phoenixyin13: 震撼!来自英伟达和剑桥大学等团队的这篇 Red Queen Gödel Machine 绝对是我近期认为最重要的 AI 论文之一。 这次,论文直接针对自我改进 AI 的核心瓶颈: 以前,评估器一旦固定不变,就会导致代理钻空子或者快速停滞不…

X AI KOLs Timeline

英伟达与剑桥大学等团队提出的Red Queen Gödel Machine论文,通过让代理和评估器共进化解决了递归自我改进的瓶颈,在代码、论文写作等任务上超越现有SOTA,为可控开放式AI进化提供了重要方法论。

@AlphaSignalAI: https://x.com/AlphaSignalAI/status/2054201045346287766

X AI KOLs Timeline

文章探讨了 Sakana AI 和 Meta 关于自我改进型 AI 智能体的最新研究,具体涉及达尔文-哥德尔机器(Darwin-Gödel Machine)和超智能体(Hyperagents),它们能够自主重写自身代码和基础设施以提升性能,且无需人工干预。