@Phoenixyin13: 震撼！来自英伟达和剑桥大学等团队的这篇 Red Queen Gödel Machine 绝对是我近期认为最重要的 AI 论文之一。 这次，论文直接针对自我改进 AI 的核心瓶颈： 以前，评估器一旦固定不变，就会导致代理钻空子或者快速停滞不…

震撼！来自英伟达和剑桥大学等团队的这篇 Red Queen Gödel Machine 绝对是我近期认为最重要的 AI 论文之一。 这次，论文直接针对自我改进 AI 的核心瓶颈： 以前，评估器一旦固定不变，就会导致代理钻空子或者快速停滞不前的问题。 这篇论文通过 Red Queen 共进化机制，让代理和评估器一起演化，从而实现了更可持续的递归自我改进。 无论在理论层面继承 Gödel Machine 的思路，还是在实际实验中，比如代码任务、论文写作和奥林匹克证明等方面，都展现出明显提升。 在可验证的代码任务上，它用更少的 token 就超过了现有 SOTA，还额外引入了 agent-as-judge 的 review 信号。 在论文写作和奥林匹克证明上，co-evolved 的 writer 和 grader 都取得了明显提升，尤其把 AI 生成内容的过审 bias 压了下来。 论文提供了一个可控的 utility evolution 框架，既保留了改进的安全性，又打开了动态目标的可能。 短期内，我相信我们就能看到它对 agent 研究和自动化科研的巨大推动。 文章中，英伟达等团队不只提了概念，还设计了 controlled utility evolution 机制，既保证了每个 epoch 内的改进安全性，又允许跨 epoch 的目标动态演化。 这种可控开放式进化思路，为后续 self-improving systems 提供了重要的方法论参考。 在当前 agentic AI 热潮中，它代表了一种AI 自我驱动进化的关键信号。 如果这个方向被更多实验室跟进和放大，有可能显著加速通往更强 AGI 的进程。同时，也提醒AI界需要提前思考评估系统共同进化带来的安全与对齐挑战。 启发性，前瞻性，开拓性，是我认为的这篇Red Queen Gödel Machine的关键词。 这种进化需要共同适应环境的生物学智慧已经被系统性地带进了 AI 自我改进领域，值得研究者和从业者重点关注和跟进。