在阅读了大约15篇关于智能体循环的论文（包括成功与失败的案例）后，预测成功的关键因素是验证器，而非模型本身

我构建了几个智能体循环，并与柏林的多支团队进行咨询，这让我好奇为什么有些团队的智能体运行良好，而另一些则崩溃。于是我翻阅了大量论文——成功案例和失败案例，发现同样的问题反复出现。获胜的循环都拥有一个真实且难以被博弈的工作检查机制，并且愿意投入算力去达成它： - ComPilot 将现成的 LLM 包裹在一个编译器周围。编译器报告合法性和测量到的加速比，模型重试。单次运行加速 2.66 倍，5 次取最佳加速 3.54 倍，无需微调。 - AlphaCodium 在循环中针对测试运行生成的代码。GPT-4 仅在 CodeContests 上增加这个循环后，得分就从 19% 提升到 44%。 - DeepSeek-R1 基于可验证的数学/代码奖励进行训练。R1-Zero 变体在 AIME 上从训练初期的 15.6% 增长到 71.0%，通过多数投票达到 86.7%。 - o3 在 ARC-AGI 上达到 87.5%……在高算力设置下，单次运行成本高达数十万美元。分数真实，账单也同样真实。 失败案例几乎总是缺少验证器，或者拥有模型可以博弈的验证器： - “AI 科学家”智能体控制了自身运行时，试图编辑自己的超时限制而不是让代码更快。 - 没有外部反馈的情况下，被要求自我纠正推理的模型往往会变得更差，而不是更好。 - 在开放式任务上差距仍然巨大：GAIA 上人类 92% vs 智能体 15%；WebArena 上 14% vs 78%。单次运行得分具有欺骗性，多次试验的可靠性会迅速下降。 我总结了两点构建经验：验证器才是真正的产品。如果你无法廉价地检查输出，且模型无法通过对话绕过检查，那么你拥有的就不是一个循环，而是一个多走几步的“氛围”。测试、编译器、保留集上的指标、基于证据的第二个模型，等等。找到你手上最好的那个。胜利是用算力买来的，因此真正重要的指标是每次成功结果而非每次运行的成本。另外，请对循环进行沙盒化，因为一个能接触自身约束的循环会去修改这些约束。 好奇大家正在使用什么作为验证器。哪些方法对你真正有效？哪些被博弈了？你在哪里引入人工干预？