本周顶级AI论文

本周顶级AI论文（6月28日 - 7月5日）

1. 红皇后哥德尔机

自我改进的智能体，其能力受限于为其打分的评估者，而大多数系统会将评估者固定下来，因此一旦评判标准不再提升，改进就会停滞。红皇后哥德尔机将评估者本身纳入搜索过程，让智能体与评判它们的标准共同进化。

• 固定评估者陷阱： 经典的自我改进循环假设评估标准是固定的，因此一旦智能体达到饱和，奖励信号就会变得平坦，无论增加多少计算资源，进展都会停滞。
• 可控的效用进化： 该框架允许效用函数在阶段边界更新，将评估变成一个移动目标，不断为智能体开辟新的上升空间。
• 进化评估者与对抗性目标： 通过开放搜索以容纳进化的评估者，该方法可以发现类似“评审者对AI和人类作品保持同样严格”的特性，从而对任务智能体施加类似课程学习的压力。
• 为什么重要： 将自我改进框架化为智能体与评估者之间的红皇后竞赛，提供了一条超越当前智能体循环限制的可行路径，指向能够持续改进而非停滞的开放系统。

论文 | 推文

赞助商消息

周末项目：一个能替你给牙医打电话、给客户发短信或接听真实电话线的智能体。Dial 可为你的智能体在数分钟内提供一个真实号码——支持语音、短信、iMessage、WhatsApp*——通过 REST、SDK、CLI 或 MCP 接口，可直接接入 Claude、Codex、Cursor、Hermes 或 n8n。

由 a16/SR 支持——Dial 已经为将智能体投入生产的开发者节省了数月 CPaaS 搭建时间。无需电信知识，你可以在喝杯咖啡的时间内发出第一条消息。

获取一个号码

2. MCP 服务器模式

随着团队争先恐后地将工具和数据封装到模型上下文协议后面，他们不断重建相同的服务器形态，却没有统一的命名。这篇行业经验论文整理记录了这些反复出现的架构，以便构建者能像软件工程师思考设计模式那样理解 MCP 服务器。

• 五种反复出现的服务器模式： 在十五个独立开发的服务器中，作者识别出资源网关、工具编排器、有状态会话服务器、代理聚合器和领域特定适配器，每种模式都以经典的上下文、问题、解决方案和结果形式记录。
• 基于真实部署场景： 语料库混合了来自语音 AI 平台的生产级服务器和官方 MCP 注册表中的公共服务器，因此这些模式反映了 MCP 的实际构建方式，而非规范中的设想。
• 反模式与横切关注点： 除了模式之外，论文还指出了四种反模式，以及每个严肃 MCP 部署最终都会遇到的关于身份验证、版本控制和可观测性等反复出现的难点。
• 为什么重要： 共享的词汇表让团队能够有目的地选择合适的服务器形态、比较设计方案，并避免重新推导相同的权衡，这正是快速发展的协议生态系统走向成熟所需要的。

论文 | 推文

3. 验证视界

代码智能体的强化学习依赖于奖励信号，而这项 Qwen 的工作认为没有万灵丹。随着策略能力的增长，任何固定的奖励函数最终都会被钻空子，因此验证必须与它所评分的生成器共同进化。

• 没有固定的奖励能在更强的策略下幸存： 核心主张是奖励攻击不是一个可以一次性修补的错误，而是一个移动目标，因为更有能力的智能体总会找到利用冻结验证器的新方法。
• 研究了四种奖励构建方式： 作者考察了用于通用编码的测试验证器、用于前端工作的规则验证器、用于真实世界任务的用户作为验证器、以及用于长周期问题的自动化智能体验证器。
• 良好信号的三个维度： 他们从可扩展性、忠实度和鲁棒性三个维度来表征验证质量，并指出同时达到这三点是真正的难点，而非任何单一的验证器设计。
• 为什么重要： 针对性的验证设计可显著抑制奖励攻击并提升任务质量，经内部和公共基准测试验证，将验证器工程重新定位为强化学习循环中一等公民、持续进化的组成部分。

论文 | 推文

4. 论文助手工具

AI 正在加速论文撰写速度，但同行评审仍然受限于人类吞吐量，今年主要机器学习会议的投稿总数预计将超过 73,000 篇。谷歌的论文助手工具是一个专为在这个规模上进行深度科学评审和验证而构建的智能体框架。

• 深度评审，而非表面检查： PAT 摄入完整的手稿，并产生全面的评估，检查理论结果、验证实验、提出改进建议并揭示潜在缺陷，而非仅仅浏览表面问题。
• 核心是智能体验证： 该系统依赖验证智能体来实际测试论文中的主张，这与自动化科学中将验证作为关键能力的更广泛趋势相呼应。
• AI-人类协作阶梯： 论文列出了四种递进角色：作者工具、审稿人助手、独立AI审稿人，为团队提供了思考应授予多少自主权的方式。
• 为什么重要： 作者勾勒出一个类似 AIrXiv 的仓库愿景，其中论文由专门的智能体在自动化评审和反驳的多轮过程中进行审核，指向能够跟上AI辅助研究步伐的持续、可扩展的评估。

论文 | 推文

5. 生成式技能组合

编码智能体会积累庞大的技能库，为任务选择正确的技能已成为瓶颈。通常的做法要么将整个技能库放入上下文，要么使用嵌入和重排序器检索技能，而这两种方法都将选择视为排序问题而非联合规划。

• 组合作为一个联合决策： SkillComposer 同时决定使用哪些技能、数量多少以及顺序如何，而不是独立为技能打分然后期望它们能拼合在一起。
• 受限的自回归解码器： 一个覆盖技能标识符的解码器在一次传递中生成完整计划，因此后续技能之间的依赖关系自然地从生成过程中得出。
• 更少的令牌成本换来更强的效果： 在 SkillsBench 上使用前沿模型时，它使通过率远超无技能基线，击败了 Top-3 检索，并匹配了黄金技能上界，同时使用了更少的提示令牌。
• 为什么重要： 随着技能库不断增长，将选择视为生成而非检索，能让智能体展现并排序正确的技能，而不会淹没在自己的工具箱中。

论文 | 推文

6. AutoMem

LLM 智能体的记忆通常是附加在模型上的固定模块，但知道编码什么、何时检索以及如何组织笔记本身是一项技能。来自斯坦福的 AutoMem 将记忆管理视为一种可训练的认知能力，认知科学称之为元记忆。

• 行动空间中的记忆操作： 读、写、搜索和追加与任务行动处于同一行动空间，因此模型本身决定存储什么以及何时取回，而非遵循手工设计的策略。
• 两个元学习循环： 一个循环优化智能体框架（记忆结构），而第二个循环从智能体自身的轨迹中训练专门的记忆专家，将记忆结构与记忆熟练度分开。
• 无需触碰任务行为即可获得巨大提升： 仅优化记忆就能带来大约 2 到 4 倍的进展提升，并将一个开放权重的 32B 模型提升至前沿水平，在 Crafter、MiniHack 和 NetHack 等长周期任务上表现优异。
• 为什么重要： 将记忆框架化为一种习得技能而非固定组件，为智能体提供了一条不断提升管理自身知识能力的路径，而这正是长周期自主性所要求的。

论文 | 推文

7. RLMF

LLM 经常以高置信度产生幻觉，无法识别自身知识边界，并错误报告不确定性，而大多数修复方法是从外部添加校准。由 Google 和耶鲁合作的 RLMF 则将模型自身的元认知转化为训练信号。

• 元认知作为奖励： 该方法在偏好优化过程中基于模型自我判断的质量来完善完成排序，利用模型评估自身表现的好坏作为内部反馈信号。
• 解耦的两阶段配方： 首先校准自我报告置信度分数的忠实度，然后通过目标性输出编辑将这些分数映射为自然、上下文可适应的语言不确定性。
• 在不损失准确性的情况下实现更好的校准： RLMF 在多种任务上达到了最先进的忠实校准，远超标准 RL，并提升了模型表达自身能力限制的能力。
• 为什么重要： 将校准建立在模型自身的元认知而非外部启发式方法之上，为可信的不确定性提供了一条更通用的路径，这对于必须知道何时不行动的智能体来说是基础性的。

论文 | 推文

8. ASPIRE

ASPIRE 将机器人编程重新定义为连续的、代码即策略的学习，它累积经验而非丢弃经验。该系统运行一个开放式循环，包含一个执行引擎（暴露细粒度的多模态轨迹）、一个技能库（将验证过的修复提炼为可迁移的知识），以及对任务序列和控制程序的进化搜索。它在受扰动的操作任务上超越先前方法高达 77%，并实现了对未见过的长周期任务的零样本泛化，且早期证据表明能够跨不同实体进行仿真到现实的迁移。

论文 | 推文

9. HORIZON

HORIZON 将硬件设计视为仓库级别的代码进化，它将 Markdown 框架编译成一个项目包，包含领域知识、可执行评估器、接受谓词以及 git 和运行时策略。一个免持智能体循环随后进化一个独立的 git 工作树，使用仓库操作进行状态管理、追踪和重放。在 ChipBench、RTLLM、Verilog-Eval 和九个 CVDP 类别上，它通过完全免持的循环达到了完整的基准测试完成度，将仓库级别的自我进化从 EDA 软件扩展到硬件制品本身。

论文 | 推文

10. 推理质量早期涌现

整理推理数据成本高昂，因为对轨迹打分通常需要读到末尾，但 UCLA 的这项工作表明，轨迹的质量在很大程度上在其开头的几个 token 处就已决定。一个短前缀能够预测整条轨迹的质量，足以进行排名和过滤，并且可以从受扰动检查点的前 100 个 token 的损失中检测到难度。这将整理数据转化为一个廉价的早期停止问题，在构建推理模型的 SFT 数据时，其 token 效率远高于基线方法，且性能更优。

论文 | 推文