以下是该论文的简体中文翻译：

GitSwarm：去中心化的复利推理

来源：https://arxiv.org/html/2610.04862

Vedant Shah（隶属：Meta Superintelligence Labs；隶属：Mila - Québec AI Institute；隶属：Université de Montréal） Paras Dahal（隶属：Meta Superintelligence Labs） Mikhail Plekhanov（隶属：Meta Superintelligence Labs） Carole-Jean Wu（隶属：Meta Superintelligence Labs） Scott Yih（隶属：Meta Superintelligence Labs） Remi Munos（隶属：Meta Superintelligence Labs） Rob Fergus（隶属：Meta Superintelligence Labs） Jakob Foerster（隶属：Meta Superintelligence Labs） Ruslan Salakhutdinov（隶属：Carnegie Mellon University；工作完成于 Meta） Sanjeev Arora（隶属：Princeton University；工作完成于 Meta） Jason Weston（隶属：Meta Superintelligence Labs） Aaron Courville（隶属：Mila - Québec AI Institute；隶属：Université de Montréal） Anirudh Goyal（隶属：Meta Superintelligence Labs）

摘要

长期问题求解和科学研究需要在连续的尝试中不断积累算力。部分解决方案、实验发现甚至失败的方法都可能对后续工作产生价值，然而大多数推理时算力的组织方式是围绕单条轨迹或候选方案展开，而非形成一个可复用的持久工作体系。我们将这种范式称为复利推理（compounding inference）：组织推理时算力，使中间工作得以保留，并可被后续计算检视、扩展、合并或质疑。我们在 GitSwarm 中实现了复利推理，这是一个异步系统，其中同构的智能体各自独立地决定如何推进任务，同时通过结构化的持久记忆进行协作。智能体在共享的、可分支的 Git 仓库中探索、实验、验证、精炼和综合先前的工作。原子提交保留中间产物，而显式的语义依赖关系则记录后续贡献如何基于跨分支的工作构建。我们在长期问题求解和持续的 GPU 支撑实验研究上对 GitSwarm 进行了评估。在 IMOProofBench-Advanced 上，GitSwarm 使用 GPT-5.5 在一次运行中解决了全部 30 道题目。在 ProgramBench 上，它取得了 79.4% 的平均得分，而基准预算下最强基线为 65.1%。在三个神经架构研究任务——Residual Matrix Transformer、Looped Transformer 和 NanoChat——中，GitSwarm 通过连续实验分别改进了各自的起始架构。除了最终性能之外，我们还衡量了算力是否真正发生了积累：在 ProgramBench 上，94.7% 的贡献在后续被基于构建，而所选方案的传递祖先覆盖了贡献图的 82–93%。这些结果共同表明，推理时算力可以在原本独立的回合之间积累，形成一个可被后续推理复用的、不断演化的知识体系。

††通讯作者：Vedant Shah ([email protected])，Anirudh Goyal ([email protected])

图 1： GitSwarm 概览（示意图）。同构的工作者独立地检视、扩展并向共享的、可分支的仓库做出贡献。贡献可以包括探索、验证、修复、实验或综合。原子提交保留中间产物，而语义依赖关系将跨分支的工作链接起来。高亮显示的祖先路径展示了后续贡献如何逐步积累为最终解决方案。

1 引言

通过重复采样、更长的推理轨迹、搜索和多智能体协作来扩展推理时算力，可以提升语言模型的性能（Brown et al., 2024 (https://arxiv.org/html/2610.04862#bib.bib2); Snell et al., 2024 (https://arxiv.org/html/2610.04862#bib.bib37); Du et al., 2023 (https://arxiv.org/html/2610.04862#bib.bib4)）。这些方法主要关注的是额外算力应当如何分配。而长期问题求解和科学研究提出了一个互补的挑战：有用的算力也必须在多次尝试之间积累。中间工作的价值在其产生时往往是未知的。一个失败的实验可能揭示出一个有前景的方向；一个部分解可能为很久之后才被使用的某个要素奠定基础；相互竞争的方法可能各自包含的想法只有结合起来才有用。如果这些工作在一次回合结束时就消失了，后续的计算可能需要重新发现它们。保留这些工作，则后续的智能体可以在积累的先前工作基础上继续构建。我们将这种范式称为复利推理：将推理时算力组织成一个持久的、不断演化的可复用知识体系。

现有方法支持这一过程的不同环节。独立采样探索多样的候选方案，更长的推理轨迹在单个回合内保留工作，多智能体系统使协作成为可能，通常通过预定义角色、集中式规划或共享对话实现（Hong et al., 2024 (https://arxiv.org/html/2610.04862#bib.bib13); Chen et al., 2024 (https://arxiv.org/html/2610.04862#bib.bib3); Wang et al., 2025 (https://arxiv.org/html/2610.04862#bib.bib42); Wu et al., 2023 (https://arxiv.org/html/2610.04862#bib.bib43)）。其他方法将先前的尝试提炼为摘要，以指导后续推理（Madaan et al., 2025 (https://arxiv.org/html/2610.04862#bib.bib25); Venkatraman et al., 2025 (https://arxiv.org/html/2610.04862#bib.bib39); Kim et al., 2026 (https://arxiv.org/html/2610.04862#bib.bib18)）。我们研究了一种不同的组织方式：独立的工作者保留相互竞争的工作线及其依赖关系，同时自行决定扩展哪些先前的贡献。

我们在 GitSwarm 中实现了复利推理，它使用一个共享的、可分支的 Git 仓库作为结构化的持久记忆。同构的工作者以异步方式运行，检视先前的贡献，并独立决定是否进行探索、实验、验证、精炼或合并现有工作。每个贡献以原子提交的形式发布。重要的是，GitSwarm 将工作者开始工作时的仓库状态与其工作所依赖的额外先前贡献区分开来。因此，显式的语义依赖关系允许工作者在扩展一个分支的同时，利用其他分支的发现。这在保留相互竞争的方法的同时，不会丢失它们之间的关联。没有集中的智力规划者来分配任务或角色；一个执行框架管理调度和验证，而工作者则提名最终选择的候选项。

我们的评估涵盖两种场景。第一种是长期问题求解，其中任务有明确定义的目标和可验证的结果。我们研究了数学证明和程序重建。在 IMOProofBench-Advanced（Luong et al., 2025 (https://arxiv.org/html/2610.04862#bib.bib23)）上，GitSwarm 使用 Codex（GPT-5.5-High）工作者，在一次运行中以略低于一百万的输出 token 解决了全部 30 道题。在 ProgramBench（Yang et al., 2026 (https://arxiv.org/html/2610.04862#bib.bib46)）上，同样使用 Codex（GPT-5.5-High）工作者，GitSwarm 取得了 79.39% 的平均得分，而 Forced Codex——即一个被反复提示继续工作的单个 Codex（GPT-5.5-High）智能体，在可比的算力预算下取得了 65.12%。在测试范围内，平均性能随推理时算力的增加而提升。第二种场景是持续实验研究，其中智能体需要决定运行哪些实验并从中学习结果。我们在 Residual Matrix Transformer（Mak and Flanigan, 2025 (https://arxiv.org/html/2610.04862#bib.bib27)）、Looped Transformer（Geiping et al., 2025 (https://arxiv.org/html/2610.04862#bib.bib8)）和 NanoChat 上评估了 GitSwarm。在所有三个任务中，GitSwarm 都改进了各自的起始方案。在 Residual Matrix Transformer 上，两种配置取得了 2.890 和 2.894 的留出集损失，而参照模型为 3.147，使用的是相同的 1.3B token 训练预算。由此产生的研究历史显示，工作者将分别在不同分支上开发的架构改动进行了合并，并重新审视了最初未成功的实验。

除了最终性能之外，我们还检验了先前的计算是否确实发生了积累。在所分析的 ProgramBench 运行中，94.7% 的贡献在后续被引用，而所选方案的传递祖先平均覆盖了贡献图的 81.6–92.6%（跨不同预算），这主要通过声明的跨分支依赖关系实现。执行轨迹提供了独立的证据，表明工作者确实消费了先前的产物。数学证明呈现出不同的模式：工作者经常复用先前的工作来验证和比较候选方案，即使这些工作并未进入所选证明的祖先路径。这些结果共同表明，持久记忆既支持对先前贡献的综合，也支持引导后续计算的证据积累。

因此，我们的贡献有三方面：我们提出了复利推理这一范式，用于在多个回合之间积累可复用的推理时算力；我们引入了 GitSwarm 作为具体实现，基于持久的、可分支的贡献和显式的跨分支依赖关系；我们在问题求解和持续实验研究上同时评估了任务性能和积累过程本身。

2 GitSwarm

GitSwarm 通过异步的同构工作者在一个共享的 Git 仓库上协作，实现了复利推理。工作者独立决定如何推进任务，而一个执行框架管理并发、隔离、验证和发布。仓库将中间工作保留为一个可分支的计算图。

2.1 设计原则

我们希望在不规定智能体应如何组织工作的前提下积累计算。这要求共享记忆具备三个特性：持久性，使中间发现能够超越其作者而存续；可分支性，使相互竞争的方法能够在不仓促选择单一解决方案的情况下发展；以及可归因性，使后续工作者能够识别贡献之间的依赖关系，包括跨分支的依赖。这些特性支持自适应的去中心化控制：工作者根据不断演化的共享状态，独立选择要探索、验证、精炼或合并的内容。执行框架协调执行，但不分配智力角色，也不规定问题求解阶段的顺序。

2.2 共享计算图

考虑一个任务 q、一个固定的语言模型 p_\theta 和一个包含 B 个计费工作者回合的预算。对于每个任务，GitSwarm 初始化一个 Git 仓库，其中包含任务规范和所需产物，作为不可变的根节点 v_0 提交。被接受的贡献形成一个不断演化的图 G_t = (V_t, E_t)，其中 V_t = \{v_0, \ldots, v_t\} 包含根节点和前 t 个已发布的贡献。每个贡献 v_i 是一个原子 Git 提交，具有一个物理父节点 p_i \in V_{i-1}。这个父节点标识了工作者开始工作时的状态，但不一定涵盖其贡献所使用的全部信息。为了记录额外的依赖关系，每个工作者在必须填写的 informed_by= 字段中声明一组语义来源 U_i \subseteq V_{i-1}。物理父节点必须包含在 U_i 中。

图中既包含 Git 父边，也包含额外的语义依赖边：

E_t = \{(p_i, v_i) : 1 \leq i \leq t\}

\cup \{(u, v_i) : u \in U_i \setminus \{p_i\}, 1 \leq i \leq t\}.

边从较早的贡献指向依赖于它的贡献。这种表示允许工作者在继承一个分支的同时利用其他分支的发现，而无需进行合并。语义依赖由工作者声明，而非独立地作为因果影响来确定。

2.3 异步工作者协议

一次运行具有 B 个计费工作者回合的预算和最大并发数 C。执行框架维持最多 C 个活跃工作者，当空位可用时启动替代者。所有工作者使用相同的模型和行为契约，没有预定义角色。每个工作者在隔离的 Git 工作树中运行。它检视仓库，选择一个起始提交，然后独立决定如何推进任务。每个回合以以下三种动作之一结束：

1. 贡献（Contribute）：发布一个经过验证的、原子的提交，包含新的工作，如部分解、实验、测试或精炼结果。验证只强制要求符合任务特定的发布标准，而非解决方案的正确性。

2. 提名（Nominate）：选择一个现有的候选方案，发布一条附有理由的独立提名记录，而不修改候选方案本身。

3. 弃权（Abstain）：当没有发现有用的额外工作，或等价的工作已在进行中时，终止且不发布任何内容。

自愿弃权会触发替代者而不消耗 B 预算，尽管仍会产生推理成本；其他回合结果则消耗预算。因此，工作者可以在探索、精炼、实验、验证、整合和选择之间自适应地分配精力。

2.4 实时群体状态：仪表盘和在途活动

工作者还可以通过两个只报告状态而不分配工作的接口，查看当前的运行状态和同伴的活动（图 2 (https://arxiv.org/html/2610.04862#S2.F2)）。

仪表盘（Dashboard）：每个工作者在生成时收到一个仪表盘快照，并可以通过 gs_dashboard 查询实时状态。它报告剩余的工作者预算、在途的工作者数量以及提名计数，并注明投票不构成正确性的证据。对于研究任务（使用墙上时钟预算，并通过验证分数选择最终模型），预算和提名字段被替换为共享的 GPU、CPU 和作业使用情况，GPU 利用率过低时发出警告，以及最佳验证分数及其对应的提交。

在途活动（In-flight activity）：由于未提交的工作在仓库中不可见，每个工作者通过 gs_inflight 维护一个公开的活动日志。它在编辑前公告自己的范围（目标缺口、交付物、成功和中止标准），并发布进度更新。同伴可以列出活跃的工作者或检视某个工作者的日志和未提交的变更，但不能修改它们。这旨在帮助工作者避免接手已在进行中的工作。

图 2： 实时群体状态。(a) 一个结合了……的仪表盘