不要重启:有状态代理交接的剩余完成

arXiv cs.AI 论文

摘要

介绍了用于有状态代理交接的承诺前沿剩余完成(CFRC),实现了模型间成本高效的转换,同时保持任务准确性。

arXiv:2609.13800v1 公告类型:新 摘要:路由和级联通过跨模型转移控制来降低工具代理成本,但有状态交接必须保留已接受的选择、已实现的效果和未完成的义务。我们将此表述为承诺约束的剩余完成,并引入承诺前沿剩余完成(CFRC)。CFRC 强制执行目标先于提案、完整提案先于授权、以及实时证据先于成功:它冻结来自已接受进度的剩余合同,将后继延续关闭为证据链接图,并且仅在剩余部分被覆盖时才允许执行,实时收据解除义务。我们建立了合同相对部分正确性,这在完整合同构建下扩展到原始剩余请求。在五个环境和两个相同提供商的模型配对中,CFRC 实现了与强大全任务代理相当的宏观准确性,仅占其推理成本的 22.0%-34.6%,额外的跨提供商结果展示了更广泛的转移。
查看原文
查看缓存全文

缓存时间: 2026/09/15 09:02

# 无需重启:状态化代理交接中的残差补全
来源:https://arxiv.org/html/2609.13800  
邓润芝††贡献相等\.钟一鸣11脚注标记:1所属机构:南京大学  
赵芳††通讯作者\.所属机构:南京大学  
周攀22脚注标记:2所属机构:新加坡管理大学  

###### 摘要

路由与级联通过跨模型控制转移来降低工具代理成本,但状态化交接必须保留已接受的选择、已实现的效果以及未完成的义务。我们将此问题形式化为*承诺约束的残差补全*,并提出了承诺边界残差补全。该方法在提议前固定目标,在授权前覆盖完整提案,在成功前确保证据有效:它从已接受的进展中冻结残差合约,将后继延续闭合为证据关联图,并仅在剩余部分被覆盖时才允许执行,通过实时回执解除义务。我们建立了合约相对部分正确性,并在完整合约构造下扩展至原始残差请求。在五个环境和两组同提供商模型配对中,CFRC以仅相当于强全任务代理22.0%–34.6%的推理成本,实现了与其相当的宏准确率;跨提供商结果进一步展示了其广泛的迁移能力。

## 1引言

大型语言模型(LLM)与多模态代理日益成为工具使用系统的决策核心,服务于规划、软件交互与多步执行(Trivedi等人,2024 (https://arxiv.org/html/2609.13800#bib.bib27); Lu等人,2024 (https://arxiv.org/html/2609.13800#bib.bib7))。此类轨迹反复调用模型进行推理、动作选择、工具调用与验证,使得在整个过程中使用最强模型代价高昂且常非必要。一个实用的替代方案是让低成本模型处理常规步骤,并在任务变得困难或不确定时移交控制权(Ong等人,2024 (https://arxiv.org/html/2609.13800#bib.bib10); Son等人,2026 (https://arxiv.org/html/2609.13800#bib.bib16))。然而,其收益取决于后继能否复用已接受的进展而非重新开始。与无状态的提示路由(Chen等人,2023 (https://arxiv.org/html/2609.13800#bib.bib11))不同,代理在持久环境中操作,其动作可能产生不可逆的副作用。重新开始浪费计算资源并可能导致重复动作,而不明确规范地继续则可能导致目标漂移。这就引出了一个更广泛的交接问题:当控制权在模型之间传递时,后继如何能从当前状态继续,同时保留已接受的选择和已实现的效果、完成未尽义务并避免重复动作?

参见说明图1:状态化交接是残差补全,而非重启。\ (a) 在承诺边界处,已接受的进展是固定的,而请求范围内的工作仍待开放:INV-42已被确认并支付,因此后继必须保留该效果,交付其回执并验证送达,而非重新支付或重启。(b) 隐式交接可能遗漏未完成工作或重复已完成效果;仅提供合约的交接提供了残差目标,但仍允许后继在未检查全部剩余部分的情况下行动。CFRC则相反,在提议前固定目标,在本地授权前将后继的全部剩余部分闭合为证据关联图,并仅接受来自实时证据的成功。(c) 对于GPT-5.4-mini/GPT-5.5,其质量和成本在每个维度上均相对于强全任务代理(100%,100%)进行归一化(100\\%,100\\%)。在五个维度上,CFRC保持接近强模型的质量,并以仅34.6%的成本达到强模型宏准确率的101.8%。在图1 (https://arxiv.org/html/2609.13800#S1.F1)a所示的发票任务中,用户要求代理支付一张未付发票并发送其回执。第一个模型选择了一张说明性发票INV-42,用户确认后,即使在任何工具调用之前,该选择也已具有约束力。在后续交接时,支付已成功,但回执交付仍待处理。后继不能重启,因为再次发起API支付调用会导致重复扣费;也不能更换发票,因为用户已确认INV-42。然而,宣布成功也是错误的,因为交付尚未完成。因此,该任务既非全新也非已完成:已接受的轨迹包含固定的进展与未完成的工作。我们将此交接点称为*承诺边界*,并将挑战框定为*承诺约束的残差补全*。在此公式下,有效的延续必须从已达到的状态执行,保留已接受的选择和已实现的效果,并完成所有开放的请求范围内的义务。

现有的代理组件解决了此问题的邻近部分,但留下了三个空白,如图1 (https://arxiv.org/html/2609.13800#S1.F1)b所示。首先,路由、交接和记忆机制决定谁行动或转移过去的上下文(KC和Budathoki,2026 (https://arxiv.org/html/2609.13800#bib.bib3); Wang等人,2024 (https://arxiv.org/html/2609.13800#bib.bib9)),但它们并不独立指定后继必须保留和完成什么。在发票示例中,仅转移转录本或达到的状态并不能防止后继忽略交付或重新解释已确认的选择。其次,规划器和基于转录本的后继可以提议后续动作(Yao等人,2023 (https://arxiv.org/html/2609.13800#bib.bib1)),但一个提议无法揭示其遗漏的内容。一个仅包含状态检查和成功响应的延续,并未提供独立的信号表明回执交付仍然缺失。第三,动作级防护和控制层可以拒绝不安全或无效的提议调用(Wang等人,2026 (https://arxiv.org/html/2609.13800#bib.bib18); Kamath等人,2025 (https://arxiv.org/html/2609.13800#bib.bib19); Liu等人,2026b (https://arxiv.org/html/2609.13800#bib.bib21)),例如重复支付或未授权的发票。然而,它们无法要求一个从未被提议的动作,也无法在增量本地执行开始前建立整个后缀的完整性。因此,现有机制解决了上下文传递、动作提议或局部有效性,但未满足对独立残差目标、完整提案覆盖以及证据支持的实现这一联合需求。

#### 我们的方法。

我们用承诺边界残差补全来解决这一差距。该方法强制执行在提议前固定目标、在授权前覆盖完整提案、在成功前确保证据有效,如图1 (https://arxiv.org/html/2609.13800#S1.F1)b所示。首先,CFRC中的达到状态合约构建在查看后继的提议之前,从已接受的轨迹、达到的状态、受信的回执以及公共工具接口派生出一个冻结的残差合约z_f。该合约记录了什么是固定的,什么是仍待开放的,因此被遗漏的工作不会因为后继未提及而消失。其次,CFRC中的可执行残差补全允许后继在一个隔离的副本上进行操作(如果可用),并将完整的延续闭合为一个证据关联图H,暴露其动作、依赖关系和义务覆盖,而不改变实时状态。最后,CFRC中的检查执行在授予本地权限之前验证完整的H是否符合z_f,将动态值重新绑定到实时的前置回执,并仅在接受匹配的本地证据解除了每一项义务后才接受完成。在发票示例中,z_f保留了已完成的支付,同时记录了待交付的回执;图H必须明确包含该交付路径。检查执行在实时执行之前拒绝不完整或重复的提议,并在实时回执验证交付后才确认成功。最后,我们从理论上建立了条件部分正确性,表明成功实现的前缀保留了已编码的进展,返回的后缀满足合约。

在五个状态化工具使用维度上,CFRC移动了质量-成本前沿(图1 (https://arxiv.org/html/2609.13800#S1.F1)c)。使用GPT-5.4-mini/GPT-5.5时,它在34.6%的成本下实现了70.8%的宏准确率,而GPT-5.5的成本为69.6%;使用Luna/Sol时,它在22.0%的成本下实现了70.8%,而Luna/Sol的成本为70.0%。跨提供商的Luna/Sonnet 5和Luna/Gemini 3.7 Flash在26.0%和44.1%的成本下,分别与其强锚点模型的差距保持在0.5个百分点以内。检查执行在实时写入之前阻止无效提议,而独立审计在50个被接受的提议中恢复了68个持久性写入义务中的62个,并且没有发现无依据的写入。因此,CFRC在将昂贵的推理集中于未完成工作的同时,保留了强模型的质量。

## 2相关工作

模型路由与代理交接。规划和反思改进了代理生成动作的方式(Yao等人,2023 (https://arxiv.org/html/2609.13800#bib.bib1); Shinn等人,2023 (https://arxiv.org/html/2609.13800#bib.bib2); Wang等人,2024 (https://arxiv.org/html/2609.13800#bib.bib9))。路由器和级联根据预测的难度或成本选择模型(Ong等人,2024 (https://arxiv.org/html/2609.13800#bib.bib10); Bouchard,2026 (https://arxiv.org/html/2609.13800#bib.bib15); Son等人,2026 (https://arxiv.org/html/2609.13800#bib.bib16); Wei等人,2026 (https://arxiv.org/html/2609.13800#bib.bib17); Liu等人,2026a (https://arxiv.org/html/2609.13800#bib.bib14)),而交接框架量化了跨检查点的信息损失(KC和Budathoki,2026 (https://arxiv.org/html/2609.13800#bib.bib3))。然而,转移的转录本并未指定哪些效果是固定的,哪些义务仍然是开放的。CFRC在后继提议延续之前构建了这个残差目标。

经典规范与恢复。条件正确性将执行与显式的前置和后置条件关联起来(Hoare,1969 (https://arxiv.org/html/2609.13800#bib.bib24))。Saga围绕完成或补偿构建长期事务(Garcia-Molina和Salem,1987 (https://arxiv.org/html/2609.13800#bib.bib26)),而计划修复则调整现有计划以适应变化的执行环境(Fox等人,2006 (https://arxiv.org/html/2609.13800#bib.bib32))。CFRC遵循规范与执行分离的原则,但从已接受的模型生成的进展构建残差目标,以约束后继的整个提议。已接受的效果得以保留,而失败的后缀可能返回⊥而无需补偿。

状态化控制与验证。运行时防护、能力和事务框架在模型之外约束动作(Wang等人,2026 (https://arxiv.org/html/2609.13800#bib.bib18); Kamath等人,2025 (https://arxiv.org/html/2609.13800#bib.bib19); Debenedetti等人,2025 (https://arxiv.org/html/2609.13800#bib.bib4); Fan等人,2026 (https://arxiv.org/html/2609.13800#bib.bib20); Liu等人,2026b (https://arxiv.org/html/2609.13800#bib.bib21); Lin等人,2026 (https://arxiv.org/html/2609.13800#bib.bib22); Patil等人,2024 (https://arxiv.org/html/2609.13800#bib.bib23); Chen等人,2026 (https://arxiv.org/html/2609.13800#bib.bib5))。执行监控限制是经典的(Schneider,2000 (https://arxiv.org/html/2609.13800#bib.bib25))。而我们关于遗漏的论证则涉及在*实时写入之前*验证计划的覆盖范围:一个不完整的前缀无法揭示未来的延续会遗漏哪些义务,尽管显式的终端义务仍然可以检测虚假完成。CFRC根据一个单独构建的目标检查整个提议的剩余部分,并要求实时证据以证明成功。状态化基准测试(Yao等人,2024 (https://arxiv.org/html/2609.13800#bib.bib6); Barres等人,2025 (https://arxiv.org/html/2609.13800#bib.bib29); Lu等人,2024 (https://arxiv.org/html/2609.13800#bib.bib7); Trivedi等人,2024 (https://arxiv.org/html/2609.13800#bib.bib27); Microsoft,2026 (https://arxiv.org/html/2609.13800#bib.bib31); Pysklo等人,2026 (https://arxiv.org/html/2609.13800#bib.bib30))使得尝试的动作与支持的完成之间的差距可被衡量(Advani,2026 (https://arxiv.org/html/2609.13800#bib.bib8); Gao和Zhou,2026 (https://arxiv.org/html/2609.13800#bib.bib28))。

## 3方法论

### 3\.1将状态化交接视为残差补全问题

问题设置。当一个模型接管由另一个模型产生的持续工具使用轨迹时,就发生了状态化交接,例如在编码、网页导航以及其他具有持久状态或外部可见效果的应用中的路由或级联代理。与全新请求不同,后继继承了必须保留的*固定进展*和仍待完成的*开放工作*。我们研究如何在不替换、撤销或重复已接受进展的情况下完成这项残差工作。

形式上,令 q 为原始请求,τ_t 为已接受的轨迹前缀,s_t 为达到的实时状态,R_t 为在 s_t 可用的受信的原生回执。令 A_env 表示公共工具接口,O_t 表示在 q 和 τ_t 下仍然开放的语义的、请求范围内的义务实例。我们用 B_t 表示已接受的选择绑定,包括可能先于任何原生效果发生的用户确认选择;用 K_t 表示由 R_t 支持的已实现的效果。有了固定进展 F_t = (B_t, K_t),残差补全寻求一个从 s_t 开始的延续 σ,满足:

Exec(σ, s_t) ∧ Preserve(σ, F_t) ∧ Complete(σ, O_t).\.(1)

这里,三个谓词要求后缀从达到的状态执行,尊重已接受的绑定和已实现的效果,并在声称成功之前解除所有开放义务。如果 CFRC 无法在预算内建立这样一个后缀,它将返回 ⊥;这并不意味着不存在有效的延续。对于形式保证,每个范围内义务都具有一个请求定义的、在产生的轨迹和状态上可有限检查的谓词,独立于 CFRC 后来构建的合约。令 Σ_f(q, τ_t) 表示满足公式 (1 (https://arxiv.org/html/2609.13800#S3.E1)) 的延续。

运行示例与承诺边界。考虑图2 (https://arxiv.org/html/2609.13800#S3.F2) 中支付后的发票交接。请求 q 要求代理支付一张未付发票并发送其回执;τ_t 记录 INV-42 已被选择和确认,并且支付成功;s_t 包含已支付的发票和回执文件 txn7.pdf;R_t 包含受信的原生证据。因此,B_t 固定 invoice=INV-42,K_t 包含由回执支持的效果 paid(INV-42),O_t 仍然要求将回执交付给经核实的接收者。因此,一个有效的 σ 可能需要*发送回执 → 验证交付 → 确认成功*:重新支付违反保留原则,省略交付违反完成原则,不被支持的成功违反公式 (1 (https://arxiv.org/html/2609.13800#S3.E1))。同样的问题也可能在对环境进行任何更改之前发生:一旦用户确认了 INV-42,该绑定就已经约束了未来的行为。我们称这样的点为*承诺边界*:已接受的前缀拥有必须保留的固定进展,而请求范围内的工作仍然开放——简而言之,*固定进展加上未完成的工作*。在任何已接受的选择或已实现的效果之前,

相似文章

当代理过早承诺:诊断LLM代理的过早承诺

Hugging Face Daily Papers

本文引入表征承诺,这是一种跨运行隐藏状态收敛,用于诊断LLM代理何时过早锁定了轨迹。研究表明,承诺预测轨迹一致性而非正确性,并提出了监控方法,用于检测代理何时自信地稳定下来,而不是假设一致性等于可信度。