标签
微软的研究论文提出在用户轮次边界进行上下文感知的模型路由,发现将会话历史提供给路由器可在相同卸载率下提升多轮电子表格智能体的任务通过率,并分析了提示缓存切换的不对称成本与廉价模型的成本优势衰减。
本文提出了批评增强智能体微调(Critique-Augmented Agentic Fine-Tuning,CAFT),这一框架由专家大语言模型同时提供修正后的动作和解释学生模型错误的文字评析,在 τ²-Bench 和 WebShop 等智能体基准测试中,相较于仅基于动作的蒸馏方法,平均性能提升了 8%。
Google 与高校合作提出 DTDD(分歧触发式动态蒸馏),通过学生模型与教师模型之间的分歧触发教师模型接管,为长程推理、从基础模型初始化及多轮智能体场景提供更可靠的同策略监督,显著降低梯度范数并加速收敛。
PEARL提出了一种面向多轮智能体的强化学习方法,通过分支轨迹的首次分歧点构建局部决策特征,并利用成功/失败记忆聚类识别重复模式,从而在不引入额外价值评估器的情况下改进信用分配。在AppWorld和ALFWorld基准上,PEARL在4B和8B规模模型上均超越了ARPO等基线,ALFWorld 4B达到97.9%成功率。
DeltaTTG 提出一种可复用的进度计量器(progress meter),以 Token-to-Go(剩余生成 token 数)作为完成进度的可观测代理,在不改变奖励的前提下重新分配多轮智能体训练中的优势值,在 ALFWorld、PaperSearchQA 和 BFCL v3 上显著优于 GRPO 等 RL 基线。
提出STI-OPD框架,通过基于教师-学生策略差异的随机教师干预和重要性加权反向KL目标,解决多轮agent任务中on-policy蒸馏的轨迹漂移问题,在工具推理与长程交互基准上超越先前最强OPD基线。
FC-SWE 为软件工程智能体引入了失败条件强化学习,利用失败补丁的验证器反馈作为恢复轨迹的上下文。在 SWE-bench Verified 基准上,使用 Qwen3.5-4B 和 SWE-agent,FC-SWE 在 Resolved@1 上达到 41.7%,优于 GRPO 的 38.9%,在测试时达到 Resolved@11 的 70.7%。
本文提出 CUE(Calibrated User Embeddings,校准用户嵌入),一种免训练框架。该框架对观测到的会话进行编码,并采样连续的用户画像嵌入,将其解码为提示词用于 LLM 用户模拟器。在 tau^2-Bench 上,与现有的基于用户画像的模拟方法相比,CUE 实现了更好的结果校准效果和更真实的失败模式复现。
提出了名为 StepLearn 的非参数预序测试时学习框架,通过将个别交互经验转化为可即时使用、经前瞻性验证后才会被持久信任的假设,使 LLM 智能体在部署过程中仅需更新外部知识即可持续提升表现,效果显著优于 EvoTest 等基线方法。
PivotOPD 提出了一种在线蒸馏框架,联合训练语言智能体以预防关键性错误并从中产生的状态中恢复,在 ALFWorld、WebShop、SearchQA 和 SWE-Bench Verified 上,Qwen3 与 Nemotron 学生模型均超越了 13 个基线方法。
本文介绍了ActFirst-OPD,一个通过将动作执行与完整推理解耦来加速多轮语言代理在线策略蒸馏的框架,在保持性能的同时实现了显著的训练加速。
该论文提出了一种名为特权自实践(PSP)的方法,通过在多轮LLM代理的提示中注入特权信息,相比现有的蒸馏技术,提升了在AppWorld和SWE-bench基准测试中的任务完成率。
本文实证分析了多轮编程代理中上下文压缩网关的成本节省情况,发现工具模式过滤提供固定令牌节省,而内容压缩呈二次方节省但可能被召回抵消,为成本优化提供了可操作的见解。
本文提出了RetireOPD,一种利用自退隐策略内蒸馏训练多轮智能体的方法,提升了在ALFWorld和WebShop基准测试上的性能。
本论文提出通过内部表示来校准智能体系统的置信度,在多轮基准测试中展示了其相对于基线方法的性能提升。
本文介绍A-CEGIS,一个使用反例反馈来评估和改进自然语言到正则表达式合成中多轮代理自我纠正的框架,实现了高成功率。
该论文介绍了CREST,一种通过为每轮分配独立信用并使用自我教师来集中学习而不覆盖奖励的方法,以改善多轮代理训练,并在基准测试中展示性能提升。
本文介绍了检索基础投票(RGV),通过使用与检索文档的词汇重叠来解决多轮搜索代理中基于置信度投票的局限性,实现了高达5.4%的准确率提升。
CommitKV提出了一种面向多轮ReAct智能体的生命周期感知KV缓存压缩方法,通过提交转换区分休眠令牌与已完成令牌,以减少内存使用并加速推理。