SkillEvolBench:从情景经验到程序技能的进化基准测试
摘要
SkillEvolBench 是一个诊断性基准,用于评估大语言模型代理是否能够将情景经验提炼为可重用的程序技能。它包含六个环境中的180个任务,并发现当前代理通常难以形成稳健的可重用技能,原始轨迹重用往往优于提炼后的技能。
查看缓存全文
缓存时间: 2026/05/26 06:42
论文页面 - SkillEvolBench:评估从情节经验到过程性技能的演化
来源:https://huggingface.co/papers/2605.24117
作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
当前大型语言模型智能体难以从情节经验中形成稳健的可复用技能,由于丢弃了上下文线索,原始轨迹复用往往优于蒸馏后的技能。
大型语言模型(LLM)智能体在解决现实世界任务时会累积丰富的情节性轨迹(https://huggingface.co/papers?q=episodic%20trajectories),但这些经验能否被蒸馏成可复用的过程性技能(https://huggingface.co/papers?q=procedural%20skills)仍不明确。我们提出了 SkillEvolBench,一个用于评估从经验复用(https://huggingface.co/papers?q=experience%20reuse)到技能形成(https://huggingface.co/papers?q=skill%20formation)这一步骤的诊断基准(https://huggingface.co/papers?q=diagnostic%20benchmark)。该基准包含 180 个任务,横跨六个现实世界智能体环境,并按角色条件任务族(https://huggingface.co/papers?q=role-conditioned%20task%20families)组织,这些任务族共享潜在的过程。智能体从获取任务中学习,利用压缩后的轨迹和验证器反馈(https://huggingface.co/papers?q=verifier%20feedback)更新外部技能库(https://huggingface.co/papers?q=skill%20library),随后面对冻结的部署任务,测试上下文偏移、对抗性捷径和组合能力。通过比较自生成与策划起点技能演化相对于无技能和原始轨迹对照组,SkillEvolBench 将过程性抽象(https://huggingface.co/papers?q=procedural%20abstraction)与基础能力、策划先验知识和情节痕迹的直接复用分离开来。在十种模型配置和三种智能体框架下,我们发现当前智能体往往在局部适应,但很少形成稳健的可复用技能。基于技能的条件(https://huggingface.co/papers?q=Skill-based%20conditions)可以改善获取或重放,个别模型有时在特定部署维度上有所提升,但这些提升在冻结部署下并不稳定。原始轨迹复用往往优于蒸馏后的技能,表明当前的抽象过程丢弃了对未来任务仍有用的上下文和过程性线索。容量和成本分析进一步表明,编写更多技能或更大的 Tier-3 资源库并不足够:额外的更新可以在提高覆盖范围的同时引入情节特定漂移(https://huggingface.co/papers?q=episode-specific%20drift)和过程性杂乱(https://huggingface.co/papers?q=procedural%20clutter)。这些发现将 SkillEvolBench 定位为一个测试平台,用于衡量一次性经验何时会转化为持久的过程性知识而非任务局部记忆。
查看 arXiv 页面(https://arxiv.org/abs/2605.24117)查看 PDF(https://arxiv.org/pdf/2605.24117)项目页面(https://skillevolbench.github.io/)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2605.24117)
在您的智能体中获取本文:
hf papers read 2605.24117
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本文的模型0
没有模型链接本文
在模型 README.md 中引用 arxiv.org/abs/2605.24117 即可从此页面链接。
引用本文的数据集0
没有数据集链接本文
在数据集 README.md 中引用 arxiv.org/abs/2605.24117 即可从此页面链接。
引用本文的 Spaces0
没有 Space 链接本文
在 Space README.md 中引用 arxiv.org/abs/2605.24117 即可从此页面链接。
包含本文的收藏0
没有收藏包含本文
将本文添加到收藏(https://huggingface.co/new-collection)即可从此页面链接。
相似文章
SkillFlow:自主智能体终身技能发现与演化基准测试
SkillFlow 推出了一个涵盖20个任务家族共166项任务的基准测试,用于评估自主智能体在终身学习协议下,随时间推移发现、修复并维护技能的能力。实验揭示了主流模型之间存在显著的能力差距:Claude Opus 4.6 通过技能演化获得了显著提升,而其他模型的收益有限甚至为负。
SkillLearnBench:面向真实任务代理技能生成的持续学习方法基准
SkillLearnBench 推出首个评估 LLM 代理持续技能学习的基准,覆盖 20 项真实任务,结果显示尚无方法全面领先,单纯扩大模型规模也无法保证技能提升。
EvoClawBench:智能体能否从自身运行中学习可复用技能?
本文介绍了EvoClawBench,一个旨在测试AI智能体能否从自身执行运行中学习可复用技能的基准测试。多个智能体运行时的实验表明,技能学习具有选择性和成本敏感性,并非自动受益。
智能体技能评估与演进:框架与基准
本综述系统性地审视了智能体系统的技能演进与评估,将演进归类为四种范式,并分析了六个以技能为中心的基准类别,以识别结构性差距和开放方向。
SkillTV-Bench:评估裁判在技能增强型智能体执行中的表现基准
介绍SkillTV-Bench,一个包含681个案例的基准,用于评估LLM智能体中技能感知的轨迹验证,以及SkillTV-Evolve,一种将验证知识外部化为可复用JudgeSkill的方法,将裁判准确率提升14.8个百分点。