SkillEvolBench:从情景经验到程序技能的进化基准测试

Hugging Face Daily Papers 论文

摘要

SkillEvolBench 是一个诊断性基准,用于评估大语言模型代理是否能够将情景经验提炼为可重用的程序技能。它包含六个环境中的180个任务,并发现当前代理通常难以形成稳健的可重用技能,原始轨迹重用往往优于提炼后的技能。

大语言模型(LLM)代理在解决现实世界任务时会积累丰富的情景轨迹,但尚不清楚这些经验能否被提炼为可重用的程序技能。我们引入了 SkillEvolBench,这是一个用于评估从经验复用到技能形成这一步骤的诊断性基准。它包含六个真实世界代理环境中的180个任务,这些任务按角色条件组织成任务族,并共享潜在的程序。代理通过获取任务进行学习,使用压缩轨迹和验证器反馈更新外部技能库,然后面对冻结部署任务,测试上下文偏移、对抗性捷径和组合。通过将自生成和策划起始的技能进化与无技能和原始轨迹对照组进行比较,SkillEvolBench 将程序抽象与基础能力、策划的先验知识以及情景轨迹的直接复用区分开来。在十种模型配置和三种代理框架中,我们发现当前代理通常能够局部适应,但很少形成稳健的可重用技能。基于技能的条件可以改善获取或重演,个别模型有时在特定部署轴上有所提升,但这些提升在冻结部署下不稳定。原始轨迹复用经常优于提炼后的技能,这表明当前的抽象过程丢弃了那些对未来任务仍有用的上下文和程序线索。容量和成本分析进一步表明,编写更多技能或更大的 Tier-3 资源库并不足够:额外的更新可以提升覆盖率,但同时也引入了特定于情景的漂移和程序混乱。这些发现将 SkillEvolBench 定位为一个测试平台,用于衡量一次性经验何时会变成持久的程序知识,而非任务局部的记忆。
查看原文
查看缓存全文

缓存时间: 2026/05/26 06:42

论文页面 - SkillEvolBench:评估从情节经验到过程性技能的演化

来源:https://huggingface.co/papers/2605.24117
作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

当前大型语言模型智能体难以从情节经验中形成稳健的可复用技能,由于丢弃了上下文线索,原始轨迹复用往往优于蒸馏后的技能。

大型语言模型(LLM)智能体在解决现实世界任务时会累积丰富的情节性轨迹(https://huggingface.co/papers?q=episodic%20trajectories),但这些经验能否被蒸馏成可复用的过程性技能(https://huggingface.co/papers?q=procedural%20skills)仍不明确。我们提出了 SkillEvolBench,一个用于评估从经验复用(https://huggingface.co/papers?q=experience%20reuse)到技能形成(https://huggingface.co/papers?q=skill%20formation)这一步骤的诊断基准(https://huggingface.co/papers?q=diagnostic%20benchmark)。该基准包含 180 个任务,横跨六个现实世界智能体环境,并按角色条件任务族(https://huggingface.co/papers?q=role-conditioned%20task%20families)组织,这些任务族共享潜在的过程。智能体从获取任务中学习,利用压缩后的轨迹和验证器反馈(https://huggingface.co/papers?q=verifier%20feedback)更新外部技能库(https://huggingface.co/papers?q=skill%20library),随后面对冻结的部署任务,测试上下文偏移、对抗性捷径和组合能力。通过比较自生成与策划起点技能演化相对于无技能和原始轨迹对照组,SkillEvolBench 将过程性抽象(https://huggingface.co/papers?q=procedural%20abstraction)与基础能力、策划先验知识和情节痕迹的直接复用分离开来。在十种模型配置和三种智能体框架下,我们发现当前智能体往往在局部适应,但很少形成稳健的可复用技能。基于技能的条件(https://huggingface.co/papers?q=Skill-based%20conditions)可以改善获取或重放,个别模型有时在特定部署维度上有所提升,但这些提升在冻结部署下并不稳定。原始轨迹复用往往优于蒸馏后的技能,表明当前的抽象过程丢弃了对未来任务仍有用的上下文和过程性线索。容量和成本分析进一步表明,编写更多技能或更大的 Tier-3 资源库并不足够:额外的更新可以在提高覆盖范围的同时引入情节特定漂移(https://huggingface.co/papers?q=episode-specific%20drift)和过程性杂乱(https://huggingface.co/papers?q=procedural%20clutter)。这些发现将 SkillEvolBench 定位为一个测试平台,用于衡量一次性经验何时会转化为持久的过程性知识而非任务局部记忆。

查看 arXiv 页面(https://arxiv.org/abs/2605.24117)查看 PDF(https://arxiv.org/pdf/2605.24117)项目页面(https://skillevolbench.github.io/)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2605.24117)

在您的智能体中获取本文:

hf papers read 2605.24117

没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型0

没有模型链接本文

在模型 README.md 中引用 arxiv.org/abs/2605.24117 即可从此页面链接。

引用本文的数据集0

没有数据集链接本文

在数据集 README.md 中引用 arxiv.org/abs/2605.24117 即可从此页面链接。

引用本文的 Spaces0

没有 Space 链接本文

在 Space README.md 中引用 arxiv.org/abs/2605.24117 即可从此页面链接。

包含本文的收藏0

没有收藏包含本文

将本文添加到收藏(https://huggingface.co/new-collection)即可从此页面链接。

相似文章

SkillFlow:自主智能体终身技能发现与演化基准测试

Hugging Face Daily Papers

SkillFlow 推出了一个涵盖20个任务家族共166项任务的基准测试,用于评估自主智能体在终身学习协议下,随时间推移发现、修复并维护技能的能力。实验揭示了主流模型之间存在显著的能力差距:Claude Opus 4.6 通过技能演化获得了显著提升,而其他模型的收益有限甚至为负。

智能体技能评估与演进:框架与基准

arXiv cs.CL

本综述系统性地审视了智能体系统的技能演进与评估,将演进归类为四种范式,并分析了六个以技能为中心的基准类别,以识别结构性差距和开放方向。