SkillRise:面向跨任务技能演化的智能体强化学习

Hugging Face Daily Papers 论文

摘要

SkillRise 是一个统一的强化学习框架,使 LLM 智能体能够在相关且渐进难度的任务中学习并重用技能,在多个基准测试上比基线方法高出最多 8.5 个百分点。

大语言模型智能体经常遇到相关但不同的任务,这些任务共享可重用的解决方案模式。然而,标准的智能体强化学习将任务视为独立的事件,而现有的技能学习方法要么专注于重复尝试同一任务,要么使用包含提取、检索和执行多个阶段的流水线。我们提出了 SkillRise,一个用于跨任务技能学习的统一强化学习框架。SkillRise 将相关实例组织成渐进难度的序列,并使用单一策略在任务解决和策划一个直接传递给下一个任务的不断演化的技能文档之间交替。跨任务的解耦信用分配使用当前任务结果监督解决,使用折扣后的下游结果监督策划。在 ALFWorld、WebShop 和 ScienceWorld 上的实验表明,SkillRise 在比较方法中实现了最强的 Pass@1 性能,相较于最强基线方法提升了 2.3 到 8.5 个百分点。尽管在不同任务上训练,其学到的策划策略在重复尝试同一任务时仍然有效。进一步分析揭示了测试时跨任务的可扩展性:即使每个任务只尝试一次,在更长的相关任务序列中性能也会提升。这一趋势表明 SkillRise 跨任务重用可迁移技能,而非受益于对同一任务的重复采样。SkillRise 在显著降低多阶段技能学习流水线运行时开销的同时,仍保持了强大的性能。这些结果共同为 LLM 智能体提供了一种简单高效的训练范式,用于跨任务提取、提炼和重用可迁移技能。
查看原文
查看缓存全文

缓存时间: 2026/07/30 05:46

Paper page - SkillRise: Agentic Reinforcement Learning for Cross-Task Skill Evolution

来源: https://huggingface.co/papers/2607.26784
作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

大型语言模型智能体常常遇到相关但不同的任务,这些任务共享可复用的解决方案模式。然而,标准的智能体强化学习将任务视为独立的回合,而现有的技能学习方法要么专注于单一任务的重复尝试,要么使用包含多个阶段(涉及提取、检索和执行纠缠在一起)的流水线。我们提出了 SkillRise,一个统一的强化学习框架,用于跨任务学习技能。SkillRise 将相关实例组织成渐进式挑战序列,并使用单一策略在任务解决和策划一份不断演变的技能文档之间交替,该文档直接传递给下一个任务。跨任务的解耦式信用分配通过当前任务结果监督解决过程,并通过折现的下游结果监督策划过程。在 ALFWorld、WebShop 和 ScienceWorld 上的实验表明,SkillRise 在比较方法中取得了最强的 Pass@1 性能,相对于最强基线有 2.3 到 8.5 个百分点的提升。尽管是在不同任务上训练的,但其学到的策划策略对于同一任务的重复尝试仍然有效。进一步分析揭示了跨任务的测试时缩放现象:即使用于每个任务只尝试一次,较长的相关任务序列也能提升性能。这一趋势表明,SkillRise 跨任务复用了可迁移的技能,而非受益于同一任务的重复采样。同时,SkillRise 在显著降低多阶段技能学习流水线的运行时开销的同时,仍保持了强劲的性能。综合这些结果,为 LLM 智能体跨任务提取、精炼和复用可迁移技能提供了一种简单高效的训练范式。

查看 arXiv 页面 (https://arxiv.org/abs/2607.26784) 查看 PDF (https://arxiv.org/pdf/2607.26784) GitHub3 (https://github.com/Within-yao/SkillRise) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.26784)

在你的智能体中获取本文:

hf papers read 2607.26784

没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型 0

没有链接本文的模型

在模型 README.md 中引用 arxiv.org/abs/2607.26784 以将其链接到此页面。

引用本文的数据集 0

没有链接本文的数据集

在数据集 README.md 中引用 arxiv.org/abs/2607.26784 以将其链接到此页面。

引用本文的 Space 0

没有链接本文的 Space

在 Space README.md 中引用 arxiv.org/abs/2607.26784 以将其链接到此页面。

包含本文的收藏集 0

没有包含本文的收藏集

将本文添加到一个收藏集 (https://huggingface.co/new-collection) 以将其链接到此页面。

相似文章

SkillForge:通过动态技能生命周期实现技能与智能体的协同进化

Hugging Face Daily Papers

SkillForge 提出了一种智能体强化学习方法,通过适应度驱动的试用期、活跃期、稳定期、退役期生命周期,实现 LLM 智能体与其技能库的协同进化。在交互式智能体基准上,该方法相对最强基线最高提升 7.8%;作者同时发布了 SkillFurnace——一个包含 5000+ 条记录的数据集,用于研究技能质量与生命周期管理。

Skill-RM: 通过智能体技能统一异构评估标准

Hugging Face Daily Papers

Skill-RM 提出了一种统一的奖励建模框架,将奖励计算视为结构化的智能体任务,实现了动态证据聚合和跨多种应用的一致评估,优于传统的评判基线。