SkillLearnBench:面向真实任务代理技能生成的持续学习方法基准

Hugging Face Daily Papers 论文

摘要

SkillLearnBench 推出首个评估 LLM 代理持续技能学习的基准,覆盖 20 项真实任务,结果显示尚无方法全面领先,单纯扩大模型规模也无法保证技能提升。

技能已成为让 LLM 代理执行复杂真实任务的事实手段,通过定制指令、工作流与工具实现,但如何自动且高效地学习技能仍无定论。我们提出 SkillLearnBench,首个评估持续技能学习方法的基准,包含 20 项经校验、依赖技能的任务,覆盖 15 个源自真实技能分类的子领域,从技能质量、执行轨迹、任务结果三个层面评估。利用该基准,我们评测最新持续学习技术,包括一次性、自/师反馈及技能生成器,从代理经验中生成技能。结果显示,所有持续学习方法均优于无技能基线,但稳定提升仍难实现:没有任何方法在所有任务和 LLM 上领先,扩大模型规模也未必带来更好技能。持续学习对流程清晰、可复用的任务有效,却在开放任务上受限;更强 LLM 主干亦未持续产出更优技能。分析还发现,持续学习中多轮迭代借助外部反馈可实现真正改进,仅靠自反馈则导致递归漂移。数据与代码已开源:https://github.com/cxcscmu/SkillLearnBench,助力自动技能生成与持续学习技术的进一步研究。
查看原文
查看缓存全文

缓存时间: 2026/04/23 03:35

论文页面 - SkillLearnBench:面向真实任务智能体技能生成的持续学习方法基准测试

来源:https://huggingface.co/papers/2604.20087

摘要

面向 LLM 智能体的持续技能学习方法在不同任务上表现不一,提升幅度取决于任务结构与反馈机制,而非模型规模。

技能已成为让 LLM 智能体(https://huggingface.co/papers?q=LLM%20agents)完成复杂真实任务的事实手段,通过定制指令、工作流和工具实现,但如何自动、高效地学习技能仍不清楚。我们提出 SkillLearnBench,首个评估持续技能学习(https://huggingface.co/papers?q=continual%20skill%20learning)方法的基准,涵盖 20 个经过验证、依赖技能的任务(https://huggingface.co/papers?q=skill-dependent%20tasks),分布在 15 个真实技能分类(https://huggingface.co/papers?q=real-world%20skill%20taxonomy)子领域,从技能质量、执行轨迹(https://huggingface.co/papers?q=execution%20trajectory)与任务结果(https://huggingface.co/papers?q=task%20outcome)三个层面评估。利用该基准,我们评估了近期持续学习技术(https://huggingface.co/papers?q=continual%20learning%20techniques),包括单次、自/师反馈(https://huggingface.co/papers?q=teacher%20feedback)以及技能生成器(https://huggingface.co/papers?q=skill%20creator)从智能体经验中生成技能的方法。结果发现,所有持续学习方法均优于无技能基线,但稳定提升仍难实现:没有任何方法在所有任务和 LLM 上领先,扩展至更强 LLM 也不总能带来收益。持续学习在具有清晰、可复用工作流的任务上表现更好,而在开放式任务上表现不佳;使用更强的 LLM 主干并不必然产生更优技能。分析还发现,持续学习中的多轮迭代借助外部反馈可实现真正改进,而仅依赖自反馈(https://huggingface.co/papers?q=self-feedback)会导致递归漂移(https://huggingface.co/papers?q=recursive%20drift)。我们的数据与代码已开源:https://github.com/cxcscmu/SkillLearnBench,以支持自动技能生成与持续学习技术(https://huggingface.co/papers?q=continual%20learning%20techniques)的进一步研究。

查看 arXiv 页面(https://arxiv.org/abs/2604.20087)
查看 PDF(https://arxiv.org/pdf/2604.20087)
项目主页(https://cxcscmu.github.io/SkillLearnBench/)
GitHub(https://github.com/cxcscmu/SkillLearnBench)
添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2604.20087)

在智能体中获取该论文:

hf papers read 2604.20087

未安装最新 CLI?
curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型 0

暂无模型关联该论文

在模型 README.md 中引用 arxiv.org/abs/2604.20087 即可在此显示。

引用该论文的数据集 0

暂无数据集关联该论文

在数据集 README.md 中引用 arxiv.org/abs/2604.20087 即可在此显示。

引用该论文的 Spaces 0

暂无 Space 关联该论文

在 Space README.md 中引用 arxiv.org/abs/2604.20087 即可在此显示。

收录该论文的合集 0

暂无合集收录该论文

创建新合集 并将该论文加入即可在此显示。

相似文章

SkillRet:面向 LLM 智能体技能检索的大规模基准

arXiv cs.AI

本文提出了 SkillRet,这是一个用于评估 LLM 智能体技能检索的大规模基准,旨在解决从大型技能库中选择相关技能的挑战。该基准提供了包含超过 17,000 项技能的 dataset,并证明针对特定任务的微调能显著提升检索性能。

SkillFlow:自主智能体终身技能发现与演化基准测试

Hugging Face Daily Papers

SkillFlow 推出了一个涵盖20个任务家族共166项任务的基准测试,用于评估自主智能体在终身学习协议下,随时间推移发现、修复并维护技能的能力。实验揭示了主流模型之间存在显著的能力差距:Claude Opus 4.6 通过技能演化获得了显著提升,而其他模型的收益有限甚至为负。

MASkills:多智能体LLM系统的持续技能优化

arXiv cs.AI

MASkills 提出了一个持续学习框架,通过智能体技能优化多智能体LLM系统,使用基于技能的信用分配和层次聚合来提升在 HotpotQA 和 GAIA 等任务上的性能。