RESOURCE2SKILL:从人类创建的多模态资源中提炼可执行智能体技能
摘要
RESOURCE2SKILL是一个框架,它将教程视频、代码仓库、文章和工件等多模态资源提炼为层次化的SkillWiki中的可执行智能体技能,相比无技能智能体,将智能体性能提升了11.9个百分点。
查看缓存全文
缓存时间: 2026/07/20 13:25
论文页面 - RESOURCE2SKILL: 从人类创建的多模态资源中提炼可执行的智能体技能
来源:https://huggingface.co/papers/2606.29538
摘要
技能是软件智能体的一种有用抽象,能将人类和智能体的经验转化为可复用的程序性知识。然而,现有的技能库大多是手工编写、以文本为中心,或来自智能体运行轨迹,导致教程视频和其他多模态人类资源在很大程度上未被充分利用。我们提出 RESOURCE2SKILL,一个从多模态资源(包括教程视频、代码仓库、文章和参考制品)中提炼出可执行技能,供软件智能体使用的框架。RESOURCE2SKILL 将这些技能组织成层次化的多模态 SkillWiki,其中每个条目结合了结构化文本、代码、视觉示例、元数据和来源信息。这种设计保留了不同资源中的互补信号:视频捕捉时序操作和视觉效果,代码捕捉可执行的工具模式,而文章或制品提供概念和风格上的基础。在推理时,智能体从 Wiki 中检索并组合相关技能;当覆盖不足时,同一构建算子可在线获取新技能。在七个实用的创作领域中,RESOURCE2SKILL 相比无技能智能体在平均总体得分上提升了 11.9 个百分点,并在 28 个主要聚合模型-领域组合中的 26 个上超越了强基线 harness。消融实验证实了多模态技能格式、层次化组织、来源多样性、选择策略和在线获取的价值。
查看 arXiv 页面 (https://arxiv.org/abs/2606.29538) 查看 PDF (https://arxiv.org/pdf/2606.29538) 项目页面 (https://aka.ms/Resources2Skill) GitHub36 (https://github.com/microsoft/Resource2Skill) 添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2606.29538)
在自己的智能体中获取此论文:
hf papers read 2606.29538
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
没有模型链接此论文
请在模型 README.md 中引用 arxiv.org/abs/2606.29538,以便从此页面链接。
引用此论文的数据集1
microsoft/RESOURCE2SKILL 更新于 3 天前 • 2.05k • 4 (https://huggingface.co/datasets/microsoft/RESOURCE2SKILL)
引用此论文的 Space0
没有 Space 链接此论文
请在 Space README.md 中引用 arxiv.org/abs/2606.29538,以便从此页面链接。
包含此论文的收藏集0
没有收藏集包含此论文
请将此论文添加到收藏集 (https://huggingface.co/new-collection) 中,以便从此页面链接。
相似文章
Search2Skill:通过基于规则表的强化学习在知识边界之外进行技能蒸馏
Search2Skill 是一个框架,它训练 LLM 智能体识别能力差距、搜索外部来源,并使用基于规则表的强化学习将检索到的知识提炼为可复用的技能,在专家领域基准测试上优于基线方法。
MMG2Skill:智能体能否从真实世界指南中提炼出自我进化的技能?
MMG2Skill通过闭环学习将网络上的过程性指南转化为智能体可执行的技能,在GUI操控、游戏玩法和纸牌游戏任务中提升了性能,宏平均提升了+12.8到+25.3个百分点。
WikiSkill:将代理经验编译为持久知识以促进技能演化
WikiSkill 介绍了一个框架,该框架与持久知识库共同演化代理技能,以系统性地积累经验并提升跨模型性能,展示了优于最先进的技能演化方法的优势。
COLLEAGUE.SKILL:通过专家知识蒸馏实现自动化AI技能生成
本文介绍COLLEAGUE.SKILL,一个开源系统,能够从异构轨迹中自动提炼基于人的AI技能,形成可检查、可纠正、可移植的技能包,使LLM代理能够携带有限的人类专业知识和交互风格表征。
SKILL-DISCO:将智能体轨迹提炼并编译为可重用的程序化技能
Skill-DisCo 是一个框架,它将可重用的程序化技能从成功的智能体轨迹中提炼出来,并将其编译成可调用、可执行的程序。在 ALFWorld 和 WebArena 上的实验表明,该框架提高了成功率并减少了智能体的回合数。