RESOURCE2SKILL:从人类创建的多模态资源中提炼可执行智能体技能

Hugging Face Daily Papers 论文

摘要

RESOURCE2SKILL是一个框架,它将教程视频、代码仓库、文章和工件等多模态资源提炼为层次化的SkillWiki中的可执行智能体技能,相比无技能智能体,将智能体性能提升了11.9个百分点。

技能对软件智能体而言是一种有用的抽象,能将人类和智能体的经验转化为可重用的程序性知识。然而,现有的技能库大多是手工编写、以文本为中心或从智能体轨迹中推导的,教程视频和其他多模态人类资源在很大程度上未被充分利用。我们提出了RESOURCE2SKILL,一个将教程视频、仓库、文章和参考工件等多模态资源提炼为软件智能体可执行技能的框架。RESOURCE2SKILL将这些技能组织成一个层次化的多模态Skill Wiki,其中每个条目结合了结构化文本、代码、视觉示例、元数据和来源信息。这种设计保留了来自不同资源的互补信号:视频捕捉时间性操作和视觉效果,代码捕捉可执行的工具模式,而文章或工件则提供概念和风格基础。在推理时,智能体会从Wiki中检索并组合相关技能;当覆盖不足时,同一个构建操作符可以在线获取新技能。在七个实用创作领域中,RESOURCE2SKILL将平均总体得分比无技能智能体提升了+11.9个百分点,并在28个主聚合模型-领域单元格中的26个上优于强基线框架。消融实验证实了多模态技能格式、层次化组织、来源多样性、选择策略和在线获取的价值。
查看原文
查看缓存全文

缓存时间: 2026/07/20 13:25

论文页面 - RESOURCE2SKILL: 从人类创建的多模态资源中提炼可执行的智能体技能

来源:https://huggingface.co/papers/2606.29538

摘要

技能是软件智能体的一种有用抽象,能将人类和智能体的经验转化为可复用的程序性知识。然而,现有的技能库大多是手工编写、以文本为中心,或来自智能体运行轨迹,导致教程视频和其他多模态人类资源在很大程度上未被充分利用。我们提出 RESOURCE2SKILL,一个从多模态资源(包括教程视频、代码仓库、文章和参考制品)中提炼出可执行技能,供软件智能体使用的框架。RESOURCE2SKILL 将这些技能组织成层次化的多模态 SkillWiki,其中每个条目结合了结构化文本、代码、视觉示例、元数据和来源信息。这种设计保留了不同资源中的互补信号:视频捕捉时序操作和视觉效果,代码捕捉可执行的工具模式,而文章或制品提供概念和风格上的基础。在推理时,智能体从 Wiki 中检索并组合相关技能;当覆盖不足时,同一构建算子可在线获取新技能。在七个实用的创作领域中,RESOURCE2SKILL 相比无技能智能体在平均总体得分上提升了 11.9 个百分点,并在 28 个主要聚合模型-领域组合中的 26 个上超越了强基线 harness。消融实验证实了多模态技能格式、层次化组织、来源多样性、选择策略和在线获取的价值。

查看 arXiv 页面 (https://arxiv.org/abs/2606.29538) 查看 PDF (https://arxiv.org/pdf/2606.29538) 项目页面 (https://aka.ms/Resources2Skill) GitHub36 (https://github.com/microsoft/Resource2Skill) 添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2606.29538)

在自己的智能体中获取此论文:

hf papers read 2606.29538

没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

没有模型链接此论文

请在模型 README.md 中引用 arxiv.org/abs/2606.29538,以便从此页面链接。

引用此论文的数据集1

microsoft/RESOURCE2SKILL 更新于 3 天前 • 2.05k • 4 (https://huggingface.co/datasets/microsoft/RESOURCE2SKILL)

引用此论文的 Space0

没有 Space 链接此论文

请在 Space README.md 中引用 arxiv.org/abs/2606.29538,以便从此页面链接。

包含此论文的收藏集0

没有收藏集包含此论文

请将此论文添加到收藏集 (https://huggingface.co/new-collection) 中,以便从此页面链接。

相似文章