@rohanpaul_ai:上海 AI 实验室新论文发现,用人工编写的 agent 技能的验证运行进行训练,能让模型成为更……

X AI KOLs Following 论文

摘要

上海 AI 实验室的一篇论文提出了 SkillGym,该方法将人工编写的 agent 技能文件转化为沙盒化的通过/失败任务,并在验证通过的运行上微调模型,从而提升 agent 的性能(例如 Claude Code 在 Terminal-Bench 2.1 上提升 19.10 分),即便在提示词中不提供技能文件也能奏效。

上海 AI 实验室的新论文发现,用人工编写的 agent 技能的验证运行来训练,能让模型成为更好的 agent——即使没有技能文件也如此。 提示词阶段的技能依赖检索和指令遵循,而在验证通过的技能运行上进行微调,可以减少这种依赖。 将每个技能文件转化为带有通过/失败检查器的沙盒任务,由此产生的训练数据让 Claude Code 在 Terminal-Bench 2.1 上的成功率提升了 19.10 分。 技能文件通常放在提示词中,因此只有当 agent 能找到并遵循它们时才会有帮助。 SkillGym 将每个技能转化为带有代码检查器的沙盒任务,然后只在通过的运行上训练。 在 Claude Code 中,Qwen3.5-35B-A3B 在 Terminal-Bench 2.1 上从 39.33% 跃升至 58.43%。在不提供技能文件的情况下,它在 SkillsBench 上取得 26.81%,超过了使用技能的基线模型的 23.34%。 在此基础上再加载技能依然有帮助,将其进一步提升至 51.47%。
查看原文
查看缓存全文

缓存时间: 2026/10/06 05:37

上海人工智能实验室的一篇新论文发现:即使没有技能文件,只用经过验证的人类编写的智能体技能运行轨迹来训练,也能让模型成为更好的智能体。

提示时技能依赖于检索和指令遵循,而在经过验证的技能运行轨迹上进行微调,可以降低这种依赖。

将每个技能文件转化为一个沙箱任务并配上通过/不通过的校验器,由此生成的训练数据让 Claude Code 在 Terminal-Bench 2.1 上的成功率提升了 19.10 个百分点。

技能文件通常放在提示词中,因此只有当智能体能够找到并遵循它们时才能发挥作用。

SkillGym 将每个技能转化为一个带有代码校验器的沙箱任务,然后只在通过校验的运行轨迹上进行训练。

在 Claude Code 中,Qwen3.5-35B-A3B 在 Terminal-Bench 2.1 上的得分从 39.33% 跃升至 58.43%。在没有任何技能文件的情况下,它在 SkillsBench 上拿到 26.81%,超过了带技能的基座模型的 23.34%。

在此基础上仍然加载技能文件也有帮助,可进一步将其提升至 51.47%。

相似文章

SkillGym:通过自动可验证环境生成训练技能使用智能体

Hugging Face Daily Papers

SkillGym 提出了一条自动化流水线:从互联网上爬取可复现的技能,构建可验证且难度可控的环境,并收集 19k 条已验证轨迹来训练技能使用智能体。在这些轨迹上对 Qwen3.5 系列模型(2B 到 122B)进行微调后,其在四个技能使用基准上的表现均有所提升;其中 9B 的 SFT 模型在两项基准上超过了 397B 的未训练模型。

@AlphaSignalAI: https://x.com/AlphaSignalAI/status/2069064122218717387

X AI KOLs Timeline

本文探讨了AI代理如何利用微软研究院的SkillOpt等技术自动编写和优化其技能文件,该技术将技能文档视为可训练状态,并带来显著的性能提升。文章还解决了手动技能调优的挑战,并介绍了GEPA和EvoSkill等进化方法的框架。