@rohanpaul_ai:上海 AI 实验室新论文发现,用人工编写的 agent 技能的验证运行进行训练,能让模型成为更……
摘要
上海 AI 实验室的一篇论文提出了 SkillGym,该方法将人工编写的 agent 技能文件转化为沙盒化的通过/失败任务,并在验证通过的运行上微调模型,从而提升 agent 的性能(例如 Claude Code 在 Terminal-Bench 2.1 上提升 19.10 分),即便在提示词中不提供技能文件也能奏效。
查看缓存全文
缓存时间: 2026/10/06 05:37
上海人工智能实验室的一篇新论文发现:即使没有技能文件,只用经过验证的人类编写的智能体技能运行轨迹来训练,也能让模型成为更好的智能体。
提示时技能依赖于检索和指令遵循,而在经过验证的技能运行轨迹上进行微调,可以降低这种依赖。
将每个技能文件转化为一个沙箱任务并配上通过/不通过的校验器,由此生成的训练数据让 Claude Code 在 Terminal-Bench 2.1 上的成功率提升了 19.10 个百分点。
技能文件通常放在提示词中,因此只有当智能体能够找到并遵循它们时才能发挥作用。
SkillGym 将每个技能转化为一个带有代码校验器的沙箱任务,然后只在通过校验的运行轨迹上进行训练。
在 Claude Code 中,Qwen3.5-35B-A3B 在 Terminal-Bench 2.1 上的得分从 39.33% 跃升至 58.43%。在没有任何技能文件的情况下,它在 SkillsBench 上拿到 26.81%,超过了带技能的基座模型的 23.34%。
在此基础上仍然加载技能文件也有帮助,可进一步将其提升至 51.47%。
相似文章
@dair_ai:一个有趣的想法是持续在技能上训练专门模型。这篇论文探讨了这一想法。他们提出了 S…
SkillGym 是一个框架,将人类编写的技能转化为大语言模型的训练环境,从而进行微调,提升在 Terminal-Bench 和 SkillsBench 等基准测试上的性能,超越了 Claude Sonnet 4.6 和 GPT-5.4 Mini 等模型的得分。
SkillGym:通过自动可验证环境生成训练技能使用智能体
SkillGym 提出了一条自动化流水线:从互联网上爬取可复现的技能,构建可验证且难度可控的环境,并收集 19k 条已验证轨迹来训练技能使用智能体。在这些轨迹上对 Qwen3.5 系列模型(2B 到 122B)进行微调后,其在四个技能使用基准上的表现均有所提升;其中 9B 的 SFT 模型在两项基准上超过了 397B 的未训练模型。
@rohanpaul_ai:腾讯新论文表明,让AI自动改进Agent的指令时,如果它能记住以往的修复并避免大幅重写,效果更好、成本也低得多
腾讯的论文 SkillAdam 通过让改写AI记住以往的修复记录,并在结果好坏参半时进行更小幅度的修改,从而改进了Agent的技能进化,在长篇购物和旅行规划任务上达到28.3%的准确率,而 SkillOpt 为21.7%,同时Token用量约为其三分之一。
@AlphaSignalAI: https://x.com/AlphaSignalAI/status/2069064122218717387
本文探讨了AI代理如何利用微软研究院的SkillOpt等技术自动编写和优化其技能文件,该技术将技能文档视为可训练状态,并带来显著的性能提升。文章还解决了手动技能调优的挑战,并介绍了GEPA和EvoSkill等进化方法的框架。
@dair_ai: 终于,有一篇好论文测试了 Agent Skills 是否真的有帮助。如果你正在维护技能库,值得一读 …
一项基准研究表明,在 Web 开发任务中注入 Agent Skills 通常会降低性能并增加令牌成本,存在长度分散和内容误导等失败模式,凸显了按部署评估的必要性。