@xdotli: 使用AI基准测试的一大痛点就是在其首次发布后遇到错误。今天,我们发布了SkillsBe…
摘要
SkillsBench 1.1已发布,作为首个经过审计、无错误的AI智能体技能基准测试,显示能力从约36%迅速提升至67%的解决率,并证明技能可以替代模型规模。
查看缓存全文
缓存时间: 2026/06/16 23:41
使用AI基准测试的一大痛点是在首次发布后遇到错误。今天,我们发布了SkillsBench 1.1——首个衡量AI智能体技能运用能力的基准测试,现已完成端到端审计并验证无错。@dawnsongtweets 教授作为顾问作者加入1.1版本。
我们与多家前沿实验室合作处理了每项任务,清除了上一版本中的错误。同时新增了任务,将存在外部依赖的任务移至独立集,确保核心套件干净运行,并扩展了更多模型的覆盖范围。
能力提升速度迅猛。最佳有技能解析率从约36%(Claude Sonnet 4.5,2025年9月)跃升至67%(GPT-5.5,2026年5月),每月提升约1.9个百分点。前沿模型正快速攀登SkillsBench。
正确的技能依然关键。在整个模型集群中,精心设计的技能使解析率平均提升16.6个百分点(33.9% → 50.5%),单一模型最高提升幅度达25.7个百分点。最佳配置为OpenHands上的GPT-5.5,达到67.3%。
应广大呼声(感谢Nate @cursor_ai),我们现在追踪技能调用:即智能体实际使用所提供技能的频率。近期旗舰配置的调用率在90–99%之间(Codex 99%,OpenHands + GPT-5.5 92%,Gemini CLI 90%),而旧配置约为50%。
1.1版本还新增:@OpenHands 成为第四个测试平台,与Claude Code、Codex和Gemini CLI并列;重建排行榜,包含精细分类、子领域技能排名和技能提升(Skill Lift);BenchFlow上的原生任务.md,支持多场景环境和分阶段部署。我们还与 @k_dense_ai 合作,为部分科学任务添加了科学技能。
对部署的启示:技能可以替代规模。GLM 5.1配合技能(58.4%)优于无技能的Opus 4.8(45.7%)。具备恰当程序性知识的较小模型,可以胜过没有技能加持的较大模型。
衷心感谢 @nick_kango @ivanleomk @kaggle @GoogleDeepMind 与我们共同举办发布会。感谢所有在5月27日到场的各位!
同时也感谢我们的合作伙伴 @gneubig @OpenHandsDev @ivanburazin @daytonaio @jackminong @johannes_hage @PrimeIntellect @TimothyKassis @k_dense_ai 提供积分、算力和技能支持。
SkillsBench实时排行榜也即将登陆 @ValsAI。许多人告诉我们,他们将SkillsBench作为衡量模型在多样化、高GDP价值领域中的智能体能力的指标。祝贺Valkyrie的成绩!@Jarett @nikilravi @langstonnashold @RayanKrishnan
SkillsBench完全开源。浏览排行榜和任务、阅读文档,或贡献你自己的技能集或测试平台,加入排行榜。
相似文章
@gneubig: SkillsBench 是一个很棒的基准,我这么说不仅仅是因为 @OpenHandsDev 在上面击败了所有其他人。技能……
SkillsBench 1.1 是一个用于评估 AI 代理使用技能能力的基准,现已完全审计且无错误。
@dair_ai: 终于,有一篇好论文测试了 Agent Skills 是否真的有帮助。如果你正在维护技能库,值得一读 …
一项基准研究表明,在 Web 开发任务中注入 Agent Skills 通常会降低性能并增加令牌成本,存在长度分散和内容误导等失败模式,凸显了按部署评估的必要性。
FinSkillBench: 评估投资管理领域的AI代理和领域技能
FinSkillBench是一个针对投资管理领域AI代理的评估套件,表明精心策划的程序化技能相比自生成技能能提升性能。
@free_ai_guides: https://x.com/free_ai_guides/status/2071666929451094227
一份全面指南,解释如何为AI编码代理创建可复用的技能,涵盖被OpenAI Codex和GitHub Copilot等主流工具采用的SKILL.md标准,基准数据显示,精选技能可以将通过率提升16个百分点。
@rohanpaul_ai:上海 AI 实验室新论文发现,用人工编写的 agent 技能的验证运行进行训练,能让模型成为更……
上海 AI 实验室的一篇论文提出了 SkillGym,该方法将人工编写的 agent 技能文件转化为沙盒化的通过/失败任务,并在验证通过的运行上微调模型,从而提升 agent 的性能(例如 Claude Code 在 Terminal-Bench 2.1 上提升 19.10 分),即便在提示词中不提供技能文件也能奏效。