SkillOpt-Lite: 通过一行指令实现更好更快的智能体自我进化

Hugging Face Daily Papers 论文

摘要

SkillOpt-Lite 提出了一种用于自主智能体技能优化的最小可行流水线,通过将所有组件视为可编辑代码并集成到生产编码智能体中,实现更好更快的自我进化。它通过零阶优化形式化技能优化,并在基准测试上优于先前方法。

虽然自主智能体的技能优化已经受到关注,但现有方法依赖于复杂的流水线。这留下了一个基本问题未被解答:什么构成了技能优化的最小可行流水线,其中每个组件都有理论或经验必要性支撑?我们通过零阶(ZO)优化形式化技能优化,将经典对应物(中心差分、信赖域)映射到近期文献。注意到与经典ZO中盲目数值扰动不同,技能轨迹可作为可解释的调试反馈。基于Claude Code哲学和PAC学习,我们建立了收敛性和泛化的三个原则:基于文件系统的轨迹探索、共识属性挖掘和独立验证门控。消除冗余后,我们提出了SkillOpt-Lite。它加速了收敛并优于完整的SkillOpt:在GPT-5.5上提升LiveMath +8.8个百分点,在GPT-5.4-nano上提升+25.4个百分点,使nano模型超越了由SkillOpt优化的标准GPT-5.4。最后,我们将我们的框架集成到如VSCode Copilot的生产编码智能体中,使开发者能够通过一行指令进化智能体技能。因为我们的框架将所有智能体组件简单地视为标准可编辑代码,这个最小流水线自然泛化到完整的工具链优化(HarnessOpt)。在SpreadsheetBench上,HarnessOpt使GPT-5.4-nano达到0.7758的准确率,优于运行标准流水线的更大模型GPT-5.5(0.7620)。代码可在https://github.com/EvolvingLMMs-Lab/SkillOpt-Lite获取。
查看原文
查看缓存全文

缓存时间: 2026/07/08 02:47

论文页面 - SkillOpt-Lite: 通过一行 Vibe 实现更好更快的智能体自我进化

来源:https://huggingface.co/papers/2607.03451

摘要

本文提出了一种面向技能优化的最小可行流程,通过零阶优化形式化,消除冗余,同时通过轨迹探索、共识挖掘和验证门控原则保持收敛性与泛化能力。

尽管面向自主智能体的技能优化 (https://huggingface.co/papers?q=skill%20optimization) 已受到关注,但现有方法依赖复杂流程。这留下了一个根本性问题未解决:什么样的技能优化 (https://huggingface.co/papers?q=skill%20optimization) 流程才是最小可行的——其中每个组件都有理论或实证必要性支撑?我们通过零阶 (ZO) 优化形式化技能优化 (https://huggingface.co/papers?q=skill%20optimization),将经典对应方法(中心差分、置信域)映射到近期文献中。同时注意到,与经典零阶优化中的盲目数值扰动不同,技能轨迹可提供可解释的调试反馈。基于 Claude Code 理念和 PAC 学习,我们建立了三个关于收敛 (https://huggingface.co/papers?q=convergence) 和泛化 (https://huggingface.co/papers?q=generalization) 的原则:基于文件系统的轨迹探索 (https://huggingface.co/papers?q=trajectory%20exploration)、共识属性挖掘 (https://huggingface.co/papers?q=consensus%20attribute%20mining) 以及独立验证门控 (https://huggingface.co/papers?q=validation%20gating)。在消除冗余后,我们提出了 SkillOpt-Lite (https://huggingface.co/papers?q=SkillOpt-Lite)。它加速了收敛 (https://huggingface.co/papers?q=convergence),并全面优于完整 SkillOpt:在 GPT-5.5 上将 LiveMath 提升 +8.8 分,在 GPT-5.4-nano 上提升 +25.4 分,使 nano 模型超越经 SkillOpt 优化的标准 GPT-5.4。最后,我们将该框架集成到 VSCode Copilot 等生产级编码智能体中,使开发者能够通过一行 Vibe 进化智能体技能。由于我们的框架将所有智能体组件视为标准可编辑代码,该最小流程自然泛化至完整 Harness 优化 (HarnessOpt (https://huggingface.co/papers?q=HarnessOpt))。在 SpreadsheetBench 上,HarnessOpt (https://huggingface.co/papers?q=HarnessOpt) 使 GPT-5.4-nano 达到 0.7758 的准确率,超越了运行标准流程的更大模型 GPT-5.5(0.7620)。代码见 https://github.com/EvolvingLMMs-Lab/SkillOpt-Lite (https://huggingface.co/papers?q=SkillOpt-Lite)。

查看 arXiv 页面 (https://arxiv.org/abs/2607.03451) 查看 PDF (https://arxiv.org/pdf/2607.03451) 项目页面 (https://evolvinglmms-lab.github.io/SkillOpt-Lite/) GitHub14 (https://github.com/EvolvingLMMs-Lab/SkillOpt-Lite) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.03451)

在你的智能体中获取本文:

hf papers read 2607\.03451

没有最新 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型 0

没有模型引用本文

请在模型 README.md 中引用 arxiv.org/abs/2607.03451,以在此页面建立链接。

引用本文的数据集 1

cy0307/awesome-loop-engineering Viewer • 更新于约 10 小时前 • 380 • 1.06k • 2 (https://huggingface.co/datasets/cy0307/awesome-loop-engineering)

引用本文的 Space 0

没有 Space 引用本文

请在 Space README.md 中引用 arxiv.org/abs/2607.03451,以在此页面建立链接。

收录本文的收藏 0

没有收藏收录本文

请将本文添加到一个收藏 (https://huggingface.co/new-collection) 中,以在此页面建立链接。

相似文章

SkillOpt:自我进化智能体技能的执行策略

Hugging Face Daily Papers

SkillOpt 引入了一种系统化的文本空间优化器,用于智能体技能。该优化器将技能训练为智能体的外部状态,具有稳定的更新和零部署推理开销,在多个基准测试和执行环境中实现了卓越性能。

@AlphaSignalAI: https://x.com/AlphaSignalAI/status/2069064122218717387

X AI KOLs Timeline

本文探讨了AI代理如何利用微软研究院的SkillOpt等技术自动编写和优化其技能文件,该技术将技能文档视为可训练状态,并带来显著的性能提升。文章还解决了手动技能调优的挑战,并介绍了GEPA和EvoSkill等进化方法的框架。

OpenSkill:LLM智能体的开放世界自进化

Hugging Face Daily Papers

OpenSkill是一个框架,让LLM智能体能够从开放世界资源中自进化技能和验证信号,无需目标任务监督,在多个基准测试中实现高性能。