@Xudong07452910: 这篇 Harness Updating Is Not Harness Benefit 很适合做 Agent Harness 的人看。 它讲了一个很容易被忽略的问题:会更新 Harness,不等于真的会用好 Harness。 现在很多 Ag…
摘要
该帖子讨论了一篇论文,指出Agent系统自我进化中,更新Harness(写有用更新)与从更新中受益(后续任务真正使用)是两种不同能力,后者才是关键,弱模型往往不会使用规则。
查看缓存全文
缓存时间: 2026/06/03 07:47
这篇 Harness Updating Is Not Harness Benefit 很适合做 Agent Harness 的人看。
它讲了一个很容易被忽略的问题:会更新 Harness,不等于真的会用好 Harness。
现在很多 Agent 系统都会让模型根据失败经验去改 prompt、skill、memory、tool,但论文把这里拆成两种能力:
- harness-updating:能不能写出有用的更新;
- harness-benefit:后续任务里能不能真正从这些更新中受益。
反直觉的是,写更新这件事并不一定需要最强模型。论文发现,不同能力层级的模型写出的 Harness 更新,带来的收益差距没想象中大。
真正拉开差距的是:执行任务的 Agent 能不能找到、调用并长期遵守这些更新。弱模型经常不是没有好规则,而是不会用,或者用着用着就忘了。
所以 Agent 自我进化的关键,可能不只是“让模型学会改自己的 skill”,而是让它在真实任务里真正吃到这些 skill 的收益。
换句话说,Harness 更新只是把经验写进系统,Harness benefit 才是经验真的变成能力。
https://arxiv.org/pdf/2605.30621
#AgentHarness #AgenticAI #selfEvolving #claudecode #codex #LLM
相似文章
@Xudong07452910: 这篇最新的论文 Scaling Laws for Agent Harnesses 很适合做 Agent Harness 的人看。 它讲了一个很关键的点:Agent 不是靠多跑 token、多调工具、多循环几轮就一定变强。真正重要的是,这些…
这篇论文提出了 Effective Feedback Compute (EFC) 作为衡量 Agent Harness 性能的缩放坐标,强调有效反馈比原始计算量更重要,对 Agent 系统设计有重要启示。
工具更新并非工具收益:自进化LLM智能体中进化能力的解耦
本文分析了自进化LLM智能体中的两种能力:工具更新能力和工具收益能力。研究发现工具更新能力在不同基础能力层级间持平,而工具收益能力则呈现非单调性,其中中等层级模型收益最大。
@snwiki238337: 我发现很多人似乎把Agent和Harness弄混了,一个公式帮你认清:Agent = Harness + Model
本文澄清了AI领域中Agent与Harness的混淆,提出公式Agent = Harness + Model以助理解。
@shao__meng: MIT 公开课 6.S950 Agency with AI Lecture 5: The Harness 讲义更新了: https://agencyai.mit.edu/w5/ 从一个 300 行的教学 Agent 讲透可观测性、可控性和…
MIT 公开课 6.S950 Agency with AI 第 5 讲讲义更新,用一个约 300 行的教学 Agent 讲解 Harness 的可观测性、可控性原则以及需要多少 Harness 的问题。
@Xudong07452910:智能体自我修改 Harness:最难的其实不是「怎么修改它」,而是……
Google 的 Harness² 论文研究智能体在开放世界环境中对自身 Harness 的自进化,采用双层递归机制:无需标准答案即可通过行为对比筛选有效修改,并将修改过程本身总结为经验以指导未来任务,在多个基准上显著提升 GLM-5 和 Gemini 3.5 Flash 的性能。