Claude Code 春季的性能回退是 harness 层的 bug,而非模型问题。我将 Claude Code 的 harness 与另外 11 个生产级代理做了对比。
摘要
作者对比了 Claude Code 与另外 11 个生产级 AI 编码代理的 harness 实现,指出三、四月的性能回退是 harness bug 而非模型问题,并总结出薄 harness 层的风险与改进建议。
相似文章
我以为是模型问题的代理bug,结果出在框架上
作者分享了一次调试经历:代理循环是由框架截断工具输出导致的,而非模型故障,突显了代理基础设施相比模型存在的可靠性差距。
@shao__meng: Claude Code、Cursor、Codex、Aider、Cline 部分底层模型可能完全相同,但 Agent 表现却不一样,为什么? @addyosmani 认为:是因为模型之上的那层“外壳” —— Harness,它包括「提示词、…
The article discusses how Addy Osmani argues that the performance difference between AI coding agents like Claude Code, Cursor, and Cline stems from their 'Harness'—the layer of prompts, tools, and constraints around the model—rather than the underlying model itself. It details best practices for harness engineering, including hooks, sandboxing, and context management, to bridge the gap between model capability and actual agent performance.
观察:每个模型的最佳代理框架将由模型开发者自身提供
讨论人工智能模型如何在使用其自身开发者构建的框架时表现最佳,而第三方框架可能导致表现不佳,尽管基准测试成绩出色。文中引用了Claude Code(针对Claude模型)和Codex(针对GPT模型)等示例。
@omarsar0:重要讨论。衡量模型与测试工具的对比完全失效。我更倾向于使用最小化的测试工具如Pi和Hermes Agent来测试模型质量…
作者批评了因偏见和缺乏标准化而导致的AI模型测试工具衡量系统的失效,同时推测像Claude这样的模型可能很快就能动态生成测试工具。
你的框架辜负了你的智能体,但却没有基准来证明这一点
本文强调了缺乏用于评估智能体框架可靠性的基准测试,重点探讨了与模型本身相比,MCP 实现如何更好地处理工具调用和错误。