过拟合 Harness 的代价(2 分钟阅读)
摘要
本文分析了 OpenAI 可能逐步缩减微调服务的影响,警告称前沿模型可能会过拟合于专有的 Harness。文章指出,尽管这一转变能提升可靠性,但也可能加剧厂商绑定,并降低第三方开发者使用模型的灵活性。
头部实验室正将模型聚焦于少数特定用例,同时将其 Harness 设计直接训练进模型中,导致模型泛化能力下降。虽然这可能让部分企业的应用构建变得更加简单,但代价是陷入厂商绑定。
查看缓存全文
缓存时间: 2026/05/11 18:35
# harness 过拟合的代价
来源:https://www.dbreunig.com/2026/05/10/overfitting-the-harness.html
OpenAI 逐步停止微调(https://x.com/bradenjhancock/status/2053309599248453999?s=20)是一个有趣的发展,值得观察。
一方面,模型最大化主义者会认为,最大的模型在越来越多的任务上表现更好,因此调整其权重的必要性降低了。
另一方面,大型实验室不断将他们的模型推向少数几个用例,同时将他们的 harness 设计训练进模型中,使得模型的通用性降低。有一种观点认为*这没关系*,因为编码和推理能力将解决大多数其他问题。
但我们最终得到的是为其自身 harness 构建的模型。Mario Zechner(https://x.com/badlogicgames/status/2052496187006054847?s=20)本周一直在 OSSPi harness(https://pi.dev/)中与 GPT 较量,试图驯服出特定的 harness 内行为,而 Claude 每一步都在跟他作对。
如果这种情况持续下去,可能会出现这样一种局面:第三方 harness 在与前沿实验室模型一起使用时价值降低,因为第一方 harness 行为已经*内置*(https://www.dbreunig.com/2025/06/03/comparing-system-prompts-across-claude-versions.html)了。而且不再存在微调这一逃生通道来泛化掉这种行为。
在这个世界里,前沿模型将更像家电,而不是通用平台 1(https://www.dbreunig.com/2026/05/10/overfitting-the-harness.html#fn:nrc)。它们的 harness 被训练进去且无法调整?这可能使某些企业的应用构建更容易,但代价是锁定。对许多人来说,可靠性的提升将是值得的。
相似文章
Salesforce 发现了更好的方法来共同进化代理及其控制机制(9分钟阅读)
这项研究探讨了将框架进化与模型适应相结合用于AI代理,发现直接模仿专家会损害较弱模型的性能,并提出了一种基于策略的纠正方法,以在不破坏框架适应企业任务的情况下提高性能。
@omarsar0:重要讨论。衡量模型与测试工具的对比完全失效。我更倾向于使用最小化的测试工具如Pi和Hermes Agent来测试模型质量…
作者批评了因偏见和缺乏标准化而导致的AI模型测试工具衡量系统的失效,同时推测像Claude这样的模型可能很快就能动态生成测试工具。
@akshay_pachaar: 不要训练模型,而要进化工具层。
文章讨论了 Hugging Face 的一个实验:一个自动循环仅重写冻结模型周围的代码(工具层),在不改变模型权重的情况下,将其基准分数从 0% 提升到接近 Sonnet 4.6 的水平,且成本更低。这证明许多基准测试失败源于工具层,而非模型本身。
评估框架确实重要
作者强调评估框架对DeepSeek V4.1 Flash AI模型的性能有显著影响,表明在AI测试中框架选择的关键作用。
观察:每个模型的最佳代理框架将由模型开发者自身提供
讨论人工智能模型如何在使用其自身开发者构建的框架时表现最佳,而第三方框架可能导致表现不佳,尽管基准测试成绩出色。文中引用了Claude Code(针对Claude模型)和Codex(针对GPT模型)等示例。