过拟合 Harness 的代价(2 分钟阅读)
摘要
本文分析了 OpenAI 可能逐步缩减微调服务的影响,警告称前沿模型可能会过拟合于专有的 Harness。文章指出,尽管这一转变能提升可靠性,但也可能加剧厂商绑定,并降低第三方开发者使用模型的灵活性。
头部实验室正将模型聚焦于少数特定用例,同时将其 Harness 设计直接训练进模型中,导致模型泛化能力下降。虽然这可能让部分企业的应用构建变得更加简单,但代价是陷入厂商绑定。
查看缓存全文
缓存时间: 2026/05/11 18:35
# harness 过拟合的代价
来源:https://www.dbreunig.com/2026/05/10/overfitting-the-harness.html
OpenAI 逐步停止微调(https://x.com/bradenjhancock/status/2053309599248453999?s=20)是一个有趣的发展,值得观察。
一方面,模型最大化主义者会认为,最大的模型在越来越多的任务上表现更好,因此调整其权重的必要性降低了。
另一方面,大型实验室不断将他们的模型推向少数几个用例,同时将他们的 harness 设计训练进模型中,使得模型的通用性降低。有一种观点认为*这没关系*,因为编码和推理能力将解决大多数其他问题。
但我们最终得到的是为其自身 harness 构建的模型。Mario Zechner(https://x.com/badlogicgames/status/2052496187006054847?s=20)本周一直在 OSSPi harness(https://pi.dev/)中与 GPT 较量,试图驯服出特定的 harness 内行为,而 Claude 每一步都在跟他作对。
如果这种情况持续下去,可能会出现这样一种局面:第三方 harness 在与前沿实验室模型一起使用时价值降低,因为第一方 harness 行为已经*内置*(https://www.dbreunig.com/2025/06/03/comparing-system-prompts-across-claude-versions.html)了。而且不再存在微调这一逃生通道来泛化掉这种行为。
在这个世界里,前沿模型将更像家电,而不是通用平台 1(https://www.dbreunig.com/2026/05/10/overfitting-the-harness.html#fn:nrc)。它们的 harness 被训练进去且无法调整?这可能使某些企业的应用构建更容易,但代价是锁定。对许多人来说,可靠性的提升将是值得的。
相似文章
@akshay_pachaar: 不要训练模型,而要进化工具层。
文章讨论了 Hugging Face 的一个实验:一个自动循环仅重写冻结模型周围的代码(工具层),在不改变模型权重的情况下,将其基准分数从 0% 提升到接近 Sonnet 4.6 的水平,且成本更低。这证明许多基准测试失败源于工具层,而非模型本身。
观察:每个模型的最佳代理框架将由模型开发者自身提供
讨论人工智能模型如何在使用其自身开发者构建的框架时表现最佳,而第三方框架可能导致表现不佳,尽管基准测试成绩出色。文中引用了Claude Code(针对Claude模型)和Codex(针对GPT模型)等示例。
@akshay_pachaar: 现在重要的是框架。模型只是商品。模型本身只返回文本。它产生的任何东西都无法…
本文认为,现在框架(代理框架)比模型本身更关键,并通过Cline的测试展示出推理预算调整带来的性能差异。Cline推出了ClinePass,这是一种订阅服务,可以折扣价在其框架内使用多个开放权重模型。
@AlphaSignalAI: https://x.com/AlphaSignalAI/status/2074130508833845396
自我改进的机制使AI代理能够通过分析执行轨迹自主重写其运行规则,从而实现60%的性能提升。来自上海AI实验室的研究引入了Self-Harness框架,使得轻量级模型能够在无需人工工程的情况下超越更大规模的模型。
这就是我们需要本地模型和开源工具的原因
本文论证了本地模型和开源工具在AI开发中的重要性。