GLM-5.2 在 45 个 terminal-bench 编码代理任务上与 Claude Opus 持平,成本不到一半(内含完整方法及失败日志)
摘要
GLM-5.2 以更低成本在 45 个编码代理任务上与 Claude Opus 持平,其中 43 个任务结果完全相同。
我们想知道开放权重模型是否真的能胜任前沿的编码代理工作,因此我们将 GLM-5.2 与 Claude Opus 进行了直接对比,采用代理实际运行的方式——不是在静态评估上,而是在真实的编码代理(Claude Code)中,针对 terminal-bench 任务,在真实 shell 环境中运行,并由每个任务自身的隐藏测试进行评分。通过/不通过二选一,无部分分数,无模型作为评判者。两次运行的设置完全相同:相同的代理、提示、工具、40 轮预算和 45 个任务。唯一不同是每轮回答的模型。我们的发现:质量相同——每个模型都恰好解决了 45 个任务中的 25 个。答案相同——它们在 43/45 的任务上结果一致(24 个两者都通过,19 个两者都失败),其余两个各赢一个。没有哪个类别中一方系统性更强。失败模式相同——两者都因自信地错误而失败,即在隐藏测试拒绝的工作上声明 "已修复 / 所有测试通过 / 已验证"。每个干净的 GLM 失败日志都以此结束,Opus 也产生了相同的模式。成本:启用提示缓存后,GLM 的支出约为 Opus 的 46%(约 15 美元对 32.67 美元),结果相同。即使不缓存,也已便宜约 10%。明确说明注意事项:45 个任务有意义但有限,且模型是非确定性的,因此我们更看重 43/45 的一致性,而非 25=25。GLM 的 token 效率也较低,它需要多运行约 37% 的轮次(760 对 554)才能得到相同答案,这是成本差距没有更大的唯一原因。我们还不得不排除一些早期的 GLM 失败,这些失败实际上是上游 502/429 速率限制所致,而非模型本身——值得任何通过提供商 API 对开放模型进行基准测试的人注意。完整报告包含轮次分布、token 分解和逐字失败日志:https://entelligence.ai/blogs/glm-5-2-vs-claude-opus-coding-benchmark
相似文章
@PatrickToulme: 本周我在本地部署了GLM 5.2,使用OpenCode工具链与Claude Opus进行了对比。底线:这是一个真正的前沿……
GLM 5.2 是一个前沿的开源编程模型,在编程任务上的表现接近 Claude Opus,具备出色的工具调用、规划和本地部署能力,且完全免费。
GLM 5.2 对比 Opus
GLM 5.2 是 Z.ai 推出的全新开放权重模型,与 Claude Opus 在 3D 游戏编码任务中进行了对比。Opus 性能更快更清晰,但 GLM 5.2 在成本和易用性上具有显著优势。
我们自家也有Mythos:GLM 5.2在网络基准测试中击败Claude
智谱AI的开权重模型GLM 5.2在IDOR检测基准测试中以远低于Claude Code的成本击败了它,尽管仍落后于Semgrep专门构建的多模态管道。文章探讨了漏洞检测性能有多少来自模型本身,又有多少来自其周围的工具链。
@kapicode: 我一直在使用 Claude 作为“人类”来提示 @opencode 以重建参考项目,在同一测试平台上评估了四款 LLM…
一项针对四款大语言模型(Qwen、MiniMax、GLM)的评估显示,当使用 Claude 作为 Opencode 智能体工具的提示器时,一个较小的本地模型(运行在 3090 显卡上的 Qwen 27B)在代码质量与可靠性方面表现优于更大的剪枝模型。
令牌在吃我的钱包,所以我试了 GLM5.2,并将其与 Fable 5 和 Opus 4.8 进行比较
一位开发者在 OpenRouter 上比较了 GLM 5.2 与 Fable 5 和 Opus 4.8,发现 GLM 5.2 在代码审计和审查方面成本效益高,但由于测试-错误-编辑成本的累积,不适合长时间的无人值守构建。