@rohanpaul_ai: 令人惊讶的好消息,开源编码模型,而且还有很多隐藏的机会可以降低成本……
摘要
Databricks 测试了开源编码模型 GLM-5.2,发现它在真实企业代码任务中可与 Claude Opus 4.8 等顶级闭源模型竞争,同时成本更低(每任务 1.28 美元对 1.94 美元)。评估还强调了 Pi 这个框架,它通过减少每轮发送的上下文来降低成本。
查看缓存全文
缓存时间: 2026/07/09 23:42
开源编程模型传来令人惊喜的好消息,同时也揭示了在降低成本的同时提升质量的诸多隐藏机遇。
Databricks 证明,GLM-5.2 能够与顶尖闭源编程模型在企业真实代码场景中一较高下。
GLM-5.2 已进入 Databricks 的最高能力层级,并在质量上与 Claude Opus 4.8 基本持平(统计上无显著差异)。
- 编程任务的帕累托前沿(即在特定成本下达到最佳质量)涵盖了 OpenAI、Anthropic 以及开源模型。
- 这意味着,目前只有组合多种工具才能实现前沿性能。
- 开源模型,尤其是 GLM-5.2,现已能够应对最高难度的任务。
Databricks 之所以构建该测试,是因为公开的编程基准可能被模型过度拟合。
因此,他们使用了真实的内部 PR、真实的测试用例以及一个数百万行代码的代码库。
成本结果进一步凸显其意义:GLM-5.2 每任务成本为 1.28 美元,而 Opus 4.8 为 1.94 美元。
因此,在 Databricks 数百万行企业级代码的测试中,GLM-5.2 使开放权重路由变得可信,而 Pi 框架则展示了为什么一个可信的模型必须在合适的测试框架中接受检验。
这一测试还将人们常混淆的两件事区分开来:模型智能与代理效率。
一个编程代理需要两部分。模型负责推理和代码编写,而框架负责管理工作流程,包括文件搜索、终端命令、测试输出和上下文管理。GLM-5.2 通过 Databricks 自有私有任务接近顶级闭源模型的表现,证明了第一部分。
Pi 框架则通过展示能使用远少上下文完成相同级别的工作,证明了第二部分。
Databricks 发现,Pi 能以超过 2 倍的低成本运行相同模型,且思考努力不变,因为每轮交互发送的上下文减少了约 3 倍。
编程代理的成本可以在不改变模型的情况下发生巨大变化。
Pi 通过向模型提供更少重复上下文来节省成本,同时质量保持大致稳定。
因此,当高效框架能控制任务成本时,GLM-5.2 会变得更加有用。
相似文章
在 Databricks 数百万行代码库上评估编码智能体
Databricks 分享了在其数百万行代码库上评估编码智能体的内部基准测试结果,揭示了能力层级和成本性能权衡,并强调了像 GLM 5.2 这样的开源模型的有效性。
开源模型正以约1.5倍于前沿模型的速度缩小与GPT/Claude/Gemini的编码差距,且在去污染基准测试中,一个27B模型已经击败了Claude Opus 4.8 [实时仪表盘 + 分析]
一个实时仪表盘和统计分析显示,开源编码模型正以1.5倍的速度缩小与闭源模型的差距,一个27B模型已经在去污染基准测试中超越了Claude Opus。工具调用可靠性仍然是主要瓶颈。
@alighodsi: 在拥有1.1万名员工的情况下,我们的AI成本正在上升。我们应该使用哪种模型和框架来降低成本,同时保持卓越的质量……
Databricks发布了一项内部基准测试,在数百万行代码的代码库上评估编码代理,结果显示框架选择可加倍节省成本,并且像GLM 5.2这样的开源模型在最高难度级别上表现具有竞争力。
@hooeem: https://x.com/hooeem/status/2068752941553476002
一份全面指南,介绍如何部署 GLM 5.2(一款自称在编程基准测试中超越 GPT-5.5 且成本更低的开源 AI 模型),涵盖云端和本地部署方案。
@rohanpaul_ai: GLM-5.2在ARC-AGI-2上获得22.8%,每任务$0.25。值得注意的是,2025年5月左右,经过验证的最佳模型在ARC-AGI-2上只有…
GLM-5.2在ARC-AGI-2上取得22.8%的成绩,在ARC-AGI-1上取得77%的成绩,每任务成本仅0.25美元,比2025年5月的最佳前沿得分提高了7.6倍。