Revolut 转向自行托管的 GLM
摘要
Revolut 将约 2,000 名工程师迁移至自托管的 GLM 模型进行编程,停用 Claude Code 和 Codex,仅保留例外使用权限——这些模型运行在 56 块英伟达 B200 GPU 上,每百万 token 的综合成本为 0.30 美元(约为此前 Anthropic/OpenAI 支出的十分之一),工程交付周期缩短了 70%。
查看缓存全文
缓存时间: 2026/11/03 12:43
突发:Revolut 已将约 2,000 名工程师迁移至自托管的 GLM 进行编程,并将 Claude Code 和 Codex 列入仅供例外情况使用的名单。
据该公司 AI 运营负责人 David Abitbol 介绍:他们使用 56 块英伟达 B200,综合成本为每百万 token 30 美分,约为此前支付给 Anthropic 和 OpenAI 费用的十分之一。工程交付周期缩短了 70%。
关键在于:当 token 不再限量供应时,收益才显现出来。工程师不再把 AI 留给棘手的工单,而是开始将它用于所有任务。
前沿模型成为例外,开放权重模型成为默认选择。对于每一家准备 IPO 的 AI 实验室来说,这都是一道定价难题。
感谢 @OliverMolander 提供信息
如果费用降低 90%,你会让团队弃用前沿模型 API 吗?
相似文章
@DeRonin_: 我目前的本机AI配置:- 2x DGX Spark 链接 (256gb) > GLM 5.2 @ 2bit, 推理 + 代理循环 - Mac Studio M3 Ultr…
一位用户描述了他们完全本地的AI堆栈,使用多个硬件设备运行GLM、Qwen和Kimi等中国模型,声称相比GPT-5.5和Opus 4.8等前沿模型节省了87%的成本,同时提到了自托管视频生成的计划。
@akshay_pachaar:重大突破!自托管LLM的成本刚刚降低了约75%:大多数Agent流水线现在在底层运行4-5个小模型……
Superlinked发布了SIE,一个开源推理引擎,通过一个API提供85+个模型,支持按需加载和LRU逐出,为Agent流水线节省约75%的自托管GPU成本。
@rohanpaul_ai: 令人惊讶的好消息,开源编码模型,而且还有很多隐藏的机会可以降低成本……
Databricks 测试了开源编码模型 GLM-5.2,发现它在真实企业代码任务中可与 Claude Opus 4.8 等顶级闭源模型竞争,同时成本更低(每任务 1.28 美元对 1.94 美元)。评估还强调了 Pi 这个框架,它通过减少每轮发送的上下文来降低成本。
@0xSero:GLM-5.1-478B-NVFP4 跑在:4×RTX Pro 6000、SGLang,最大 37 万 token(1.75× 满上下文),p10 27.7 | p90 45…
一份 478B 参数的量化 GLM-5.1 模型在 4 块 RTX Pro 6000 上用 SGLang 运行,支持 37 万 token 上下文,解码最高 45 tok/s,预填充 1340 tok/s,并现场演示操控 Figma。
@tolak_eth: 我想分享一下我们是如何避免每年花费约16万美元来托管拥有完整1M上下文的GLM-5.2。当GLM-5.2推出时……
Phala通过将MoE专家量化至4位并保留关键部分为FP8/BF16,在单个8×H200节点上实现了与FP8基线相同的基准测试结果,从而避免了每年16万美元的GLM-5.2完整1M上下文托管成本,并在Hugging Face上发布了优化后的模型GLM-5.2-W4AFP8。