GLM 5.2 与即将到来的人工智能利润率崩塌

# GLM 5.2 与即将到来的 AI 利润崩塌（第一部分） 来源：https://martinalderson.com/posts/the-upcoming-ai-margin-collapse-part-1-glm-5-2/ *这是一个两部分系列，聚焦于我认为可能是 AI 经济中最不被理解的一次即将到来的转变。如果你喜欢这篇文章，并希望在第二部分发布时收到通知，请随时订阅我的newsletter (https://martinalderson.com/newsletter/)。* ## 真正的 DeepSeek 时刻已经来临 仿佛在很久以前，市场曾对 DeepSeek 的 R1 模型作出恐慌反应。当时的理论是，鉴于底层 V3 模型的训练成本据报道不到 600 万美元，市场认为模型训练方面的大规模资本支出已经结束，因此英伟达等公司的股价在一夜之间暴跌 (https://www.cnbc.com/2025/01/27/nvidia-falls-10percent-in-premarket-trading-as-chinas-deepseek-triggers-global-tech-sell-off.html)。 当然，这是对 AI 成本的“实际”分布极其错误的解读。训练——虽然毫无疑问是资本密集型——但也是一笔固定的前期成本。你花费数亿美元训练一个模型，然后就“完成”了。[\[1\]](https://martinalderson.com/posts/the-upcoming-ai-margin-collapse-part-1-glm-5-2/#fn1) 另一方面，推理则随你的需求而扩展。它具有“真正的”边际成本。我在过去一年左右的时间里已经多次撰写 (https://martinalderson.com/posts/are-openai-and-anthropic-really-losing-money-on-inference/) 过 (https://martinalderson.com/posts/no-it-doesnt-cost-anthropic-5k-per-claude-code-user/) 这个话题。同样，主流对此的理解——即 API 提供商“收取”的费用就是他们的“真实成本”——是错误的。 事实上，当 Anthropic/OpenAI 按每百万 tokens 25 美元收取推理费用时，根据我的粗略估算，按照挂牌价计算，这”可能“有约 90% 的毛利率。可能略高或略低（OpenAI 泄露的财务数据暗示营收毛利率约为 60%，但这无疑包括了许多其他成本，如支持、支付处理及其他服务），但前沿实验室的整体商业模式，简而言之，就是花费大量资金在员工薪资和计算资源上以“训练”一个模型，然后将这笔成本分摊到“大量”“极其盈利”的推理上。如果你能将这笔成本分摊到足够多的推理上，你就能从基于销售成本的盈利转变为……真正的盈利。 过去几周我一直在尝试 Z.ai 的 GLM5.2。我相信 GLM5.2 是第一个达到“门槛”的模型，它成为 Opus 和 GPT 的“真正”开放权重竞争对手（在撰写本文时，最新版本的 GPT 是 5.5——未来的模型无疑会超越它）。 它真的非常好，我很难分辨它和我日常使用的 Opus 之间的区别。 我发现它“慢”，因为它倾向于进行大量的思考。对于非交互式的智能体任务（比如在后台审查 PR），这些任务对时间不敏感，这不成问题；但对于交互式使用，它确实有点“太慢”了，难以吸引我的注意力。这也在一定程度上降低了它的成本效益（更多的思考意味着更多的 tokens，从而增加了成本）。 它也不支持视觉。有趣的是，我从不怎么想使用视觉（因为以前准确性太差，我经常在发现它使用视觉时暂停会话），到现在一直在使用它——自 Opus 4.7 引入更高分辨率的视觉能力以来。无法读取基于图像的 PDF、截图和设计文件实在令人沮丧。我相信他们正在开发一个更多模态的模型，但这是相对于前沿实验室的一个显著弱点。 其次，一个我“真的”没想到会成为障碍的问题是，缺乏或糟糕的网络搜索能力。事实证明，几乎每个智能体会话都会进行“大量”的网络搜索来查找资料。Z.ai 提供了一个替代的 MCP 用于网络搜索，但它相当糟糕且缓慢。Fireworks 没有提供任何类似功能，尽管他们给了我一个非常模糊的回答，说他们一直在寻求改进产品。我个人认为这意味着目前没有计划，但让我们拭目以待。 我通过告诉智能体使用基于 CLI 的网络搜索工具（如 `ddgr` (https://github.com/jarun/ddgr)）来部分解决了这个问题，但这确实是目前的一个弱点。我非常看好第三方网络搜索 API 的潜力。这实际上是开放权重模型提供商所能提供的一个巨大缺口，事实证明，“优秀的”网络搜索能力对于许多智能体任务来说“至关重要”。无论如何，这无疑会随着时间的推移得到解决——有很多人在构建网络搜索索引，只需要正确的合作关系和基础设施到位。 ## 即插即用 对前沿实验室来说真正令人恐惧的是，迁移到开放权重模型是如此“容易”。Z.ai 和 Fireworks 都提供了兼容 OpenAI 和 Anthropic 的端点。这使得与 Claude Code 和 Codex 配合使用变得极其简单。只需将基础 URL 指向你的推理提供商，提供 API 密钥，然后告诉它使用 GLM5.2。 考虑到 Anthropic 最近宣布 (https://support.claude.com/en/articles/15036540-use-the-claude-agent-sdk-with-your-claude-plan)（随后又撤销），对 `claude -p` 非交互式智能体使用按 API 费率收费，你会发现，对于许多/大多数此类使用场景，你可以直接替换为 GLM。而对于交互式使用，除了缺乏视觉和（较慢的）速度[\[2\]](https://martinalderson.com/posts/the-upcoming-ai-margin-collapse-part-1-glm-5-2/#fn2)之外，我真的几乎无法意识到我在 Claude Code 中使用的不是 Opus。 这“不是”像微软或 Salesforce 那样的锁定，你需要花费“数年”时间来规划迁移。切换成本非常低，而且我认为实际上比试图跟上前沿实验室模型经常混乱调整的所有政策和条款变更要低得多。Claude Code 可能会让使用第三方提供商变得更困难，但有很多优秀的开源替代方案（比如 Codex 本身、OpenCode 以及其他几十个）。 我从企业那里听到的一个担忧是数据隐私和安全。毫无疑问，使用 Z.ai 的官方 API 和订阅几乎是不可能的，因为他们的条款充其量是薄弱的，并且与大陆有深厚的联系。但当然，由于开放权重是“开放”的，市场上还有许多其他提供商，它们中有许多拥有适当的合同条款。而且，如果这“还”不够，你还可以自行本地托管，这实际上为那些无法发送给任何第三方的“更敏感”的数据开启了 Opus 级别的智能体工作流。 ## 成本节约 GLM5.2 目前的市场价格似乎在每百万 tokens 约 4.40 美元左右。这不到 Opus 零售价的 20%，大约是 GPT5.5 成本的 15%。现在，鉴于它对于给定任务确实使用了更多的 tokens，这并不是一个完全对等的比较。但如果对于几乎所有工作流，在非常相似的质量水平下，它不比其他方案便宜 50% 以上，我会非常惊讶。 在订阅方面，Z.ai 提供了一个“编程计划”订阅，类似于 Anthropic 和 OpenAI 的计划，但有更高的声称使用量限制。我预计对于大多数专业用途来说，关于训练和数据保留的非常宽松的条款会使其难以销售，但如果前沿实验室大幅提高定价，对于那些预算敏感的用户来说，这可能是一个可信的选择。 我预计 GLM5.2 的这些成本在未来几个月内还会显著下降，因为服务栈将进行更多优化。Wafer 撰写 (https://www.wafer.ai/blog/glm52-amd) 了一篇关于他们努力在 AMD 硬件上运行它的有趣文章。他们表明，在 AMD 上运行推理比在 Nvidia Blackwell 上每个 token 便宜 2.75 倍。 第二部分将变得有趣——推理利润的崩塌实际上对行业意味着什么，以及谁可能赢、谁可能输。请记住贝佐斯那句名言：“你的利润就是我的机会”。如果你希望它在发布时立即出现在你的收件箱中，请订阅newsletter (https://martinalderson.com/newsletter/)；或者如果你更喜欢 RSS 的话，可以获取RSS 订阅源 (https://martinalderson.com/feed.xml)。 *披露——Fireworks 好心给了我一些免费额度来尝试 GLM，以帮助撰写这篇文章。* --- 1. 这是一个简化——前沿实验室实际上在不断地训练新模型以保持竞争力，所以这更像是一种滚动成本，而不是真正的一次性成本。但关键区别仍然成立：与推理不同，这笔成本不会随着客户实际使用产品的程度而扩展。↩︎ (https://martinalderson.com/posts/the-upcoming-ai-margin-collapse-part-1-glm-5-2/#fnref1) 2. 公平地说，这种缓慢主要是模型思考过多，而非服务本身——Fireworks 以真正快速 tokens/秒的速度推出了 GLM5.2，这是一个巨大的改进，非常值得关注，尽管在实践中我发现它的实际速度有点不稳定。↩︎ (https://martinalderson.com/posts/the-upcoming-ai-margin-collapse-part-1-glm-5-2/#fnref2)