当大型语言模型提供商停止补贴时会发生什么?
摘要
一位开发者分享了从补贴的OpenAI Codex切换到OpenRouter后AI推理成本的经历,引发了关于当前LLM定价模式可持续性的讨论,以及可能转向开源自托管的趋势。
我运行着 **Hermes agent**,并将我的OpenAI Codex连接了两个月,每月20美元固定费率,一切正常。上周日我达到了每周限制,因为我用了5.5 fast模式。那天我把Hermes中的提供商换成了OpenRouter,只用了一天,执行完全相同的任务就花了18.7美元。那一天让我思考。OpenAI、Anthropic、Google目前都在以低于成本的价格销售推理。这是抢占土地阶段,先吸引开发者,以后再考虑利润率。当这种情况改变时:
* 副项目变得不再负担得起
* 每天进行500次以上调用的agent会很快变得昂贵
* 小团队首先被定价出局
我们正建立在从未打算永久的定价之上。开源模型可能是一种对冲。自托管可能成为默认选择。当这些公司停止补贴时,你认为会发生什么?IT行业会发生什么?
相似文章
没有开源LLM的竞争,闭源LLM公司将变得贪得无厌。
文章认为,如果没有开源LLM的竞争,像Anthropic这样的闭源公司会变得傲慢并对客户收取过高费用,例如每月200美元的订阅费。
开源大模型是否已经“足够好”了?
探讨开源大模型是否已能满足大多数用例,质疑闭源模型的附加价值及成本效益权衡。
如果LLM不再免费发布,本地LLM会怎样?
文章探讨了免费开源LLM发布可能停止的可能性,质疑现有模型能否通过先进的检索工具在知识陈旧的情况下保持有用性。
使用 LLM 构建的创始人——您会付费让人搭建 AI 成本追踪和提供商路由基础设施吗?验证一个想法。
一位创始人寻求对其服务进行验证,该服务利用开源工具配置生产级 LLM 网关,以解决企业常见问题,如成本可见性、供应商锁定和个人身份信息(PII)泄露。
不可持续的补贴(1分钟阅读)
分析谷歌、OpenAI和Anthropic如何在现金紧张和高资本支出的压力下调整AI模型定价策略,推动价格上涨,结束AI补贴时代。