当大型语言模型提供商停止补贴时会发生什么？

Reddit r/AI_Agents 新闻
llm-pricing subsidization open-source inference-cost ai-agents industry-trends

摘要

一位开发者分享了从补贴的OpenAI Codex切换到OpenRouter后AI推理成本的经历，引发了关于当前LLM定价模式可持续性的讨论，以及可能转向开源自托管的趋势。

我运行着 **Hermes agent**，并将我的OpenAI Codex连接了两个月，每月20美元固定费率，一切正常。上周日我达到了每周限制，因为我用了5.5 fast模式。那天我把Hermes中的提供商换成了OpenRouter，只用了一天，执行完全相同的任务就花了18.7美元。那一天让我思考。OpenAI、Anthropic、Google目前都在以低于成本的价格销售推理。这是抢占土地阶段，先吸引开发者，以后再考虑利润率。当这种情况改变时： * 副项目变得不再负担得起 * 每天进行500次以上调用的agent会很快变得昂贵 * 小团队首先被定价出局 我们正建立在从未打算永久的定价之上。开源模型可能是一种对冲。自托管可能成为默认选择。当这些公司停止补贴时，你认为会发生什么？IT行业会发生什么？
查看原文

相似文章

当他们停止补贴LLM订阅时会发生什么？

Reddit r/LocalLLaMA

关于LLM订阅不可持续补贴的评论，预测随着风投资金收紧，价格将上涨，生态系统发生变化，并对开源模型的可用性和硬件成本表示担忧。

当前LLM成本为何不可持续

Hacker News Top

本文认为，当前高昂的LLM定价不可持续，原因是性能提升递减、开源权重模型兴起、专用AI芯片降低推理成本以及零切换成本，并预测随着竞争加剧，价格将大幅下降。