@Suhail：有一天，推理定价将低至每十亿token几分钱。
摘要
一条推文预测AI推理最终将变得极其便宜，每十亿个token只需几分钱。
有一天，推理的价格将低至每十亿token几分钱。
相似文章
@rohanpaul_ai: 完全同意。那份著名的斯坦福报告已经发现，GPT-3.5级别的推理成本在不到2年内下降了280倍……
讨论推理成本（GPT-3.5级别在不到2年内下降280倍）的快速下降如何导致杰文斯悖论，从而驱动对AI的更大需求，并使更便宜的开源模型下的多智能体系统无处不在。
令牌便宜到无需计量
本文讨论了 AI 令牌成本的快速下降，预测 LLMs 将在未来几年内广泛集成到计算基础设施中，并在消费级硬件上进行本地部署，重点转向质量和可访问性。
@levie：代理已经占据了推理的大部分。这将很快在未来一年内趋向于几乎所有的推理……
这条推文声称，AI代理现在主导了推理流量，预计这一趋势将加速，导致代理全天候执行大量任务并消耗大量令牌。
@levie: Dwarkesh发人深省的文章。总的来说，随着AI变得更强大，我们应预期在边际上推理会…
关于AI能力提升如何可能将推理成本导向最具经济价值的任务，但市场竞争可能阻止极端价格上涨的讨论，正如Dwarkesh Patel博客文章所预测的那样。
五家中国AI实验室将Token价格最高下调99%
五家中国AI实验室在价格战中将推理Token价格下调高达99%，使得前沿推理几乎免费，竞争优势从模型转向分发和工具链。