标签
五家中国AI实验室在价格战中将推理Token价格下调高达99%，使得前沿推理几乎免费，竞争优势从模型转向分发和工具链。
Anthropic 正在从 xAI 的 Colossus 集群租用 GPU 进行推理，因为代币消耗呈指数级增长，这凸显了代币短缺问题，推高了成本并给 AI 公司的利润率带来压力。
TechCrunch报道称，随着成本不断攀升，企业开始考虑转向更便宜、更小的AI模型，而非始终使用最强大的模型，这可能引发行业转变。布赖恩·阿姆斯特朗等人的预测表明，12-18个月内，80%的工作负载可能运行在价格便宜99%的模型上，这将严重冲击OpenAI和Anthropic等主要AI实验室。
本文解释了固定费率订阅计费为何不适合AI助手，因为推理成本因使用量和模型而异，并推荐Credyt作为无代码解决方案，可预先从客户钱包中授权使用量，防止成本超支。
急于购买大规模GPU集群部署AI的企业，如今面临低利用率（5%）和成本飙升（推理加所有权成本从34%升至41%）的困境，凸显AI部署中的重大基础设施低效问题。