智能每美元(2分钟阅读)
摘要
微软在模型发布卡上引入'平均Token使用量'作为衡量每美元智能的新指标,将AI竞争转向效率和成本效益。该指标在性能和实现智能的成本两方面对模型进行基准测试。
微软在模型发布卡上引入"平均Token使用量",强调每美元智能。现在模型在性能和实现智能的成本方面进行基准测试。这项新指标迫使公司在效率上竞争,将定价与已完成支持案例等实际成果对齐。
相似文章
今年智能密度大幅提升,但我的账单没变。$/M 数字并不是真正的花钱之处。
作者反思了 AI 模型每 token 的价格大幅下降,但实际成本保持平稳,因为更便宜的模型会被更频繁地重新运行。他们认为,重要的是每完成步骤的成本,而不是每百万 token 的成本。
AI时代的记分卡
OpenAI 探讨 CFO 如何通过 'Useful Intelligence per Dollar' 来衡量 AI 价值,该指标评估完成的工作与成本,而非仅仅 token 成本或采用率。
每百万Token的价格毫无意义
本文认为,由于分词器和Token效率的差异,按每百万Token价格比较AI模型会产生误导。文章提供了一个基准成本分析,表明每Token价格较高的模型在完成每个任务时反而可能更便宜,其中DeepSeek V4 Pro是一个突出的成本效率异常值。
重新思考 AI 总体拥有成本:为何每 Token 成本是唯一关键指标
NVIDIA 认为,每 Token 成本是衡量 AI 总体拥有成本(TCO)的最关键指标,优于 FLOPS/美元等传统衡量标准,能更准确地反映现实世界中的推理效率和盈利能力。
每个AI提示都需花费成本——这改变了一切
文章认为,AI的真正挑战不仅在于构建更智能的模型,更在于以规模化的方式降低成本效率,强调了减少token使用、提升速度以及优化基础设施的重要性。