标签
Miles Brundage 反思到,语言模型的 token 从一开始就相对"人类 token"非常廉价,这种"天生便宜"的特性是技术得以快速普及的重要原因之一。
GLM 5.3 FlashX 因性能改善获得称赞,但也因成本更高受到批评,而 DeepSeek v4.1 Flash 被指出性能更优。
作者体验千问最新版APP后指出,Agent要走进大众用户需解决成本、反应速度和人与AI交互方式三个瓶颈。
介绍 Claude Code 生态中的 /swarm 多 Agent 并行扇出模式近期被默认禁用并增加硬性限制,原因在于失控递归和成本爆炸。
一位Reddit用户询问DeepSeek如何让一个300B参数的模型比9B参数的模型更便宜,引发了关于效率和成本的讨论。
据报道,DeepSeek-V4-Flash-0731 性能优于 GLM 5.2,同时成本与前代保持一致,引发了对其再次造成市场扰动的猜测。
AI数据中心日益增长的能源需求可能导致电费上涨,引发公众冲突,甚至波及那些之前从未关注AI基准测试的人群。
一项对 Gemma 密集模型(31B)与 MoE 模型(26B)的实际基准测试显示,MoE 模型每次查询速度快 25.5%,成本低 20%,且质量相同,验证了理论上的成本节约。
一家公司分享了采购和维护用于AI推理的HGX B300的实际困难,包括高昂的成本(110万欧元)、电力与空间需求以及供应有限,并给出了GLM 5.2的吞吐量估算。
Grok-4.5 实现了与 GPT-5.5-xhigh 相当的编码性能,而成本仅为后者的一半。
中国AI模型正被美国公司越来越多地采纳,因为它们显著更便宜,同时缩小了与领先美国竞争对手的性能差距,自2月以来OpenRouter的代币份额每周均超过30%。
本文解释AI token的昂贵原因:自回归生成过程需要逐token预测并重复计算整个上下文,导致计算量随上下文线性增长;编码智能体因多轮交互和文件读取会迅速累积超长上下文,进一步推高token开销。
Jay Alammar 强调了本地 AI 模型如何成为各个规模级别的关键基础设施,并引用了 Sebastian Raschka 的一篇关于搭建本地模型的文章,文中提到了 Cohere 的 North Mini Code (Nomico),该模型以 Apache 2.0 许可证开源。