标签
A developer shares how they cut DeepSeek API costs by roughly 90% through prefix caching optimizations, reducing browser agent task costs below $0.005 and enabling a free, ads-supported browser agent.
A developer recounts how an AI feature became unexpectedly expensive under real-user usage, with long queries, repeated retrieval chunks, and unbounded conversation history, and suggests techniques like chunking and deduplication to manage token spend.
LangChain使用Deep Agents测试了NVIDIA的开源路由器Switchyard，结果表明在模型之间进行路由可以将成本降低约70%，同时保持约90%的准确率，并推出了针对NVIDIA模型的新中间件集成。
Cursor 解释了其 Router 如何利用数据驱动的方法和 Compass 复杂度预测器，将开发任务路由到最合适的 AI 模型，在保持或提高用户满意度的同时显著降低费用。
Jerry Liu 推广 LlamaParse 和 LlamaAgents，用于大规模文档提取，强调 LLM 评估和爬山优化以提高准确性和成本效益。他还将 FDE 工作与评估和 RL 环境联系起来。
Maka 是一个开源 Agent Harness，通过日志即运行时、上下文剪枝、thinking 回传等机制，将同一 DeepSeek 任务的成本降至 OpenCode 的 1/8，并在 Terminal-Bench 上以更低成本取得更高通过率。
一家太空初创公司以200万美元（含发射）造出了第一颗卫星，而传统报价为7500万至1亿美元，这展示了迭代执行而非等待确定性的力量。这个故事来自Y Combinator的Lightcone播客，受访者是Starcloud的Philip Johnston。
一位开发者分享了一个Claude Code配置，其中三个结构良好的智能体胜过二十个，强调编排者的控制、范围明确的任务，以及使用廉价模型处理大量工作，同时将Opus保留给主导和审查角色。
分析了按 token 计费的 LLM 定价如何激励冗长输出，并提出了低熵提示约束（FAOA）以降低成本并提高语义密度。
Not Diamond 宣布推出 Not Diamond Code，这是一款面向编码代理的智能模型路由器，可根据每个步骤选择最佳模型和推理工作量，声称可节省 20% 以上的成本，并在编码基准测试中实现帕累托最优性能。
文章讨论了大多数AI流量由简单、可重复的任务组成，如分类和提取，然而前沿模型常常被用于所有事情。它质疑将任务路由到较小的专用模型是否会成为降低成本和延迟的标准做法。
一位独立开发者通过多模型路由器，利用免费额度测试了 Opus 5、Opus 4.8、GPT-5.6 Sol 和 Kimi K3，发现评估预算和输入预处理比原始模型选择更重要。
一位 AI 顾问反思了团队如何在不质疑任务是否需要模型的情况下优化 LLM 成本，并主张衡量每次成功结果的成本，而不是每 token 的成本。
本文认为，模型路由并不是真正要解决的问题——token 效率才是。文章倡导一种整体闭环方法，将更便宜的默认模型、偏好感知路由和更好的缓存（例如 Coinbase 将缓存命中率从 5% 提升到 60%）结合起来，以最大化每美元获得的有用智能。
比较了主要提供商的18个LLM的API标价，强调相同工作负载下100倍的成本差异，并推荐使用模型路由以提高成本效率。
Manifest解释了为何弃用其LLM路由器，认为模型路由会引入不可预测性、破坏行为一致性，且无法仅凭提示词推断其复杂性，因此对大多数用例而言，缓存和审慎的模型选择更为有效。
LLM路由器正从一种小众的基础设施技巧演变为主流服务类别，随着前沿模型成本上升，使用户能够自动为每个请求选择最具成本效益的模型。
来自Nebius、LangChain和Tavily的现场网络研讨会演示了如何使用LangChain Deep Agents、Tavily和NVIDIA Nemotron 3 Ultra构建生产就绪的合规审计AI智能体，涵盖成本/质量权衡和生产能力。
探讨如何利用洛伦兹曲线量化每个延迟百分位数对平均延迟的贡献，并通过Little定律将其与并发性联系起来，证明尾部延迟通常主导成本和容量。
一篇博客文章解释了为什么单智能体AI框架因令牌成本和单体问题而昂贵，提倡使用专门智能体进行任务委派以及诸如预定义、动态、本地CLI和远程智能体等模式。