标签
Maka 是一个开源 Agent Harness,通过日志即运行时、上下文剪枝、thinking 回传等机制,将同一 DeepSeek 任务的成本降至 OpenCode 的 1/8,并在 Terminal-Bench 上以更低成本取得更高通过率。
一家太空初创公司以200万美元(含发射)造出了第一颗卫星,而传统报价为7500万至1亿美元,这展示了迭代执行而非等待确定性的力量。这个故事来自Y Combinator的Lightcone播客,受访者是Starcloud的Philip Johnston。
一位开发者分享了一个Claude Code配置,其中三个结构良好的智能体胜过二十个,强调编排者的控制、范围明确的任务,以及使用廉价模型处理大量工作,同时将Opus保留给主导和审查角色。
分析了按 token 计费的 LLM 定价如何激励冗长输出,并提出了低熵提示约束(FAOA)以降低成本并提高语义密度。
Not Diamond 宣布推出 Not Diamond Code,这是一款面向编码代理的智能模型路由器,可根据每个步骤选择最佳模型和推理工作量,声称可节省 20% 以上的成本,并在编码基准测试中实现帕累托最优性能。
文章讨论了大多数AI流量由简单、可重复的任务组成,如分类和提取,然而前沿模型常常被用于所有事情。它质疑将任务路由到较小的专用模型是否会成为降低成本和延迟的标准做法。
一位独立开发者通过多模型路由器,利用免费额度测试了 Opus 5、Opus 4.8、GPT-5.6 Sol 和 Kimi K3,发现评估预算和输入预处理比原始模型选择更重要。
一位 AI 顾问反思了团队如何在不质疑任务是否需要模型的情况下优化 LLM 成本,并主张衡量每次成功结果的成本,而不是每 token 的成本。
本文认为,模型路由并不是真正要解决的问题——token 效率才是。文章倡导一种整体闭环方法,将更便宜的默认模型、偏好感知路由和更好的缓存(例如 Coinbase 将缓存命中率从 5% 提升到 60%)结合起来,以最大化每美元获得的有用智能。
比较了主要提供商的18个LLM的API标价,强调相同工作负载下100倍的成本差异,并推荐使用模型路由以提高成本效率。
Manifest解释了为何弃用其LLM路由器,认为模型路由会引入不可预测性、破坏行为一致性,且无法仅凭提示词推断其复杂性,因此对大多数用例而言,缓存和审慎的模型选择更为有效。
LLM路由器正从一种小众的基础设施技巧演变为主流服务类别,随着前沿模型成本上升,使用户能够自动为每个请求选择最具成本效益的模型。
来自Nebius、LangChain和Tavily的现场网络研讨会演示了如何使用LangChain Deep Agents、Tavily和NVIDIA Nemotron 3 Ultra构建生产就绪的合规审计AI智能体,涵盖成本/质量权衡和生产能力。
探讨如何利用洛伦兹曲线量化每个延迟百分位数对平均延迟的贡献,并通过Little定律将其与并发性联系起来,证明尾部延迟通常主导成本和容量。
一篇博客文章解释了为什么单智能体AI框架因令牌成本和单体问题而昂贵,提倡使用专门智能体进行任务委派以及诸如预定义、动态、本地CLI和远程智能体等模式。
作者质疑像Claude Code这样的单体式智能体编码工具的效率,认为一个按阶段路由模型的自定义框架可以在不牺牲质量的情况下降低成本,并向社区询问他们的经验和建议。
作者分享了一种降低多模型智能体循环成本的策略:使用廉价快速的执行器处理重复节点,并使用强大的规划器进行高层推理,同时分享了在OpenRouter上使用Ling-3.0-flash的经验。
Cursor 推出了 Cursor Router 的早期访问版本,这是一个自动模型路由层,能够为每个请求选择更便宜的模型,从而降低成本 30-60%,且不会降低质量,满足了高容量编码工作负载中成本控制的需求。
Cursor Router智能地为每项任务选择最佳AI模型,以降低60%的成本实现前沿质量的结果,适用于Teams和Enterprise计划。
Cursor 推出了 Router,一个智能模型路由器,为每个任务选择合适的模型,以降低60%的成本提供前沿质量的结果。该推文询问是否有人将其构建为开源。