model-routing

标签

Cards List
#model-routing

LegalOn 将 Codex 成本削减一半,同时保持开发速度

OpenAI Blog ↗ · 2026-10-08 缓存

LegalOn 通过依据任务复杂度在 GPT-6 Astra、GPT-6 Luna 和 GPT-6.1 Sol 之间智能选择模型,并配合预算管控,将 Codex 成本削减一半,同时维持开发速度。

0 人收藏 0 人点赞
#model-routing

评估用于LLM路由的升级信号:目标、控制变量与五种自我误导方式

arXiv cs.AI ↗ · 2026-10-08 缓存

Cisco的研究人员在三个基准测试上评估了语义熵作为升级信号的效果,即将查询从小型LLM路由到大型LLM,结果表明该方法在GSM8K上有效,但简单的难度启发式方法也能得到看似相当的结果。该论文的主要贡献是提供了一份评估陷阱清单——仅基于问题的基线、模糊的成功指标、基准饱和以及隐藏的采样成本——用于评估路由信号。

0 人收藏 0 人点赞
#model-routing

如何判断何时可以让更便宜的模型接管智能体反复执行的任务?

Reddit r/AI_Agents ↗ · 2026-10-08

作者介绍了一种方法,用于判断智能体的重复任务何时可以安全地从前沿模型迁移到更便宜的模型,方法包括使用留出的历史运行数据、人工审核以及一键回滚,同时征询对评估方法的批评意见,并披露自己在该领域开发 Operant 项目。

0 人收藏 0 人点赞
#model-routing

@imryven:这太TMD疯狂了。在把工作拆分给三个模型之前,我花掉了好几千美元——把 Opus 5.5 放在规划位上,Sonnet 5.5 干跑腿的活……

X AI KOLs Timeline ↗ · 2026-10-07 缓存

一位用户分享如何在 Claude Code 中通过三层模型分工(Opus 5.5 负责规划与最终 diff,Sonnet 5.5 负责侦察/执行/文档,Fable 5.1 作为 advisor 仅在关键节点被咨询)大幅降低成本,并给出可直接粘贴的配置提示词,附带 Claude Code advisor 工具官方文档。

0 人收藏 0 人点赞
#model-routing

@github:GitHub Copilot 即将推出:智能本地模型路由。我们很高兴地宣布 Project… 愿景的下一步进展

X AI KOLs Following ↗ · 2026-10-07 缓存

GitHub 宣布,Copilot 即将支持智能本地模型路由,在最适合时自动将任务发送到本地模型,以帮助节省 AI 额度。该功能被视为 GitHub Project HydraFusion 愿景的下一步进展。

0 人收藏 0 人点赞
#model-routing

@LangChain:@sydneyrunkle 的新视频讲解如何在工具链(harness)中构建模型路由器:了解任务……

X AI KOLs Timeline ↗ · 2026-10-06 缓存

LangChain 分享了 Sydney Runkle 的一段视频,讲解如何在编码智能体工具链中构建模型路由器,演示了如何通过将任务匹配到规模合适的模型,在不降低质量的前提下将成本削减 64%。

0 人收藏 0 人点赞
#model-routing

OpenAI 的 B2B 市场:AI 应用的超大规模云厂商(6 分钟阅读)

TLDR AI ↗ · 2026-10-06 缓存

OpenAI 在 DevDay 上推出了一个 B2B 企业级市场,拥有 32 家合作伙伴,允许客户将现有的 OpenAI 采购额度应用于第三方产品,包括由 Baseten 提供服务的开源模型——这是 OpenAI 战略性的一步,旨在成为 AI 应用的超大规模云厂商层,以应对开源模型数量的不断增长。

0 人收藏 0 人点赞
#model-routing

一个 Token 值多少算力?基于 Mixture-of-Agents 测量大模型的每 Token 充分算力

arXiv cs.AI ↗ · 2026-10-05 缓存

本文利用由 Qwen、OLMo 和 R1-distilled 系列共 15 个模型组成的 Mixture-of-Agents 评审面板,测量了大模型的每 Token「充分算力」。研究发现,一个 0.5B 的小模型即可复现参考模型 92%–95% 的输出 Token,而成本最高的 10% Token 却占用了 64%–80% 的 FLOPs。由此得到的每 Token 算力分布图将模型路由延迟从 7.59 秒降低至 5.12 秒,并使推测式草稿生成所需的草稿 Token 数比固定窗口基线减少 32.6%。

0 人收藏 0 人点赞
#model-routing

快速模型,缓慢证据:面向LLM智能体框架的系统一决策模型配对自审评估

arXiv cs.AI ↗ · 2026-10-05 缓存

本文对两种系统一决策模型(开源权重的Laya与托管服务的Jev)在11个智能体框架决策点上进行了配对自审评估,发现Jev在11项任务中的9项上准确率显著更高,同时审计并纠正了此前多个导致部署结论失真的分析错误。

0 人收藏 0 人点赞
#model-routing

@KakaluoteW45042:我认同这个判断。在智能体中,超过一半的所谓「推理」其实只是路由……

X AI KOLs Timeline ↗ · 2026-10-03 缓存

作者赞同该判断:智能体中超过一半的所谓「推理」实际上只是路由决策,应把工具选择、路径分支等交给小模型以毫秒级速度完成,只在真正需要推理的少数步骤上投入昂贵的大模型 token。

0 人收藏 0 人点赞
#model-routing

@canghe: Damn, based on this testing method, I'm probably in the gray release for Fable 5.5? Turns out Tibo can do more than jus…

X AI KOLs Following ↗ · 2026-10-03 缓存

A tweet discusses a testing trick that reveals whether a user is being gray-released (routed) to Claude 5.5, where asking "Who is Tibo" lets the model leak that it's actually 5.5.

0 人收藏 0 人点赞
#model-routing

金融AI的应急暴露路由:停机风险与不可分割决策的成本

arXiv cs.LG ↗ · 2026-10-03 缓存

这篇 arXiv 论文提出了应急暴露路由(Contingent Exposure Routing, CER)框架,用于在模型停机期间将被迫转移的金融决策分配到各 AI 模型端点上,以最小化市场冲击风险。研究表明,共享备份会产生集中度下限,而在合成及回放场景中,随机化路由策略可将暴露风险降低 3.3% 至 10.5%。

0 人收藏 0 人点赞
#model-routing

@Av1dlive: 如何像前 1% 用户一样使用 Claude Code mods——分步详解:在所有人意识到之前,把这个交给你的 agent 👇 1. 设置…

X AI KOLs Timeline ↗ · 2026-10-02 缓存

一篇分步指南:构建一个名为 run-ledger 的 Claude Code mod,与 Jev 集成,实现模型路由、每次运行的成本估算以及子 agent 状态追踪。文章逐步介绍了连接 Jev、编写 mod、测试热重载与重复计数,以及将其安装为持久化插件的完整流程。

0 人收藏 0 人点赞
#model-routing

Aster by AsterWise

Product Hunt ↗ · 2026-10-02 缓存

Aster by AsterWise 推出智能模型路由服务,可在多个模型之间动态分配任务,其中 aster-code 面向编码智能体,aster-work 面向自定义智能体和工作流,以付费预付费模式提供。

0 人收藏 0 人点赞
#model-routing

@rabois:加速(Accelerate)

X AI KOLs Following ↗ · 2026-10-01 缓存

一条称赞 Factory AI 编码自动化工具的推文,重点提到它能处理低杠杆的重复性工作,以及一个自动模型路由器——在新模型发布时能自动挑选出最佳模型。

0 人收藏 0 人点赞
#model-routing

@LangChain:想为你的 Agent 加上路由功能?从这里开始:理解任务、理解模型、在…中构建路由器

X AI KOLs Timeline ↗ · 2026-10-01 缓存

LangChain 分享了一份在 Agent 框架内部构建模型路由器的实用指南,涵盖任务理解、模型选择和结果跟踪,声称在不损失质量的情况下将每条会话的中位成本降低了 64%。

0 人收藏 0 人点赞
#model-routing

@sydneyrunkle: https://x.com/sydneyrunkle/status/2105704739585565066

X AI KOLs Timeline ↗ · 2026-10-01 缓存

LangChain 分享了他们如何在其智能体运行时(agent harness)内部为开源编码智能体 Open SWE 构建模型路由器:将不需要前沿智能水平的任务路由到更便宜的模型,在无可测量的质量变化的情况下,将每条对话线程的中位成本降低了 64%。

0 人收藏 0 人点赞
#model-routing

@svpino: 相当巧妙:一个模型路由与质量控制层,不过是针对语音模型的。基本上,@OnepinAI 架设在已有…

X AI KOLs Timeline ↗ · 2026-10-01 缓存

Onepin 作为语音生成领域的模型路由与质量控制层正式发布,它架设在现有 TTS 服务商之上,对文稿进行规范化处理、按行选择音色,并大规模自动检测和修复发音或自然度问题。

0 人收藏 0 人点赞
#model-routing

@svpino:这个 pareto-26.10-preview 模型相当酷。它做了一件我以前没见过的事:它基本上把多个模型……

X AI KOLs Timeline ↗ · 2026-10-01 缓存

OpenRouter 发布了 TheUnbiasedCo 推出的 Pareto 26.10 Preview,这是一款多模态复合模型,内部同时运行多个模型,评估它们的回答,并通过单一 API 返回最佳答案,输入价格为 $0.80/M,输出为 $3.20/M,支持 1M 上下文和工具调用。

0 人收藏 0 人点赞
#model-routing

Show HN:开源模型路由,让编码智能体达到 Astra 级性能

Hacker News Top ↗ · 2026-09-30

Weave Router 2.0 是一款面向编码智能体的开源模型路由器,能够在不同 LLM 之间智能切换,在 Terminal Bench 4.0 和 SWE Atlas 上达到与 GPT-6 Astra 相当的通过率,同时将成本降至约 52%,并通过基于 HMM 的架构、更大的训练数据和更智能的缓存淘汰计算,将任务执行速度提升 2.2 至 2.5 倍。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈