标签
Not Diamond 发布了一种模型路由的方法论,该方法论在将代理成本降低 20-80% 的同时,实现了 Opus 级别的质量,使用序列决策方法有效处理长时间运行的编码代理。
发布一种通过交互式基准测试评估模型路由的方法论,该方法在领先基准测试中实现了帕累托优势,以更低成本提供更高质量。
Pro-Router引入了一种面向token的渐进式模型路由方法,用于高效多模态LLM推理,通过自适应边云协作提高吞吐量并降低成本。
Tamarind 推出了 Tamarind Model Router,该路由器基于基准测试和输入特性,自动为特定输入选择最佳模型,而不是依赖平均性能。
Experiential是一个开源的网关和路由器,专为AI代理工作流设计,通过单一的兼容OpenAI的API实现基于使用数据的模型优化。
文章提出,AI领域的模型选择应像基础设施工具般稳定,让工作流程保持不变,仅根据任务需求切换模型,并介绍了围绕此理念构建的Unstoppable AI工具。
Fast Inference 是一项 LLM API 服务,为开发者提供快速且经济实惠的访问顶级开源和闭源模型的服务,并集成了编码代理和工具如 Claude Code 和 Codex。
作者在LlamaIndex的extractbench基准测试上进行了一次小实验,比较了Claude Opus 5和Qwen模型,发现两者性能相似,具有成本优势,并且提取难度与文档长度之间存在相关性。
Stripe正在收购OpenRouter,这是一个为AI模型路由提供统一接口的平台,突显了模型路由在人工智能行业中的快速增长和日益重要性。
Google DeepMind 引入了一种路由方法,将其框定为潘多拉盒子问题,通过决定何时投资于更好的模型选择估计来高效分配计算,展示了在诸如 MATH、RAG 和 EmbedLLM 等基准测试上的改进性能。
Harvey 分享在预算有限的情况下通过领域专家指导合成数据、建立评测集、与实验室合作及使用模型路由等技术实现世界级 AI 研究的策略。
这篇文章介绍了Hermes必装榜,包含多个插件,如全家桶插件、Web作战室、模型切换神器、技能自进化工具等,旨在提升Hermes的自主性和生产力。
本文主张企业应通过为不同任务选用适配规模的模型与混合系统来优化AI智能开销,而非对所有应用都默认采用昂贵的前沿模型。
Ramp公司推出的Router工具可通过将请求路由至满足性能需求的最低成本模型,最高降低40%的AI推理成本,并为多模型提供单一接入点。
OpenRouter 是一个 AI 模型市场和网关,正加入 Stripe 以加速其提供中立且高效的 AI 推理基础设施的使命,同时继续独立运营。
本文使用通用协议在四个基准测试中评估了四种开源LLM路由器,发现性能提升更紧密地与模型层级构成相关,而非针对特定任务的目标设定。
文章认为,代币价格作为AI智能体的成本指标并不充分,提出有效成本应通过成功运行和验证来衡量,并讨论了路由和失败策略。
Factory.ai 被推荐作为一款代理原生的软件开发工具,用于优化企业AI任务中的模型路由,提高准确性和成本效率。
分享一个通过TeamoRouter服务免费使用DeepSeek V4和Codex的入口,该服务提供API路由和高达90%的折扣。
文章认为,许多AI智能体工作流将每个任务都路由到前沿模型,浪费了资金,并建议对简单、结构化的任务使用更便宜的模型层级,同时将更困难的任务升级。文章提供了一个成本比较,显示分层方法可节省高达75%的费用。