@levie:能够为特定任务路由到最佳AI模型的层,其价值将大幅提升。这…
摘要
一条推文指出,由于成本优化、能力差异和风险缓解,在AI模型之间进行路由的层将变得越来越有价值,同时引用了OpenRouter的Fusion API公告。
查看缓存全文
缓存时间: 2026/06/15 11:00
能够为特定任务路由到最佳AI模型的层将大幅增值。至少有三个重要原因:
-
成本优化:在很多用例中,某些任务需要前沿智能,而其他任务则可以使用便宜得多的方案。即便在同一任务中,你可能使用前沿智能进行规划与审查,但使用开源或更便宜的模型处理大部分工作量。这将成为未来大量工作的标准做法。
-
能力最大化:尽管存在惨痛教训,且模型总体上朝着相同方向不断进步,但模型之间仍存在许多差异。有些更擅长工具使用,有些更擅长编码,还有些则更擅长特定领域的知识工作。能够在不同时间在不同模型之间路由是一个巨大优势。
-
风险缓解:尽管Fable的情况有些像黑天鹅事件,但我们可能正走向一个监管环境,政府可能会根据其审批机制或新发现,在不同时期限制不同模型。这意味着你将希望具备跨不同提供商部署工作负载的灵活性,以此作为风险缓解手段。
最终,能够有效在模型之间路由将成为应用AI层的一项日益重要的战略优势。这将如何演变值得关注。
OpenRouter (@OpenRouter): 推出Fusion API,市场上最智能的复合模型。
Fusion以一半的价格实现Fable级别的智能。
工作原理如下 👇
相似文章
@levie: 过去几个月,我们可能正在见证应用AI层在大规模场景下的模样。尽管一些初步的批评认为这只是LLM之上的一层薄薄封装,但事实证明,在企业中驱动自动化工作流远比想象中复杂得多。而任何存在复杂性的地方,随着时间推移,通常都会形成护城河并创造价值。
对企业中新兴应用AI层的分析,概述了关键组成部分:构建工作流特定功能、智能模型路由、通过FDE进行变更管理以及领域特定的市场策略。文章认为,尽管存在一些批评,这一层将创造可持续的护城河和价值。
@alexatallah: 如果你是一位研究人员,希望→开展严谨的研究,探讨多个模型如何超越前沿→利…
OpenRouter 推出 Fusion API,这是一种复合模型,能以一半的价格实现高智能,利用了最大的 LLM 市场。
路由器是新的 AI 原语(13 分钟阅读)
Vals AI 认为,模型路由器(model routers)正在成为 AI 技术栈中的一种新原语。研究表明,在 Vals Index 上,一个"神谕"路由器(oracle router)可以比最强单一模型高出 14 个点,同时成本降低约 40%——因为在各项基准测试中,前沿模型的表现仍然参差不齐("jagged")。
@iamtrask: 这比看起来要*厉害得多*... 前沿AI公司将*再也*无法拥有前沿,我没开玩笑...……
OpenRouter 推出 Fusion API,这是一种复合模型,通过结合多个AI模型,以一半的价格实现神话般的智能,可能改变AI性能的前沿。
@levie:在应用 AI 层面,那个重大的、令人苦涩的教训式问题是:随着模型变得越来越好,……的最佳方式是什么?
Aaron Levie 认为,随着 AI 模型能力不断增强——包括执行更长任务、使用工具以及多智能体协作——应用 AI 层面进行领域专业化差异的机会不减反增。他预测,自主系统将在安全、生命科学、医疗健康、金融和制造等行业得到广泛应用。