@levie:能够为特定任务路由到最佳AI模型的层,其价值将大幅提升。这…

X AI KOLs Following 新闻

摘要

一条推文指出,由于成本优化、能力差异和风险缓解,在AI模型之间进行路由的层将变得越来越有价值,同时引用了OpenRouter的Fusion API公告。

能够为特定任务路由到最佳AI模型的层,其价值将大幅提升。至少有三个重要原因: * 成本优化:在很多用例中,你需要前沿智能处理某些任务,而对其他任务则使用便宜得多的模型。即便在同一任务中,你可能用前沿智能进行规划和工作审查,而用开源或更便宜的模型处理大部分工作量。这将成为未来大量工作负载的标准做法。 * 能力最大化:尽管有苦涩的教训,模型总体上朝着同一方向不断进步,但模型之间仍存在许多差异。有些更擅长工具使用,有些更擅长编码,还有一些则在某些知识工作领域表现更好。在不同时间点灵活地在这些模型之间进行路由,是一个巨大的优势。 * 风险缓解:虽然Fable事件有点像黑天鹅,但我们可能正走向一个监管环境,政府可能会根据其批准机制或新发现,在不同时间限制某些模型。这意味着你需要灵活性,能够将工作负载部署到不同提供商,以此作为风险缓解的一种形式。 最终,对于应用层的AI来说,能否有效地在模型之间进行路由,将越来越成为一个战略优势。非常有趣的是,这将如何演变。
查看原文
查看缓存全文

缓存时间: 2026/06/15 11:00

能够为特定任务路由到最佳AI模型的层将大幅增值。至少有三个重要原因:

  • 成本优化:在很多用例中,某些任务需要前沿智能,而其他任务则可以使用便宜得多的方案。即便在同一任务中,你可能使用前沿智能进行规划与审查,但使用开源或更便宜的模型处理大部分工作量。这将成为未来大量工作的标准做法。

  • 能力最大化:尽管存在惨痛教训,且模型总体上朝着相同方向不断进步,但模型之间仍存在许多差异。有些更擅长工具使用,有些更擅长编码,还有些则更擅长特定领域的知识工作。能够在不同时间在不同模型之间路由是一个巨大优势。

  • 风险缓解:尽管Fable的情况有些像黑天鹅事件,但我们可能正走向一个监管环境,政府可能会根据其审批机制或新发现,在不同时期限制不同模型。这意味着你将希望具备跨不同提供商部署工作负载的灵活性,以此作为风险缓解手段。

最终,能够有效在模型之间路由将成为应用AI层的一项日益重要的战略优势。这将如何演变值得关注。

OpenRouter (@OpenRouter): 推出Fusion API,市场上最智能的复合模型。

Fusion以一半的价格实现Fable级别的智能。

工作原理如下 👇

相似文章

@levie: 过去几个月,我们可能正在见证应用AI层在大规模场景下的模样。尽管一些初步的批评认为这只是LLM之上的一层薄薄封装,但事实证明,在企业中驱动自动化工作流远比想象中复杂得多。而任何存在复杂性的地方,随着时间推移,通常都会形成护城河并创造价值。

X AI KOLs Following

对企业中新兴应用AI层的分析,概述了关键组成部分:构建工作流特定功能、智能模型路由、通过FDE进行变更管理以及领域特定的市场策略。文章认为,尽管存在一些批评,这一层将创造可持续的护城河和价值。

路由器是新的 AI 原语(13 分钟阅读)

TLDR AI

Vals AI 认为,模型路由器(model routers)正在成为 AI 技术栈中的一种新原语。研究表明,在 Vals Index 上,一个"神谕"路由器(oracle router)可以比最强单一模型高出 14 个点,同时成本降低约 40%——因为在各项基准测试中,前沿模型的表现仍然参差不齐("jagged")。