@LiorOnAI: 一个大约1万参数的路由器可以通过学习哪个模型应该回答哪个问题来击败MMLU上的每个单独的开源模型……
摘要
一个称为tinyrouter的微小的大约1万参数路由器学习在MMLU中每个问题应该使用哪个开源模型，通过优化分配超越单个模型。
一个大约1万参数的路由器可以通过学习哪个模型应该回答哪个问题来击败MMLU上的每个单独的开源模型。
不是通过比模型更聪明。而是通过更好地分配工作。
查看缓存全文
缓存时间: 2026/07/06 04:00
一个约一万参数的路由器可以通过学习哪个模型应该回答哪个问题，在MMLU上击败每一个单独的开源模型。
不是因为它比模型更聪明，而是因为它能更好地分配工作。
harrrshall (@HarshalsinghCN): 介绍 tinyrouter
我逆向工程了 Skana AI 的 Fugu 背后的路由架构，并为开放前沿模型构建了复刻版本。
这是一个很小的、约一万参数的LLM路由器，它能学习每个问题该用哪个模型以及模型应扮演什么角色。
目标是
相似文章
@HarshalsinghCN：介绍tinyrouter——我逆向工程了Skana AI的Fugu背后的路由架构，并为其构建了复制…
TinyRouter是一个微型的10K参数LLM路由器，它通过进化训练学习将每个问题路由到开源LLM池中最佳的专家模型。在MMLU和数学基准测试上，其性能达到或超过单个模型。
@omarsar0: Google DeepMind关于有效模型路由策略的杰出论文。
Google DeepMind发布了一篇关于有效模型路由策略的论文，讨论了LLM路由器在准确性和成本方面的评估，但如果模型回答完全相同，这种评估可能毫无意义。
@alexatallah: 如果你是一位研究人员，希望→开展严谨的研究，探讨多个模型如何超越前沿→利…
OpenRouter 推出 Fusion API，这是一种复合模型，能以一半的价格实现高智能，利用了最大的 LLM 市场。
Ramp Router 声称可将AI成本降低高达30%
Ramp 正在开源其内部 LLM 路由器，该路由器能根据每个请求自动选择最佳模型，以优化成本和性能。
Arch-Router：将LLM路由与人类偏好对齐
Arch-Router是一个紧凑型1.5B参数模型，通过将查询映射到用户定义的领域和动作类型，将LLM路由与人类偏好对齐，在主观评估中优于专有模型。