论文页面 - 一次预训练，随处路由：迈向 LLM 路由的基础模型

来源：https://huggingface.co/papers/2609.37362

摘要

大语言模型（LLM）路由旨在将每个查询分配给异构候选模型池中最合适的模型，从而改善 LLM 推理的质量–效率权衡。现有的路由器通常通过局部拟合来学习：路由器针对特定的查询工作负载和候选模型池进行优化，并且当路由环境发生变化时，往往还需要额外的监督或重新训练。我们追问，LLM 路由能否从基础模型的视角出发，学习一种可复用的路由能力，使其能够在不同任务、候选模型和部署条件下进行泛化？为此，我们提出了 RouteFM，它学习从行为上下文中表征匿名的候选模型，并推断其针对特定目标的能力，而不是将路由决策绑定到固定的模型身份或单一环境上。通过对异构路由环境进行情景式预训练，这种能力可以被冻结的路由器直接复用，并且仅通过上下文即可适应新环境。实验证明了在领域、模态、候选模型池和上下文预算发生变化时的迁移能力，其中当行为证据有限时，收益最大。在未参与预训练的 MMR-Bench 上，RouteFM 仅凭每个候选 8 条观测记录，便以 2.23 个质量点超过了最强基线。这些结果支持将 LLM 路由从反复的局部拟合转向“一次预训练，随处路由“的范式。我们的代码已公开：https://github.com/LAMDA-Model-Reuse/RouteFM

查看 arXiv 页面 (https://arxiv.org/abs/2609.37362) 查看 PDF (https://arxiv.org/pdf/2609.37362) GitHub3 (https://github.com/LAMDA-Model-Reuse/RouteFM) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2609.37362)

在你的 agent 中获取本文：

hf papers read 2609.37362

还没有最新版 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型 1

AIGNLAI/RouteFM (https://huggingface.co/AIGNLAI/RouteFM)

引用本文的数据集 0

暂无关联本文的数据集

在数据集 README.md 中引用 arxiv.org/abs/2609.37362，即可从本页面链接它。

引用本文的 Spaces 0

暂无关联本文的 Space

在 Space README.md 中引用 arxiv.org/abs/2609.37362，即可从本页面链接它。

包含本文的合集 0

暂无包含本文的合集

将本文添加到合集 (https://huggingface.co/new-collection)，即可从本页面链接它。