论文页面 - 路由应当自给自足：面向经济性的 LLM 稀疏监督路由

来源：https://huggingface.co/papers/2609.37402 发布于 9 月 29 日

·

由 https://huggingface.co/Gene-Liu 提交

Lucius (https://huggingface.co/Gene-Liu) 于 9 月 30 日发布

摘要

大语言模型（LLM）路由通过将每个查询分配给合适的模型来降低服务成本，同时保持响应质量。然而，学习这样的路由器通常需要在历史查询上运行多个候选模型，以收集查询—模型质量反馈，从而在部署前产生不可忽视的监督成本。现有工作大多关注服务时的效率，忽略了所得节省是否足以收回这笔前期投入。我们进一步观察到，路由质量往往在收集全部查询—模型反馈之前就已饱和，说明稠密监督在经济上可能是过度配置的。我们提出 SaveRouter，一个稀疏监督路由框架，它选择性地获取有信息量的模型反馈，并在相关查询之间共享能力信息，同时保留查询级别的细化以实现细粒度路由。我们通过综合考虑监督支出和后续服务时节省来评估路由效果。在四个路由基准上，主要设置仅使用约 33%–41% 的可用训练反馈，就能保持具有竞争力甚至更好的路由质量，并将与最快的常规路由器相比的盈亏平衡部署量降低约 1.9–9.5 倍。进一步的分析表明，获取更多监督并不总是经济上更优的：使服务成本最小化的监督水平，可能与最早实现回本的水平不同。我们的代码已公开于 https://github.com/LAMDA-Model-Reuse/SaveRouter。

查看 arXiv 页面 (https://arxiv.org/abs/2609.37402)　查看 PDF (https://arxiv.org/pdf/2609.37402)　GitHub13 (https://github.com/LAMDA-Model-Reuse/SaveRouter)　加入合集 (https://huggingface.co/login?next=%2Fpapers%2F2609.37402)

在你的 agent 中获取本文：

hf papers read 2609.37402

还没有最新版 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型 0

没有模型与本文关联

在模型 README.md 中引用 arxiv.org/abs/2609.37402，即可将本文关联到此页面。

引用该论文的数据集 0

没有数据集与本文关联

在数据集 README.md 中引用 arxiv.org/abs/2609.37402，即可将本文关联到此页面。

引用该论文的 Spaces 0

没有 Space 与本文关联

在 Space README.md 中引用 arxiv.org/abs/2609.37402，即可将本文关联到此页面。

收录该论文的合集 0

没有合集收录本文

将本文添加到合集 (https://huggingface.co/new-collection)，即可将本文关联到此页面。