论文页面 - FlexRouter：学习互补模型集以实现灵活的大语言模型路由

来源：https://huggingface.co/papers/2609.38585

摘要

现有的大语言模型（LLM）路由方法独立地为各个 LLM 打分，以选出 top-k 模型。然而，这种做法忽略了模型之间的相关性，并施加了僵化的计算预算。因此，路由器往往选出存在失败模式重叠的冗余模型，限制了整体的成功概率。为了解决这一问题，我们提出了 FlexRouter——一个显式建模模型互补性的路由框架。FlexRouter 以答案覆盖率为优化目标，最大化至少有一个被选模型能给出正确回答的概率。这一目标与实际的推理流程相一致：在实际流程中，会生成多个候选输出，并由下游验证器或用户从中选出最终答案。我们将路由问题形式化为一个以覆盖为导向的子集选择问题，并使用行列式点过程（Determinational Point Processes, DPPs）来建模路由策略，从而自然地同时捕捉模型能力和冗余度。为了在不需要真实目标子集的情况下直接优化覆盖率，我们引入了一种基于对失败集合进行边缘化（marginalization）的训练目标。在推理阶段，我们采用基于边际对数行列式增益的贪心策略，使路由器能够自适应地确定子集大小，而无需预设预算。在大规模 RouterEval 基准上的大量实验表明，与强基线相比，我们提出的 FlexRouter 在领域内和领域外任务上都以更低的冗余度实现了更高的覆盖率，同时保持了灵活的推理成本。

查看 arXiv 页面 (https://arxiv.org/abs/2609.38585)｜查看 PDF (https://arxiv.org/pdf/2609.38585)｜添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2609.38585)

将此论文导入你的 agent：

hf papers read 2609\.38585

还没有最新版 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型 0

没有模型链接到此论文

在模型 README.md 中引用 arxiv.org/abs/2609.38585，即可从此页面链接。

引用此论文的数据集 0

没有数据集链接到此论文

在数据集 README.md 中引用 arxiv.org/abs/2609.38585，即可从此页面链接。

引用此论文的 Space 0

没有 Space 链接到此论文

在 Space README.md 中引用 arxiv.org/abs/2609.38585，即可从此页面链接。

包含此论文的收藏集 0

没有收藏集包含此论文

将此论文添加到收藏集 (https://huggingface.co/new-collection)，即可从此页面链接。