论文页面 - DecisionRank：面向决策模型重排序器的同策略蒸馏

来源：https://huggingface.co/papers/2610.42128 作者：

,

,

,

,

,

,

,

,

,

,

,

摘要

DecisionRank 使用条目空间同策略蒸馏，将排序知识从生成式教师模型迁移到高效的决策模型，在实现最先进检索性能的同时显著加快推理速度\。

决策模型 (https://huggingface.co/papers?q=Decision%20models)通过直接预测选择或分数来处理结构化任务，避免自回归解码带来的延迟\。然而，将生成式大语言模型 (https://huggingface.co/papers?q=generative%20LLM)的排序知识 (https://huggingface.co/papers?q=ranking%20knowledge)迁移到决策模型仍然面临挑战：教师模型通过由文档 ID 序列构成的排序列表表达偏好，而学生模型则使用首个词元位置的分数确定排序\。为弥合这一差距，我们提出了 DecisionRank，这是一种通过条目空间同策略蒸馏 (https://huggingface.co/papers?q=on-policy%20distillation)(OPD)训练的决策模型\。条目空间 OPD (https://huggingface.co/papers?q=Item-space%20OPD)通过对学生模型的文档分数 (https://huggingface.co/papers?q=document%20scores)进行排序，形成有序序列，从而构建学生模型的 rollout\。生成式教师模型以得到的排序列表作为输入，并提供条件反馈 (https://huggingface.co/papers?q=conditional%20feedback)，直接监督这些分数\。结合离线排序监督，DecisionRank 在 TREC DL、BEIR 和 BRIGHT 等通用及推理密集型检索基准 (https://huggingface.co/papers?q=retrieval%20benchmarks)上均实现了最先进的性能\。在四个基准上，条目空间 OPD (https://huggingface.co/papers?q=item-space%20OPD)始终优于其他训练目标\。即使参数量仅为 1.7B，DecisionRank 在 TREC DL19--23 上也超越了其 27B 参数的生成式教师模型\。在参数量为 8B 时，它的性能优于对应的生成式列表排序模型，同时在 TREC DL 上的运行速度快 24.5 倍，在 BRIGHT 上快 16.7 倍\。

查看 arXiv 页面 (https://arxiv.org/abs/2610.42128)查看 PDF (https://arxiv.org/pdf/2610.42128)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.42128)

在你的智能体中获取这篇论文：

hf papers read 2610\.42128

还没有最新版 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

没有关联这篇论文的模型

在模型的 README.md 中引用 arxiv.org/abs/2610.42128，即可从此页面关联该模型\。

引用这篇论文的数据集0

没有关联这篇论文的数据集

在数据集的 README.md 中引用 arxiv.org/abs/2610.42128，即可从此页面关联该数据集\。

引用这篇论文的 Space0

没有关联这篇论文的 Space

在 Space 的 README.md 中引用 arxiv.org/abs/2610.42128，即可从此页面关联该 Space\。

包含这篇论文的合集0

没有包含这篇论文的合集

将这篇论文添加到合集 (https://huggingface.co/new-collection)，即可从此页面关联该合集\。