AdaTutoRank:通过自适应辅导优化学习为RAG和深度研究重排文档集

Hugging Face Daily Papers 论文

摘要

AdaTutoRank引入了一种使用自适应辅导优化训练的集合级重排器,用于增强RAG和深度研究中的文档集排名,以更少的检索调用实现卓越性能。

文档重排器决定了在RAG和深度研究中哪些证据传递给下游模型,但主流重排器通过相关性匹配进行选择,而单独相关的文档很少能构成复杂信息需求所要求的完整、互补、无冗余的集合。先前的工作通过集合的综合评分标准分数来奖励集合,将目标从排名文档转向组成集合。然而,该分数是一个在集合中每个文档共享的标量,因此监督是稀疏的:每当集合得分高时,冗余文档就会与其他文档一起受到奖励;每当得分低时,决定性文档就会与其他文档一起受到惩罚;信用分配使得贡献者与搭便车者难以区分。在策略蒸馏可以密集化这种监督,但现有方法为每次展开提供相同的固定指导,对强展开来说过于规定性,对弱展开来说过于抽象。因此,我们提出AdaTutoRank,一种使用自适应辅导优化(ATO)在九个评分标准维度的三层层次结构下训练的集合级重排器,它为冷启动提供银标签、为强化学习提供奖励、为蒸馏提供提示。ATO从策略自身的冻结快照中提取三种特定性递增的提示形式:仅评分标准、在评分标准下选择的自我选择器的同级集合,以及自我反思器的反思,将展开与该同级集合进行对比;每个展开都接收与其质量匹配的形式。在提示条件化的冻结教师和无提示快照下重新评分该展开,将提示的效果蒸馏为令牌级优势,补充组相对结果优势。在涵盖RAG、深度研究和集合级评估的十个基准测试中,AdaTutoRank在发布更少检索调用的同时实现了最佳的整体性能。
查看原文
查看缓存全文

缓存时间: 2026/09/29 04:12

论文页面 - AdaTutoRank:通过针对RAG和深度研究的自适应辅导优化学习重新排序文档集合

来源:https://huggingface.co/papers/2609.32472

摘要

文档重排器决定了在RAG(检索增强生成)和深度研究中,哪些证据能到达下游模型,但主流的重排器是通过相关性匹配来选择的,而单个相关的文档很少能构成一个复杂信息需求所要求的完整、互补且无冗余的集合。先前的工作通过其聚合的评分标准来奖励一个集合,从而将目标从排序文档转变为组合集合。然而,那个分数是集合中每个文档共享的一个标量,因此监督是稀疏的:一个冗余的文档会在整个集合得分高时与其他文档一起被奖励;一个决定性的文档会在整个集合得分低时与其他文档一起被惩罚;责任分配使得贡献者与搭便车者难以区分。在策略蒸馏本可以稠密化这种监督,但现有的方法为每一次生成提供了相同的固定指导,这对于强生成过于刻板,对于弱生成又过于抽象。因此,我们提出了AdaTutoRank,这是一个基于策略的重排器,通过三级层次结构(包含九个评分维度)的自适应辅导优化(ATO)进行训练。该结构在冷启动阶段提供银标签,在强化学习阶段提供奖励,在蒸馏阶段提供提示。ATO从策略自身的冻结快照中提取三种具体程度递增的提示形式:仅评分标准、一个在标准下选择的兄弟集的自选择器,以及一个将生成与兄弟集进行对比的自反思器的反思;每一次生成都会收到与其质量匹配的提示形式。在有提示的冻结教师模型和无提示的快照下重新对生成进行评分,可以将提示的效果蒸馏成一个能补充群体相对结果优势的令牌级优势。在涵盖RAG、深度研究和集合评估的十个基准测试中,AdaTutoRank在发出更少检索调用的同时,取得了最佳的整体性能。

查看arXiv页面 (https://arxiv.org/abs/2609.32472)查看PDF (https://arxiv.org/pdf/2609.32472)项目主页 (https://adatutorank.github.io/)GitHub1 (https://github.com/AdaTutoRank/AdaTutoRank)添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2609.32472)

在你的智能体中获取此论文:

hf papers read 2609\.32472

没有最新的CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型链接此论文

在模型README.md中引用 arxiv.org/abs/2609.32472 以从此页面链接它。

引用此论文的数据集0

没有数据集链接此论文

在数据集README.md中引用 arxiv.org/abs/2609.32472 以从此页面链接它。

引用此论文的Space0

没有Space链接此论文

在Space README.md中引用 arxiv.org/abs/2609.32472 以从此页面链接它。

包含此论文的收藏夹1

相似文章

从自适应列表排序角度重新审视自适应检索增强生成的必要性

arXiv cs.CL

本文提出了 AdaRankLLM,一个自适应检索框架,通过列表排序动态过滤检索到的段落,对自适应 RAG 的必要性提出质疑。研究表明自适应检索对于较弱模型充当噪声过滤器,对于更强模型充当成本效率优化器,在多个数据集和 LLM 上进行了广泛实验。

主动学习作为高效的PRP重排序器

Hugging Face Daily Papers

本文将有对排名提示(PRP)重新定义为从噪声比较中进行主动学习,引入了一个具有随机方向预测器的噪声鲁棒框架,以在调用约束下提高排名质量并解决位置偏差问题。