AdaTutoRank:通过自适应辅导优化学习为RAG和深度研究重排文档集
摘要
AdaTutoRank引入了一种使用自适应辅导优化训练的集合级重排器,用于增强RAG和深度研究中的文档集排名,以更少的检索调用实现卓越性能。
查看缓存全文
缓存时间: 2026/09/29 04:12
论文页面 - AdaTutoRank:通过针对RAG和深度研究的自适应辅导优化学习重新排序文档集合
来源:https://huggingface.co/papers/2609.32472
摘要
文档重排器决定了在RAG(检索增强生成)和深度研究中,哪些证据能到达下游模型,但主流的重排器是通过相关性匹配来选择的,而单个相关的文档很少能构成一个复杂信息需求所要求的完整、互补且无冗余的集合。先前的工作通过其聚合的评分标准来奖励一个集合,从而将目标从排序文档转变为组合集合。然而,那个分数是集合中每个文档共享的一个标量,因此监督是稀疏的:一个冗余的文档会在整个集合得分高时与其他文档一起被奖励;一个决定性的文档会在整个集合得分低时与其他文档一起被惩罚;责任分配使得贡献者与搭便车者难以区分。在策略蒸馏本可以稠密化这种监督,但现有的方法为每一次生成提供了相同的固定指导,这对于强生成过于刻板,对于弱生成又过于抽象。因此,我们提出了AdaTutoRank,这是一个基于策略的重排器,通过三级层次结构(包含九个评分维度)的自适应辅导优化(ATO)进行训练。该结构在冷启动阶段提供银标签,在强化学习阶段提供奖励,在蒸馏阶段提供提示。ATO从策略自身的冻结快照中提取三种具体程度递增的提示形式:仅评分标准、一个在标准下选择的兄弟集的自选择器,以及一个将生成与兄弟集进行对比的自反思器的反思;每一次生成都会收到与其质量匹配的提示形式。在有提示的冻结教师模型和无提示的快照下重新对生成进行评分,可以将提示的效果蒸馏成一个能补充群体相对结果优势的令牌级优势。在涵盖RAG、深度研究和集合评估的十个基准测试中,AdaTutoRank在发出更少检索调用的同时,取得了最佳的整体性能。
查看arXiv页面 (https://arxiv.org/abs/2609.32472)查看PDF (https://arxiv.org/pdf/2609.32472)项目主页 (https://adatutorank.github.io/)GitHub1 (https://github.com/AdaTutoRank/AdaTutoRank)添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2609.32472)
在你的智能体中获取此论文:
hf papers read 2609\.32472
没有最新的CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型0
没有模型链接此论文
在模型README.md中引用 arxiv.org/abs/2609.32472 以从此页面链接它。
引用此论文的数据集0
没有数据集链接此论文
在数据集README.md中引用 arxiv.org/abs/2609.32472 以从此页面链接它。
引用此论文的Space0
没有Space链接此论文
在Space README.md中引用 arxiv.org/abs/2609.32472 以从此页面链接它。
包含此论文的收藏夹1
相似文章
从自适应列表排序角度重新审视自适应检索增强生成的必要性
本文提出了 AdaRankLLM,一个自适应检索框架,通过列表排序动态过滤检索到的段落,对自适应 RAG 的必要性提出质疑。研究表明自适应检索对于较弱模型充当噪声过滤器,对于更强模型充当成本效率优化器,在多个数据集和 LLM 上进行了广泛实验。
面向检索增强生成的源感知重排序:一种可靠性先验方法
本文介绍了一种面向RAG的源感知重排序方法,该方法引入了基于领域信息的源可靠性先验,在一个由120份文档组成的健康领域语料库上将Precision@5从0.48提升至0.72,并减少了对抗性文档的检索。
RenderRank: 使用压缩视觉令牌学习文本重排序
RenderRank 介绍了一种重排序方法,该方法使用压缩的视觉文档表示来减少令牌使用并提高效率,同时在多个数据集上保持准确性。
主动学习作为高效的PRP重排序器
本文将有对排名提示(PRP)重新定义为从噪声比较中进行主动学习,引入了一个具有随机方向预测器的噪声鲁棒框架,以在调用约束下提高排名质量并解决位置偏差问题。
超越以相关性为中心的检索:基于评分标准的文档集选择与排序
本文提出了一种以评分标准为导向的框架,用于评估和优化面向大语言模型的文档集,包括一个新的基准测试和一个无需训练的方法,该方法能提升下游生成性能。