IBM的一篇优秀RAG论文。其中有一些解决常见RAG问题的好方法。众所周知,检索器…

X AI KOLs Following 论文

摘要

IBM研究人员介绍了STAIR,一种使用目录来保持文档结构的生成式检索器,实现了82.6%的Recall@1,并降低了RAG系统中的幻觉。

IBM的一篇优秀RAG论文。 其中有一些解决常见RAG问题的好方法。 众所周知,检索器按长度对长文档进行分块,这丢弃了文档原有的层次结构。 因此,他们提议使用目录。 目录有助于精确编码分块所丢弃的全局结构。 STAIR使用该目录作为生成式检索器的寻址方案,因此模型从自身参数中存储和检索信息,并基于语料库提供的结构。 在SearchTome上,它达到了82.6%的Recall@1,相比之下,微调后的可微搜索索引为76.9%,存在统计学上的显著差距,BM25为59.5%,DPR为68.7%。 幻觉保持在0.05%以下,这是对生成式检索的持续反对意见,也是将寻址空间基于真实层次结构值得付出额外结构的原因。 消融研究也表明,它在训练样本极少的情况下具有泛化能力。 论文:https://academy.dair.ai/papers/stair-structure-aware-information-retriever-a-novel-dataset-and-llm-based-retrie-2609.03874…
查看原文
查看缓存全文

缓存时间: 2026/09/07 19:03

IBM这篇关于RAG的论文相当出色。

其中提出了许多解决常见RAG问题的巧妙思路。

众所周知,检索器通常按长度对长文档进行分块,这会丢失文档原有的层级结构。

因此,他们提出采用目录作为解决方案。

目录能有效编码被分块过程丢弃的整体文档结构。

STAIR系统将该目录作为生成式检索器的寻址方案,使模型能依据语料库提供的结构存储和检索自身参数中的信息。

在SearchTome基准测试中,该系统实现了82.6%的Recall@1指标,显著优于微调后的可微搜索索引(76.9%),而BM25和DPR分别仅为59.5%和68.7%。

生成式IR的幻觉率始终低于0.05%——这正是生成式检索面临的主要风险,也证明将寻址空间锚定于真实层级结构虽增加复杂度却值得付出。消融实验还表明,即使训练样本极少,该系统也能良好泛化。

论文链接:https://academy.dair.ai/papers/stair-structure-aware-information-retriever-a-novel-dataset-and-llm-based-retrie-2609.03874…


STAIR(结构感知信息检索器):基于LLM的新型文档结构增强检索系统与数据集

来源:https://academy.dair.ai/papers/stair-structure-aware-information-retriever-a-novel-dataset-and-llm-based-retrie-2609.03874 检索 · Vineet Kumar, Meghanadh Pulivarthi, vishwajeet kumar, Jaydeep Sen, Riyaz Ahmad Bhat, Sachindra Joshi

与论文对话(https://academy.dair.ai/dashboard/paper-chat/stair-structure-aware-information-retriever-a-novel-dataset-and-llm-based-retrie-2609.03874)

首页预览

STAIR(结构感知信息检索器):基于LLM的新型文档结构增强检索系统与数据集

编辑评述

IBM的Vineet Kumar团队提出STAIR——一种生成式检索器,它通过目录而非长度分块来存储和访问语料库。

论文要点解析

问题解析 关键洞察 01

分块机制破坏全局结构。传统检索器按长度分割长文档,丢弃了目录原本编码的层级关系。STAIR将这种层级保留为寻址方案。

02

在SearchTome基准测试中,Recall@1达82.6%,显著超越微调版可微搜索索引的76.9%,远超BM25(59.5%)和DPR(68.7%)。

03

生成式IR场景下幻觉率低于0.05%——这是生成式检索的主要风险,也证明基于目录的结构化方案值得投入。

04

消融实验显示系统在极少训练样本时仍具泛化能力,这对通常需要密集文档监督的生成式检索器尤为重要。

05

开源SearchTome基准库:涵盖6个领域18本书籍,专为评估结构感知检索而构建。

摘要:检索增强生成(RAG)是大语言模型生成准确无幻觉回答的关键组件。尽管LLM处理长上下文的能力持续提升,但仍存在“中部信息丢失“问题,因此精准检索至关重要。当前检索器按长度分块处理长上下文,在此过程中丢失了语料库中丰富的语义全局结构。我们提出新型检索系统STAIR,使LLM能够利用语料库的全局结构(如目录),高效存储和检索其模型参数中的信息。通过与微调可微搜索索引(DSI)的详尽消融研究表明:目录有助于构建低幻觉(<0.05%)的生成式IR系统,且能在极少训练样本时实现良好泛化。为推动基于目录检索的新型研究方向,我们开源了SearchTome——包含6个领域18本书籍的多样化基准库。STAIR在SearchTome上取得82.6%的Recall@1分数,显著优于DSI(76.9%),同时轻松超越BM25(59.5%)、DPR(68.7%)及原生Mistral模型(13.8%)。

相似文章