面向指令遵循信息检索的双视角训练
摘要
一种基于极性反转的双视角数据合成方法,在 FollowIR 基准上将指令遵循检索性能提升 45%。
查看缓存全文
缓存时间: 2026/04/22 06:17
论文页面 - 面向指令遵循的信息检索的双视图训练
来源: https://huggingface.co/papers/2604.18845
摘要
一种基于极性反转的双视图数据合成方法,通过训练模型区分主题相关与指令合规的文档,增强检索系统遵循指令的能力。
指令遵循信息检索(IF-IR)研究不仅要找到与查询相关的文档,还必须遵守显式用户约束(如必需属性、排除项或输出偏好)的检索系统。然而,大多数检索器主要训练用于语义相关性,往往无法区分“符合主题”与“满足指令”的文档。我们提出一种基于极性反转的双视图数据合成策略:给定一个查询、一份在指令下相关的文档,以及一份匹配查询但违反指令的难负例,我们提示 LLM 生成一条互补指令,使得两份文档的相关性标签互换。通过在互补指令下呈现同一文档对(其相关性标签被反转),训练信号迫使检索器通过指令重新审视同一候选集,而非依赖固定的主题线索。在 3.05 亿参数的编码器上,我们的方法在 FollowIR 基准上提升 45%,超越同等或更大规模的通用嵌入模型。在相同数据预算的头对头对比中,我们进一步表明数据多样性与指令监督互为补充:前者保持通用检索质量,后者提升指令敏感度。这些结果凸显了针对性数据合成对构建既广泛可用又指令感知的检索系统的价值。
查看 arXiv 页面 (https://arxiv.org/abs/2604.18845)
查看 PDF (https://arxiv.org/pdf/2604.18845)
添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2604.18845)
在智能体中获取本文:
hf papers read 2604.18845
尚未安装最新 CLI?
curl -LsSf https://hf.co/cli/install.sh | bash
引用该论文的模型 0
暂无模型链接到本文
在模型 README.md 中引用 arxiv.org/abs/2604.18845 即可在此页面显示。
引用该论文的数据集 0
暂无数据集链接到本文
在数据集 README.md 中引用 arxiv.org/abs/2604.18845 即可在此页面显示。
引用该论文的 Spaces 0
暂无 Space 链接到本文
在 Space README.md 中引用 arxiv.org/abs/2604.18845 即可在此页面显示。
包含该论文的收藏 1
相似文章
迈向可扩展的RLVR:多模态指令跟随数据合成与提炼
本文介绍了MIFS,一个用于合成RL就绪多模态数据的流程,旨在增强多模态大语言模型(MLLMs)的指令跟随能力,在基准测试中实现了平均8.13%的提升,并加快了训练收敛速度。
利用自监督指南提升视觉指令调优
本文提出通过将自监督任务表达为自然语言指令,增强多模态语言模型中的视觉指令调优,从而在不增加架构或标注的情况下提升以视觉为中心的推理能力。通过将经典的自监督预文本任务(如旋转预测、颜色匹配和跨视角对应)重构为图像-指令-响应对,该方法仅需在训练数据中注入3%-10%的视觉化指令,便能在多个基准测试中实现一致的性能提升。
Video-IFBench:评估多模态大语言模型在视频理解场景中的指令遵循能力
Video-IFBench 介绍了一个综合基准,用于评估多模态大语言模型在视频理解任务中遵循多样化指令的能力,涵盖多种约束条件和任务类型。
MULTI3IR: 一个多视角多领域多模态信息检索基准
本文介绍了Multi3IR,一个多视角、多领域、多模态信息检索基准,并提出了SPIN,一种改进检索系统视角覆盖的方法。
VCIFBench:评估视频理解中的复杂指令遵循能力
VCIFBench 是一个用于评估视频理解中复杂指令遵循能力的新基准,包含 306 条带有内容、格式、风格和结构约束的测试指令,以及一个 DPO 偏好数据集。针对 10 个 MLLM 的实验表明,同时满足多项约束仍具挑战性,而基于该基准数据进行 DPO 训练可提升指令遵循性能。