MMSearch-OPD:让简单任务变难,让困难任务可学,面向长程多模态搜索智能体

Hugging Face Daily Papers 论文

摘要

MMSearch-OPD 提出了一种结合可控数据精炼与联合强化学习和在线策略蒸馏的方法,以提升长时程多模态搜索智能体的能力,通过将简单问题扩展为困难且可学习的训练样本取得显著改进。

多模态深度搜索正从简短查询转向持续获取证据的长程探究。然而,此类智能体的训练仍受限于具有挑战性的训练问题数量有限,以及过程反馈不足。 我们提出 MMSearch-OPD,将可控的数据精炼与联合强化学习(RL)和同策略蒸馏(OPD)相结合。我们的 Refine 流水线对源自现有简单多模态问题的推理链进行针对性扩展。参数化变换在复用现有图像—问题对的同时,控制搜索深度和跨模态证据要求。在训练中,答案奖励与轻量级行为惩罚用于引导 RL,而奖励差距则用于调节针对不完美学生轨迹的词元级教师指导。随着训练推进,指数衰减的蒸馏系数逐步降低对教师的依赖。 实验表明,数据精炼带来了性能提升,而在 SFT 后进行联合训练则进一步改善了性能,体现出更强的长程多模态深度搜索能力。
查看原文
查看缓存全文

缓存时间: 2026/10/16 07:03

论文页面 - MMSearch-OPD:让简单问题变难,让难题变得可学,面向长程多模态搜索智能体

来源:https://huggingface.co/papers/2610.22240 作者:

,

,

,

,

,

,

,

,

,

,

摘要

MMSearch-OPD 通过优化推理数据,并结合强化学习与同策略蒸馏进行联合训练,提升长程多模态搜索能力\。

多模态深度搜索 (https://huggingface.co/papers?q=Multimodal%20deep%20search)正在从简短查询转向持续获取证据的长程探究\。然而,此类智能体的训练仍受限于具有挑战性的训练问题不足,以及过程反馈不充分\。我们提出 MMSearch-OPD,将可控的数据优化与强化学习 (https://huggingface.co/papers?q=reinforcement%20learning)(RL) 和同策略蒸馏 (https://huggingface.co/papers?q=on-policy%20distillation)(OPD) 联合训练相结合\。我们的 Refine 流程针对源于现有简单多模态问题的推理链 (https://huggingface.co/papers?q=reasoning%20chains)进行定向扩展\。参数化变换在复用现有图像--问题对的同时,控制搜索深度和跨模态证据 (https://huggingface.co/papers?q=cross-modal%20evidence)要求\。在训练过程中,答案奖励和轻量级行为惩罚 (https://huggingface.co/papers?q=behavior%20penalties)引导 RL,而奖励差距则调节针对不完美学生轨迹的词元级教师指导 (https://huggingface.co/papers?q=token-level%20teacher%20guidance)\。指数衰减的蒸馏系数 (https://huggingface.co/papers?q=exponentially%20decaying%20distillation%20coefficient)随着训练推进而降低对教师的依赖\。实验表明,数据优化带来了性能增益,SFT 后的联合训练又进一步提升了性能,体现出更强的长程多模态深度搜索 (https://huggingface.co/papers?q=multimodal%20deep%20search)能力\。

查看 arXiv 页面 (https://arxiv.org/abs/2610.22240)查看 PDF (https://arxiv.org/pdf/2610.22240)添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2610.22240)

在你的智能体中获取这篇论文:

hf papers read 2610\.22240

还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

没有模型关联这篇论文

在模型的 README.md 中引用 arxiv.org/abs/2610.22240,即可从本页面建立关联\。

引用这篇论文的数据集0

没有数据集关联这篇论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.22240,即可从本页面建立关联\。

引用这篇论文的 Space0

没有 Space 关联这篇论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.22240,即可从本页面建立关联\。

收录这篇论文的收藏集0

没有收藏集收录这篇论文

将这篇论文添加到收藏集 (https://huggingface.co/new-collection),即可从本页面建立关联\。

相似文章

SearchOS-V1: 迈向稳健的开放域信息检索智能体协作

Hugging Face Daily Papers

介绍SearchOS,一个用于稳健开放域信息检索的多智能体框架,通过新颖的面向搜索的上下文管理(SOCM)系统将搜索进度外化为显式状态,在WideSearch和GISA基准上取得了最先进的结果。