MMSearch-OPD:让简单任务变难,让困难任务可学,面向长程多模态搜索智能体
摘要
MMSearch-OPD 提出了一种结合可控数据精炼与联合强化学习和在线策略蒸馏的方法,以提升长时程多模态搜索智能体的能力,通过将简单问题扩展为困难且可学习的训练样本取得显著改进。
查看缓存全文
缓存时间: 2026/10/16 07:03
论文页面 - MMSearch-OPD:让简单问题变难,让难题变得可学,面向长程多模态搜索智能体
来源:https://huggingface.co/papers/2610.22240 作者:
,
,
,
,
,
,
,
,
,
,
摘要
MMSearch-OPD 通过优化推理数据,并结合强化学习与同策略蒸馏进行联合训练,提升长程多模态搜索能力\。
多模态深度搜索 (https://huggingface.co/papers?q=Multimodal%20deep%20search)正在从简短查询转向持续获取证据的长程探究\。然而,此类智能体的训练仍受限于具有挑战性的训练问题不足,以及过程反馈不充分\。我们提出 MMSearch-OPD,将可控的数据优化与强化学习 (https://huggingface.co/papers?q=reinforcement%20learning)(RL) 和同策略蒸馏 (https://huggingface.co/papers?q=on-policy%20distillation)(OPD) 联合训练相结合\。我们的 Refine 流程针对源于现有简单多模态问题的推理链 (https://huggingface.co/papers?q=reasoning%20chains)进行定向扩展\。参数化变换在复用现有图像--问题对的同时,控制搜索深度和跨模态证据 (https://huggingface.co/papers?q=cross-modal%20evidence)要求\。在训练过程中,答案奖励和轻量级行为惩罚 (https://huggingface.co/papers?q=behavior%20penalties)引导 RL,而奖励差距则调节针对不完美学生轨迹的词元级教师指导 (https://huggingface.co/papers?q=token-level%20teacher%20guidance)\。指数衰减的蒸馏系数 (https://huggingface.co/papers?q=exponentially%20decaying%20distillation%20coefficient)随着训练推进而降低对教师的依赖\。实验表明,数据优化带来了性能增益,SFT 后的联合训练又进一步提升了性能,体现出更强的长程多模态深度搜索 (https://huggingface.co/papers?q=multimodal%20deep%20search)能力\。
查看 arXiv 页面 (https://arxiv.org/abs/2610.22240)查看 PDF (https://arxiv.org/pdf/2610.22240)添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2610.22240)
在你的智能体中获取这篇论文:
hf papers read 2610\.22240
还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用这篇论文的模型0
没有模型关联这篇论文
在模型的 README.md 中引用 arxiv.org/abs/2610.22240,即可从本页面建立关联\。
引用这篇论文的数据集0
没有数据集关联这篇论文
在数据集的 README.md 中引用 arxiv.org/abs/2610.22240,即可从本页面建立关联\。
引用这篇论文的 Space0
没有 Space 关联这篇论文
在 Space 的 README.md 中引用 arxiv.org/abs/2610.22240,即可从本页面建立关联\。
收录这篇论文的收藏集0
没有收藏集收录这篇论文
将这篇论文添加到收藏集 (https://huggingface.co/new-collection),即可从本页面建立关联\。
相似文章
SearchOS-V1: 迈向稳健的开放域信息检索智能体协作
介绍SearchOS,一个用于稳健开放域信息检索的多智能体框架,通过新颖的面向搜索的上下文管理(SOCM)系统将搜索进度外化为显式状态,在WideSearch和GISA基准上取得了最先进的结果。
ProMSA:用于基于知识的视觉问答的渐进式多模态搜索智能体
提出ProMSA,一种用于基于知识的视觉问答的渐进式多模态搜索智能体,它能自适应选择搜索策略并通过序列级强化学习进行优化,在E-VQA和InfoSeek上取得了一致的性能提升。
MOAE:多目标智能体进化的帕累托保留搜索
MOAE 提出了一种帕累托保留的进化搜索方法,能够在搜索过程中无需固定标量化,同时优化 LLM 代理的多个目标,包括任务性能、轨迹质量和安全性。
HyperEyes:面向并行多模态搜索代理的双粒度效率感知强化学习
HyperEyes 是一种并行多模态搜索代理,它利用双粒度强化学习来优化推理效率,与现有代理相比,在显著减少工具调用轮次的同时实现了更高的准确率。
OpenSearch-VL:一种用于前沿多模态搜索智能体的开源训练配方
OpenSearch-VL 是一个开源框架及论文,介绍了一种利用强化学习训练前沿多模态搜索智能体的方法,其中包含专用的数据筛选流程以及一种新颖的训练算法。