推理驱动的视觉编辑

Hugging Face Daily Papers 论文

摘要

该论文提出了 RISEBench 及其扩展版本 RISEBench++,这是首个评估推理驱动视觉编辑(Reasoning-Informed Visual Editing)的基准,涵盖时序、因果、空间、逻辑、反事实及混合推理等六个维度,并提出训练无关的 RISE-Agent 框架,结果显示即使是 GPT-Image-2.5 Sunburst 也仅达 56.6% 准确率。

大型多模态模型(Large Multi-modality Models, LMMs)在视觉理解与生成方面取得了显著进展,但在视觉编辑方面仍面临挑战,尤其是在遵循复杂指令、保持外观一致性以及支持灵活输入格式等方面。为研究这一差距,我们提出了 RISEBench——首个用于评估推理驱动视觉编辑(Reasoning-Informed viSual Editing, RISE)的基准,并将其扩展为 RISEBench++,一个针对这一新兴任务的更全面、更细粒度的基准。RISEBench++ 将分类体系扩展为涵盖六个推理维度的层次化方案:时序推理、因果推理、空间推理、逻辑推理和反事实推理,以及在多轮编辑中整合多种推理类型的混合推理。这些维度进一步分解为 12 个子类别和 65 种细粒度任务类型。我们将输入格式扩展至包含多图像条件输入,并将基准规模扩充至 1000 个人工标注的测试用例,以英文和中文两种语言发布。我们还改进了评估框架,通过人工评审和 LMM-as-a-judge(以多模态大模型作为评审)的方法,从指令推理、外观一致性和视觉合理性三个维度进行评估,以获得更可靠、更校准的评判结果。除了基准评测之外,我们还提出了 RISE-Agent——一个无需训练的智能体框架,集成了推理驱动的规划、工具增强的执行和验证器引导的精化机制,在多种 RISE 任务上超越了大多数现有强方法。我们评估了 58 种视觉编辑方法,包括 34 个开源模型、19 个闭源模型和 5 种智能体方法。结果揭示了推理驱动视觉编辑中的重大挑战,即使是被评估的最强方法 GPT-Image-2.5 Sunburst,准确率也仅为 56.6%。RISEBench++ 凸显了当前视觉编辑模型的局限性,提供了深入洞察,并指明了推理感知视觉编辑的未来发展方向。
查看原文
查看缓存全文

缓存时间: 2026/10/09 06:26

论文页面 - 推理引导的视觉编辑

来源:https://huggingface.co/papers/2610.12343 发布于 10月8日

·

提交者https://huggingface.co/zpy777

zpy (https://huggingface.co/zpy777) 于 10月9日发布

作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

大型多模态模型(LMMs)在视觉理解和生成方面取得了显著进展,但在视觉编辑方面仍面临诸多挑战,尤其是在遵循复杂指令、保持外观一致性以及支持灵活的输入格式等方面。为研究这一差距,我们提出了 RISEBench——首个用于评估推理引导视觉编辑(Reasoning-Informed viSual Editing,RISE)的基准测试,并将其扩展为 RISEBench++,一个针对这一新兴任务更全面、更细粒度的基准。RISEBench++ 将分类体系扩展为涵盖六个推理维度的层次化方案:时序推理、因果推理、空间推理、逻辑推理和反事实推理,以及整合多种推理类型、跨越多轮对话的混合推理。这些维度进一步分解为 12 个子类别和 65 种细粒度任务类型。我们将输入格式扩展为支持多图像条件输入,并将基准规模扩大到 1000 个人工标注的测试案例,提供中英文版本。我们还改进了评估框架,通过人工评审和 LLM-as-a-judge 的方式,从指令推理、外观一致性和视觉合理性三个维度进行评估,以获得更可靠、更校准的评判结果。除基准测试外,我们还提出了 RISE-Agent——一个免训练的智能体框架,集成了推理驱动的规划、工具增强的执行和验证器引导的精化,在多种 RISE 任务上超越了大多数现有的强大方法。我们评估了 58 种视觉编辑方法,包括 34 个开源模型、19 个闭源模型和 5 种智能体方法。结果揭示了基于推理的视觉编辑所面临的巨大挑战,即使是表现最强的 GPT-Image-2.5 Sunburst,准确率也仅为 56.6%。RISEBench++ 突出了当前编辑模型的局限性,提供了有价值的见解,并指出了推理感知视觉编辑的未来方向。

查看 arXiv 页面 (https://arxiv.org/abs/2610.12343) 查看 PDF (https://arxiv.org/pdf/2610.12343) GitHub155 (https://github.com/VisionXLab/RISEBench) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.12343)

引用此论文的模型 0

没有模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2610.12343 以从此页面链接它。

引用此论文的数据集 0

没有数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2610.12343 以从此页面链接它。

引用此论文的 Space 0

没有 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2610.12343 以从此页面链接它。

包含此论文的收藏 0

没有收藏包含此论文

将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从此页面链接它。

相似文章

这个编辑正确吗?一个面向推理感知的图像编辑的多维度基准

Hugging Face Daily Papers

本文介绍了RE-Edit,一个用于评估图像编辑系统的基准,涵盖五个推理维度(物理、环境、文化、因果、指代),旨在评估逻辑一致性而不仅仅是视觉合理性。该基准包含1000个样本,评估了十个开源模型和两个商业模型,结果表明即使是先进系统在隐式多维度推理方面也存在困难。

ThinkDrag:基于视觉推理的语义拖拽式图像编辑

Hugging Face Daily Papers

ThinkDrag提出了一种统一的多模态框架,将视觉推理引入基于拖拽的图像编辑,通过语义变换和显式推理轨迹解释用户意图,并发布了DragBench++基准测试,实现了最先进的编辑效果。

ETCHR:编辑以澄清和利用推理

Hugging Face Daily Papers

ETCHR是一种新颖的图像编辑方法,它将视觉推理与图像生成解耦,采用两阶段训练过程(推理模仿和推理增强)来提升多模态语言模型在五个视觉推理任务上的性能。在Qwen3-VL-8B、Gemini-3.1-Flash-Lite和Kimi K2.5等模型上,Pass@1持续提升4-5%。

PixelEyes:解耦感知与推理,实现精准视觉证据搜寻

Hugging Face Daily Papers

PixelEyes 提出了一种多轮视觉推理代理,通过掩码引导搜索和语义区域广度优先搜索解耦感知与推理,并引入新基准(Pinpoint-Bench)和数据集(PixelEyes-6K),以提升视觉证据搜寻中的定位能力。