ThinkDrag:基于视觉推理的语义拖拽式图像编辑
摘要
ThinkDrag提出了一种统一的多模态框架,将视觉推理引入基于拖拽的图像编辑,通过语义变换和显式推理轨迹解释用户意图,并发布了DragBench++基准测试,实现了最先进的编辑效果。
查看缓存全文
缓存时间: 2026/10/12 10:39
论文页面 - ThinkDrag:借助视觉推理的语义拖拽式图像编辑
来源:https://huggingface.co/papers/2610.13316
摘要
拖拽式图像编辑允许用户指定控制点和目标点,为空间可控的图像操作提供了直观的界面。现有方法通过基于优化、单步和前馈的建模方式取得了显著进展,但它们往往将拖拽指令解释为几何位移。当所需的编辑依赖于理解图像内容,并根据稀疏的点约束推断合理的语义变换时,这就限制了它们的有效性。我们提出了 ThinkDrag,这是一个用于拖拽式图像编辑、具备视觉推理能力的统一多模态框架。ThinkDrag 经过训练,能够将点约束与有意义的对象级和场景级变换关联起来,还可以选择在图像生成之前输出明确的推理过程,解释预期的编辑操作。这一推理过程提升了可解释性,尤其适用于含义模糊的拖拽操作。基于对跨图像注意力的分析,我们提出了拖拽端点标记(DragEndpointMarkers),它提供明确的对应关系信号,将每次拖拽定位到图像空间中。为支持这一框架,我们构建了一个将语义拖拽变换与推理过程配对的监督数据集,并推出了 DragBench++,这是一个针对具有挑战性的拖拽式编辑场景、提供参考编辑方案的基准。实验表明,ThinkDrag 达到了当前最先进的性能,在保持具有竞争力的点跟随精度的同时,提高了生成质量与合理性。
查看 arXiv 页面 (https://arxiv.org/abs/2610.13316)查看 PDF (https://arxiv.org/pdf/2610.13316)项目页面 (https://atfortes.github.io/projects/thinkdrag/)GitHub0 (https://github.com/atfortes/ThinkDrag)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.13316)
引用此论文的模型0
没有链接到此论文的模型
在模型的 README.md 中引用 arxiv.org/abs/2610.13316,即可从本页面链接到该模型。
引用此论文的数据集0
没有链接到此论文的数据集
在数据集的 README.md 中引用 arxiv.org/abs/2610.13316,即可从本页面链接到该数据集。
引用此论文的 Spaces0
没有链接到此论文的 Space
在 Space 的 README.md 中引用 arxiv.org/abs/2610.13316,即可从本页面链接到该 Space。
包含此论文的合集0
没有包含此论文的合集
将此论文添加到合集 (https://huggingface.co/new-collection),即可从本页面链接到该合集。
相似文章
推理驱动的视觉编辑
该论文提出了 RISEBench 及其扩展版本 RISEBench++,这是首个评估推理驱动视觉编辑(Reasoning-Informed Visual Editing)的基准,涵盖时序、因果、空间、逻辑、反事实及混合推理等六个维度,并提出训练无关的 RISE-Agent 框架,结果显示即使是 GPT-Image-2.5 Sunburst 也仅达 56.6% 准确率。
这个编辑正确吗?一个面向推理感知的图像编辑的多维度基准
本文介绍了RE-Edit,一个用于评估图像编辑系统的基准,涵盖五个推理维度(物理、环境、文化、因果、指代),旨在评估逻辑一致性而不仅仅是视觉合理性。该基准包含1000个样本,评估了十个开源模型和两个商业模型,结果表明即使是先进系统在隐式多维度推理方面也存在困难。
@ZhenZhu200: 现在 visual thinking and reasoning 绝对是最火的方向。从之前的 JEV 到 visual JEV 再到 Glance,Google DeepMind 前研究员出来做的 Elorian 公司的最新模型。 以前我…
讨论视觉思考与推理(visual thinking and reasoning)成为热门方向,并认为 Google DeepMind 前研究员创办的 Elorian 公司发布的 Glance/Glimpse 模型有替代传统 CV 的趋势,可与端侧小模型、云端 LLM 协同完成视觉理解与推理。
ETCHR:编辑以澄清和利用推理
ETCHR是一种新颖的图像编辑方法,它将视觉推理与图像生成解耦,采用两阶段训练过程(推理模仿和推理增强)来提升多模态语言模型在五个视觉推理任务上的性能。在Qwen3-VL-8B、Gemini-3.1-Flash-Lite和Kimi K2.5等模型上,Pass@1持续提升4-5%。
VibeEdit:基于画布指令的图像编辑
VibeEdit 介绍了一种新的图像编辑界面,用户可在图像上直接放置空间标记和简短注释(canvas instructions)来指定编辑位置和内容,无需单独的文本提示。该模型基于 Qwen-Image-Edit 进行适配,采用分层解耦条件编码、区域加权监督微调和 rubric 引导的强化学习,在 419 个案例的人工基准上显著优于 FireRed 等文本指令基线。