Jag:用于高效视觉定位的直接边界框预测

Hugging Face Daily Papers 论文

摘要

介绍 Jag,一个 0.8B 视觉定位模型,通过单次前向传播直接预测边界框而非自回归生成坐标,在保持与 LocateAnything 相当精度的同时,速度提升 3.62 倍、峰值 GPU 显存降低 73.88%,并开源了模型权重、代码与在线演示。

视觉定位将图像—语言理解与几何预测相结合,但自回归多模态模型通常将边界框表示为坐标序列。顺序解码在定位所需的多模态处理之外增加了计算开销。使这些表征适应边界框几何结构,为直接预测提供了一条途径。我们提出 Jag,将一个紧凑的预训练多模态模型适配用于直接、连续的边界框预测。一个轻量级回归头读取以图像和指代表达为条件的最后一个有效输入词元的状态,并同时预测边界框的全部四个坐标。几何监督联合调整语言骨干网络、视觉融合模块和回归头,使定位损失能够同时塑造多模态表征和坐标映射。推理时保留图像—语言处理,仅需一次前向传播即可返回边界框,无需生成坐标或解析文本。在各项基准测试中,Jag 在所考察的各种目标尺寸和表达分组上,均持续取得优于其基础模型的定位准确率。组件消融实验表明,联合调整表征和回归头,相比仅训练回归头,能够显著提高准确率。与现有专用定位模型相比,Jag 在准确率上具有竞争力,同时具有更低的单请求延迟和 GPU 显存占用。这些结果表明,针对几何答案设计的监督能够使紧凑的预训练多模态模型专门适用于准确的视觉定位和高效的直接预测。项目主页:https://xyzzzh.github.io/Jag/
查看原文
查看缓存全文

缓存时间: 2026/10/15 10:59

论文页面 - Jag:用于高效视觉定位的直接边界框预测

来源:https://huggingface.co/papers/2610.13239 我们推出了Jag,一个0\.8B 参数的视觉定位模型,可在单次前向传播中预测边界框,无需自回归生成坐标\.

Jag 在全部五个测试划分上均优于其基础模型,整体Acc@0\.5与 LocateAnything 相当\. 在我们的单请求基准测试中,其速度是 LocateAnything 的3\.62 倍,峰值 GPU 显存使用量减少了 73\.88%\.

我们发布了模型权重、训练和评估代码,以及交互式演示\.

🌐项目 (https://xyzzzh.github.io/Jag/)· 💻代码 (https://github.com/xyzzzh/Jag)· 🤗模型 (https://huggingface.co/xyzzzh/Jag)· 🎮演示 (https://huggingface.co/spaces/xyzzzh/Jag)

欢迎试用演示并告诉我们您的想法\. 欢迎提问和反馈\!

相似文章

@VincentLogic: NVIDIA 刚开源的这个 LocateAnything 模型,真的有点强。 以前那种视觉定位模型,生成坐标是一个数字一个数字往外蹦(像挤牙膏一样),又慢又不稳定。 这个新模型用了“并行边界框解码”,直接一步预测完整坐标,速度快多了,框得…

X AI KOLs Timeline

NVIDIA 开源了 LocateAnything 模型,采用并行边界框解码技术,一步预测完整坐标,速度快且准确。模型仅 3B 参数,可在消费级显卡上运行,支持视频物体定位、UI 识别和 OCR 等任务。

GroundingPI:面向物理智能的视觉基元接地基础模型

Hugging Face Daily Papers

GroundingPI:一个4B参数的视觉定位基础模型,以量化坐标生成点与框,在34个定位基准上以73.68%平均成绩超越GPT-6 Astra等44个基线,并在机器人操作与自动驾驶下游任务中显著提升性能。