GroundingPI:面向物理智能的视觉基元接地基础模型

Hugging Face Daily Papers 论文

摘要

GroundingPI:一个4B参数的视觉定位基础模型,以量化坐标生成点与框,在34个定位基准上以73.68%平均成绩超越GPT-6 Astra等44个基线,并在机器人操作与自动驾驶下游任务中显著提升性能。

精准接地至关重要。它需要在杂乱场景甚至微小目标下,明确指出目标物体是什么、在哪里,且必须足够快以支持闭环控制。然而,视觉-语言-动作(VLA)模型和世界-动作模型(WAMs)的感知能力依赖于通用视觉-语言和视频生成骨干网络,这些骨干网络在上述场景中仍然表现不佳。我们提出GroundingPI,一个4B参数的接地基础模型,能够以共享词表中的量化坐标生成点和框。训练过程结合了多模态与空间预训练、监督微调以及基于GRPO的强化学习,监督信号来自公开数据集和专用数据引擎。在涵盖11种感知能力的34个定位基准上,GroundingPI与44个基线模型进行了对比,确立了新的最先进水平,平均成绩达73.68%,高于规模更大的GPT-6 Astra(71.54%)。作为下游视觉骨干网络,GroundingPI在机器人操作和自动驾驶任务中均提升了性能。在RoboTwin 2.0上,GroundingPI在全部四个分布外场景中均超越了我们评估的所有主流骨干网络,相对最强骨干网络的提升最高达24.8%。在RoboCasa-GR1上,仅使用50%演示数据训练的GroundingPI就超越了使用75%数据训练的基线模型。在nuScenes上作为视觉骨干网络使用时,GroundingPI取得了0.296米的平均开环L2误差。我们系统地分析了GroundingPI预训练的规模和数据组成的影响。随着预训练规模的扩大,下游自动驾驶和机器人操作任务的性能均有所提升。对这11种感知能力的数据配方进行分析表明,密集接地对两者均有显著益处,而OCR则有潜力作为感知学习的催化剂。这些结果支持了接地作为感知基础的有效性,并表明针对物理智能基础模型的专用感知预训练是一个有前景的方向。
查看原文
查看缓存全文

缓存时间: 2026/10/13 06:44

论文页面 - GroundingPI:面向物理智能、基于视觉原语的接地基础模型

来源:https://huggingface.co/papers/2609.39601 发布于 9 月 30 日

#2 当日最佳论文 (https://huggingface.co/papers/date/2026-10-13) 作者:(列表过长,略)

摘要

精准的 grounding 至关重要。它需要明确指定哪个物体是目标、目标位于何处——即使在杂乱环境中或针对微小物体——并且必须足够快以支持闭环控制。然而,视觉-语言-动作(VLA)模型和世界-动作模型(WAMs)的感知能力依赖于通用视觉-语言和视频生成骨干网络,而这些网络在上述场景中仍然表现不佳。我们提出了 GroundingPI,一个 4B 参数的 grounding 基础模型,它将点和框以共享词表中的量化坐标形式生成。训练过程结合了多模态与空间预训练、监督微调,以及基于 GRPO 的强化学习,使用来自公开数据集和专用数据引擎的监督信号。在涵盖 11 项感知能力的 34 个 grounding 基准上,与 44 个基线模型对比,GroundingPI 达到了新的最先进水平,平均得分 73.68%,超过规模更大的 GPT-6Astra(71.54%)。作为下游视觉骨干网络,GroundingPI 提升了机器人操作和自动驾驶的性能。在 RoboTwin2.0 上,GroundingPI 在所有四个分布外(OOD)设置中均超越了我们评估的每一个主流骨干网络,相比最强骨干最高提升 24.8%。在 RoboCasa-GR1 上,GroundingPI 仅用 50% 的演示数据训练,就超越了使用 75% 演示数据训练的基线。在 nuScenes 上,作为视觉骨干网络使用时,GroundingPI 达到了 0.296 米的平均开环 L2 误差。我们系统地分析了 GroundingPI 预训练的规模和数据组成。随着预训练规模的扩大,下游的自动驾驶和机器人操作性能均得到提升。对这 11 项感知能力的数据配方分析表明,密集 grounding 对两者均有显著增益,而 OCR 作为感知学习催化剂具有潜力。这些结果支持将 grounding 作为感知基础,并认为专用的感知预训练是物理智能基础模型的一个有前景的方向。

查看 arXiv 页面 (https://arxiv.org/abs/2609.39601) 查看 PDF (https://arxiv.org/pdf/2609.39601) 项目页面 (https://groundingpi.github.io/) GitHub19 (https://github.com/groundingpi/GroundingPI) 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.39601)

在你的 agent 中获取此论文:

hf papers read 2609\.39601

还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型1

GroundingPI/GroundingPI Image-Text-to-Text• 5B• 9 天前更新 • 211 • 9 (https://huggingface.co/GroundingPI/GroundingPI)

引用此论文的数据集0

无数据集链接此论文

在数据集 README.md 中引用 arxiv.org/abs/2609.39601 以从本页面链接。

引用此论文的 Spaces3

包含此论文的收藏0

无收藏包含此论文

将此论文加入 收藏 (https://huggingface.co/new-collection) 以从本页面链接。

相似文章

ACE-Brain-0.6:扩展物理基础模型的空间锚定能力

Hugging Face Daily Papers

ACE-Brain-0.6 通过约150万条可验证视觉定位数据微调 Qwen3.5-9B,在七个公开定位基准中的四个上超越 GPT-6 Astra,展示了扩展多样化定位监督数据可显著提升开放多模态模型的空间感知与具身操作能力。

Jag:用于高效视觉定位的直接边界框预测

Hugging Face Daily Papers

介绍 Jag,一个 0.8B 视觉定位模型,通过单次前向传播直接预测边界框而非自回归生成坐标,在保持与 LocateAnything 相当精度的同时,速度提升 3.62 倍、峰值 GPU 显存降低 73.88%,并开源了模型权重、代码与在线演示。