SpatialScout:视觉语言模型智能体能否主动探索并构建三维场景地图?
摘要
SpatialScout 提出了一项基准,用于评估视觉语言模型智能体在 80 个室内场景中进行主动式物体级三维建图的能力。结果表明,即使是表现最强的模型 Claude Opus 5.5,平均重叠率也仅达到 41.71%,凸显出其在构建精确度量地图方面仍存在重大差距。
查看缓存全文
缓存时间: 2026/10/22 15:36
论文页面 - SpatialScout:VLM 智能体能否主动探索并构建 3D 场景地图?
来源:https://huggingface.co/papers/2610.26659
摘要
SpatialScout 评估视觉-语言智能体在主动三维物体建图任务上的表现,揭示了其在构建精确度量地图方面存在的重大差距\。
空间智能要求智能体主动获取视觉证据,并将观测整合为对三维世界的连贯表征\。然而,空间问答只能提供有限的证据,无法充分说明模型能否通过自主探索构建准确的度量地图 (https://huggingface.co/papers?q=metric%20maps)\。我们推出了 SpatialScout,这是一个用于评估视觉-语言模型 (https://huggingface.co/papers?q=vision-language%20model)(VLM) 智能体在主动的物体级三维建图 (https://huggingface.co/papers?q=active%20object-level%203D%20mapping)任务中表现的基准\。SpatialScout 包含 80 个多样化的室内场景,其中共有 3,140 个目标物体\。在给定物体清单、RGB 观测、相机标定参数和相机位姿的情况下,智能体控制相机探索每个场景,并估计物体在统一坐标系中的中心位置\。该任务要求在有限的交互预算下,协调视点选择、跨视角关联 (https://huggingface.co/papers?q=cross-view%20association)、几何估计 (https://huggingface.co/papers?q=geometric%20estimation)和地图修正\。评估通过物体尺度的重叠得分综合衡量定位精度和目标覆盖率,并对缺失的预测施加惩罚\。使用前沿 VLM 开展的实验揭示了显著局限:表现最好的受评模型 Claude Opus 5.5 的平均重叠得分为 41.71%,其中 47.23% 的目标超过 0.5 的交并比 (https://huggingface.co/papers?q=intersection-over-union)(IoU) 阈值,而仅有 3.25% 超过 0.9\。这些结果表明,恢复粗略的物体布局与构建完整、精确的度量地图 (https://huggingface.co/papers?q=metric%20maps)之间存在显著差距\。SpatialScout 为开发能够通过主动感知 (https://huggingface.co/papers?q=active%20perception)构建可靠三维空间表征的智能体提供了定量测试平台\。代码已发布于 https://github.com/JesseZZZZZ/SpatialScout\。
查看 arXiv 页面 (https://arxiv.org/abs/2610.26659)查看 PDF (https://arxiv.org/pdf/2610.26659)项目页面 (https://spatialscout.osslab-pku.org/)GitHub2 (https://github.com/JesseZZZZZ/SpatialScout)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.26659)
在你的智能体中获取这篇论文:
hf papers read 2610\.26659
没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用这篇论文的模型0
没有模型关联这篇论文
在模型的 README.md 中引用 arxiv.org/abs/2610.26659,即可在此页面建立链接\。
引用这篇论文的数据集0
没有数据集关联这篇论文
在数据集的 README.md 中引用 arxiv.org/abs/2610.26659,即可在此页面建立链接\。
引用这篇论文的 Spaces0
没有 Space 关联这篇论文
在 Space 的 README.md 中引用 arxiv.org/abs/2610.26659,即可在此页面建立链接\。
收录这篇论文的合集0
没有合集收录这篇论文
将这篇论文添加到一个合集 (https://huggingface.co/new-collection),即可在此页面建立链接\。
相似文章
SpatialAct: 探索VLM智能体在3D场景中的空间推理到行动的能力
SpatialAct是一个新的基于模拟器的基准,用于探索VLM智能体是否能在多轮反馈设置下进行连贯的空间推理并将其转化为3D环境中的行动。实验揭示了一个显著的推理到行动差距:当前的VLM尽管在孤立推理任务上表现良好,但难以维持空间信念并产生可靠的行为。
SceneActBench: 智能体能否在其看到的3D场景中执行操作?
SceneActBench是一个基准测试,用于评估VLM智能体在完整的多对象3D场景中执行操作的能力,通过五个任务中的任务特定几何指标进行评估。
MetaSpatial:强化VLMs在元宇宙中的3D空间推理
MetaSpatial是一个强化学习框架,旨在增强视觉语言模型(VLMs)的3D空间推理能力,能够生成连贯且物理上合理的3D场景,无需硬编码优化。
SpatialCLI:先使用空间工具推理,再脱离工具
SpatialCLI 提出了一种框架,先训练视觉语言模型使用专业空间工具,再将这些能力内化,使 Qwen3-VL-8B-Instruct 在 MindCube 基准上从 29.3% 提升至 84.6%(使用工具时)。
GeoNatureAgent Benchmark:跨前沿与开源权重基础模型的环境地理空间分析LLM代理基准测试
本文介绍了GeoNatureAgent Benchmark,这是首个通过结构化工具调用评估LLM代理在环境地理空间分析任务上表现的基准。它对18个类别的93项任务中的七个模型进行了评估,发现Claude Sonnet 4以60.8%的准确率领先,而DeepSeek V3.2等开源权重模型则提供了强大的性价比。