展示而非讲述:在生成像素而非LLM文本中评估空间认知
摘要
提出了ProVisE,一个与基准无关的框架,用于利用像素空间输出评估图像生成模型的空间认知,并引入了SpatialGen-Bench,用于跨14个空间子任务的统一评估。
查看缓存全文
缓存时间: 2026/07/24 05:05
Paper page - 展示,而非言说:在生成像素而非LLM文本中评估空间认知
来源:https://huggingface.co/papers/2607.21072
摘要
空间智能对于智能体从静态语义理解迈向与物理世界交互至关重要。许多空间任务都根植于连续的视觉场景,在这些场景中,位置、区域和路径通过指向、标记或绘图来表达,比报告精确坐标或离散文本符号更为自然。然而,现有的空间推理基准通常要求坐标、选项或文本,这为图像生成模型造成了答案接口不匹配的问题。这使得在相同任务语义下评估图像生成模型与文本输出VLM变得困难,尽管前者能够直接在像素空间中外部化空间判断。我们提出了ProVisE(协议化视觉评估),这是一个与基准无关的框架,它从图像生成模型中引出受协议约束的视觉答案,并将其解析为与原始指标兼容的结构化预测。ProVisE还包含一个智能体构建器,用于为新基准构建和验证任务特定协议。我们进一步引入了SpatialGen-Bench,这是一个经过整理的诊断基准,包含470个样本,涵盖14个空间子任务、四个能力层级和多种答案形式。我们在统一设置下评估了代表性的文本输出VLM和图像生成模型,并在六个外部空间基准上验证了智能体协议构建。结果表明,当空间答案可以直接在像素空间中外部化时,图像生成模型具有竞争力,而文本输出VLM在组合空间推理方面仍保持明显优势。这些发现揭示了像素空间表达和基于文本推理的互补优势,并为研究图像生成模型的空间认知建立了一个与指标兼容的测试平台。
查看arXiv页面 (https://arxiv.org/abs/2607.21072)查看PDF (https://arxiv.org/pdf/2607.21072)项目页面 (https://zju-omniai.github.io/ProVisE/)GitHub (https://github.com/ZJU-OmniAI/ProVisE)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.21072)
在您的agent中获取此论文:
hf papers read 2607.21072
没有最新的CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
无模型链接此论文
请在模型README.md中引用arxiv.org/abs/2607.21072以从本页链接。
引用此论文的数据集1
wx91726/SpatialGen-Bench 更新于42分钟前 • 87 (https://huggingface.co/datasets/wx91726/SpatialGen-Bench)
引用此论文的Space0
无Space链接此论文
请在Space README.md中引用arxiv.org/abs/2607.21072以从本页链接。
包含此论文的收藏集0
无收藏集包含此论文
将这篇论文添加到收藏集 (https://huggingface.co/new-collection)以从本页链接。
相似文章
从生成视角探索空间智能
研究者推出首个量化多模态模型生成式空间智能的基准 GSI-Bench,通过在图像生成过程中评估 3D 空间约束遵守情况来衡量能力。在合成数据集上微调可显著提升空间编辑保真度与下游空间理解,证明生成式训练能增强空间推理。
哪种预训练范式更能服务于空间智能?视觉语言模型与视频生成模型的实证比较
本文通过系统性的冻结特征探测研究,比较了视觉语言模型(VLMs)和视频生成模型(VGMs)在空间智能任务上的表现。研究发现,VLMs在语义标签和实例分组方面表现优异,而VGMs则提供更好的密集几何和相机运动信号。两种模型的简单融合在所有维度上均展现出强劲性能。
SPARGen: 通过原生多模态生成统一空间感知与推理
SPARGen引入了一个统一的多模态框架,将3D重建、稠密对应和空间推理视为指令条件生成任务,从而实现共享空间表示。
VGenST-Bench:通过主动视频合成进行时空推理的基准测试
VGenST-Bench是一个基准测试,利用生成模型主动合成受控的时空推理场景,配备多智能体流水线和人工质量控制,用于评估多模态大语言模型。
VABench: 通过视觉演示、主动感知和度量控制来测量具身空间智能
VABench 引入了一个基准,通过测试模型在视觉演示和主动感知下观察、推理和行动的能力,来评估模型中的具身空间智能。它表明主动摄像头控制提高了任务成功率,但没有模型能完成长期任务。