展示而非讲述:在生成像素而非LLM文本中评估空间认知

Hugging Face Daily Papers 论文

摘要

提出了ProVisE,一个与基准无关的框架,用于利用像素空间输出评估图像生成模型的空间认知,并引入了SpatialGen-Bench,用于跨14个空间子任务的统一评估。

空间智能对于智能体从静态语义理解转向与物理世界交互至关重要。许多空间任务基于连续的视觉场景,其中位置、区域和路径通过指向、标记或绘制来表达比通过报告精确坐标或离散文本符号更为自然。然而,现有的空间推理基准通常要求坐标、选项或文本,导致图像生成模型的答案界面不匹配。这使得在相同任务语义下评估图像生成模型变得困难,尽管它们能够直接在像素空间中外部化空间判断。我们提出了ProVisE(协议化视觉评估),一个与基准无关的框架,该框架从图像生成模型中引出受协议约束的视觉答案,并将其解析为与原始指标兼容的结构化预测。ProVisE还包含一个智能体构建器,用于为新基准构建和验证特定任务的协议。我们进一步引入了SpatialGen-Bench,这是一个精选的诊断基准,包含470个样本,涵盖14个空间子任务、四个能力级别和多种答案形式。我们在统一设置下评估了代表性的文本输出VLM和图像生成模型,并在六个外部空间基准上验证了智能体协议构建。结果表明,当空间答案可以直接在像素空间中外部化时,图像生成模型具有竞争力,而文本输出VLM在组合空间推理方面仍保持明显优势。这些发现揭示了像素空间表达和基于文本的推理的互补优势,并为研究图像生成模型的空间认知建立了一个与指标兼容的测试平台。
查看原文
查看缓存全文

缓存时间: 2026/07/24 05:05

Paper page - 展示,而非言说:在生成像素而非LLM文本中评估空间认知

来源:https://huggingface.co/papers/2607.21072

摘要

空间智能对于智能体从静态语义理解迈向与物理世界交互至关重要。许多空间任务都根植于连续的视觉场景,在这些场景中,位置、区域和路径通过指向、标记或绘图来表达,比报告精确坐标或离散文本符号更为自然。然而,现有的空间推理基准通常要求坐标、选项或文本,这为图像生成模型造成了答案接口不匹配的问题。这使得在相同任务语义下评估图像生成模型与文本输出VLM变得困难,尽管前者能够直接在像素空间中外部化空间判断。我们提出了ProVisE(协议化视觉评估),这是一个与基准无关的框架,它从图像生成模型中引出受协议约束的视觉答案,并将其解析为与原始指标兼容的结构化预测。ProVisE还包含一个智能体构建器,用于为新基准构建和验证任务特定协议。我们进一步引入了SpatialGen-Bench,这是一个经过整理的诊断基准,包含470个样本,涵盖14个空间子任务、四个能力层级和多种答案形式。我们在统一设置下评估了代表性的文本输出VLM和图像生成模型,并在六个外部空间基准上验证了智能体协议构建。结果表明,当空间答案可以直接在像素空间中外部化时,图像生成模型具有竞争力,而文本输出VLM在组合空间推理方面仍保持明显优势。这些发现揭示了像素空间表达和基于文本推理的互补优势,并为研究图像生成模型的空间认知建立了一个与指标兼容的测试平台。

查看arXiv页面 (https://arxiv.org/abs/2607.21072)查看PDF (https://arxiv.org/pdf/2607.21072)项目页面 (https://zju-omniai.github.io/ProVisE/)GitHub (https://github.com/ZJU-OmniAI/ProVisE)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.21072)

在您的agent中获取此论文:

hf papers read 2607.21072

没有最新的CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

无模型链接此论文

请在模型README.md中引用arxiv.org/abs/2607.21072以从本页链接。

引用此论文的数据集1

wx91726/SpatialGen-Bench 更新于42分钟前 • 87 (https://huggingface.co/datasets/wx91726/SpatialGen-Bench)

引用此论文的Space0

无Space链接此论文

请在Space README.md中引用arxiv.org/abs/2607.21072以从本页链接。

包含此论文的收藏集0

无收藏集包含此论文

将这篇论文添加到收藏集 (https://huggingface.co/new-collection)以从本页链接。

相似文章

从生成视角探索空间智能

Hugging Face Daily Papers

研究者推出首个量化多模态模型生成式空间智能的基准 GSI-Bench,通过在图像生成过程中评估 3D 空间约束遵守情况来衡量能力。在合成数据集上微调可显著提升空间编辑保真度与下游空间理解,证明生成式训练能增强空间推理。