MJev-Spatial:通过原生注意力匹配实现 System 1 空间智能

Hugging Face Daily Papers 论文

摘要

MJev-Spatial 提出一种 System 1 多模态决策模型,将空间推理任务统一为单次前向的分类框架,利用预训练的 query/key 投影为候选选项打分,在 12 项基准中以 65.64% 取得最高总分,并比自回归基线快 2.5 至 5.6 倍。

空间智能使智能体能够感知物理世界并与其交互,其中许多判断必须以交互速率完成:哪种空间关系成立、物体距离有多远、或应将物体放置在何处。视觉-语言模型(VLM)通过自由文本生成来回答这些问题,即使输出空间十分紧凑——仅需从少数选项中选择一个、输出一个标量或一个二维点——仍需付出自回归解码和答案解析的代价。鉴于此,我们提出 MJev-Spatial,一种 System 1 多模态决策模型,在统一的分类框架内解决全部三类空间理解任务。具体而言,MJev-Spatial 将每个候选视为一个类别,并利用骨干网络预训练的 query 和 key 投影对其打分,不引入任何额外参数。对于选择任务,候选即为给定的选项;对于数值预测和点预测,候选分别为数值区间和通过由粗到细分类逐步细化的图像区域。在推理阶段,每个分类决策只需一次前向传播,不生成任何答案 token。为了高效地在异构空间数据上进行训练,我们在单次前向传播中通过教师强制(teacher forcing)联合监督所有由粗到细的阶段,并结合长度感知的全局批处理与跨 GPU 负载均衡,使训练吞吐量相比原始批处理策略提升 30.8%。MJev-Spatial 基于 Qwen3.5-4B 构建,在由现有空间数据集转换而来的 1230 万问答对上训练,在八个受测模型中取得最高总分(65.64%),在 12 项基准中的 7 项排名第一,并在全部 12 项基准上超越其未经修改的自回归基座模型,同时运行速度比最快的自回归基线快 2.5 倍,比基座模型快 5.6 倍。
查看原文
查看缓存全文

缓存时间: 2026/10/16 07:03

论文页面 - MJev-Spatial:通过原生注意力匹配实现系统一空间智能

来源:https://huggingface.co/papers/2610.22276 作者:

,

,

,

,

,

,

,

,

,

,

摘要

MJev-Spatial 是一个快速多模态决策模型,它将空间推理任务统一到单次前向分类框架中,在速度和准确性方面均优于自回归视觉语言模型。

空间智能使智能体能够在物理世界中感知和行动,其中许多判断必须以交互速率完成:哪个空间关系成立、物体距离多远、或将物体放置在何处。视觉语言模型(Vision-language models)(VLMs)通过自由形式的文本生成来产生这些答案,即使输出空间很紧凑——少数选项之一、一个标量或一个二维点——仍然要付出自回归解码和答案解析的代价。鉴于此,我们提出 MJev-Spatial,一个系统一多模态决策模型(multimodal decision model),在统一的分类框架(classification framework)内解决三类空间理解任务。具体而言,MJev-Spatial 将每个候选项视为一个类别,并利用骨干模型预训练的 query 和 key 投影(query and key projections)对其进行打分,不引入额外参数。候选项可以是选择任务中给出的选项,也可以是数值预测和点预测任务中通过由粗到细分类(coarse-to-fine classification)细化的数值区间和图像区域。在推理阶段,每个分类决策仅需一次前向传播,不生成任何答案 token。为了高效地在异构空间数据上进行训练,我们在一次前向传播中使用 teacher forcing(teacher forcing)联合监督所有由粗到细的阶段,并结合长度感知全局批处理(length-aware global batching)和跨 GPU 负载均衡(cross-GPU load balancing),将训练吞吐量相比原始批处理策略提升了 30.8%。基于 Qwen3.5-4B 构建,并在从现有空间数据集转换而来的 12.3M 问答对上训练,MJev-Spatial 在八个被测模型中取得了最高的总分(65.64%),在十二个基准中的七个上排名第一,并在全部十二个基准上均超过了未经修改的自回归基座模型,同时运行速度比最快的自回归基线快 2.5 倍,比基座模型快 5.6 倍。

查看 arXiv 页面 查看 PDF 项目页面 GitHub4 添加到收藏

在你的智能体中获取此论文:

hf papers read 2610.22276

还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 2

Fr0zencr4nE/MJev-Spatial-Qwen-3.5-4B 32 分钟前更新 • 2 https://huggingface.co/Fr0zencr4nE/MJev-Spatial-Qwen-3.5-4B

mindlab-research/MJev-Spatial-4B 21 分钟前更新 • 1 https://huggingface.co/mindlab-research/MJev-Spatial-4B

引用此论文的数据集 0

没有数据集链接到此论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.22276 即可从本页面链接到它。

引用此论文的 Spaces 0

没有 Space 链接到此论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.22276 即可从本页面链接到它。

包含此论文的收藏 0

没有收藏包含此论文

将此论文添加到收藏即可从本页面链接到它。

相似文章

S-Agent 2.0:借助通用编码智能体实现空间推理

Hugging Face Daily Papers

S-Agent 2.0 通过为通用编码智能体集成命令行感知工具包、持久场景记忆与自然语言解读,显著提升了空间推理能力,在 MMSI-Bench 和 ReVSI 上超越了专用系统 SpatialClaw。

System1-Arena:哪些决策可以交给系统1?

arXiv cs.CL

System1-Arena 是一个包含 92k 问题、105 项任务与 138 个闭环环境的基准,用于比较 System-1 概率模型与 System-2 推理 LLM 的离散决策能力。结果显示最大的 System-1 模型在非智能体任务上以四分之一延迟匹配快速闭源 LLM 且校准更好,而推理 LLM 精度最高但成本约为 70 倍;在闭环环境中大型开源 LLM 成功率最高(达 32.9%)。

Mine Odyssey:真实环境中的空间智能体智能基准评测

arXiv cs.AI

本文提出 Mine Odyssey,一个基于 Minecraft 中真实世界地点重建的空间智能体智能基准,涵盖 20 个国家和地区的 30 个地点、180 项导航任务。评测结果显示,GPT-6 Astra 以 85.6% 的成功率领先,Claude Opus 5.5 为 73.9%,而表现最强的开源模型 DeepSeek-V4.1-Flash 仅为 23.9%,凸显了当前模型在空间智能上的显著差距。