HumanCLAW:视觉-语言模型能否通过身体行动?

Hugging Face Daily Papers 论文

摘要

本文介绍HumanCLAW评估框架,该框架将动作决策与底层执行解耦,用以评估视觉-语言模型能否通过物理身体行动。在41个场景的1218个试验片段中测试了九种最先进的VLM,最佳模型成功率仅为16.8%,表明当前VLM缺乏具身自我意识。

评估视觉-语言模型(VLM)是否能通过物理身体行动具有挑战性。动作的结果将VLM的决策与运动控制耦合在一起。当任务失败时,很难判断是VLM做出了错误选择,还是运动控制器未能执行该动作,例如失去平衡而跌倒。在本工作中,我们提出了HumanCLAW,一个将动作决策与底层执行解耦的评估框架。在每个步骤中,一个被加持的、现成的VLM发出一个原子技能指令,该指令被转化为一个亚秒级的连续全身运动片段,并带来真实的物理后果,包括重力和碰撞。因此,身体可以在物理世界中自由行动,而执行侧干扰、平衡和运动误差则被排除在外。剩下可测量的是模型的行动智能:它瞬间选择的下一步应执行的动作。基于此框架,我们构建了HumanCLAW-Bench:包含41个室内场景中的1218个长时域、以自我为中心的寻找-导航-交互试验片段。我们测试了九种最先进的VLM,发现没有一个能解决该基准测试;最佳模型仅达到16.8%的成功率。识别目标并非瓶颈所在。当前VLM所缺乏的是具身自我意识:它们会丢失自身身体的轨迹,无法判断身体在哪里、是否已达到目标、或者是否撞到了障碍物。
查看原文
查看缓存全文

缓存时间: 2026/07/30 05:46

论文页面 - HumanCLAW:视觉语言模型能否通过身体执行动作?

来源:https://huggingface.co/papers/2607.27180 发布于 7 月 29 日

#2 当日论文 (https://huggingface.co/papers/date/2026-07-30) 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

评估视觉语言模型(VLM)能否通过物理身体执行动作是一项具有挑战性的任务。动作的结果将 VLM 的决策与运动控制耦合在一起。当任务失败时,很难判断是 VLM 做出了错误选择,还是运动控制器未能执行该指令(例如,失去平衡而摔倒)。在这项工作中,我们引入了 HumanCLAW,一个将动作决策与底层执行解耦的评估框架。在每个步骤中,一个固定的现成 VLM 发出一个解剖学技能指令,该指令被翻译成一个亚秒级的连续全身运动片段,并产生真实的物理后果,包括重力和碰撞。身体因此可以在物理世界中自由行动,而执行层面的干扰、平衡和运动误差则被排除在外。剩下可测量的便是模型的行动智能:它在每个时刻选择身体下一步应该执行什么动作。基于这一框架,我们构建了 HumanCLAW-Bench:涵盖 41 个室内场景的 1,218 个长时程、第一人称视角的“寻找-导航-交互”场景。我们测试了九个最先进的 VLM,发现没有一个能解决该基准测试;最佳模型的成功率仅为 16.8%。识别目标并非瓶颈。当前 VLM 所缺乏的是具身自我意识:它们会丢失自身身体的位置,无法跟踪身体在哪里、是否到达目标、是否碰到了障碍物。

查看 arXiv 页面 (https://arxiv.org/abs/2607.27180) 查看 PDF (https://arxiv.org/pdf/2607.27180) 项目页面 (https://human-claw.github.io/) GitHub0 (https://github.com/Human-CLAW/HumanCLAW) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.27180)

在您的智能体中获取此论文:

hf papers read 2607\.27180

没有最新 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2607.27180 即可从此页面链接。

引用此论文的数据集0

没有数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2607.27180 即可从此页面链接。

引用此论文的空间0

没有空间关联此论文

在空间 README.md 中引用 arxiv.org/abs/2607.27180 即可从此页面链接。

包含此论文的收藏集0

没有收藏集包含此论文

将此论文添加到收藏集 (https://huggingface.co/new-collection) 即可从此页面链接。

相似文章

CLAP:通过语言-动作对齐实现从VLM到VLA的直接适配

arXiv cs.AI

CLAP提出了一种方法,通过将自然语言动作描述前置到动作标记序列中,将预训练的视觉-语言模型(VLM)转换为视觉-语言-动作模型(VLA),无需改变架构即可保留语义能力。该方法在LIBERO上达到90.8%,并提升了鲁棒性。

LabVLA:在科学实验室中落地视觉-语言-动作模型

Hugging Face Daily Papers

LabVLA是一种面向科学实验室自动化的视觉-语言-动作模型,采用两阶段训练方法,结合动作令牌预训练与流匹配。通过在LabUtopia基准上利用模拟数据弥合家庭演示与实验室特定任务之间的差距,它实现了最先进的成功率。

并非所有特征生而平等:视觉-语言-动作模型的机制性研究

Hugging Face Daily Papers

本文对视觉-语言-动作(VLA)模型进行了机制可解释性研究,揭示了运动程序绑定于绝对坐标并忽略场景变化,从而解释了扰动脆弱性问题。文章推出了 Action Atlas,一个交互式平台,涵盖六个 VLA 模型上训练的 520 多个稀疏自编码器和 79 个已识别概念。