@HuggingPapers:MotorMind——冻结的通用VLM可以通过中层动作和异步反馈,像人类遥操作员一样操控机器人……
摘要
MotorMind 论文提出了一种方法:冻结的通用 VLM 可通过中层动作(mid-level actions)和异步反馈,像人类遥操作员一样操控机器人,在零样本、无需任务特定训练的情况下实现强大的机械臂操作能力。
查看缓存全文
缓存时间: 2026/10/06 05:42
MotorMind
一个冻结的通用视觉语言模型(VLM),可以通过中层动作(mid-level actions)和异步反馈(asynchronous feedback)像人类遥操作员一样操控机器人,在零次(zero-shot)条件下实现强大的操控能力,无需任何针对特定任务的训练。 https://t.co/88PKO1Uyos
相似文章
MotorMind:为通用视觉语言模型搭建框架以实现零样本机器人操作
MotorMind 提出了一套框架(harness),让通用视觉语言模型(VLM)能够直接对观测进行推理、发出中层动作并接收异步反馈,从而控制机器人。在 LIBERO-PRO 零样本任务上达到 66.7% 的成功率(此前方法最高仅 13.3%),在真实 xArm6 机器人上达到 95%,全程无需任务特定训练、编码智能体(coding agent)或接地工具(grounding tools)。
心之所想,手之所成:面向长时程机器人操作的多模态指令跟随
提出了Orchestra,一种将任务规划与执行管理同动作生成分离的机器人智能体框架,用于执行多步多模态指令的长时程操作,并发布了基准RMBench-Compose。Orchestra在多个基准和真实世界多步任务上显著超越Mem-0和HarnessVLA等基线。
MM-ABC:通过感知、协调与想象实现通用移动操作
MM-ABC提出一个面向通用移动操作的基础模型,通过稀疏多层VLM特征实现空间感知、以世界想象与几何意图为监督的训练分支,以及在MM-APT中用掩码联合注意力协调操作与移动流。模型在5000+小时、17种本体的数据上预训练,在RoboCasa365、LIBERO等基准及真实移动操作任务上取得强性能。
RynnVLA-Latent:利用三维锚定的潜在动作扩展机器人操作基础模型的规模
RynnVLA-Latent 提出利用 3.01 万小时的异构视频学习以三维空间为基础的潜在动作,预训练具有 40 亿参数的视觉-语言-动作策略,在 LIBERO(成功率 98.8%)、RoboTwin 2.0 及真实机器人操作任务上取得领先的成功率,无需针对基准进行专门调优。
Harness VLA:通过记忆引导的代理将冻结的VLA转化为可靠的操作原语
HarnessVLA是一个记忆增强框架,利用冻结的视觉-语言-动作模型作为机器人可靠操作的原语,在不进行微调的情况下实现了显著的性能提升。