RobotWorld:面向多种任务与具身形态的多模态智能体机器人使用基准

Hugging Face Daily Papers 论文

摘要

RobotWorld 提出了一个涵盖 84 项任务的机器人智能体仿真基准,横跨操作、移动操作、运动、驾驶与空中控制,用于评估多模态智能体将数字任务能力迁移到物理世界的表现,并揭示了模型间的能力差异与关键短板。

通用智能体越来越多地编写代码、使用工具并完成复杂数字任务,这引出了一个问题:这些能力能在多大程度上延伸到物理世界。为探索这一问题,我们提出 RobotWorld——一个面向机器人使用的高难度仿真测试平台,核心任务是通过机器人接口将指令与观测转化为物理任务执行。其 84 项任务涵盖操作(manipulation)、移动操作、运动(locomotion)、驾驶与空中控制,并设有明确的交互预算与可执行的成功判定。通过结合任务结果与执行轨迹进行分析,我们识别出了能够迁移的能力以及阻碍可靠完成任务的关键差距。此外,我们发现当前智能体能够构建复杂的感知与控制流程,包括图像分割、相机标定、空间估计以及基于动力学的计算。然而,这些能力并不能始终有效地组合为成功的行为:智能体虽然能够到达指定位姿,却丢失与任务相关的物体状态;无法纠正无效动作;恢复时机过晚;或将未完成的任务误判为已完成。这种不均衡的迁移在不同模型间也存在差异:Astra 在空间类与受限接触类目标上成功率更高,而 Opus 5.5 在持续平衡类与定时交互类目标上表现更优。RobotWorld 将这些结果与执行行为关联起来,既提供了一个严格的验证平台,也给出了关于现存能力差距的实证分析,从而为训练和设计更可靠的物理世界智能体确立了具体目标。
查看原文
查看缓存全文

缓存时间: 2026/10/08 12:20

论文页面 - RobotWorld:面向多样化任务与具身形式的机器人使用的多模态智能体基准

来源:https://huggingface.co/papers/2610.10409 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

通用型智能体(General-purpose agents)正越来越多地编写代码、使用工具并完成复杂的数字任务,这引出了一个关键问题:这些能力能在多大程度上迁移到物理世界?为探究这一点,我们提出了 RobotWorld——一个面向机器人使用的高难度仿真测试平台:通过机器人接口,将指令与观测转化为物理任务执行。其包含的 84 项任务覆盖了机械臂操作(manipulation)、移动操作(mobile manipulation)、运动控制(locomotion)、驾驶与飞行控制(aerial control),并设有明确的交互预算与可执行的成功校验。通过分析任务结果与执行轨迹,我们既识别出了能够迁移的能力,也发现了阻碍可靠完成任务的能力缺口。此外,我们发现当前智能体能够构建复杂的感知与控制工作流,包括图像分割、相机标定、空间估计以及基于动力学的计算。然而,这些能力并不能稳定地组合成成功的行为:智能体即使到达了指令要求的位姿,仍会丢失与任务相关的物体状态;无法纠正无效的动作;恢复太迟;或者将未完成的任务误判为已完成。这种不均衡的迁移在不同模型之间也存在差异:Astra 在空间目标与受限接触类目标上成功率更高,而 Opus 5.5 在持续平衡与限时交互类目标上成功率更高。通过将这些结果与执行行为相关联,RobotWorld 既提供了一个严格的验证场,也提供了关于剩余能力缺口的实证描述,从而为训练和设计更可靠的物理世界智能体确立了具体目标。

查看 arXiv 页面 (https://arxiv.org/abs/2610.10409) | 查看 PDF (https://arxiv.org/pdf/2610.10409) | 项目页面 (https://robotworldai.github.io/) | GitHub (https://github.com/robotworldai/robotworld) | 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.10409)

在你的智能体中获取本文:

hf papers read 2610.10409

没有最新版 CLI? curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型 0

暂无模型关联本文

在模型 README.md 中引用 arxiv.org/abs/2610.10409 即可从此页面链接它。

引用本文的数据集 0

暂无数据集关联本文

在数据集 README.md 中引用 arxiv.org/abs/2610.10409 即可从此页面链接它。

引用本文的 Spaces 1

收录本文的合集 0

暂无合集收录本文

将本文添加到合集 (https://hf.co/new-collection) 即可从此页面链接它。

相似文章

数据世界:从零扩展数据环境

Hugging Face Daily Papers

该论文提出 Data World——一个多智能体引擎,从显式机制出发合成数据环境、任务与评分标准,用于训练数据智能体的分析洞察能力;基于其合成任务,通过 RL-zero 训练得到 DataWorld-35B-A3B 模型,该模型在 DataWorld-Bench、DAComp、DABstep-Hard 与 JobBench 等基准上显著超越了基座模型。

HandsOn:面向通用灵巧操作的大规模仿真基准

Hugging Face Daily Papers

HandsOn 是一个跨具身灵巧操作仿真平台与基准,涵盖 5 种机械臂、6 种灵巧手及约 200 个资产,并提供 18,000 条人类演示与 66 项任务。评测显示,当前多任务策略与基于基础模型的控制之间存在巨大差距,最佳多任务策略在 Core-50 上成功率仅为 29.1%。

BlenderWorld:面向真实世界参考的 3D 创作视觉智能体基准

Hugging Face Daily Papers

BlenderWorld 是首个专注于真实世界 3D 创作任务的综合基准,包含 223 个任务,通过渲染输出和 2,651 条二元评分标准评估前沿多模态模型,结果显示 GPT-6-Astra 以 79.9 分领先,但所有模型在细粒度 3D 空间一致性方面仍存在显著不足。