RobotWorld:面向多种任务与具身形态的多模态智能体机器人使用基准
摘要
RobotWorld 提出了一个涵盖 84 项任务的机器人智能体仿真基准,横跨操作、移动操作、运动、驾驶与空中控制,用于评估多模态智能体将数字任务能力迁移到物理世界的表现,并揭示了模型间的能力差异与关键短板。
查看缓存全文
缓存时间: 2026/10/08 12:20
论文页面 - RobotWorld:面向多样化任务与具身形式的机器人使用的多模态智能体基准
来源:https://huggingface.co/papers/2610.10409 作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
通用型智能体(General-purpose agents)正越来越多地编写代码、使用工具并完成复杂的数字任务,这引出了一个关键问题:这些能力能在多大程度上迁移到物理世界?为探究这一点,我们提出了 RobotWorld——一个面向机器人使用的高难度仿真测试平台:通过机器人接口,将指令与观测转化为物理任务执行。其包含的 84 项任务覆盖了机械臂操作(manipulation)、移动操作(mobile manipulation)、运动控制(locomotion)、驾驶与飞行控制(aerial control),并设有明确的交互预算与可执行的成功校验。通过分析任务结果与执行轨迹,我们既识别出了能够迁移的能力,也发现了阻碍可靠完成任务的能力缺口。此外,我们发现当前智能体能够构建复杂的感知与控制工作流,包括图像分割、相机标定、空间估计以及基于动力学的计算。然而,这些能力并不能稳定地组合成成功的行为:智能体即使到达了指令要求的位姿,仍会丢失与任务相关的物体状态;无法纠正无效的动作;恢复太迟;或者将未完成的任务误判为已完成。这种不均衡的迁移在不同模型之间也存在差异:Astra 在空间目标与受限接触类目标上成功率更高,而 Opus 5.5 在持续平衡与限时交互类目标上成功率更高。通过将这些结果与执行行为相关联,RobotWorld 既提供了一个严格的验证场,也提供了关于剩余能力缺口的实证描述,从而为训练和设计更可靠的物理世界智能体确立了具体目标。
查看 arXiv 页面 (https://arxiv.org/abs/2610.10409) | 查看 PDF (https://arxiv.org/pdf/2610.10409) | 项目页面 (https://robotworldai.github.io/) | GitHub (https://github.com/robotworldai/robotworld) | 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.10409)
在你的智能体中获取本文:
hf papers read 2610.10409
没有最新版 CLI?
curl -LsSf https://hf.co/cli/install.sh | bash
引用本文的模型 0
暂无模型关联本文
在模型 README.md 中引用 arxiv.org/abs/2610.10409 即可从此页面链接它。
引用本文的数据集 0
暂无数据集关联本文
在数据集 README.md 中引用 arxiv.org/abs/2610.10409 即可从此页面链接它。
引用本文的 Spaces 1
收录本文的合集 0
暂无合集收录本文
将本文添加到合集 (https://hf.co/new-collection) 即可从此页面链接它。
相似文章
HumanoidToolBench:从工具选择到移动执行的人形机器人工具使用基准测试
HumanoidToolBench 提出一个18项任务的基准,评估人形机器人从工具选择到移动执行的能力,并发布包含3.1k条演示的 ToolBook 数据集(仿真与真实 Unitree G1 采集),揭示了工具选择与任务成功执行之间的显著差距。
数据世界:从零扩展数据环境
该论文提出 Data World——一个多智能体引擎,从显式机制出发合成数据环境、任务与评分标准,用于训练数据智能体的分析洞察能力;基于其合成任务,通过 RL-zero 训练得到 DataWorld-35B-A3B 模型,该模型在 DataWorld-Bench、DAComp、DABstep-Hard 与 JobBench 等基准上显著超越了基座模型。
HandsOn:面向通用灵巧操作的大规模仿真基准
HandsOn 是一个跨具身灵巧操作仿真平台与基准,涵盖 5 种机械臂、6 种灵巧手及约 200 个资产,并提供 18,000 条人类演示与 66 项任务。评测显示,当前多任务策略与基于基础模型的控制之间存在巨大差距,最佳多任务策略在 Core-50 上成功率仅为 29.1%。
AutoWorldModel-Bench:面向自动化世界模型研究的以状态为中心的基准
介绍了AutoWorldModel-Bench,这是一个闭环基准测试,用于评估AI编程代理在八个游戏环境中进行自主世界模型研究的能力。该基准测试表明,Codex-5.4和Claude Opus 4.6等前沿代理在大多数会话中进行了非平凡的研究型改进。
BlenderWorld:面向真实世界参考的 3D 创作视觉智能体基准
BlenderWorld 是首个专注于真实世界 3D 创作任务的综合基准,包含 223 个任务,通过渲染输出和 2,651 条二元评分标准评估前沿多模态模型,结果显示 GPT-6-Astra 以 79.9 分领先,但所有模型在细粒度 3D 空间一致性方面仍存在显著不足。