欢迎来到具身智能时代:推出 AA-Robotics v0.1

Reddit r/singularity 论文

摘要

Artificial Analysis 推出 AA-Robotics v0.1 研究预览基准,评测前沿语言模型通过编码代理直接控制 6 轴机器人手臂完成 8 项桌面操作任务的能力。GPT-6 Astra 以 69 分居首,但目前速度与成本仍远逊于人类基线(约两个数量级)。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/10/15 15:48

# 具身智能时代的到来:AA-Robotics v0.1 发布 来源:https://artificialanalysis.ai/articles/aa-robotics ## AA-Robotics v0.1 发布 自 2026 年初以来,前沿语言模型在控制机械臂方面取得了巨大进展。我们如今认为,机器人技术的未来很可能依赖于强大的通用型智能体,并由此得出结论:追踪语言模型在机器人任务上的进展将变得非常重要——即使前沿语言模型本身并不适合直接用于生产级机器人应用。 AA-Robotics v0.1 是我们为验证这一设想而设计的最简实验的研究预览——即在编码智能体框架中运行的语言模型直接控制机械臂。每个模型被赋予一台六轴机械臂(5 个关节和 1 个夹爪)的控制权,并在每项任务中获得一个简单的目标。 我们发现,运行在编码智能体框架中的前沿语言模型近期确实已经具备了直接操控机械臂完成简单任务的能力。但目前,它们的速度和成本对于任何形式的生产使用来说都远不可接受——比人类基准慢了将近两个数量级。我们预计这种情况会很快发生变化。 GPT-6 Astra 以 69 分的成绩在 AA-Robotics v0.1 中排名第一,其次是 GPT-6.1 Sol、Gemini 4 Argon、Claude Opus 5.5 和 Claude Fable 5.1。GPT-6 Astra 平均每个任务耗时 30 分钟,花费 $16.36。 ### AA-Robotics 得分 每项任务平均得分(0 到 100)· 所有任务 每次尝试按 100 分制评分:完成任务得 100 分,部分完成则根据进展获得相应分数。 ## 八项任务 AA-Robotics v0.1 最初包含八项桌面任务,以日常活动为蓝本,用于评估一系列机器人能力:控制与灵巧性(如精确抓取和操作物体)、空间推理(如理解物体之间的相互作用),以及适应性(衡量模型如何应对意外情况)。 - #### 按下红色按钮 **目标:** 用夹爪按下按钮。 **通过标准:** 按钮闪烁。 (https://artificialanalysis.ai/articles/aa-robotics?aa-robotics-run-task=press-red-button#run-explorer) - #### 将鳄鱼玩具放入矩形区域 **目标:** 将鳄鱼放入矩形区域内。 **通过标准:** 鳄鱼完全位于矩形内部。 (https://artificialanalysis.ai/articles/aa-robotics?aa-robotics-run-task=place-crocodile-in-rectangle#run-explorer) - #### 将饮料倒入杯中 **目标:** 将瓶中的饮料倒入杯中。 **通过标准:** 饮料倒入杯中,没有洒出,且没有东西被打破。 (https://artificialanalysis.ai/articles/aa-robotics?aa-robotics-run-task=pour-drink-into-cup#run-explorer) - #### 将积木收拾进盒子 **目标:** 将所有四块积木放入盒子,然后盖上盖子。 **通过标准:** 所有积木都在盒子内,盖子平整盖好。 (https://artificialanalysis.ai/articles/aa-robotics?aa-robotics-run-task=tidy-objects-into-box#run-explorer) - #### 完成形状配对挑战 **目标:** 将积木放入拼板,使其与图片一致。 **通过标准:** 拼板上的积木与图片匹配。 (https://artificialanalysis.ai/articles/aa-robotics?aa-robotics-run-task=shape-matching-challenge#run-explorer) - #### 写下 hello world **目标:** 用记号笔在纸上写下 "hello world",并写在黑色方框内。 **通过标准:** "hello world" 清晰可读且在黑色方框内。 (https://artificialanalysis.ai/articles/aa-robotics?aa-robotics-run-task=write-hello-world#run-explorer) - #### 搭建最高的塔 **目标:** 用泡沫积木搭出最高的塔。 **通过标准:** 塔能够独立站立,且达到可达的最大高度。 (https://artificialanalysis.ai/articles/aa-robotics?aa-robotics-run-task=build-tallest-foam-tower#run-explorer) - #### 测量盒子 **目标:** 测量盒子的长、宽、高。 **通过标准:** 每个维度与正确尺寸的误差在 2 毫米以内。 (https://artificialanalysis.ai/articles/aa-robotics?aa-robotics-run-task=measure-object-dimensions#run-explorer) ## 结果 ### 各任务结果 - 满分(100) - 部分得分(1 至 99) - 零分(0) | 任务 | GPT-6 Astra | GPT-6.1 Sol | Gemini 4 Argon | Claude Opus 5.5 | Claude Fable 5.1 | |---|---|---|---|---|---| | 按下红色按钮 | 满分,100/100 | 满分,100/100 | 满分,100/100 | 满分,100/100 | 满分,100/100 | | 将鳄鱼玩具放入矩形区域 | 满分,100/100 | 满分,100/100 | 满分,100/100 | 满分,100/100 | 满分,100/100 | | 将饮料倒入杯中 | 满分,100/100 | 零分,0/100 | 满分,100/100 | 部分得分,25/100 | 部分得分,30/100 | | 将积木收拾进盒子 | 部分得分,40/100 | 满分,100/100 | 部分得分,40/100 | 部分得分,40/100 | 部分得分,40/100 | | 完成形状配对挑战 | 部分得分,44/100 | 满分,100/100 | 零分,0/100 | 部分得分,38/100 | 满分,100/100 | | 写下 hello world | 满分,100/100 | 满分,100/100 | 部分得分,45/100 | 部分得分,45/100 | 零分,0/100 | | 搭建最高的塔 | 部分得分,71/100 | 零分,0/100 | 部分得分,57/100 | 部分得分,25/100 | 零分,0/100 | | 测量盒子 | 零分,0/100 | 部分得分,17/100 | 零分,0/100 | 部分得分,17/100 | 零分,0/100 | | **AA-Robotics 得分** | **69.4** | **64.6** | **55.3** | **48.8** | **46.3** | 每次尝试按 100 分制评分:完成任务得 100 分,部分完成则根据进展获得相应分数。 GPT 系列模型运行在 Codex 中,Claude 系列模型运行在 Claude Code 中,Gemini 4 Argon 运行在 Antigravity 中,均设置为 high effort 模式。 用夹爪按下按钮。 **满分**,用时 **2:12** ## AA-Robotics 的工作方式 任务尝试开始 → 尝试结束 → 结果验证 纯文本指令:将饮料从瓶中倒入杯中 → 语言模型 → 摄像头 + 机械臂 → 模型判断任务完成或放弃,结束尝试 → 人类评审对最终状态进行评分 模型运行在一个隔离容器中,接收简要说明:如何连接机械臂(通过简单的 HTTP API)、机械臂型号(Hiwonder NexArm,无进一步规格说明),以及如何提交完成的任务。模型通过四个摄像头查看场景——三个安装在桌面周围,一个安装在机械臂手腕上——并可在容器中编写和运行代码来规划和发送运动指令。 当模型提交任务进行评审后,最终状态将根据任务的通过标准进行评分。通过得 100 分,任务未完成时则根据部分成功的程度给予相应分数。所有任务尝试均为零样本(zero-shot)。 ## 时间与成本 当前的语言模型在 AA-Robotics v0.1 上的速度大约是人类的百分之一,每个任务平均耗时约半小时,而人类平均仅需 20 秒。总体而言,五个被测模型中有四个表现相近,每个任务约 30 分钟,而 Gemini 4 Argon 最慢,需要 52 分钟。然而,这些平均值掩盖了各任务之间的巨大差异。 GPT-6 Astra 在 2.2 分钟内就按下了红色按钮,而 Claude Fable 5.1 花了约十分钟进行理解和规划后才执行第一个动作。差异最大的是鳄鱼放置任务,GPT-6.1 Sol 在五分钟后就宣布完成,而 Claude Opus 5.5 花了 45 分钟,差距达九倍。在所有任务中,Gemini 4 Argon 行动最慢,平均在执行第一个动作前花了 21 分钟进行观察和推理,几乎是其他任何模型的两倍。 ### 每项任务耗时 每项任务平均耗时(分钟)· 所有任务 ### AA-Robotics 得分 vs. 每项任务耗时 每项任务平均耗时(分钟)· 所有任务 在成本方面,人类与模型之间的差距较小:最经济的模型的成本约为按美国平均时薪计算的人工成本的十倍,而时间方面则慢了近 100 倍。在模型之间,GPT-6.1 Sol 最便宜,平均每任务 $1.93;而最贵的 GPT-6 Astra 花费 $16.36,是 Sol 的八倍多,但得分仅高出四分(69 对 65)。鉴于机械臂和场景的新颖性,以及模型需要处理的大量视觉信息,大部分成本来自输入:70% 的开销花在上下文上。 ### 每项任务成本 每项任务平均成本(美元)· 所有任务 ### AA-Robotics 得分 vs. 每项任务成本 每项任务平均成本(美元)· 所有任务 人工成本按手工任务时间以每小时 $37.81 计算,这是美国私营非农就业部门所有雇员的平均时薪(美国劳工统计局,2026 年 9 月初步数据)。 ## 各模型的时间分配 如预期,模型将初始任务时间的大部分用于校准机械臂和理解场景,并持续到执行第一个动作为止。在此之后,大部分时间用于规划运动,每个较长的规划步骤之间穿插着相对短暂而精确的机械臂动作。查看摄像头画面和撰写笔记在总时间中占比较小。 有趣的是,模型往往在达到通过状态后仍会继续完善其尝试。例如,GPT-6.1 Sol 在约 17 分钟后搭建了一座合格的塔,但随后却导致任务失败。模型将如何提高在物理空间中判断任务完成状态的能力,仍有待观察。 ### 每次尝试的各活动时间占比 各活动时间占比(%)· 所有任务 - 理解场景、机械臂与运动方式 - 规划运动 - 查看摄像头 - 机械臂移动 - 其他 Gemini 4 Argon:419 分钟 Claude Fable 5.1:249 分钟 Claude Opus 5.5:253 分钟 GPT-6 Astra:242 分钟 GPT-6.1 Sol:224 分钟 "其他"包括等待代码运行、撰写笔记和生成最终报告。 每个步骤的思考和工具使用时间根据其代码、图片和消息归入某一活动类别;机械臂移动指机械臂执行指令的时间。 Gemini 4 Argon 的活动时间为估算值:Antigravity 不对每个步骤打时间戳,因此各步骤根据其 token 数按比例分配在有精确计时的机械臂指令之间。 ### 各次运行的活动分布 运行中的分钟数 任务 0:00 已进行 0/5 已完成 - 理解场景、机械臂与运动方式 - 规划运动 - 查看摄像头 - 机械臂移动 - 其他 - 第一个动作 - 首次达到通过状态 - 不可挽回的错误 0 分钟 5 分钟 10 分钟 15 分钟 20 分钟 25 分钟 30 分钟 35 分钟 40 分钟 Gemini 4 Argon:第一个动作在 25:36,首次达到通过状态在 32:15 Claude Fable 5.1:第一个动作在 7:51,不可挽回的错误在 14:08 Claude Opus 5.5:第一个动作在 4:14,不可挽回的错误在 20:59 GPT-6 Astra:第一个动作在 2:23,首次达到通过状态在 7:32 GPT-6.1 Sol:第一个动作在 2:39,不可挽回的错误在 5:27 "其他"包括等待代码运行、撰写笔记和生成最终报告。 第一个动作指一次运行中第一次按下、抓取、推动、倾倒或落笔。 不可挽回的错误指模型无法再获得满分。 Gemini 4 Argon 的活动时间为估算值:Antigravity 不对每个步骤打时间戳,因此各步骤根据其 token 数按比例分配在有精确计时的机械臂指令之间。 ## 物理精度 抓取和精细操作是 AA-Robotics v0.1 中需要测试的关键技能,因为它们不仅指向更精确的控制任务,更重要的是指向工具使用以及由此解锁的更广泛的能力。 GPT-6 Astra 和 Claude Fable 5.1 表现最佳,成功尝试的比例最高(约 45%),表明它们具备一定程度的精确控制能力,而 GPT-6.1 Sol 得分最低,仅为 28%。Gemini 4 Argon 介于两者之间,为 36%,其许多失败的抓取都是在目标积木的正上方或旁边闭合。 ### 每次抓取尝试的结果 抓取尝试结果占比(%)· 6 项涉及抓取的任务 - 抓取成功 - 未抓住、部分抓住或抓错物体 GPT-6 Astra:n = 95 Claude Fable 5.1:n = 89 Claude Opus 5.5:n = 100 Gemini 4 Argon:n = 75 GPT-6.1 Sol:n = 111 抓取尝试出现在鳄鱼放置、饮料倾倒、积木收拾、形状配对、搭建高塔和盒子测量这六项任务中。"成功"定义为抓取器在整个抬起或搬运过程中始终握住目标物体;"未抓住、部分抓住或抓错物体"包括:夹爪未闭合在物体上、闭合后物体滑落/掉落/无法抬起,或误抓了其他物体。 ## 错误集锦 将鼠标悬停在片段上查看哪里出了问题,点击片段可放大查看。我们精选了一些最有代表性的例子! 误判成功或失败——以及何时该停止 未抓住、放错位置和掉落

相似文章

AI 能自动化 Epoch 吗?(20 分钟阅读)

TLDR AI

Epoch AI 发布了一项评测报告,用自身真实工作任务测试六个模型,发现 Fable 5.1 与 GPT-6 Astra 虽然领先,但在开放式任务、隐性标准遵循和研究判断力上仍无法实现工作自动化。

系统性探索 GPT-6 Astra 作为具身策略的能力

Hugging Face Daily Papers

该论文系统评估了 GPT-6 Astra 作为通用具身策略的能力,覆盖抓取、灵巧操作、移动操作、导航、运动和人形 loco-manipulation 六个领域,发现混合控制(与 π0.5 等学习策略结合)表现最佳,但仍存在任务决策与可靠物理控制之间的差距,且推理延迟严重制约实际部署。

Intelligent whole-body control with Gemini Robotics 2

YouTube AI Channels

Google DeepMind 展示了 Gemini Robotics 2 模型,使机器人阿波罗能够在杂乱环境中通过全身控制和具身推理理解自然语言指令、自主协调动作并完成收拾运动装备等多步骤任务,验证了通用机器人的潜力。