翻译作为桥梁动作:将人类操作技能迁移至机器人

Hugging Face Daily Papers 论文

摘要

本文提出了一种基于头戴相机坐标系中相对手腕平移的桥梁动作表征,利用带有交错动作令牌和注意力掩码的视觉-语言-动作模型来处理具身差异,从而将人类操作技能迁移至双臂机器人。

我们研究是否可以从人类动作中学习新的操作技能,并将其迁移到带有平行夹爪的双臂机器人上。人类动作数据廉价、丰富且多样,使其成为扩展机器人学习最有前景的资源之一。然而,将技能从人类迁移到机器人仍然困难:大多数先前的工作将人类视为另一种双臂6自由度具身,其中手部姿态估计存在噪声,且人类手指的接触模式与平行夹爪根本不同。我们认为,从人类数据中学习包含旋转的动作信号因此是次优的,并转而提出了一种桥梁动作表征:初始头戴相机坐标系中的相对手腕平移,这是一个人类和机器人共享的动作空间。为了处理不同具身中某些动作组件的潜在缺失,我们构建了一个类似π_0的视觉-语言-动作模型,采用交错动作令牌和注意力掩码。在一系列新颖的双臂操作任务中,我们的桥梁动作比有噪声的6自由度人类动作更有效地将人类操作知识迁移到机器人,并且随着人类数据量的增加而扩展。
查看原文
查看缓存全文

缓存时间: 2026/06/29 06:01

论文页面 - 翻译作为桥接动作:将操作技能从人类迁移至机器人

来源:https://huggingface.co/papers/2606.28133

摘要

通过使用基于初始头部-相机坐标系中相对手腕平移的桥接动作表示,并结合能够通过交错动作令牌和注意力掩码处理本体差异的视觉-语言-动作模型,人类操作技能可更有效地迁移至机器人。

我们研究能否从人类动作中学习到新颖的操作技能,并将其迁移至配备平行夹爪的双臂机器人(https://huggingface.co/papers?q=parallel%20grippers)。人类动作数据廉价、丰富且多样,是扩展机器人学习最有前景的资源之一。然而,从人类向机器人迁移技能仍然困难重重:大部分现有工作将人类视为另一种双臂6DoF本体,其中手部姿态估计存在噪声,且人类手指的接触模式与平行夹爪存在根本差异。因此,我们认为从人类数据中学习包含旋转的动作信号是次优的,并转而提出一种桥接动作表示:以初始头部-相机坐标系(https://huggingface.co/papers?q=head-camera%20frame)中的相对手腕平移(https://huggingface.co/papers?q=relative%20wrist%20translation)作为人类和机器人共享的动作空间。为了处理不同本体中某些动作组件可能缺失的问题,我们构建了一个类似π₀的视觉-语言-动作模型(https://huggingface.co/papers?q=vision-language-action%20model),其中包含交错动作令牌(https://huggingface.co/papers?q=interleaved%20action%20tokens)和注意力掩码(https://huggingface.co/papers?q=attention%20masking)。在一系列新颖的双臂操作(https://huggingface.co/papers?q=bi-manual%20manipulation)任务中,我们的桥接动作将人类操作知识迁移至机器人的效果远优于带噪声的6DoF人类动作,并且随人类数据量增加而扩展。

查看arXiv页面(https://arxiv.org/abs/2606.28133)查看PDF(https://arxiv.org/pdf/2606.28133)项目页面(https://translation-as-a-bridging-action.github.io/)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2606.28133)

在你的代理中获取本文:

hf papers read 2606\.28133

没有最新的CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用该论文的模型0

无模型链接该论文

在模型README.md中引用 arxiv.org/abs/2606.28133 以从本页链接。

引用该论文的数据集0

无数据集链接该论文

在数据集README.md中引用 arxiv.org/abs/2606.28133 以从本页链接。

引用该论文的Space0

无Space链接该论文

在Space README.md中引用 arxiv.org/abs/2606.28133 以从本页链接。

包含该论文的合集0

无合集包含该论文

将该论文添加到合集(https://huggingface.co/new-collection)以从本页链接。

相似文章

Qwen-RobotManip技术报告:对齐实现机器人操控基础模型规模化

Hugging Face Daily Papers

介绍Qwen-RobotManip,一个用于机器人操控的视觉-语言-动作基础模型,通过在表征、运动和行为维度上的统一对齐实现泛化,从而能够在多样化的数据源上进行大规模训练。它在多个分布外基准测试中优于先前的最先进模型,并展现出涌现能力,如零样本指令跟随和跨本体迁移。