翻译作为桥梁动作:将人类操作技能迁移至机器人
摘要
本文提出了一种基于头戴相机坐标系中相对手腕平移的桥梁动作表征,利用带有交错动作令牌和注意力掩码的视觉-语言-动作模型来处理具身差异,从而将人类操作技能迁移至双臂机器人。
查看缓存全文
缓存时间: 2026/06/29 06:01
论文页面 - 翻译作为桥接动作:将操作技能从人类迁移至机器人
来源:https://huggingface.co/papers/2606.28133
摘要
通过使用基于初始头部-相机坐标系中相对手腕平移的桥接动作表示,并结合能够通过交错动作令牌和注意力掩码处理本体差异的视觉-语言-动作模型,人类操作技能可更有效地迁移至机器人。
我们研究能否从人类动作中学习到新颖的操作技能,并将其迁移至配备平行夹爪的双臂机器人(https://huggingface.co/papers?q=parallel%20grippers)。人类动作数据廉价、丰富且多样,是扩展机器人学习最有前景的资源之一。然而,从人类向机器人迁移技能仍然困难重重:大部分现有工作将人类视为另一种双臂6DoF本体,其中手部姿态估计存在噪声,且人类手指的接触模式与平行夹爪存在根本差异。因此,我们认为从人类数据中学习包含旋转的动作信号是次优的,并转而提出一种桥接动作表示:以初始头部-相机坐标系(https://huggingface.co/papers?q=head-camera%20frame)中的相对手腕平移(https://huggingface.co/papers?q=relative%20wrist%20translation)作为人类和机器人共享的动作空间。为了处理不同本体中某些动作组件可能缺失的问题,我们构建了一个类似π₀的视觉-语言-动作模型(https://huggingface.co/papers?q=vision-language-action%20model),其中包含交错动作令牌(https://huggingface.co/papers?q=interleaved%20action%20tokens)和注意力掩码(https://huggingface.co/papers?q=attention%20masking)。在一系列新颖的双臂操作(https://huggingface.co/papers?q=bi-manual%20manipulation)任务中,我们的桥接动作将人类操作知识迁移至机器人的效果远优于带噪声的6DoF人类动作,并且随人类数据量增加而扩展。
查看arXiv页面(https://arxiv.org/abs/2606.28133)查看PDF(https://arxiv.org/pdf/2606.28133)项目页面(https://translation-as-a-bridging-action.github.io/)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2606.28133)
在你的代理中获取本文:
hf papers read 2606\.28133
没有最新的CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用该论文的模型0
无模型链接该论文
在模型README.md中引用 arxiv.org/abs/2606.28133 以从本页链接。
引用该论文的数据集0
无数据集链接该论文
在数据集README.md中引用 arxiv.org/abs/2606.28133 以从本页链接。
引用该论文的Space0
无Space链接该论文
在Space README.md中引用 arxiv.org/abs/2606.28133 以从本页链接。
包含该论文的合集0
无合集包含该论文
将该论文添加到合集(https://huggingface.co/new-collection)以从本页链接。
相似文章
iMaC:将动作转化为运动与接触图像,用于具身世界模型
iMaC提出了一种统一控制范式,将原始视觉图像作为具身世界模型的原生动作表示,通过基于图像的动作令牌实现更具表现力和泛化能力的机器人控制。
Qwen-RobotManip技术报告:对齐实现机器人操控基础模型规模化
介绍Qwen-RobotManip,一个用于机器人操控的视觉-语言-动作基础模型,通过在表征、运动和行为维度上的统一对齐实现泛化,从而能够在多样化的数据源上进行大规模训练。它在多个分布外基准测试中优于先前的最先进模型,并展现出涌现能力,如零样本指令跟随和跨本体迁移。
将人脸映射到小型机器人上(而不是给它一个诡异的人形面孔)?
Hugging Face的一名机器人工程师提出将人类面部表情映射到非人形机器人上,以增强表现力,同时避免恐怖谷效应,并计划利用这些数据进行自主肢体语言训练。
AffordanceVLA: 一种通过可供性感知理解赋能动作生成的视觉-语言-动作模型
AffordanceVLA引入了一个统一框架,利用结构化可供性预测作为中间表示,结合视觉-语言模型和混合Transformer架构,以改进机器人操作中的感知-动作映射。
Agentic AI Translate:一个将翻译作为沟通设计的智能体翻译器原型
本文介绍了Agentic AI Translate,一个智能体翻译器原型,它取代了传统的文本输入/文本输出范式,采用基于翻译研究理论的四阶段智能体循环,旨在将翻译重新定义为沟通设计而非文本转换。