翻译作为桥梁动作:将人类操作技能迁移至机器人
摘要
本文提出了一种基于头戴相机坐标系中相对手腕平移的桥梁动作表征,利用带有交错动作令牌和注意力掩码的视觉-语言-动作模型来处理具身差异,从而将人类操作技能迁移至双臂机器人。
查看缓存全文
缓存时间: 2026/06/29 06:01
论文页面 - 翻译作为桥接动作:将操作技能从人类迁移至机器人
来源:https://huggingface.co/papers/2606.28133
摘要
通过使用基于初始头部-相机坐标系中相对手腕平移的桥接动作表示,并结合能够通过交错动作令牌和注意力掩码处理本体差异的视觉-语言-动作模型,人类操作技能可更有效地迁移至机器人。
我们研究能否从人类动作中学习到新颖的操作技能,并将其迁移至配备平行夹爪的双臂机器人(https://huggingface.co/papers?q=parallel%20grippers)。人类动作数据廉价、丰富且多样,是扩展机器人学习最有前景的资源之一。然而,从人类向机器人迁移技能仍然困难重重:大部分现有工作将人类视为另一种双臂6DoF本体,其中手部姿态估计存在噪声,且人类手指的接触模式与平行夹爪存在根本差异。因此,我们认为从人类数据中学习包含旋转的动作信号是次优的,并转而提出一种桥接动作表示:以初始头部-相机坐标系(https://huggingface.co/papers?q=head-camera%20frame)中的相对手腕平移(https://huggingface.co/papers?q=relative%20wrist%20translation)作为人类和机器人共享的动作空间。为了处理不同本体中某些动作组件可能缺失的问题,我们构建了一个类似π₀的视觉-语言-动作模型(https://huggingface.co/papers?q=vision-language-action%20model),其中包含交错动作令牌(https://huggingface.co/papers?q=interleaved%20action%20tokens)和注意力掩码(https://huggingface.co/papers?q=attention%20masking)。在一系列新颖的双臂操作(https://huggingface.co/papers?q=bi-manual%20manipulation)任务中,我们的桥接动作将人类操作知识迁移至机器人的效果远优于带噪声的6DoF人类动作,并且随人类数据量增加而扩展。
查看arXiv页面(https://arxiv.org/abs/2606.28133)查看PDF(https://arxiv.org/pdf/2606.28133)项目页面(https://translation-as-a-bridging-action.github.io/)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2606.28133)
在你的代理中获取本文:
hf papers read 2606\.28133
没有最新的CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用该论文的模型0
无模型链接该论文
在模型README.md中引用 arxiv.org/abs/2606.28133 以从本页链接。
引用该论文的数据集0
无数据集链接该论文
在数据集README.md中引用 arxiv.org/abs/2606.28133 以从本页链接。
引用该论文的Space0
无Space链接该论文
在Space README.md中引用 arxiv.org/abs/2606.28133 以从本页链接。
包含该论文的合集0
无合集包含该论文
将该论文添加到合集(https://huggingface.co/new-collection)以从本页链接。
相似文章
WorldBridge:连接视频与动作,实现世界动作模型中的任务泛化
WorldBridge 提出了一种世界动作模型,包含独立的视频专家和动作专家,二者通过结构化注意力机制连接,并采用联合流匹配进行训练。该模型结合广泛的视频覆盖与稀疏的动作监督,在机器人操作基准测试中实现了最先进的任务泛化性能。
BridgeVLA++:面向三维操作的数据高效、可泛化且记忆增强的视觉-语言-动作框架
BridgeVLA++ 是一个用于三维机器人操作的记忆增强视觉-语言-动作框架,它在 BridgeVLA 的基础上增加了时空记忆,在记忆依赖的操作基准上取得了最先进的成果,同时保持了数据效率和泛化能力。
Dream4ACT:面向多具身视频-动作建模的共享视觉动作接口
Dream4ACT 提出了一种共享视觉动作接口("动作视图"),通过基于 URDF 的正运动学进行渲染,以实现跨多种机器人具身的联合视频-动作建模。该方法将观测与动作统一到一个采用掩码流匹配(masked flow matching)的扩散世界模型中,在 RoboTwin 2.0 上取得 88.98% 的成功率,在 TriWorldBench 上总分达 65.66,并借助一种无需训练的 URDF 约束恢复机制生成可执行动作。
PAIR:弥合视觉-语言-动作模型中感知与动作的鸿沟
PAIR 引入显式的「Bridge Tokens」中间表示,将视觉-语言理解与可执行的机器人动作连接起来,通过与动作潜变量对齐并提前注入动作专家,在 LIBERO、CALVIN 及真实操作任务上一致提升性能。
从世界到手腕:面向精细机器人操作的任务条件未来手腕建模
介绍了W2-VLA,一种用于精细机器人操作的视觉-语言-动作模型,该模型对任务条件下的未来手腕观测进行建模,在基准测试和真实世界任务中实现了改进的操作性能。