DONIC:基于人类演示的通用双手灵巧追踪控制

Hugging Face Daily Papers 论文

摘要

DONIC 是首个跨操作类别与人类动作来源联合训练的通用双手灵巧追踪器,结合 PPO 与行为克隆的反馈循环及每手奖励设计,并发布 BiHOI 多视角数据集,在未见物体上无需微调即大幅超越现有 SOTA。

尽管灵巧参考追踪近期取得了进展,现有模型主要聚焦于单手操作以及有限的交互类型,尚未涉及现实生活中常见的双手灵巧行为。接触密集的双手操作数据稀缺,加之接触协调的复杂性更高,使得开发通用的双手追踪器尤为困难。因此,我们提出了 1)DONIC,首个跨操作类别与人类动作来源联合训练的通用双手追踪器;以及 2)BiHOI,一个包含 1,575 段序列、涵盖 229 个物体的多视角数据集,强调持续的双手交互,其中重建的交互被重定向为机器人参考动作。DONIC 将近端策略优化与行为克隆结合在一个反馈循环中,将经过验证的成功执行回收为训练演示。以物体为中心的每手奖励在监督每只手遵循其参考接触角色的同时,保持对物体运动的反馈。Clip-Centered Advantages 消除了依赖参考的优势值偏移,同时保留了轨迹内部的差异。这些设计共同使单一策略能够从异构参考中学习协调操作。无需微调,单个检查点在训练物体的未见轨迹上达到 86.79% 的成功率,在留出物体上达到 57.32%,分别超越最先进的双手追踪基线 77.36 和 45.73 个百分点。
查看原文
查看缓存全文

缓存时间: 2026/10/22 15:39

论文页面 - DONIC:基于人类演示的通用灵巧双臂跟踪控制

来源:https://huggingface.co/papers/2610.29997

摘要

DONIC 是一个在多样化人体运动数据上训练的通用双臂跟踪器,采用强化学习结合可回收演示和逐手奖励的方式,在无需微调的情况下即可对未见过的物体实现高成功率操作。

尽管灵巧参考跟踪领域近期取得了进展,现有模型主要关注单手操作以及有限范围的交互,未能解决日常生活中常见的双臂灵巧操作行为。接触丰富的双臂操作(https://huggingface.co/papers?q=bimanual%20manipulation)数据稀缺,加之协调接触的复杂性增加,使得开发通用双臂跟踪器尤为困难。因此,我们提出了 1)DONIC——首个在操作类别和人体运动来源上联合训练的通用双臂跟踪器;以及 2)BiHOI——一个包含 1,575 个序列、涵盖 229 个物体的多视角数据集,强调持续的双臂交互,其中重建的交互被重定向为机器人参考动作。DONIC 将近端策略优化(https://huggingface.co/papers?q=proximal%20policy%20optimization)与行为克隆(https://huggingface.co/papers?q=behavioral%20cloning)结合在反馈循环中,将验证成功的执行轨迹回收为训练演示。以物体为中心的逐手奖励(https://huggingface.co/papers?q=per-hand%20reward)在保持物体运动反馈的同时,根据参考接触角色对每只手进行监督。Clip-Centered Advantages(https://huggingface.co/papers?q=Clip-Centered%20Advantages)消除了依赖参考的 advantage 偏移,同时保留了轨迹内的差异。这些设计共同使单个策略能够从异构参考中学习协调操作。无需微调,单个检查点在训练物体的未见轨迹上达到 86.79% 的成功率,在留出物体上达到 57.32%,分别超越最先进的双臂跟踪基线 77.36 和 45.73 个百分点。

查看 arXiv 页面 (https://arxiv.org/abs/2610.29997) 查看 PDF (https://arxiv.org/pdf/2610.29997) 项目主页 (https://ropedia.github.io/DONIC/) GitHub20 (https://github.com/Ropedia/DONIC) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.29997)

在你的 agent 中获取此论文:

hf papers read 2610.29997

还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

没有模型关联此论文

在模型的 README.md 中引用 arxiv.org/abs/2610.29997 以从此页面链接。

引用此论文的数据集 0

没有数据集关联此论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.29997 以从此页面链接。

引用此论文的 Spaces 0

没有 Space 关联此论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.29997 以从此页面链接。

包含此论文的合集 0

没有合集包含此论文

将此论文添加到合集 (https://huggingface.co/new-collection) 以从此页面链接。

相似文章

HandsOn:面向通用灵巧操作的大规模仿真基准

Hugging Face Daily Papers

HandsOn 是一个跨具身灵巧操作仿真平台与基准,涵盖 5 种机械臂、6 种灵巧手及约 200 个资产,并提供 18,000 条人类演示与 66 项任务。评测显示,当前多任务策略与基于基础模型的控制之间存在巨大差距,最佳多任务策略在 Core-50 上成功率仅为 29.1%。

CoDance:从视频中学习反应式与柔顺的人机交互

Hugging Face Daily Papers

CoDance 提出一个从单个双人舞蹈视频中学习反应式、柔顺的人机交互框架,通过多连杆柔顺性增强将运动学演示转化为力感知训练数据,使人形机器人能在物理演示中与人类伙伴完成持续双手舞蹈并灵活调整步态。

TouchScale:500小时人类视觉与触觉数据驱动的视觉-触觉学习

Hugging Face Daily Papers

TouchScale 引入了一个 500 小时的人类视觉-触觉交互数据集,使用统一的可穿戴设备同步采集 egocentric RGB-D 视频、手腕视频与全手双触觉测量,用于视觉-触觉预训练和机器人操作策略学习,在零样本触觉预测和真实机器人操作成功率上均取得显著提升。