Open-AoE:面向具身学习的开放自我中心操作数据集与工具链
摘要
Open-AoE 是一个开放、面向社区的自我中心操作数据集与工具链,覆盖从智能手机采集到模型训练的完整流程,提供约2000小时的操作视频及标注,并包含用于具身学习的下游工具。
查看缓存全文
缓存时间: 2026/07/21 14:37
Paper page - Open-AoE:用于具身学习的开放第一人称操作数据集与工具链
来源:https://huggingface.co/papers/2607.14183 作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
人类操作的第一人称视频为具身智能提供了可扩展的监督信号,然而现有资源很少能兼顾低成本连续采集、操作级结构化标注以及可用于机器人学习的可复用工具。我们提出 Open-AoE,一个面向社区的开放第一人称操作数据集与工具链,覆盖从手机拍摄到模型训练的完整流程。其首个版本包含约 2,000 小时的操作视频,由 500 多位贡献者使用 400 多部智能手机在自然环境中采集。数据集提供文本标注、基于 MANO 的手部姿态、相机轨迹以及时间定位的原子动作。Open-AoE 还包含一个数据处理流水线,通过时间动作分割、语义标注、手部重建和相机轨迹重建将原始录制转化为结构化样本。同时,我们提供独立的下游工具链,支持可视化、跨具身重定向、特定模型的数据转换,以及用于 VLA 策略、WAM 和世界模型的训练配方。通过整合可扩展采集、结构化处理和下游适配,Open-AoE 降低了数据贡献和复用的门槛,为具身模型训练、人机迁移和世界建模提供实用的开放基础设施。
查看 arXiv 页面 (https://arxiv.org/abs/2607.14183)查看 PDF (https://arxiv.org/pdf/2607.14183)GitHub79 (https://github.com/ant-research/Open-AoE)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.14183)
在你的智能体中获取此论文:
hf papers read 2607\.14183
没有最新 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型0
无模型链接此论文
在模型 README.md 中引用 arxiv.org/abs/2607.14183 即可从此页面链接。
引用此论文的数据集0
无数据集链接此论文
在数据集 README.md 中引用 arxiv.org/abs/2607.14183 即可从此页面链接。
引用此论文的 Space0
无 Space 链接此论文
在 Space README.md 中引用 arxiv.org/abs/2607.14183 即可从此页面链接。
包含此论文的合集1
相似文章
ACE-Data-0:以人为中心的环境采集作为具身数据引擎
介绍了ACE-Data-0,这是一个大规模具身AI数据集,包含150小时、跨200个任务类别的同步多模态人类演示,由环境采集引擎(ACE)在真实家庭环境中捕捉。数据集附带一个分层基准,揭示了现有方法在接触、遮挡和长时程任务下的明显不足。
ACE-Ego-0: 统一第一人称人类与机器人数据用于VLA预训练
ACE-EGO-0是一个统一的视觉-语言-动作预训练框架,利用第一人称人类视频和机器人轨迹,通过可靠性感知训练目标,在具身AI基准上达到了最先进水平。
Ego2Robot:从第一人称人类数据规模化合成机器人数据
Ego2Robot是一个可扩展的流水线,通过动作重定向和视觉合成,将第一人称人类操作视频转换为机器人训练数据,生成涵盖15种机器人形态的18,561小时数据。实验表明,在该合成数据与真实机器人数据上联合预训练,可提升视觉-语言-动作模型在分布外场景下的泛化能力,并已在真实机器人部署中得到验证。
@LeRobotHF:100,000小时的人类双手进行真实工作。LeRobot格式,完全标注且开放。EgoSuite-Open100K来自@LightwheelAI
LightwheelAI和Hugging Face发布了EgoSuite-Open100K,这是一个包含100,000小时第一人称视角人类活动的大规模开放数据集,完全标注并以LeRobot格式提供,用于AI研究和训练。
robbyant/lingbot-video-moe-30b-a3b
LingBot-Video是首个面向具身智能的开源大规模MoE视频生成模型,采用高效MoE架构、海量具身数据训练,以及多奖励系统,实现高美学、物理合理性和任务完成度。