EventEgoHands++: 基于事件的自我中心3D手部网格重建与真实数据集
摘要
本文提出EventEgoHands++,一个基于事件的3D手部网格重建框架,从自我中心视角出发,结合手部检测和自适应注意力,并引入新的真实世界数据集EEH-R用于训练和评估。
查看缓存全文
缓存时间: 2026/09/17 02:51
论文页面 - EventEgoHands++:基于事件相机的自我中心3D手部网格重建(含真实数据集)
来源:https://huggingface.co/papers/2609.17189
摘要
3D手部网格重建是一项具有挑战性但对下游应用至关重要的任务,包括人机交互和增强/虚拟现实(AR/VR)。尽管传统相机已被广泛用于此类任务,但依赖它们的方法在弱光环境和严重运动模糊下表现不佳。为解决这些局限,事件相机因其高动态范围和高时间分辨率而近期备受关注。然而,将事件相机应用于自我中心视角的手部重建仍具挑战性,因为佩戴者自身运动产生的密集背景事件会掩盖与手部相关的有效信号。虽然首个基于事件的自我中心方法通过手部分割缓解了这一问题,但其二值手部掩膜未能区分左右手。因此,模型缺乏实例级手部信息,即使在仅一只手或没有手存在的情况下也会预测双手。这一限制导致手间关系判断错误并降低了重建精度。本文提出EventEgoHands++,一个用于从自我中心视角进行基于事件的3D手部网格重建的框架。所提方法包含一个手部检测器,可为左右手估计实例级边界框和掩膜。此外,我们引入自适应注意力机制,基于检测结果动态调节注意力权重,以精确学习手部间的空间关系和相互作用。为训练和评估该框架,我们扩展了合成数据集N-HOT3D,并构建了EEH-R——迄今最大规模的真实世界基于事件的自我中心手部数据集,包含约100万标注帧,采集环境涵盖弱光条件。在合成数据集和真实数据集上的大量实验表明,我们的方法持续优于基线模型。
查看arXiv页面 (https://arxiv.org/abs/2609.17189) 查看PDF (https://arxiv.org/pdf/2609.17189) 项目页面 (https://ryhara.github.io/EventEgoHandsV2/) GitHub (https://github.com/ryhara/EventEgoHandsV2) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2609.17189)
在您的代理中获取此论文:
hf papers read 2609\.17189
没有最新CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型 0
暂无关联模型
在模型的README.md中引用arxiv.org/abs/2609.17189以从此页面建立链接。
引用此论文的数据集 0
暂无关联数据集
在数据集的README.md中引用arxiv.org/abs/2609.17189以从此页面建立链接。
引用此论文的Spaces 0
暂无关联Space
在Space的README.md中引用arxiv.org/abs/2609.17189以从此页面建立链接。
包含此论文的收藏夹 0
暂无包含此论文的收藏夹
将此论文添加到收藏夹 (https://huggingface.co/new-collection) 以从此页面建立链接。
相似文章
EgoForce: 前臂引导的相机空间3D手部姿态——来自单目第一人称相机
EgoForce是一个单目3D手部重建框架,使用统一网络,包含可微分前臂表示、手臂-手部变换器和射线空间求解器,能够在不同相机模型下恢复绝对手部姿态和位置,在多个第一人称基准测试中达到了最先进的精度。
@Michael_J_Black: 今日ECCV: 走向野外自我中心3D手部-物体姿态估计, 展览厅海报: #70, 下午CEST, 海报环节…
本文介绍了EPIC-Contact,一个用于3D手部-物体姿态估计的野外数据集,以及HOPformer,一个Transformer模型,能够从单张RGB图像联合预测手部和物体姿态。
@ErenChenAI: WuJi 刚刚开源了其 MINT 模型和 EgoPipeline,用于从第一人称视频中重建3D手部加摄像头运动…
WuJi 已开源其 MINT 模型和 EgoPipeline,用于从第一人称视频中重建3D手部和摄像头运动,以及1,021小时的自我中心数据,以辅助机器人学习。
Open-AoE:面向具身学习的开放自我中心操作数据集与工具链
Open-AoE 是一个开放、面向社区的自我中心操作数据集与工具链,覆盖从智能手机采集到模型训练的完整流程,提供约2000小时的操作视频及标注,并包含用于具身学习的下游工具。
CosmoH2G:用于复杂空间运动物体操作的手到夹具迁移数据集与基线方法
本文提出CosmoH2G,一个用于将复杂人手演示迁移到机器人夹具的数据集和基线方法,通过两阶段框架预测稀疏关键帧和连续动作,以处理复杂的空间运动。