InfiniHand:从自我中心视频进行流式世界空间手部运动估计
摘要
InfiniHand 是一个端到端的流式框架,用于从自我中心视频进行世界空间手部运动估计,联合估计手部参数、相机轨迹和位置,以减少错误并提高性能,超越最先进的基线方法。
查看缓存全文
缓存时间: 2026/09/29 08:11
论文页面 - InfiniHand:基于自我中心视频的流式世界空间手部运动估计
来源: https://huggingface.co/papers/2609.35743 作者:
,
,
,
,
,
,
,
,
,
,
摘要
从自我中心视频中估计世界空间的手部运动,需要在跟踪相机自身运动的同时恢复三维关节手部几何结构。现有方法严重依赖级联的独立手部姿态估计器和SLAM系统,导致误差累积、流程复杂以及巨大的计算开销。为解决这些局限性,我们提出了InfiniHand,一个端到端的流式前馈框架,可直接从未校准的自我中心视频中联合估计MANO参数、相机轨迹和手部位置。InfiniHand在统一架构中集成了持久的时空记忆与以手部为中心的视觉特征,显式地将相机运动与局部手部几何结构耦合。我们通过两个渐进阶段训练InfiniHand:首先学习鲁棒的相机空间手部先验,然后扩展到流式世界空间重建。为支持这一过程,我们聚合了来自多个公开数据集的约5000小时自我中心数据作为预训练语料库。大量评估表明,InfiniHand在域内基准测试中优于最先进的基线方法,与ViDiHand相比,在ARCTICPA-p指标上降低了21.4%,同时显著减轻了世界空间漂移。此外,InfiniHand能稳健地泛化到野外视频,并以11.19 FPS的速度运行,吞吐量是HaWoR的两倍以上。
查看 arXiv 页面 (https://arxiv.org/abs/2609.35743) 查看 PDF (https://arxiv.org/pdf/2609.35743) 项目主页 (https://infinihand.github.io/) GitHub2 (https://github.com/infinihand/InfiniHand) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2609.35743)
在你的智能体中获取本文:
hf papers read 2609.35743
没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用本文的模型0
没有模型链接到此论文。
在模型的 README.md 中引用 arxiv.org/abs/2609.35743 以从此页面链接它。
引用本文的数据集0
没有数据集链接到此论文。
在数据集的 README.md 中引用 arxiv.org/abs/2609.35743 以从此页面链接它。
引用本文的 Space0
没有 Space 链接到此论文。
在 Space 的 README.md 中引用 arxiv.org/abs/2609.35743 以从此页面链接它。
包含本文的收藏夹0
没有收藏夹包含此论文。
将此论文添加到收藏夹 (https://huggingface.co/new-collection) 以从此页面链接它。
相似文章
EgoForce: 前臂引导的相机空间3D手部姿态——来自单目第一人称相机
EgoForce是一个单目3D手部重建框架,使用统一网络,包含可微分前臂表示、手臂-手部变换器和射线空间求解器,能够在不同相机模型下恢复绝对手部姿态和位置,在多个第一人称基准测试中达到了最先进的精度。
视频扩散模型在手部运动重建中的惊人有效性
ViDiHand 利用预训练的视频扩散模型表示,直接从自我中心视频帧中重建4D手部运动,无需检测器或优化,在ARCTIC、HOT3D和HOI4D上优于现有方法。
EventEgoHands++: 基于事件的自我中心3D手部网格重建与真实数据集
本文提出EventEgoHands++,一个基于事件的3D手部网格重建框架,从自我中心视角出发,结合手部检测和自适应注意力,并引入新的真实世界数据集EEH-R用于训练和评估。
@ErenChenAI: WuJi 刚刚开源了其 MINT 模型和 EgoPipeline,用于从第一人称视频中重建3D手部加摄像头运动…
WuJi 已开源其 MINT 模型和 EgoPipeline,用于从第一人称视频中重建3D手部和摄像头运动,以及1,021小时的自我中心数据,以辅助机器人学习。
@Michael_J_Black: 今日ECCV: 走向野外自我中心3D手部-物体姿态估计, 展览厅海报: #70, 下午CEST, 海报环节…
本文介绍了EPIC-Contact,一个用于3D手部-物体姿态估计的野外数据集,以及HOPformer,一个Transformer模型,能够从单张RGB图像联合预测手部和物体姿态。