InfiniHand:从自我中心视频进行流式世界空间手部运动估计

Hugging Face Daily Papers 论文

摘要

InfiniHand 是一个端到端的流式框架,用于从自我中心视频进行世界空间手部运动估计,联合估计手部参数、相机轨迹和位置,以减少错误并提高性能,超越最先进的基线方法。

从自我中心视频进行世界空间手部运动估计需要恢复3D铰接手部几何结构,同时跟踪相机的自主运动。现有方法严重依赖级联的独立手部姿态估计器和SLAM系统,导致误差累积、流程复杂以及严重的计算开销。为了解决这些局限性,我们提出了InfiniHand,这是一个端到端的流式前馈框架,直接从未校准的自我中心视频联合估计MANO参数、相机轨迹和手部位置。InfiniHand将持久的时空记忆与以手部为中心的视觉特征相结合,在统一架构中明确耦合相机运动与局部手部几何结构。我们通过两个渐进阶段训练InfiniHand,首先学习鲁棒的相机空间手部先验,然后扩展到流式世界空间重建。为支持这一过程,我们汇总了来自多个公开数据集的大约5,000小时自我中心数据的预训练语料库。广泛的评估表明,InfiniHand在领域内基准测试上超越了最先进的基线方法,与ViDiHand相比,ARCTIC PA-p降低了21.4%,同时显著缓解了世界空间漂移。此外,InfiniHand能稳健地泛化到野外视频,并以11.19 FPS运行,吞吐量是HaWoR的两倍多。
查看原文
查看缓存全文

缓存时间: 2026/09/29 08:11

论文页面 - InfiniHand:基于自我中心视频的流式世界空间手部运动估计

来源: https://huggingface.co/papers/2609.35743 作者:

,

,

,

,

,

,

,

,

,

,

摘要

从自我中心视频中估计世界空间的手部运动,需要在跟踪相机自身运动的同时恢复三维关节手部几何结构。现有方法严重依赖级联的独立手部姿态估计器和SLAM系统,导致误差累积、流程复杂以及巨大的计算开销。为解决这些局限性,我们提出了InfiniHand,一个端到端的流式前馈框架,可直接从未校准的自我中心视频中联合估计MANO参数、相机轨迹和手部位置。InfiniHand在统一架构中集成了持久的时空记忆与以手部为中心的视觉特征,显式地将相机运动与局部手部几何结构耦合。我们通过两个渐进阶段训练InfiniHand:首先学习鲁棒的相机空间手部先验,然后扩展到流式世界空间重建。为支持这一过程,我们聚合了来自多个公开数据集的约5000小时自我中心数据作为预训练语料库。大量评估表明,InfiniHand在域内基准测试中优于最先进的基线方法,与ViDiHand相比,在ARCTICPA-p指标上降低了21.4%,同时显著减轻了世界空间漂移。此外,InfiniHand能稳健地泛化到野外视频,并以11.19 FPS的速度运行,吞吐量是HaWoR的两倍以上。

查看 arXiv 页面 (https://arxiv.org/abs/2609.35743) 查看 PDF (https://arxiv.org/pdf/2609.35743) 项目主页 (https://infinihand.github.io/) GitHub2 (https://github.com/infinihand/InfiniHand) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2609.35743)

在你的智能体中获取本文:

hf papers read 2609.35743

没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型0

没有模型链接到此论文。

在模型的 README.md 中引用 arxiv.org/abs/2609.35743 以从此页面链接它。

引用本文的数据集0

没有数据集链接到此论文。

在数据集的 README.md 中引用 arxiv.org/abs/2609.35743 以从此页面链接它。

引用本文的 Space0

没有 Space 链接到此论文。

在 Space 的 README.md 中引用 arxiv.org/abs/2609.35743 以从此页面链接它。

包含本文的收藏夹0

没有收藏夹包含此论文。

将此论文添加到收藏夹 (https://huggingface.co/new-collection) 以从此页面链接它。

相似文章