NeuROK: 生成式4D神经物体运动学

Hugging Face Daily Papers 论文

摘要

本文介绍了NeuROK,一种数据驱动的生成式4D神经物体运动学方法,该方法学习潜在空间和基于变换器的编码器-解码器,以模拟静态物体在各种物理条件下的真实时间变形,克服了预定义物理模型的局限性。

数据驱动的方法已经彻底改变了3D视觉,使变换器能够有效地重建和生成静态3D物体。然而,生成仿真4D动态——静态物体在各种物理条件下的真实时间变形——仍然具有挑战性且往往缺乏系统性,尽管它在构建全面的3D世界模型中非常重要。大多数现有方法假设一个预定义的物理模型,并使用系统辨识来估计参数,这将这些方法限制在特定类别和小规模数据集上。我们提出,通过学习面向物体物理系统的数据驱动运动学状态参数化,可以克服这些限制。具体来说,我们既学习一个表示物体所有可能状态的潜在空间,也学习一个解码器,将任何采样的潜在变量映射为物体的合理变形形状。我们将这种参数化称为神经物体运动学(NeuROK),并在精心策划的大规模4D数据集上学习一个基于变换器的编码器-解码器模型。这种表述和所学模型显著简化了仿真动态的生成,因为我们只需要从经典物理中的拉格朗日力学角度考虑低维潜在空间内的动力学。我们展示了这种神经模拟框架在不同动态物体类型上的有效性和通用性,显示出相对于先前工作的明显优势。项目页面:https://chen-geng.com/neurok
查看原文
查看缓存全文

缓存时间: 2026/05/29 02:59

论文页面 - NeuROK:生成式4D神经物体运动学

来源:https://huggingface.co/papers/2605.30347

摘要

神经物体运动学通过学习结合潜在空间表示与基于Transformer的编码-解码,实现数据驱动的4D动态物体仿真参数化,从而在多种物体类型上生成逼真的时间形变。

数据驱动方法已彻底改变3D视觉领域,使Transformer能够有效重建和生成静态3D物体。然而,生成仿真4D动态(https://huggingface.co/papers?q=4D%20dynamics)——即静态物体在不同物理条件下的逼真时间形变(https://huggingface.co/papers?q=temporal%20deformations)——仍然充满挑战且往往缺乏统一框架,尽管它在构建全面的3D世界模型中至关重要。现有方法大多假设预先定义的物理模型,并通过系统辨识进行参数估计,这限制了这些方法只能应用于特定类别和小规模数据集。我们提出,通过学习面向物体物理系统(https://huggingface.co/papers?q=object-centric%20physical%20systems)的数据驱动运动学状态参数化,可以克服这些限制。具体而言,我们同时学习一个表示物体所有可能状态的潜在空间(https://huggingface.co/papers?q=latent%20space)和一个解码器(https://huggingface.co/papers?q=decoder),该解码器能将任意采样到的潜在变量映射为物体合理的形变形状。我们将这种参数化称为神经物体运动学(NeuROK),并在精心整理的大规模4D数据集(https://huggingface.co/papers?q=curated%20large-scale%204D%20dataset)上训练一个基于Transformer的编码-解码模型(https://huggingface.co/papers?q=transformer-based%20encoder-decoder%20model)。这种公式化和学习到的模型极大地简化了仿真动态的生成,因为我们只需从经典物理学中拉格朗日力学(https://huggingface.co/papers?q=Lagrangian%20mechanics)的角度考虑低维潜在空间(https://huggingface.co/papers?q=latent%20space)内的动力学。我们展示了该神经仿真框架(https://huggingface.co/papers?q=neural%20simulation%20framework)在多种动态物体类型上的有效性和通用性,明显优于先前工作。项目页面:https://chen-geng.com/neurok

查看arXiv页面(https://arxiv.org/abs/2605.30347)查看PDF(https://arxiv.org/pdf/2605.30347)项目页面(https://chen-geng.com/neurok)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2605.30347)

在你的智能体中获取此论文:

hf papers read 2605\.30347

没有最新的CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型关联此论文

在模型的README.md中引用arxiv.org/abs/2605.30347以建立与本页面的链接。

引用此论文的数据集0

没有数据集关联此论文

在数据集的README.md中引用arxiv.org/abs/2605.30347以建立与本页面的链接。

引用此论文的Space0

没有Space关联此论文

在Space的README.md中引用arxiv.org/abs/2605.30347以建立与本页面的链接。

包含此论文的收藏集0

没有收藏集包含此论文

将此论文添加到收藏集(https://huggingface.co/new-collection)以建立与本页面的链接。

相似文章

GATOR:基于随手拍摄图像的生成式与智能体式三维物体重建

Hugging Face Daily Papers

NVIDIA 研究人员推出了 GATOR,这是一个生成式智能体框架,可从一张或多张随手拍摄的图像中重建完整、带纹理的 3D 对象资产及其相对于场景的位姿,并通过局部模态混合器、文本引导的语义条件控制,以及“编辑—渲染—审查”的智能体循环进行优化。

D4RT:教会 AI 以四维视角观察世界

Google DeepMind Blog

DeepMind 推出 D4RT,一个统一的 AI 模型,用于动态 4D 场景重建与追踪,效率较此前方法提升高达 300 倍。该模型采用基于查询的 Transformer 架构,为机器人技术与 AR 应用解决复杂的空间和时序任务。

域随机化与生成模型在机器人抓取中的应用

OpenAI Blog

# 域随机化与生成模型在机器人抓取中的应用 来源:[https://openai.com/index/domain-randomization-and-generative-models-for-robotic-grasping/](https://openai.com/index/domain-randomization-and-generative-models-for-robotic-grasping/) ## 摘要 基于深度学习的机器人抓取在算法改进和数据可用性增加的推动下取得了重大进展。然而,最先进的模型往往仅在数百或数千个未

RynnWorld-4D: 面向机器人操作的4D具身世界模型

Hugging Face Daily Papers

RynnWorld-4D是一个生成式世界模型,它通过统一的扩散过程,从单张RGB-D图像和语言指令中联合生成未来的RGB、深度和光流,通过逆动力学策略学习实现高效的机器人操作。该模型在真实世界的双手操作任务上达到了最先进水平。