视频生成模型是通用视觉学习者

Hugging Face Daily Papers 论文

摘要

本文提出,大规模文本到视频生成可作为计算机视觉的强大预训练范式,介绍了GenCeption,它在多种视觉任务上实现了最先进的性能,具有高数据效率和向未见领域的涌现泛化能力。

在下一词预测的驱动下,自然语言处理从特定任务模型转变为强大的通用基础模型。那么,计算机视觉要实现通用模型,需要什么样的同等催化剂?本文认为,大规模文本到视频生成可作为计算机视觉的强大预训练范式,提供通用视觉智能所需的时空先验、视觉-语言对齐和可扩展性。我们引入了GenCeption,它利用预训练的视频生成扩散主干来定义一个前馈感知模型,能够通过文本指令执行各种视觉任务。实验结果表明,GenCeption在多种任务上取得了最先进的性能,包括深度估计、表面法线估计、相机姿态估计、表达式指代分割以及3D关键点预测,常常匹配或超越专门模型(例如DepthAnything3、SAM3、D4RT、VGGT-Omega、Sapiens、David、Genmo和Lotus-2)。此外,视频生成预训练主干在可比设置下优于其他预训练范式(例如V-JEPA和Video MAE)。重要的是,GenCeption展示了初步的数据和模型缩放特性以及卓越的数据效率,在训练数据少7到500倍的情况下,达到了与D4RT和VGGT-Omega等领先模型相当的性能。最后,GenCeption还展现了有趣的涌现行为:一个仅使用合成人体视频训练的模型能够泛化到真实世界镜头以及分布外的物体类别(例如动物和机器人)。这些发现表明,视频生成不仅仅是一种合成工具,更是通往物理世界通用视觉智能的基础路径。项目页面:https://genception.github.io
查看原文
查看缓存全文

缓存时间: 2026/07/13 07:50

论文页面 - 视频生成模型是通用视觉学习器

来源:https://huggingface.co/papers/2607.09024 发布于 7 月 10 日

每日论文 #2

作者:

,

,

,

,

,

,

,

,

,

,

摘要

受 next-token prediction 驱动,NLP 从任务专用模型转向了强大的通用基础模型。那么,在计算机视觉领域,实现通用模型所需的等效催化剂是什么?在本文中,我们认为大规模文本到视频生成是计算机视觉的一种强预训练范式,它提供了通用视觉智能所需的时空先验、视觉-语言对齐和可扩展性。我们提出 GenCeption,它利用预训练的视频生成扩散主干来定义一个前馈感知模型,能够执行由文本指令引导的各种视觉任务。实验结果表明,GenCeption 在多种任务上达到了最先进的性能,包括深度、表面法向量和相机位姿估计、指代表达分割以及 3D 关键点预测,通常与专用模型(如 DepthAnything3、SAM3、D4RT、VGGT-Omega、Sapiens、David、Genmo 和 Lotus-2)持平甚至超越。此外,在可比较的设置下,视频生成预训练主干优于其他预训练范式(例如 V-JEPA 和 VideoMAE)。重要的是,GenCeption 展现出初步的数据和模型缩放特性以及卓越的数据效率,它以 7 到 500 倍更少的训练数据即可达到与 D4RT 和 VGGT-Omega 等领先模型相当的性能。最后,GenCeption 还表现出有趣的涌现行为:仅在合成人体视频上训练的模型能够泛化到真实世界影像以及分布外的物体类别(例如动物和机器人)。这些发现表明,视频生成不仅仅是合成工具,更是一条通往物理世界通用视觉智能的基础路径。项目页面:https://genception.github.io

查看 arXiv 页面 (https://arxiv.org/abs/2607.09024)查看 PDF (https://arxiv.org/pdf/2607.09024)项目页面 (https://genception.github.io/)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.09024)

在您的 Agent 中获取此论文:

hf papers read 2607\.09024

没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型链接此论文

请在模型 README.md 中引用 arxiv.org/abs/2607.09024 以链接到此页面。

引用此论文的数据集0

没有数据集链接此论文

请在数据集 README.md 中引用 arxiv.org/abs/2607.09024 以链接到此页面。

引用此论文的 Space0

没有 Space 链接此论文

请在 Space README.md 中引用 arxiv.org/abs/2607.09024 以链接到此页面。

包含此论文的合集1

相似文章

视频生成模型作为世界模拟器

OpenAI Blog

OpenAI的技术报告介绍了Sora视频生成模型,该模型通过视觉补丁统一多样化的视觉数据,支持大规模训练生成模型,能够生成长达一分钟的高清视频,支持可变的时长、宽高比和分辨率。

视觉作为统一多模态生成

Hugging Face Daily Papers

本文介绍 SenseNova-Vision,一个统一的多模态模型,将计算机视觉任务表述为生成问题,在多种视觉任务上实现了与专用系统相当的性能。它引入了一个大规模指令-响应语料库,并公开发布模型和数据集。