视频生成模型是通用视觉学习者
摘要
本文提出,大规模文本到视频生成可作为计算机视觉的强大预训练范式,介绍了GenCeption,它在多种视觉任务上实现了最先进的性能,具有高数据效率和向未见领域的涌现泛化能力。
查看缓存全文
缓存时间: 2026/07/13 07:50
论文页面 - 视频生成模型是通用视觉学习器
来源:https://huggingface.co/papers/2607.09024 发布于 7 月 10 日
每日论文 #2
作者:
,
,
,
,
,
,
,
,
,
,
摘要
受 next-token prediction 驱动,NLP 从任务专用模型转向了强大的通用基础模型。那么,在计算机视觉领域,实现通用模型所需的等效催化剂是什么?在本文中,我们认为大规模文本到视频生成是计算机视觉的一种强预训练范式,它提供了通用视觉智能所需的时空先验、视觉-语言对齐和可扩展性。我们提出 GenCeption,它利用预训练的视频生成扩散主干来定义一个前馈感知模型,能够执行由文本指令引导的各种视觉任务。实验结果表明,GenCeption 在多种任务上达到了最先进的性能,包括深度、表面法向量和相机位姿估计、指代表达分割以及 3D 关键点预测,通常与专用模型(如 DepthAnything3、SAM3、D4RT、VGGT-Omega、Sapiens、David、Genmo 和 Lotus-2)持平甚至超越。此外,在可比较的设置下,视频生成预训练主干优于其他预训练范式(例如 V-JEPA 和 VideoMAE)。重要的是,GenCeption 展现出初步的数据和模型缩放特性以及卓越的数据效率,它以 7 到 500 倍更少的训练数据即可达到与 D4RT 和 VGGT-Omega 等领先模型相当的性能。最后,GenCeption 还表现出有趣的涌现行为:仅在合成人体视频上训练的模型能够泛化到真实世界影像以及分布外的物体类别(例如动物和机器人)。这些发现表明,视频生成不仅仅是合成工具,更是一条通往物理世界通用视觉智能的基础路径。项目页面:https://genception.github.io
查看 arXiv 页面 (https://arxiv.org/abs/2607.09024)查看 PDF (https://arxiv.org/pdf/2607.09024)项目页面 (https://genception.github.io/)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.09024)
在您的 Agent 中获取此论文:
hf papers read 2607\.09024
没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型0
没有模型链接此论文
请在模型 README.md 中引用 arxiv.org/abs/2607.09024 以链接到此页面。
引用此论文的数据集0
没有数据集链接此论文
请在数据集 README.md 中引用 arxiv.org/abs/2607.09024 以链接到此页面。
引用此论文的 Space0
没有 Space 链接此论文
请在 Space README.md 中引用 arxiv.org/abs/2607.09024 以链接到此页面。
包含此论文的合集1
相似文章
视频生成模型作为世界模拟器
OpenAI的技术报告介绍了Sora视频生成模型,该模型通过视觉补丁统一多样化的视觉数据,支持大规模训练生成模型,能够生成长达一分钟的高清视频,支持可变的时长、宽高比和分辨率。
哪种预训练范式更能服务于空间智能?视觉语言模型与视频生成模型的实证比较
本文通过系统性的冻结特征探测研究,比较了视觉语言模型(VLMs)和视频生成模型(VGMs)在空间智能任务上的表现。研究发现,VLMs在语义标签和实例分组方面表现优异,而VGMs则提供更好的密集几何和相机运动信号。两种模型的简单融合在所有维度上均展现出强劲性能。
视觉作为统一多模态生成
本文介绍 SenseNova-Vision,一个统一的多模态模型,将计算机视觉任务表述为生成问题,在多种视觉任务上实现了与专用系统相当的性能。它引入了一个大规模指令-响应语料库,并公开发布模型和数据集。
高效训练长上下文视觉语言模型,实现超越128K上下文的泛化
本文系统研究了视觉语言模型的长上下文持续预训练,通过高效的数据混合设计,实现了超越128K上下文的泛化,并介绍了MMProLong模型。
为什么视频代理模型是下一个前沿——Ethan He, xAI Grok Imagine(98分钟阅读)
来自xAI的Ethan He讨论了为什么视频代理模型是下一个前沿,他认为视频模型从LLM中获取智能,并且视频生成的演变将模仿AI编程,从一次性输出转向多轮规划与执行。