VibeVideoBench:评估代码驱动视频生成中的多模态智能体

Hugging Face Daily Papers 论文

摘要

VibeVideoBench 引入了一个包含 239 项任务的基准,用于评估通过编写渲染代码来生成视频的多模态智能体,研究发现 GPT-6 Astra 和 Claude Opus 5.5 领先,但时间管理失误导致了大多数视频未能交付。

扩散视频模型能够生成令人惊艳的片段,但它们无法可靠地渲染精确的公式、正确的图表、符合规则的游戏,或与画面事件同步的旁白。一条不同的技术路线正在兴起:多模态智能体编写代码来渲染每一帧并合成每一段声音。我们提出了 VibeVideoBench,一个用于评估代码驱动视频生成的智能体的基准。其包含 239 个中英文的自包含任务,涵盖 12 个类别,从数据故事、音乐驱动作品到课堂讲解和论文解读;每个任务要求智能体在其沙箱内的原生运行框架中运行(不使用任何图像或视频生成模型),在一小时内交付一个带音频的成品 MP4 文件。评估采用分层、基于证据的方法:对交付规格进行程序化检查、约 13,000 项可追溯到具体需求的任务专属评分项检查,以及每个任务锚定的五个质量维度,由三组 VLM 评审进行打分。在九个前沿智能体系统、2,151 次被评分的运行中,GPT-6 Astra 和 Claude Opus 5.5 在评审和人类标注者中均排名第一和第二,最强的系统在 76.3% 的任务上满足了所有核心要求。交付情况是另一个评估维度:将缺失的视频计为零分会改变排名,四分之三的丢失视频是因为最终渲染启动太晚、运行太慢或根本从未启动——这是智能体在一小时时限内进行时间规划的失败。智能体自行构建渲染管线并检查自己生成的帧,但它们检查的频率并不能预测质量。评审对各系统的排名与盲测的人类偏好高度一致。
查看原文
查看缓存全文

缓存时间: 2026/10/28 09:26

论文页面 - VibeVideoBench:评测代码驱动视频生成中的多模态智能体

来源:https://huggingface.co/papers/2610.35864 作者:(多人,略)

摘要

VibeVideoBench 评测了通过编写代码生成视频的多模态智能体,发现顶尖系统在大多数任务上能满足核心要求,但常因时间管理不善而失败。

扩散视频模型能生成令人惊艳的片段,但无法可靠地渲染精确的公式、正确的图表、符合规则的游戏,或与画面事件同步的旁白。另一种路径正在兴起:多模态智能体 (https://huggingface.co/papers?q=multimodal%20agents) 编写代码来渲染每一帧、合成每一段声音。我们提出 VibeVideoBench (https://huggingface.co/papers?q=VibeVideoBench),一个用于评测代码驱动视频生成 (https://huggingface.co/papers?q=code-driven%20video%20generation) 智能体的基准。它包含 239 个中英文自包含任务,涵盖 12 个类别,从数据叙事、音乐驱动作品到课堂讲解和论文解读;每个任务要求智能体在其原生运行环境中、在不含任何图像或视频生成模型的沙箱中,于一小时内交付一个带音频的完整 MP4 文件。评测是分层且基于证据的:程序化检查交付规格、约 13,000 项针对具体任务的评分细则检查(追溯至其对应的需求),以及每任务锚定的五个质量维度,由三个 VLM 评审团 (https://huggingface.co/papers?q=VLM%20judge%20panels) 打分。在九个前沿智能体系统和 2,151 次评分运行中,GPT-6 Astra 和 Claude Opus 5.5 在评审团和人工标注者中均排名第一和第二,最强系统在 76.3% 的任务上满足每一项核心要求。交付是另一条评价维度:将缺失的视频计为零分会改变排名,且丢失的视频中有四分之三是最终渲染开始太晚、运行太慢或从未启动——这是智能体在一小时内的规划能力的失败。智能体会构建自己的渲染管线 (https://huggingface.co/papers?q=rendering%20pipelines) 并检查自己的帧,但检查的频繁程度并不能预测最终质量。评审团对各系统的排名与盲测的人类偏好高度一致。

查看 arXiv 页面 (https://arxiv.org/abs/2610.35864) 查看 PDF (https://arxiv.org/pdf/2610.35864) 项目主页 (https://vibevideobench.github.io/) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.35864)

引用本文的模型:0

暂无模型关联本文。

在模型 README.md 中引用 arxiv.org/abs/2610.35864 即可从此页面链接过去。

引用本文的数据集:0

暂无数据集关联本文。

在数据集 README.md 中引用 arxiv.org/abs/2610.35864 即可从此页面链接过去。

引用本文的 Space:0

暂无 Space 关联本文。

在 Space README.md 中引用 arxiv.org/abs/2610.35864 即可从此页面链接过去。

包含本文的收藏:0

暂无收藏包含本文。

将本文添加到收藏 (https://huggingface.co/new-collection) 即可从此页面链接过去。

相似文章

VideoGen-Agent:增强视频生成智能体

Hugging Face Daily Papers

本文提出了VideoGen-Agent,一种基于强化学习的多模态智能体,它协调工具进行视频生成,在新的VABench基准测试上显著提升了性能。

Video-DeepResearch:迈向下一代多模态深度研究智能体

Hugging Face Daily Papers

Video-DeepResearch (Video-DR) 将多模态智能体从静态图像扩展到连续视频流,引入了解耦的感知-探索流水线以及新的基准 Video-DR-Bench。其 Video-DeepResearch-35B-A3B 模型取得了 64.0% 的准确率,超越了 Claude-4.5-Sonnet、GPT-5 和 Gemini 2.5 Pro。