VibeVideoBench:评估代码驱动视频生成中的多模态智能体
摘要
VibeVideoBench 引入了一个包含 239 项任务的基准,用于评估通过编写渲染代码来生成视频的多模态智能体,研究发现 GPT-6 Astra 和 Claude Opus 5.5 领先,但时间管理失误导致了大多数视频未能交付。
查看缓存全文
缓存时间: 2026/10/28 09:26
论文页面 - VibeVideoBench:评测代码驱动视频生成中的多模态智能体
来源:https://huggingface.co/papers/2610.35864 作者:(多人,略)
摘要
VibeVideoBench 评测了通过编写代码生成视频的多模态智能体,发现顶尖系统在大多数任务上能满足核心要求,但常因时间管理不善而失败。
扩散视频模型能生成令人惊艳的片段,但无法可靠地渲染精确的公式、正确的图表、符合规则的游戏,或与画面事件同步的旁白。另一种路径正在兴起:多模态智能体 (https://huggingface.co/papers?q=multimodal%20agents) 编写代码来渲染每一帧、合成每一段声音。我们提出 VibeVideoBench (https://huggingface.co/papers?q=VibeVideoBench),一个用于评测代码驱动视频生成 (https://huggingface.co/papers?q=code-driven%20video%20generation) 智能体的基准。它包含 239 个中英文自包含任务,涵盖 12 个类别,从数据叙事、音乐驱动作品到课堂讲解和论文解读;每个任务要求智能体在其原生运行环境中、在不含任何图像或视频生成模型的沙箱中,于一小时内交付一个带音频的完整 MP4 文件。评测是分层且基于证据的:程序化检查交付规格、约 13,000 项针对具体任务的评分细则检查(追溯至其对应的需求),以及每任务锚定的五个质量维度,由三个 VLM 评审团 (https://huggingface.co/papers?q=VLM%20judge%20panels) 打分。在九个前沿智能体系统和 2,151 次评分运行中,GPT-6 Astra 和 Claude Opus 5.5 在评审团和人工标注者中均排名第一和第二,最强系统在 76.3% 的任务上满足每一项核心要求。交付是另一条评价维度:将缺失的视频计为零分会改变排名,且丢失的视频中有四分之三是最终渲染开始太晚、运行太慢或从未启动——这是智能体在一小时内的规划能力的失败。智能体会构建自己的渲染管线 (https://huggingface.co/papers?q=rendering%20pipelines) 并检查自己的帧,但检查的频繁程度并不能预测最终质量。评审团对各系统的排名与盲测的人类偏好高度一致。
查看 arXiv 页面 (https://arxiv.org/abs/2610.35864) 查看 PDF (https://arxiv.org/pdf/2610.35864) 项目主页 (https://vibevideobench.github.io/) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.35864)
引用本文的模型:0
暂无模型关联本文。
在模型 README.md 中引用 arxiv.org/abs/2610.35864 即可从此页面链接过去。
引用本文的数据集:0
暂无数据集关联本文。
在数据集 README.md 中引用 arxiv.org/abs/2610.35864 即可从此页面链接过去。
引用本文的 Space:0
暂无 Space 关联本文。
在 Space README.md 中引用 arxiv.org/abs/2610.35864 即可从此页面链接过去。
包含本文的收藏:0
暂无收藏包含本文。
将本文添加到收藏 (https://huggingface.co/new-collection) 即可从此页面链接过去。
相似文章
VideoGen-Agent:增强视频生成智能体
本文提出了VideoGen-Agent,一种基于强化学习的多模态智能体,它协调工具进行视频生成,在新的VABench基准测试上显著提升了性能。
Code2Video: 一个以代码为中心的教育视频生成范式
Code2Video是一个以代码为中心的代理框架,用于生成教育视频,相比直接代码生成,提高了连贯性和可解释性。它包括一个多代理系统和一个新的评估基准。
VGenST-Bench:通过主动视频合成进行时空推理的基准测试
VGenST-Bench是一个基准测试,利用生成模型主动合成受控的时空推理场景,配备多智能体流水线和人工质量控制,用于评估多模态大语言模型。
Video-DeepResearch:迈向下一代多模态深度研究智能体
Video-DeepResearch (Video-DR) 将多模态智能体从静态图像扩展到连续视频流,引入了解耦的感知-探索流水线以及新的基准 Video-DR-Bench。其 Video-DeepResearch-35B-A3B 模型取得了 64.0% 的准确率,超越了 Claude-4.5-Sonnet、GPT-5 和 Gemini 2.5 Pro。
VGI-BENCH: 探测视频生成模型中的视觉智能
VGI-BENCH 通过27项任务评估视频生成模型中的视觉推理,揭示当前系统在可靠性和自我纠正方面的局限性。