标签
Prism提出一种动态稀疏注意力框架,用于在原生2K分辨率下训练联合视频-音频生成模型。该方法通过将token序列组织为时空宏区域,并结合音频-视频跨模态信号自适应地为每个区域分配注意力块的形状,实现了相比全注意力2.5倍的训练加速,同时生成质量更优。
提出 StereoBind 框架,通过动态空间对应(Dynamic Spatial Correspondence)将视觉源运动与立体声生成绑定,用于沉浸式视频-音频联合生成,并构建了 StereoWorld-29K 数据集与评测基准。
Prism 是一个动态稀疏注意力框架,用于以原生分辨率训练 2K 的视频-音频联合生成模型。它通过时空宏块划分与内容自适应的块形状分配,在实现 2.5 倍训练加速的同时,生成质量超越全注意力模型,由复旦大学与腾讯混元联合发布。
VA-Judger是首个用于联合视频-音频生成的奖励模型,它使用人类偏好反馈来评估整体质量,包括一个数据集和基准测试,并在应用于像LTX-2这样的模型时展示了人类偏好率的显著提升。