sequence-parallel

标签

Cards List
#sequence-parallel

使用 Data-Centric Parallel 训练可变长序列

arXiv cs.AI ↗ · 2026-08-11 缓存

介绍了 Data-Centric Parallel (DCP),一种通过在每批次动态调整运行时设置来训练变长序列深度学习模型的方法,在 32 个 H200 GPU 上实现了高达 2.88 倍的加速,仅需集成 10 行代码。

0 人收藏 0 人点赞
#sequence-parallel

LongLive-2.0:用于长视频生成的NVFP4并行基础设施

Hugging Face Daily Papers ↗ · 2026-05-18 缓存

LongLive-2.0 引入了一种基于NVFP4的并行基础设施,用于长视频生成,在训练上实现了高达2.15倍的加速,推理上实现了1.84倍的加速,5B模型达到了45.7 FPS。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈