@denziideng: 美团进军AI视频生成,首发便开源13.6B模型——生成长视频不掉色、不掉质……
摘要
美团开源了13.6B参数的LongCat-Video视频生成模型,原生支持文本到视频、图像到视频和视频续写,可在720p/30fps下生成数分钟长视频且无色彩衰减或质量下降,权重采用MIT许可证并允许商业使用。
查看缓存全文
缓存时间: 2026/10/06 17:55
Meituan 正式进军 AI 视频生成领域,首秀便甩出一个 13.6B 的模型——长视频不褪色、不掉质,一上来就抓住眼球!🤣🔥 大厂搞 AI 视频,往往只发论文不放模型,或者放个阉割版。这次 Meituan 直接开源了完整的 13.6B LongCat-Video 模型,原生支持生成数分钟的长视频,全程画质与色彩稳如磐石。🙂👇
✅ 文生视频、图生视频、视频续写,全由一个模型搞定 ✅ 原生支持长视频,数分钟生成且无色彩漂移、无质量下降 ✅ 720p、30fps,几分钟即可出片 ✅ 权重采用 MIT 协议,可免费商用
🔗 https://github.com/meituan-longcat/LongCat-Video
如果你正在做长视频或 AI 视频生成,趁现在赶紧研究并收藏起来!不用再一段一段拼接长视频了!你用 AI 生成过的最长视频是多少秒?评论区聊聊吧 👇
#开源工具 #AI视频
meituan-longcat/LongCat-Video
来源:https://github.com/meituan-longcat/LongCat-Video
LongCat-Video
模型简介
我们推出 LongCat-Video,一个拥有 13.6B 参数的基础视频生成模型,在 文生视频、图生视频 和 视频续写 三类任务上均表现出色。它尤其擅长高效、高质量的长视频生成,是我们迈向世界模型的第一步。
核心特性
- 🌟 多任务统一架构:LongCat-Video 将 文生视频、图生视频 与 视频续写 任务统一到同一个视频生成框架中,单一模型即可原生支持全部任务,并在每一项任务上都保持出色表现。
- 🌟 长视频生成:LongCat-Video 在预训练阶段即针对 视频续写 任务进行原生训练,能够生成数分钟长度的视频而不会出现色彩漂移或质量退化。
- 🌟 高效推理:LongCat-Video 在时间轴和空间轴上采用由粗到细(coarse-to-fine)的生成策略,可在数分钟内生成 720p、30fps 的视频。Block Sparse Attention 进一步提升了推理效率,在高分辨率场景下尤为明显。
- 🌟 多奖励 RLHF 带来的强劲性能:借助多奖励分组相对策略优化(Group Relative Policy Optimization, GRPO),在内部及公开基准上的综合评测表明,LongCat-Video 的性能已可与领先的开源视频生成模型以及最新商用方案相媲美。
更多细节请参阅 LongCat-Video Technical Report (https://arxiv.org/abs/2510.22200)。
🥁 预告视频
🔥 最新动态
- 2026 年 5 月 21 日:🚀 我们发布了 LongCat-Video-Avatar-1.5 (https://meigen-ai.github.io/LongCat-Video-Avatar-1.5-Page/),这是一个音频驱动数字人视频生成的升级版开源框架。v1.5 用 Whisper-Large 替换了 Wav2Vec2,以实现更精准的口型同步;通过鲁棒的长视频生成,达到可投产的物理合理性与时间稳定性;并可泛化到风格化领域(动漫、动物、复杂真实场景);支持单流与多流音频输入;同时通过步骤蒸馏将推理加速至 8 步。 [代码 (https://github.com/meituan-longcat/LongCat-Video) | 🤗 权重 (https://huggingface.co/meituan-longcat/LongCat-Video-Avatar-1.5) | 项目主页 (https://meigen-ai.github.io/LongCat-Video-Avatar-1.5-Page/) ]
- 2025 年 12 月 16 日:🚀 我们很高兴地宣布发布 LongCat-Video-Avatar (https://meigen-ai.github.io/LongCat-Video-Avatar/),这是一个能够生成富有表现力、高度动态的音频驱动角色动画的统一模型,原生支持 音频+文生视频、音频+图生视频 以及 视频续写 等任务,并兼容 单流 与 多流 两种音频输入方式。本次发布包含我们的 技术报告 (https://github.com/meituan-longcat/LongCat-Video)、推理代码 (https://github.com/meituan-longcat/LongCat-Video)、🤗 模型权重 (https://huggingface.co/meituan-longcat/LongCat-Video-Avatar) 以及 项目主页 (https://meigen-ai.github.io/LongCat-Video-Avatar/)。
- 2025 年 10 月 25 日:🚀 我们发布了 LongCat-Video,一个基础视频生成模型。技术报告与模型可在 LongCat-Video Technical Report (https://arxiv.org/abs/2510.22200) 和 🤗 Huggingface (https://huggingface.co/meituan-longcat/LongCat-Video) 中获取!
快速开始
安装
克隆仓库:
git clone --single-branch --branch main https://github.com/meituan-longcat/LongCat-Video
cd LongCat-Video
安装依赖:
# create conda environment
conda create -n longcat-video python=3.10
conda activate longcat-video
# install torch (configure according to your CUDA version)
pip install torch==2.6.0+cu124 torchvision==0.21.0+cu124 torchaudio==2.6.0 --index-url https://download.pytorch.org/whl/cu124
# install flash-attn-2
pip install ninja
pip install psutil
pip install packaging
pip install flash_attn==2.7.4.post1
# install other requirements
pip install -r requirements.txt
# install longcat-video-avatar requirements
conda install -c conda-forge librosa
conda install -c conda-forge ffmpeg
pip install -r requirements_avatar.txt
模型配置中默认启用 FlashAttention-2;安装完成后,你也可以修改模型配置(“./weights/LongCat-Video/dit/config.json”)来改用 FlashAttention-3 或 xformers。
模型下载
| 模型 | 说明 | 下载链接 |
|---|---|---|
| LongCat-Video | 基础视频生成 | 🤗 Huggingface (https://huggingface.co/meituan-longcat/LongCat-Video) |
| LongCat-Video-Avatar | 单/多角色音频驱动视频生成(wav2vec2) | 🤗 Huggingface (https://huggingface.co/meituan-longcat/LongCat-Video-Avatar) |
| LongCat-Video-Avatar-1.5 | 升级版数字人模型,采用 Whisper-large-v3 音频编码器与蒸馏加速推理 | 🤗 Huggingface (https://huggingface.co/meituan-longcat/LongCat-Video-Avatar-1.5) |
使用 huggingface-cli 下载模型:
pip install "huggingface_hub[cli]"
huggingface-cli download meituan-longcat/LongCat-Video --local-dir ./weights/LongCat-Video
huggingface-cli download meituan-longcat/LongCat-Video-Avatar --local-dir ./weights/LongCat-Video-Avatar
huggingface-cli download meituan-longcat/LongCat-Video-Avatar-1.5 --local-dir ./weights/LongCat-Video-Avatar-1.5
运行文生视频(Text-to-Video)
# Single-GPU inference
torchrun run_demo_text_to_video.py --checkpoint_dir=./weights/LongCat-Video --enable_compile
# Multi-GPU inference
torchrun --nproc_per_node=2 run_demo_text_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video --enable_compile
运行图生视频(Image-to-Video)
# Single-GPU inference
torchrun run_demo_image_to_video.py --checkpoint_dir=./weights/LongCat-Video --enable_compile
# Multi-GPU inference
torchrun --nproc_per_node=2 run_demo_image_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video --enable_compile
运行视频续写(Video-Continuation)
# Single-GPU inference
torchrun run_demo_video_continuation.py --checkpoint_dir=./weights/LongCat-Video --enable_compile
# Multi-GPU inference
torchrun --nproc_per_node=2 run_demo_video_continuation.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video --enable_compile
运行长视频生成(Long-Video Generation)
# Single-GPU inference
torchrun run_demo_long_video.py --checkpoint_dir=./weights/LongCat-Video --enable_compile
# Multi-GPU inference
torchrun --nproc_per_node=2 run_demo_long_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video --enable_compile
运行交互式视频生成(Interactive Video Generation)
# Single-GPU inference
torchrun run_demo_interactive_video.py --checkpoint_dir=./weights/LongCat-Video --enable_compile
# Multi-GPU inference
torchrun --nproc_per_node=2 run_demo_interactive_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video --enable_compile
运行 LongCat-Video-Avatar
💡 1.5 版使用提示
- 口型同步精度: Audio CFG 在 3–5 之间表现最佳。提高 Audio CFG 数值可获得更好的同步效果。
- 提示词增强: 更长、描述更丰富的提示词会带来比简短提示词更好的一致性与自然度。我们建议加入丰富的细节,例如角色外貌、动作与场景上下文(如 「一位留着黑色长发的年轻女性正说着话并微笑,身穿白色衬衫,坐在一家明亮的咖啡馆里」),以获得最佳效果。
- 缓解重复动作: 将参考图索引(
--ref_img_index,默认为 10)设置在 0 到 24 之间可获得更好的一致性;设为 30 有助于减少重复动作。此外,增大掩码帧范围(--mask_frame_range,默认为 3)也能进一步帮助缓解重复动作,但数值过大可能会引入伪影。- 超分辨率: 我们的模型兼容 480P 与 720P,可通过
--resolution控制。- 双音频模式: 合并模式(将
audio_type设为para)要求两段音频长度相等,最终音频为两段音频求和得到;拼接模式(将audio_type设为add)不要求等长输入,最终音频由两段音频依次拼接而成,空隙处用静音填充,默认情况下 person1 先说话、person2 后说话。- 模型版本:
--model_type avatar-v1.0使用 wav2vec2 音频编码器(默认);--model_type avatar-v1.5使用 Whisper-large-v3 音频编码器,可获得更好的口型同步质量。- 蒸馏模式: 添加
--use_distill以启用蒸馏采样(步数更少、推理更快)。使用--model_type avatar-v1.5时 必须 添加该参数。- INT8 量化: 添加
--use_int8可加载 INT8 量化后的 DiT 模型,以降低显存占用。仅支持与--model_type avatar-v1.5搭配使用。
💡 1.0 版使用提示
- 口型同步精度:Audio CFG 在 3–5 之间表现最佳。提高 Audio CFG 数值可获得更好的同步效果。
- 提示词增强:在提示词中加入清晰的言语动作提示(如 talking、speaking),可使口型运动更加自然。
- 缓解重复动作:将参考图索引(
--ref_img_index,默认为 10)设置在 0 到 24 之间可获得更好的一致性,而选择其他范围(如 -10 或 30)则有助于减少重复动作。此外,增大掩码帧范围(--mask_frame_range,默认为 3)也能进一步帮助缓解重复动作,但数值过大可能会引入伪影。- 超分辨率:我们的模型兼容 480P 与 720P,可通过
--resolution控制。- 双音频模式:合并模式(将
audio_type设为para)要求两段音频长度相等,最终音频为两段音频求和得到;拼接模式(将audio_type设为add)不要求等长输入,最终音频由两段音频依次拼接而成,空隙处用静音填充,默认情况下 person1 先说话、person2 后说话。
LongCat-Video-Avatar-1.5
- 单音频视频生成(Single-Audio-to-Video Generation)
# Audio-Text-to-Video
torchrun --nproc_per_node=2 run_demo_avatar_single_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --stage_1=at2v --input_json=assets/avatar/single_example_1.json --use_distill --model_type avatar-v1.5 --use_int8
# Audio-Image-to-Video
torchrun --nproc_per_node=2 run_demo_avatar_single_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --stage_1=ai2v --input_json=assets/avatar/single_example_1.json --use_distill --model_type avatar-v1.5 --use_int8
# Audio-Text-to-Video and Video-Continuation
torchrun --nproc_per_node=2 run_demo_avatar_single_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --stage_1=at2v --input_json=assets/avatar/single_example_1.json --num_segments=5 --ref_img_index=10 --mask_frame_range=3 --use_distill --model_type avatar-v1.5 --use_int8
# Audio-Image-to-Video and Video-Continuation
torchrun --nproc_per_node=2 run_demo_avatar_single_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --stage_1=ai2v --input_json=assets/avatar/single_example_1.json --num_segments=5 --ref_img_index=10 --mask_frame_range=3 --use_distill --model_type avatar-v1.5 --use_int8
- 多音频视频生成(Multi-Audio-to-Video Generation)
# Audio-Image-to-Video
torchrun --nproc_per_node=2 run_demo_avatar_multi_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --input_json=assets/avatar/multi_example_1.json --use_distill --model_type avatar-v1.5 --use_int8
# Audio-Image-to-Video and Video-Continuation
torchrun --nproc_per_node=2 run_demo_avatar_multi_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --input_json=assets/avatar/multi_example_1.json --num_segments=5 --ref_img_index=10 --mask_frame_range=3 --use_distill --model_type avatar-v1.5 --use_int8
运行 Streamlit
# Single-GPU inference
streamlit run ./run_streamlit.py --server.fileWatcherType none --server.headless=false
评测结果
文生视频
文生视频(Text-to-Video)在我们内部基准上的 MOS 评测结果。
| MOS 分数 | Veo3 | PixVerse-V5 | Wan 2.2-T2V-A14B | LongCat-Video |
|---|---|---|---|---|
| 可获取性 | 闭源 | 闭源 | 开源 | 开源 |
| 架构 | - | - | MoE | Dense |
| 总参数量 | - | - | 28B | 13.6B |
| 激活参数量 | - | - | 14B | 13.6B |
| 文本对齐度↑ | 3.99 | 3.81 | 3.70 | 3.76 |
| 视觉质量↑ | 3.23 | 3.13 | 3.26 | 3.25 |
| 运动质量↑ | 3.86 | 3.81 | 3.78 | 3.74 |
| 整体质量↑ | 3.48 | 3.36 | 3.35 | 3.38 |
图生视频
图生视频(Image-to-Video)在我们内部基准上的 MOS 评测结果。
| MOS 分数 | Seedance 1.0 | Hailuo-02 | Wan 2.2-I2V-A14B | LongCat-Video |
|---|---|---|---|---|
| 可获取性 | 闭源 | 闭源 | 开源 | 开源 |
| 架构 | - | - | MoE | Dense |
| 总参数量 | - | - | 28B | 13.6B |
| 激活参数量 | - | - | 14B | 13.6B |
| 图像对齐度↑ | 4.12 | 4.18 | 4.18 | 4.04 |
| 文本对齐度↑ | 3.70 | 3.85 | 3.33 | 3.49 |
| 视觉质量↑ | 3.22 | 3.18 | 3.23 | 3.27 |
| 运动质量↑ | 3.77 | 3.80 | 3.79 | 3.59 |
| 整体质量↑ | 3.35 | 3.27 | 3.26 | 3.17 |
社区作品
欢迎社区投稿!欢迎提交 PR 或在 Issue 中告知我们,我们将把你的作品添加进来。
- CacheDiT (https://github.com/vipshop/cache-dit) 提供了对 LongCat-Video 的全量缓存加速(Fully Cache Acceleration)支持,结合 DBCache 与 TaylorSeer,在几乎无明显精度损失的情况下实现了接近 1.7 倍的加速。请访问其示例 (https://github.com/vipshop/cache-dit/blob/main/examples/pipeline/run_longcat_video.py) 了解详情。
许可协议
模型权重 以 MIT License 发布。对本仓库的任何贡献均按 MIT License 授权,另有声明除外。本协议不授予使用美团(Meituan)商标或专利的任何权利。完整许可文本请参见 LICENSE 文件。
使用注意事项
本模型并非针对所有可能的下游应用专门设计,也未进行全面评估。开发者应充分考虑大语言模型的已知局限性,包括
相似文章
meituan-longcat/LongCat-Video
美团发布 LongCat-Video,一款 136 亿参数的基础视频生成模型,统一文本生成视频、图像生成视频与视频续写任务,支持高效长视频生成,采用块稀疏注意力机制,并结合多奖励 GRPO 的强化学习(RLHF)进行优化。
@berryxia: 卧槽 !这个项目可以啊! 又一个完整的AI视频创作平台开源了,前后端都是MIT协议。 Magiviz把“写剧本 → 定角色 → 画分镜 → 生成视频 → 成片”做成了全流程AI工作流,最长支持生成60秒视频,内置12种主流视频模型。 作者…
Magiviz是一个开源的AI视频创作平台,提供从写剧本到生成视频的全流程AI工作流,支持最长60秒视频,内置12种主流模型,代码以MIT协议开源。
美团发布LongCat-2.0,中国首个基于国产芯片的万亿参数AI模型
美团发布了LongCat-2.0,一个完全基于国产芯片训练的1.6万亿参数AI模型,声称在编码和智能体基准测试上匹配或超越领先的专有模型。
LongCat-Video 技术报告
LongCat-Video 是一个基于 Diffusion Transformer 的 13.6B 参数视频生成模型,支持文生视频、图生视频和视频续写任务,通过粗细粒度结合与分块稀疏注意力实现高效的长视频生成。
@hank_aibtc: https://x.com/victormustar/status/2058492201261244458/video/1… 我操!美团直接把商业闭源Avatar干翻了, 开源免费版LongCat-Video-Avatar-1.5来了! …
美团开源了LongCat-Video-Avatar-1.5模型,支持单张照片和语音生成逼真的说话视频,支持多语言、长视频,性能超越商业闭源方案。