Live Music Diffusion Models: 交互式扩散音乐生成器的高效微调与后训练
摘要
本文介绍了Live Music Diffusion Models(LMDMs),它通过修改扩散过程,实现了高效的块式处理以及新颖的训练范式,从而在消费级硬件上进行实时交互式音乐生成,在推理复杂度上超越了离散自回归模型,并实现了稳定的后训练对齐。
查看缓存全文
缓存时间: 2026/05/22 22:22
论文页面 - Live Music Diffusion Models: Efficient Fine-Tuning and Post-Training of Interactive Diffusion Music Generators
来源:https://huggingface.co/papers/2605.22717 作者:
,
,
,
,
,
,
,
,
,
摘要
音频扩散模型通过高效的逐块处理和新型训练范式,实现了在消费级硬件上的实时性能,从而适用于交互式音乐生成。
交互式流式音乐生成有望利用生成模型(https://huggingface.co/papers?q=generative%20models)实现现场表演和共同创作,这是离线模型无法做到的。然而,当前最先进的模型存在于离散自回归领域,在训练和推理时都需要工业级算力。在这项工作中,我们研究了音频扩散模型(https://huggingface.co/papers?q=audio%20diffusion%20models)——虽然它们在开源社区得到了广泛支持,但具有非流式双向特性——能否被高效地改造成可在消费级硬件上使用的交互式模型。通过批判性地审视现有的逐块外扩扩散(https://huggingface.co/papers?q=block-wise%20outpainting)流程,我们发现了推理过程中的关键低效问题,导致其计算效率严格低于离散自回归同类模型。我们提出了Live Music Diffusion Models(https://huggingface.co/papers?q=Live%20Music%20Diffusion%20Models)(LMDMs),这是对生成扩散过程的一个简单修改,通过逐块 KV 缓存(https://huggingface.co/papers?q=block-wise%20KV%20Caching)恢复并超越离散 Live Music Models(LMMs)的推理复杂度(https://huggingface.co/papers?q=inference%20complexity)。与 LMMs 不同,LMDMs 通过我们新颖的 ARC-Forcing 范式(https://huggingface.co/papers?q=ARC-Forcing%20paradigm)进一步实现了稳定的训练后对齐,无需任何显式的强化学习或奖励模型即可减少误差累积。我们展示了 LMDMs 在多个创意领域的应用,包括文本条件生成、基于草图的音乐合成以及即兴合奏。最后,我们展示了 LMDMs 如何在真实的人机协同创作中作为生成式乐器(https://huggingface.co/papers?q=generative%20instrument),充当“生成式延迟”效果,在消费级游戏笔记本上本地运行时,实时转换音乐家的即兴演奏,以获得可变的音色效果。
查看 arXiv 页面(https://arxiv.org/abs/2605.22717) 查看 PDF(https://arxiv.org/pdf/2605.22717) 项目页面(https://stephenbrade.github.io/lmdm-public/) GitHub5(https://github.com/ZacharyNovack/live-music-diffusion-models) 添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2605.22717)
在你的智能体中获取此论文:
hf papers read 2605.22717
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型 0
暂无模型链接此论文
请在模型 README.md 中引用 arxiv.org/abs/2605.22717 以从此页面链接。
引用此论文的数据集 0
暂无数据集链接此论文
请在数据集 README.md 中引用 arxiv.org/abs/2605.22717 以从此页面链接。
引用此论文的 Space 0
暂无 Space 链接此论文
请在 Space README.md 中引用 arxiv.org/abs/2605.22717 以从此页面链接。
包含此论文的收藏 0
暂无收藏包含此论文
将此论文添加到一个收藏(https://huggingface.co/new-collection)中以从此页面链接。
相似文章
面向扩散语言模型的表示空间 MMD
本文提出了一种面向扩散语言模型的后训练方法,通过最小化冻结的预训练 DLM 特征空间中生成分布与参考分布之间的最大均值差异(MMD),在 OpenWebText 和 GSM8K 上实现了更低的生成困惑度和更优的精度-计算量权衡,并在 16B 的 LLaDA-2.0 模型上提升了解码并行度。
非均匀离散扩散:更强、更可扩展
本文提出 LUDI,一种非均匀扩散语言建模框架,解决了均匀扩散语言模型中训练目标过度均匀以及条件与目标混淆的问题,实现了 7B 规模的均匀离散扩散语言模型(UDLM),在逐步处理速度上比自回归解码快 3 倍,同时在复杂推理任务上具备有竞争力的性能。
多块扩散语言模型
本文提出多块扩散语言模型(MBD-LMs),将单块扩散扩展为并发多块解码,并采用优化训练策略如多块教师强制(Multi-block Teacher Forcing)和优化的块缓冲区解码算法。实验表明,每次前向传递的令牌数增加,基准测试准确率提升。
服务掩码扩散大语言模型:基于真实硬件的特性分析与设计原则
本文利用真实硬件测量,表征了掩码扩散语言模型(dLLMs)的服务行为,识别了与自回归模型的关键区别,并推导出高效推理系统的设计原则。
Dynamic-dLLM:动态缓存预算与自适应并行解码,实现扩散大语言模型的无训练加速
本文提出 Dynamic-dLLM,一种无训练框架,通过动态分配缓存更新预算和校准解码阈值来加速扩散大语言模型,在 LLaDA 和 Dream 等模型上实现超过 3 倍的加速,同时保持性能。