StepAudio 3 Music 技术报告

Hugging Face Daily Papers 论文

摘要

StepAudio 3 Music 介绍了一个大规模、长篇音乐生成模型,通过 ABC-CoT 实现显式音乐规划,在音频质量和相似度指标上取得了高分,与其他系统相比表现优异。

我们介绍了 StepAudio 3 Music,一个支持显式音乐规划和开放域文本控制生成的大规模、长篇音乐生成模型。StepAudio Music Tokenizer 将音频表示为来自 65536 条目的单一码本的 50-Hz 流,使用语义信息指导的自监督和多任务训练来保留音乐结构和与重建相关的信息。一个流匹配扩散 Transformer(DiT)预测连续的 StepAudio VAE 潜变量,我们的 VAE 解码器将其转换为 48-kHz 音频。这种离散-连续设计基于对单一码本 VQ、语义和声学 RVQ 以及不同 DiT 配置的比较来指导。为了显式规划,一个混合专家自回归模型使用 ABC 记谱法在预测音乐 token 之前生成中间编排计划(ABC-CoT),使和声、节奏和旋律结构成为生成上下文的一部分。一个渐进式训练课程和监督微调支持歌曲和器乐生成、从干人声生成伴奏,以及长达 5 分 30 秒的翻唱歌曲合成。通过直接偏好优化(DPO)的强化学习,最终模型在 AudioBox 内容愉悦度、内容有用性和制作质量得分上取得了最高分,并在评估系统中实现了最高的 MuQ-MuLan 相似度,SongBench 结果具有竞争力。在初步的人工分析音乐竞技场人声排行榜上,它获得了 1105 的质量 Elo 分数,仅落后于 Suno V5.5 和 Mureka,领先于 Suno V5、MiniMax 模型和其他系统。音频演示可在 https://stepaudiollm.github.io/step-audio-3-music 获取。
查看原文
查看缓存全文

缓存时间: 2026/09/16 10:47

论文页面 - StepAudio 3 Music 技术报告

来源:https://huggingface.co/papers/2609.16034 作者:

,

,

,

,

,

,

,

,

,

摘要

我们推出StepAudio3Music,一个支持显式音乐规划与开放域文本控制生成的大规模长程音乐生成模型。StepAudio Music Tokenizer采用语义感知自监督和多任务训练,将音频表示为50Hz流,源自65536条目的单一码本,在保持音乐结构的同时保留重建相关信息。流匹配扩散Transformer(DiT)预测连续的StepAudio VAE潜在变量,我们的VAE解码器将其转换为48kHz音频。这种离散-连续设计经过对单码本VQ、语义与声学RVQ以及不同DiT配置的比较研究得到验证。为实现显式规划,混合专家自回归模型采用ABC记谱法,在预测音乐token之前生成中间编排计划(ABC-COT),使和声、节奏与旋律结构成为生成上下文的一部分。渐进式训练课程与监督微调支持歌曲与纯器乐生成、从干声人声生成伴奏,以及最长5分30秒的翻唱歌曲合成。通过直接偏好优化(DPO)强化学习,最终模型在评估系统中获得了最高的AudioBox内容享受度、内容实用性与制作质量评分,以及最高的MuQ-MuLan相似度,同时在SongBench评测中表现优异。在初步的人工分析音乐竞技场人声排行榜上,该模型以1105的质量Elo分位居第三,仅次于Suno V5.5和Mureka,领先于Suno V5、MiniMax模型及其他系统。音频演示可访问:https://stepaudiollm.github.io/step-audio-3-music。

查看arXiv页面 (https://arxiv.org/abs/2609.16034) 查看PDF (https://arxiv.org/pdf/2609.16034) 项目页面 (https://stepaudiollm.github.io/step-audio-3-music/) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2609.16034)

在您的智能体中获取此论文:

hf papers read 2609.16034

没有最新CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型数:0

无模型关联此论文 在模型README.md中引用arxiv.org/abs/2609.16034以从本页面建立关联。

引用此论文的数据集数:0

无数据集关联此论文 在数据集README.md中引用arxiv.org/abs/2609.16034以从本页面建立关联。

引用此论文的空间数:0

无空间关联此论文 在空间README.md中引用arxiv.org/abs/2609.16034以从本页面建立关联。

包含此论文的收藏夹数:0

无收藏夹包含此论文 将此论文添加至收藏夹 (https://huggingface.co/new-collection) 以从本页面建立关联。

相似文章

StepAudio 3 Gen 技术报告

Hugging Face Daily Papers

StepAudio 3 Gen 是一个通用音频生成模型,它使用残差向量量化令牌,在一个单一的离散自回归框架内统一了文本转语音、声音设计、音效和音乐。

StepAudio 3 Realtime 技术报告

Hugging Face Daily Papers

论文介绍了StepAudio3Realtime,一个面向实时语音交互的音频语言基础模型,利用连续的听-说-想-行动循环结合Think-While-Speaking技术,以实现深度推理和低延迟,在MMSU和Full-Duplex Bench等基准测试中达到顶尖性能。

StepAudio 2.5 技术报告

Hugging Face Daily Papers

StepAudio 2.5 是一个统一的音频-语言模型,通过利用针对任务定制的基于人类反馈的强化学习来优化共享表示,在自动语音识别(ASR)、文本转语音(TTS)和实时口语交互方面取得了最先进的结果。

MiniMax-Music3 发布!

Reddit r/LocalLLaMA

MiniMax 发布 Music 3,一款高性能音乐生成模型,可根据歌词和详细描述生成最长五分钟的完整歌曲,配备 8B 全局大语言模型和 0.6B 局部大语言模型,以实现长程连贯性和声学细节。