DuET:音符-帧双编码的钢琴演奏到乐谱转录
摘要
DuET 是一种双编码器 Transformer,联合执行 MIDI 到乐谱的转录与节拍跟踪,以提升富有表现力的钢琴演奏转录中的时序和时值准确性,在钢琴谱数据集上实现了显著的 MUSTER 误差降低。
查看缓存全文
缓存时间: 2026/10/19 03:26
论文页面 - DuET:用于钢琴演奏到乐谱转录的音符-帧双重编码
来源:https://huggingface.co/papers/2610.21467
摘要
DuET 是一个双编码器 Transformer,联合执行 MIDI 到乐谱的转录以及节拍跟踪,以提升钢琴演奏转录中的时值与节奏准确性。
将富有表现力的钢琴演奏转录为乐谱,需要在底层节拍结构中解读各个音符的时值。然而,乐谱属性依附于音符,而节拍可能在没有音符起始点的位置出现。我们提出 DuET,即一个双编码器 Transformer(https://huggingface.co/papers?q=Dual-Encoder%20Transformer),联合学习音符级的演奏 MIDI 到乐谱(PM2S)转录以及帧级的节拍与强拍跟踪(https://huggingface.co/papers?q=downbeat%20tracking)。双向交叉注意力(https://huggingface.co/papers?q=cross-attention)连接音符编码器与帧编码器,而一个自回归解码器(https://huggingface.co/papers?q=autoregressive%20decoder)在二者的表示之间交替,以预测结构化的乐谱属性。我们进一步引入 TimeRoPE(https://huggingface.co/papers?q=TimeRoPE)以及时间-音高旋转位置编码 TPRoPE(https://huggingface.co/papers?q=TPRoPE),以建立共享的演奏时间基准,并显式编码相对时间与音高关系。在 ASAP(一个古典钢琴数据集)以及我们整理的 Gangqinpu 数据集(涵盖多种曲风,以流行钢琴音乐为主)上的评估表明,乐谱时值与记谱时值均有所提升。与各数据集上最强的基线相比,DuET 将 MUSTER 平均误差从 6.56% 降至 3.64%(Gangqinpu),从 11.30% 降至 11.22%(ASAP)。消融实验支持了帧级上下文、基于时间的位置编码以及解码器历史掩码的有效性。代码、权重和演示可在 https://github.com/wei-zeng98/DuET 获取。
查看 arXiv 页面(https://arxiv.org/abs/2610.21467)| 查看 PDF(https://arxiv.org/pdf/2610.21467)| 项目页面(https://huggingface.co/spaces/Wayne42/DuET-demo)| GitHub13(https://github.com/wei-zeng98/DuET)| 添加到收藏夹(https://huggingface.co/login?next=%2Fpapers%2F2610.21467)
在你的 agent 中获取本文:
hf papers read 2610\.21467
没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用本文的模型 1
Wayne42/DuET 其他 • 0.1B • 1 天前更新 • 79 • 2(https://huggingface.co/Wayne42/DuET)
引用本文的数据集 0
暂无关联本文的数据集
在数据集的 README.md 中引用 arxiv.org/abs/2610.21467,即可从此页面链接到该数据集。
引用本文的 Spaces 1
包含本文的收藏夹 0
暂无包含本文的收藏夹
将本文添加到收藏夹(https://huggingface.co/new-collection)即可从此页面链接到该收藏夹。
相似文章
多任务多帧视觉钢琴转录
本文介绍了V2N,这是首个完整的视觉钢琴转录系统,可联合从视频中预测起音、释音、按键保持和力度,在PianoVAM和R3基准上取得了最先进的结果。
PianoKontext: 从平淡上下文中生成富有表现力的演奏
PianoKontext 通过在潜在空间中利用动态时间规整对齐音频和MIDI,以及使用DiT模块的流匹配,从平淡的MIDI乐谱中生成可变长度的富有表现力的钢琴演奏。
Show HN: 我训练了一个1.25亿参数模型,在设备上实现钢琴自动补全
一位开发者训练了一个1.25亿参数的transformer模型,使用MIDI数据和DPO后训练,在设备上实时自动完成钢琴演奏,并发布了适用于iOS的RollTab应用。
SheetSage2:基于合成监督的连贯主旋律谱(Lead-Sheet)转谱
SheetSage2 是一个统一的音乐转谱框架,结合了合成 MIDI 监督、任务特定的结构化解码以及自回归蒸馏,在 15 个基准-指标组合中的 12 个上超越了已有系统,并公开了模型权重与代码。
MuScriptor:一个用于多乐器音乐转录的开放模型
MuScriptor 是一个开源的多乐器音乐转录模型,能够将录音转录为每种乐器的 MIDI 音符,无需事先知道存在的乐器。