easyaligner: 支持GPU加速和灵活文本归一化的强制对齐工具(兼容HF Hub上的所有w2v2模型)[P]
摘要
easyaligner是一个开源强制对齐库,具有GPU加速和灵活的文本归一化功能,适配Hugging Face Hub上的所有wav2vec2模型。它针对实际工作流进行了优化,可以处理部分转录、无关语音段落和长音频(无需分块),同时保留原始文本格式。
https://preview.redd.it/f4d5krhkjyvg1.png?width=1020&format=png&auto=webp&s=11310f377b22abbe3dd110cc7d362ba8aae35f8d 我开发了[`easyaligner`](https://kb-labb.github.io/easyaligner/),一个设计用于高性能且易于使用的强制对齐库。在为语音转文字模型预处理数十万小时的音频和文本的工作中,我发现现有的开源强制对齐库往往缺少一些实用功能。对我们的目的而言,工具特别需要能够:
* 处理转录内容不覆盖音频全部内容的情况(通过自动检测相关音频区域)。
* 处理音频段开头/结尾存在的无关语音。
* 最好能处理长音频和文本段落,无需分块。
* 对原始文本进行归一化以提高对齐质量,同时保持归一化文本与原始文本的映射关系,以便对齐后恢复原始文本的格式。
`easyaligner`将这些工作流改进整合到一个强制对齐库中。文档包含了不同[对齐场景](https://kb-labb.github.io/easyaligner/get-started/overview.html#tutorials)和[自定义文本处理](https://kb-labb.github.io/easyaligner/get-started/text_processing.html)的教程。对齐输出可以在任何粒度级别(句子、段落等)进行分割,同时保留原始文本的格式。
强制对齐后端使用[PyTorch的强制对齐API](https://docs.pytorch.org/audio/main/tutorials/ctc_forced_alignment_api_tutorial.html),并采用基于GPU的Viterbi算法实现。它既快速又节省内存,可以在一次处理中处理数小时的音频/文本,无需对音频进行分块。我已经调整了API,支持从Hugging Face Hub上所有的wav2vec2模型提取发射值。只要HF Hub上有能转录该语言的w2v2模型,你就可以对任何语言的音频和文本进行强制对齐。
`easyaligner`支持从原始转录和ASR模型输出进行对齐。查看其配套库[`easytranscriber`](https://kb-labb.github.io/easytranscriber/)了解如何将`easyaligner`作为后端来对齐ASR输出的示例。它的工作方式与`WhisperX`相同,但转录速度[快35%到102%](https://kb-labb.github.io/easytranscriber/benchmarks.html),具体取决于硬件配置。
文档:[https://kb-labb.github.io/easyaligner/](https://kb-labb.github.io/easyaligner/)
Github源码(MIT许可证):[https://github.com/kb-labb/easyaligner](https://github.com/kb-labb/easyaligner)
相似文章
Montreal Forced Aligner与2026年语音转文字对齐的现状
本文记录了Montreal Forced Aligner 3.0,一款广泛使用的开源强制对齐工具,在英语、日语和韩语上实现了最先进的性能,平均边界误差低于15毫秒。
将强制对齐扩展到终端设备
论文通过使用Hirschberg算法和约束随机游走对Viterbi算法进行优化,将内存使用从140 GB减少到5 MB并提高速度,使得强制对齐能够在终端设备上运行,从而提升语音处理的可扩展性。
NVAlign:连续自回归流匹配文本到语音中非语言控制的直接梯度优化
NVAlign是一种直接梯度优化方法,用于微调文本到语音模型,以可靠地产生非语言声音如笑声和叹息,提高性能优于标准微调和flow-GRPO,同时保持自然度。
对齐就是一切:面向通用音频-语言模型的无指令训练
本文介绍了一种无指令的纯对齐方法,用于构建大型音频-语言模型,该方法通过冻结LLM和音频编码器,仅在自生成数据上训练一个轻量级投影器,实现了与传统多阶段流程相比更少数据下的竞争性性能。
WavAlign:通过自适应混合后训练提升口语对话模型的智能与表现力
WavAlign 提出一种模态感知的自适应后训练方法,利用受限偏好更新与显式锚定,在端到端口语对话模型中同步提升语义质量与语音表现力。