移除时序捷径可提升非侵入式脑到文本解码性能
摘要
该论文发现非侵入式脑电解码语音中报告的大幅改进很大程度上可由时间间隔捷径在无脑数据的合成信号上复现;通过将句子内的滑动窗口独立编码以移除该捷径后,提出的SimpleB2T方法在五次观测下达到36.6%的词错误率,显著提升了脑到文本解码性能。
查看缓存全文
缓存时间: 2026/10/01 16:23
论文页面 - 移除时间捷径可改善非侵入式脑到文本解码
来源: https://huggingface.co/papers/2609.40359
摘要
我们发现,从非侵入式脑记录中解码词语的大幅性能提升,很大程度上在完全不使用任何脑数据的情况下即可复现。在 d’Ascoli 等人(2025)这项有影响力的工作中,受试者感知连续语音时的脑活动时间序列,被以每个词为起点切割成固定长度的窗口。随后,一个神经网络对句子中所有词语联合生成预测。相邻窗口部分重叠,隐式地泄露了词语之间的间隔。由于这些间隔反映了所说词语的持续时间,而不同词语往往具有不同长度——例如 “the” 远比 “supercalifragilisticexpialidocious” 短——神经网络便无需依赖底层脑活动就能改进对词语的预测。与此一致,该方法在不含任何脑信息的合成信号上达到了 22.0% 的平衡准确率,而在真实脑记录上为 22.3%。为阻止网络学到这一捷径,我们只做了一个简单改动:不再对句子中的所有窗口联合编码,而是各自独立地处理每个窗口。由此,神经网络通过学习来自脑记录的词语特有信息,获得了更好的性能。这使得两种已有策略变得比以往有效得多:对同一词语的不同神经反应的预测进行聚合,以及使用预训练 LLM 作为语言先验,现在都能显著提升结果。在我们的感知语音基准上,这一简单方案(SimpleB2T)在每词五次观测下达到了 36.6% 的词错误率,接近以往侵入式语音解码的性能,尽管所处条件不同。本研究的结果揭示了脑到文本解码中的一个重要捷径,并表明移除该捷径能带来一种更简单且显著更有效的策略。
查看 arXiv 页面 (https://arxiv.org/abs/2609.40359)查看 PDF (https://arxiv.org/pdf/2609.40359)GitHub 0 (https://github.com/neural-processing-lab/SimpleB2T)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.40359)
在你的 agent 中获取这篇论文:
hf papers read 2609.40359
没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用本文的模型 0
没有模型链接到这篇论文
在模型的 README.md 中引用 arxiv.org/abs/2609.40359,即可从本页面链接过去。
引用本文的数据集 0
没有数据集链接到这篇论文
在数据集的 README.md 中引用 arxiv.org/abs/2609.40359,即可从本页面链接过去。
引用本文的 Space 0
没有 Space 链接到这篇论文
在 Space 的 README.md 中引用 arxiv.org/abs/2609.40359,即可从本页面链接过去。
包含本文的合集 0
没有合集包含这篇论文
将本文添加到合集 (https://huggingface.co/new-collection) 以从本页面链接过去。
相似文章
Tacit-TTS:从自回归解码到掩码预测的免转录高效语音克隆
Tacit-TTS 将 IndexTTS2 的自回归文本到语义解码替换为掩码非自回归生成,并结合免训练的声学长度估计与 ReFlow 蒸馏,实现了无需参考文本的零样本语音克隆;在时长超过 5 秒的语音上,其生成速度比 IndexTTS2 快 10 倍以上,同时支持跨语言以及非语音(如婴儿咿呀学语、合成乱码)参考音频的克隆。
韵律到文本:从低通滤波语音中预测文本
本研究首次探索从韵律模式反向预测文本:通过仅使用最低 12 个 Mel 频带(约 450Hz 截止的低通滤波)微调 Whisper 模型,实现了 36% 的词错误率,表明低频语音特征与词汇内容的关联远强于此前认知。
RubatoCodec:基于预算的自适应语音令牌化与流式解码
RubatoCodec 提出一种基于固定语句事件预算的自适应语音令牌化方法,结合流式解码,在低事件率下显著提升语音重建质量与可懂度,并在匹配的文本到语音对比中取得更低 WER 与更高 UTMOS 分数。
从非侵入式脑电记录中准确解码自然语句
本文介绍了Brain2Qwerty v2,这是一个AI模型,能从非侵入式脑磁图记录中准确解码自然语句,词错误率为39%,证明了数据规模化有助于缩小与侵入式方法之间的性能差距。
基于 Transformer 的早期语音识别系统利用孟加拉语音频语音实现自动句子补全
提出了一种基于Transformer的孟加拉语语音识别与诊断系统,通过声学与文本特征检测痴呆症迹象,并利用Bi-LSTM注意力模型在对话中为患者自动补全未说完的句子,填补了低资源语言在认知障碍分析领域的空白。