Brain-CLIPLM:基于脑电压缩语义表征的语言重建解码
摘要
研究人员提出Brain-CLIPLM,一个两阶段脑电到文本解码框架,利用对比学习提取语义锚点,并结合基于检索的大语言模型(LLM)及思维链(CoT)推理进行句子重建。该方法在测试中达到67.55%的Top-5句子检索准确率和85.00%的Top-25准确率,显著优于直接解码基线模型,跨被试评估证实了其良好的泛化能力。研究结果表明,脑电到文本解码应聚焦于恢复压缩后的语义内容,而非完整句子重建。
arXiv:2604.16370v1 公告类型:新增
摘要:从非侵入性脑电图(EEG)解码自然语言仍然受到低信噪比和信息带宽受限的根本限制。这引发了一个基本问题:在如此受限的信号条件下,句子级语言结构能否被可靠地恢复?在这项工作中,我们认为在现实的信息约束下,这一假设可能并不成立。相反,我们提出语义压缩假说——脑电信号编码的是一组压缩的语义锚点,而非完整的语言结构。在这一新视角下,直接进行句子重建相对于脑电信号的内在信息容量而言是一个参数过多的目标。为解决这一不匹配问题,我们提出Brain-CLIPLM,这是一个两阶段框架,将脑电到文本解码分解为:通过对比学习提取语义锚点,以及使用基于检索的大语言模型(LLM)结合思维链(CoT)推理进行句子重建,遵循粒度匹配原则,使解码复杂度与神经信息容量相匹配。在苏黎世认知语言处理语料库(Zurich Cognitive Language Processing Corpus)上评估,Brain-CLIPLM实现了67.55%的Top-5和85.00%的Top-25句子检索准确率,显著优于直接解码基线方法,跨被试评估确认了稳健的泛化能力。控制分析(包括置换检验)进一步表明,脑电衍生表征携带了超出语言模型先验的句子特异性信息。这些结果表明,脑电到文本解码更适合被框架为恢复压缩语义内容而非重建完整句子,为非侵入性脑机接口提供了一条具有生物学基础且数据高效的路径。
相似文章
基于语义对齐的连续潜变量预测建模用于脑电-语言基础模型
该论文提出了BLPM,一种脑电-语言基础模型,利用连续潜变量预测建模和语义对齐将脑电信号映射到文本嵌入,在多样任务和数据集上实现了可泛化的神经解码。
语义瓶颈:利用语义表征进行非侵入式语音解码
本文介绍了Brain2Semantics2Text,一种非侵入式语音解码方法,通过将MEG响应映射到语义嵌入空间,在无词级对齐的情况下重构句子级文本。
脑电信号与文本的语义对齐:用于解码想象言语的对比学习框架
该论文提出一个对比学习框架,将EEG信号与冻结的预训练文本编码器的嵌入空间对齐,用于解码想象言语,并在Chisco数据集上验证了其在固定意图解码、相似度检索和语义结构探针方面的能力。
面向脑-语言对应的边界正则化结构化语义对齐
本文提出了MD-SigLIP,这是一个边界正则化结构化语义对齐框架,它直接对齐脑和文本嵌入以提升脑-语言解码,实现了最先进的检索性能。
稀疏自编码器将大脑-LLM对齐映射到皮层语义拓扑
本文使用稀疏自编码器将大语言模型分解为可解释的特征,并表明语义特征能够解释大脑与皮层语义拓扑的对齐,且该结论在英语、中文和法语中均具有泛化性。