基于太赫兹双梳光谱的多尺度特征注意力网络用于聚合物分类

arXiv cs.LG 论文

摘要

本文介绍了多尺度特征注意力网络(MSFAN),这是一种利用太赫兹双梳光谱对12种聚合物进行分类的深度学习架构,达到了85.2%的准确率,并超越了现有最先进模型。

arXiv:2606.06554v1 公告类型:新 摘要:可靠的聚合物识别对于确保回收塑料的质量和安全性至关重要,然而传统的分选和光谱技术往往难以提供稳健的区分。太赫兹双梳光谱(THz-DCS)提供了一种有前景的替代方案,能够实现快速、高分辨率且无损的测量。在本工作中,我们利用THz-DCS对12种聚合物进行分类,包括纯聚合物、多层薄膜、商业混合物和生物聚合物。为了处理这些光谱信号的复杂性,我们提出了多尺度特征注意力网络(MSFAN),这是一种专为THz-DCS数据定制的新型深度学习架构。该框架集成了特征门控用于信号重新校准,以及多尺度并行卷积以捕获不同的频率模式。通过跨特征注意力和注意力池化进一步优化这些特征,使模型能够内在突出最具信息量的太赫兹区域。MSFAN持续优于现有最先进模型,达到了85.2%的分类准确率。本研究证明了将THz-DCS与深度学习技术相结合用于有效、可扩展且可解释的聚合物分类的潜力。
查看原文
查看缓存全文

缓存时间: 2026/06/08 09:16

# 基于太赫兹双梳光谱的多尺度特征注意力网络聚合物分类方法
来源:https://arxiv.org/html/2606.06554
Roshni Mahtani¹, Ilán Carretero¹, Laura Monroy², Aldo Moreno-Oyervides², Oscar Elías Bonilla-Manrique², Rocío del Amor¹³ ¹瓦伦西亚理工大学人类中心技术与创新研究所(HUMAN-tech),西班牙瓦伦西亚 ²卡洛斯三世大学电子技术系,西班牙莱加内斯 ³Artikode Intelligence S.L.,西班牙瓦伦西亚

###### 摘要

可靠的聚合物识别对于确保再生塑料的质量与安全性至关重要,然而传统的分选和光谱技术往往难以实现稳健的区分。太赫兹双梳光谱(THz-DCS)提供了一种有前景的替代方案,能够实现快速、高分辨率且无损的测量。在本工作中,我们利用THz-DCS对12种聚合物进行分类,包括纯聚合物、多层薄膜、商业混合物和生物聚合物。为处理这些光谱信号的复杂性,我们提出了多尺度特征注意力网络(MSFAN),这是一种专为THz-DCS数据设计的新型深度学习架构。该框架集成了用于信号重校准的特征门控机制和用于捕获不同频率模式的多尺度并行卷积。这些特征通过跨特征注意力和注意力池化进一步优化,使模型能够内在突出最具信息量的太赫兹区域。MSFAN持续优于现有最先进模型,分类准确率达到85.2%。本研究展示了将THz-DCS与深度学习技术相结合,用于有效、可扩展且可解释的聚合物分类的潜力。

## I 引言

高效的塑料回收对于减少环境影响、促进资源循环以及确保产品安全至关重要。然而,工业回收常常因难以准确分类异质废物流中的聚合物而受困。即使是微小的杂质或有毒残留物也可能损害回收最终产品的机械完整性和安全性,尤其是在食品包装和医疗器械中[4 (https://arxiv.org/html/2606.06554#bib.bib1)]。

传统的分选方法,如人工检查和化学测试,要么仅限于表面特性,要么具有破坏性且对环境不安全。尽管红外(IR)和拉曼等光谱技术提供了非侵入性的替代方案,但其性能可能受到环境噪声、弱信号或荧光干扰的影响[2 (https://arxiv.org/html/2606.06554#bib.bib11)]。太赫兹(THz)光谱因其高穿透深度、对样品影响小以及能够同时测量振幅和相位(从而精确确定吸收系数和折射率)而成为一种有前景的解决方案。然而,传统的太赫兹时域光谱(THz-TDS)受限于采集速度和光谱分辨率,限制了其在高通量工业分选中的可行性。

为解决这些限制,太赫兹双梳光谱(THz-DCS)作为一种先进的传感模式应运而生。通过采用两个重复频率略有偏移的频率梳,THz-DCS能够实现快速、高分辨率的光谱采集,无需机械扫描[3 (https://arxiv.org/html/2606.06554#bib.bib28)]。这种速度与精度的结合使THz-DCS在聚合物表征方面特别有吸引力。然而,所得光谱信号的固有复杂性需要数据驱动的方法来提取判别信息。

深度学习(DL)在自动化聚合物分类中已被广泛采用,在多种架构上取得了强劲性能[5 (https://arxiv.org/html/2606.06554#bib.bib14),7 (https://arxiv.org/html/2606.06554#bib.bib15)]。尽管如此,现有文献大多依赖于仅包含纯聚合物[7 (https://arxiv.org/html/2606.06554#bib.bib15)]或合成混合物[1 (https://arxiv.org/html/2606.06554#bib.bib18)]的数据集。这些数据集仅部分反映了实践中遇到的材料变异性,其中聚合物样品可能包含混合物、多层结构或生物基材料,具有更复杂的光谱特征。

在本工作中,我们通过使用THz-DCS测量来分类12种聚合物(包括纯聚合物、多层薄膜、商业混合物和生物聚合物)来应对这些挑战。为此,我们提出了多尺度特征注意力网络(MSFAN),这是一种新颖的深度学习框架,集成了光谱选择、多尺度卷积和注意力机制。MSFAN在分类准确率上设立了新的基准,同时有效地映射了聚合物区分最关键的谱区。本研究的主要贡献总结如下:

- •基于THz-DCS的聚合物分类:我们证明了THz-DCS利用高分辨率太赫兹光谱进行准确聚合物分类的适用性。
- •多尺度注意力架构:我们引入了MSFAN,这是一个集成了特征门控、多尺度并行卷积、跨特征注意力和基于注意力的池化的框架。该架构在性能上优于最先进的方法,同时能够内在识别信息量最丰富的太赫兹频率区域。
- •对混合聚合物样品的评估:我们在一个包含纯聚合物、多层薄膜、商业混合物和生物聚合物的异质数据集上评估了所提出的框架。

参见图注 图1:MSFAN架构概览。THz-DCS光谱经过厚度归一化,并通过一个可学习的门控模块进行重校准。多尺度Conv1D分支(核大小为3、5、7)提取互补的光谱特征,这些特征被拼接并通过多头自注意力(MHSA)进行建模。基于softmax的注意力池化将频率信息聚合成一个紧凑的嵌入,随后进行MLP分类。

## II 方法论

所提出框架的概览如图1 (https://arxiv.org/html/2606.06554#S1.F1)所示。以下小节提供了问题表述和框架组件的详细描述。

### II-A 问题表述

我们将任务定义为一个有监督的多类分类问题。每个光谱特征表示为一个特征向量 \( X = \{x_f\}_{f=1}^F \),由 \( F=50 \) 个等距频率分量组成,采样范围为100至590 GHz。数据集为每个样本提供了一个真实标签 \( y \in \{1,\dots,Y\} \),对应 \( Y=12 \) 个不同的聚合物类别之一。我们的目标是学习一个模型 \( p_\theta: \mathbb{R}^F \to [0,1]^Y \),将给定输入 \( X \) 映射到预测 \( \hat{y} \),并最小化与真实标签 \( y \) 之间的差异。

### II-B 物理不变性预处理

透射光谱中的一个基本挑战是光谱幅度对样品厚度 \( d \) 的依赖性。根据比尔-朗伯定律[9 (https://arxiv.org/html/2606.06554#bib.bib29)],检测到的信号强度与光程长度固有地耦合,作为材料化学身份外在的一个缩放因子。为了在不依赖绝对透射参考的情况下减轻这种变异性并强制几何不变性,我们实现了一种基于物理原理的归一化策略。采用衰减过程的一阶近似,我们通过将原始光谱幅度相对于样品厚度进行归一化,定义了一个厚度不变的特征空间 \( \tilde{X} \):\( \tilde{x}_f = x_f / d \)。这种简单而有效的变换消除了由厚度变化引入的几何偏差,确保预测模型 \( p_\theta \) 仅依赖于聚合物的内在光谱特征。

### II-C MSFAN:多尺度特征注意力网络

#### II-C1 光谱重校准与多尺度提取

为了从厚度不变的输入 \( \tilde{X} \in \mathbb{R}^F \) 中解耦出细微的光谱模式,我们以可学习的光谱重校准模块启动管道。我们首先通过一个由权重 \( W_g \in \mathbb{R}^{F \times F} \) 和偏置 \( b_g \in \mathbb{R}^F \) 参数化的密集门控层对归一化光谱进行投影。由 hard-sigmoid 函数 \( \sigma_{HS} \) 激活,该层生成一个注意力掩码 \( \bm{\alpha} = \sigma_{HS}(W_g \tilde{X} + b_g) \),并逐元素应用 \( (X_g = \tilde{X} \odot \bm{\alpha}) \) 以动态重新加权光谱带,抑制背景噪声,同时强调判别性的双梳干涉特征。

重校准后的信号随后由一个灵感来自Inception的多尺度模块处理,旨在捕获不同分辨率下的形态变化。我们采用三个并行的1D卷积分支,具有不同的核大小(\(\text{kernel} \in \{3,5,7\}\)),每个分支由 \( C=32 \) 个滤波器组成。这种并行拓扑使得能够同时编码高频局部峰值和宽广的光谱趋势。分支输出通过ReLU激活,并沿通道维度拼接,生成一个丰富的特征图 \( Z_{MS} \in \mathbb{R}^{3C \times F} \)。最后,应用批量归一化以稳定这些特征的分布。

#### II-C2 全局光谱上下文化与加权聚合

虽然卷积阶段提取了局部形态特征,但缺乏全局感受野。为了捕获长距离依赖关系,我们将光谱特征图视为一个序列 \( S \in \mathbb{R}^{F \times 3C} \),并应用多头自注意力(MHSA)机制。我们首先通过可学习矩阵将输入投影为查询(\( Q \))、键(\( K \))和值(\( V \))。通过计算光谱带之间的对齐分数来生成输出上下文 \( Z \in \mathbb{R}^{F \times 3C} \):
\[
Z = \text{softmax}\left(\frac{QK^\top}{\sqrt{d_k}}\right)V,
\]
其中 \( d_k \) 代表 \( K \) 和 \( Q \) 的维度。

随后,为了将此序列压缩成一个固定长度的描述符,我们实现了一种内容感知的注意力池化机制。我们通过线性投影和softmax归一化为每个 \( F \) 光谱频率计算一个标量重要性分数,生成一个权重向量 \( a \in \mathbb{R}^F \)。最终的嵌入 \( H \in \mathbb{R}^{3C} \) 通过加权聚合得到:
\[
H = \sum_{j=1}^F a_j z_j,
\]
其中 \( z_j \) 表示 \( Z \) 的第 \( j \) 行向量。这种表述确保了在分类之前,特征表示明确由最具判别性的信号驱动。

#### II-C3 分类头与稀疏优化

聚合后的光谱描述符 \( H \) 通过一个多层感知器(MLP)映射到最终的决策空间。该投影头包含两个配备ReLU激活函数的全连接隐藏层,以捕获非线性决策边界。为增强泛化能力,我们在倒数第二层之前应用dropout正则化。最终的线性变换生成类别逻辑值 \( \hat{y} \in \mathbb{R}^Y \),代表聚合物类别的非归一化对数概率。

为优化网络参数 \( \theta \),我们将目标函数构建为交叉熵损失 \( \mathcal{L}_{CE} \) 和 \( L_1 \) 稀疏惩罚项的加权组合。主要监督信号由带有标签平滑(\( \epsilon=0.1 \))的 \( \mathcal{L}_{CE} \) 提供,它惩罚错误分类,同时防止模型在噪声光谱数据上过度自信。作为补充,我们对门控激活向量 \( \alpha \) 应用 \( L_1 \) 正则化项。这一稀疏约束最小化了注意力权重的累积幅度,迫使网络主动抑制无关光谱带,仅将计算资源集中在判别性频率上。MSFAN损失定义为:
\[
\mathcal{L}_{MSFAN} = \mathcal{L}_{CE}(\hat{y}, y_{smooth}) + \lambda \frac{1}{F} \sum_{k=1}^F |\alpha_k|,
\]
(1)

## III 实验设置

### III-A 数据集

数据集包含连续五天从12种聚合物类型(如表I (https://arxiv.org/html/2606.06554#S3.T1)所示)收集的双梳光谱测量值。材料包括纯聚合物(D、I、J、L、O)、多层结构(A、B、F、H)、商业混合物(C)和生物聚合物(E、G)。对于每种材料,信号在低增益(LG)和高增益(HG)配置下均被采集,以确保在亚太赫兹光谱范围内具有宽动态范围。

表I:聚合物样品及相应厚度。PE:聚乙烯,tie:粘合层,EVOH:乙烯-乙烯醇,ABS:丙烯腈-丁二烯-苯乙烯,PC:聚碳酸酯,Ecovio:可生物降解混合物,PVOH:聚乙烯醇,PP:聚丙烯,PHB:聚羟基丁酸酯,PS:聚苯乙烯,LDPE:低密度聚乙烯,PVC:聚氯乙烯,PET:聚对苯二甲酸乙二醇酯。

测量协议在亚太赫兹区域(100–590 GHz)以10 GHz步长运行,得到 \( F=50 \) 个离散频率点。在每个频率步长处,系统记录聚合物响应12秒,捕获多个时间快照。

为构建最终的光谱特征向量,我们跨频率步长应用了一种时间对齐策略。具体地,第 \( i \) 个光谱实例是通过从每个频率通道中连接第 \( i \) 个时间采集快照生成的。为确保严格的平衡基准,我们确定了所有实验共有的最小有效快照数量,为每种聚合物、每天、每种增益配置保留了 \( N=209 \) 个独立光谱实例。这产生了一个固有包含物理变异性的数据集,包括样品厚度(\( d \in [0.07, 3.00] \) mm)和环境波动,即温度(\( T \in [19.7, 24.3]^\circ \)C)和相对湿度(\( RH \in [25.4, 42.6]\% \))。

### III-B 信号集成策略

为利用LG和HG信号的互补动态范围,我们研究了不同的处理配置。为确保尺度一致性,我们对每个信号应用独立的min-max归一化。我们将单源性能(LG、HG)与输入级聚合(早期融合)进行基准比较,包括逐元素平均(MEAN)、最大化(MAX)和通道拼接(CONCAT)。此外,我们引入了晚期融合聚合(DUAL),其中独立的骨干网络分别处理每个增益流,在最终分类之前拼接其潜在表示。

### III-C 实验配置

我们使用留一天交叉验证方案来验证所提出的框架,以严格评估针对时间变异性的泛化能力,这实际上构成了一个分层5折协议。模型性能通过准确率(ACC)、特异性(SPE)、精确率(PPV)和F1分数(F1)来量化,注意对于我们的平衡数据集,ACC在数学上等同于宏平均召回率。参数使用Adam求解器(初始学习率 \( 1 \times 10^{-4} \))在100个周期内进行端到端优化。

相似文章

用于聚合物自动化粗粒化分子动力学的多智能体框架

arXiv cs.AI

本文介绍了CGMas,一个多智能体LLM框架,可自动化聚合物的粗粒化分子动力学,包括拓扑构建、平衡、映射、势推导和验证。它完成了27项聚合物任务,并在大多数情况下将原子级密度匹配在5%以内,大幅缩短了模拟时间。