基于图神经网络、深度交叉网络和SMILES嵌入的多模态分子表示学习

# 多模态分子表示学习：图神经网络、深度交叉网络与SMILES嵌入的结合

来源：https://arxiv.org/html/2607.05736

Chi Zhou2,∗\ast\quad  Ruobing Wang1,2\quad  Zheng Ma1,2

1杜克大学化学系，北卡罗来纳州达勒姆27708，美国

2佐治亚理工学院计算机科学系，佐治亚州亚特兰大30332，美国

∗\ast\quad 这些作者对本文贡献相同。

###### 摘要

分子性质预测通常依赖于孤立的数据模态，其中连续3D图神经网络（GNN）难以高效捕捉长程拓扑依赖性和精确的宏观启发式信息。本研究提出了一种参数高效的三分支模块化融合神经网络，该网络综合了三种正交模态：3D空间几何（SchNet）、离散拓扑语法（通过ChemBERTa的SMILES）和显式宏观物理化学描述符（深度交叉网络）。通过绕过标准标量读出并采用共享的晚期融合架构，该框架建立了一个数学上严谨的多模态潜在空间，有效解决了局部消息传递的算术限制和过平滑问题。我们在QM9基准上评估了所提出的架构，目标为0 K原子化能（\(U_0^\mathrm{atom}\)）这一扩展热力学性质。通过系统性的组合消融实验和潜在瓶颈优化（\(d_e=64\)），三模态框架实现了0.0207 eV的验证平均绝对误差（MAE）。该架构在不足一百万个参数的情况下，明确超越了亚化学精度阈值，相比严格控制的几何基准实现了20.6%的误差降低。最终，我们的研究结果表明，整合正交的宏观和拓扑数据流提供了一种协同的\(\mathcal{O}(1)\)物理捷径。这种多模态对齐为暴力参数缩放提供了一种高效替代方案，为高通量虚拟筛选（HTVS）流程建立了稳健的代理模型。

**关键词：** 多模态融合，图神经网络（GNN），SchNet，深度交叉网络（DCN），语义嵌入，分子性质预测，QM9。

## 1 引言

分子性质的精确预测是计算化学、药物发现和材料科学中的基础任务。传统上，原子化能、偶极矩和电子特性等性质是通过密度泛函理论（DFT）[1 (https://arxiv.org/html/2607.05736#bib.bib1)]等量子力学方法计算的。虽然DFT提供了高度可靠的预测，但其巨大的计算成本严格限制了在大规模工作流程中的适用性。因此，机器学习（ML）已成为关键的替代方案，以极小的计算开销近似DFT衍生的性质。

分子ML的发展得益于MoleculeNet [2 (https://arxiv.org/html/2607.05736#bib.bib2)]等标准化基准，以及将离散表示映射到连续潜在空间的生成模型[3 (https://arxiv.org/html/2607.05736#bib.bib3)]。近年来，几何深度学习通过直接从3D空间结构学习，主导了该领域。SchNet [4 (https://arxiv.org/html/2607.05736#bib.bib4)]等基础模型展示了连续滤波卷积的强大能力，后续的等变网络在QM9 [5 (https://arxiv.org/html/2607.05736#bib.bib5)]等标准数据集上实现了显著的误差下限。

然而，这种对绝对精度的追求驱使该领域走向高度参数化的架构。依赖复杂的高阶张量或大规模注意力机制，最先进的等变模型[6 (https://arxiv.org/html/2607.05736#bib.bib6), 7 (https://arxiv.org/html/2607.05736#bib.bib7)]通常需要数百万个参数。虽然这些架构达到了卓越的绝对精度，但其计算开销和高VRAM需求对高通量虚拟筛选（HTVS）等实际应用构成了瓶颈。在HTVS流程中，化学文库通常超过数百万个候选化合物，快速推理和参数效率与亚化学精度同样关键。这种动态凸显了对替代范式的迫切需求：不是通过单一空间模态的暴力参数缩放，而是通过互补数据源的计算轻量级综合，来实现稳健的预测保真度。

单一、仅基于几何的架构往往忽略了化学数据的异质性。除了3D空间坐标，分子还可以通过显式计算的物理化学描述符（0D宏观标量）和结构序列（1D SMILES字符串）[8 (https://arxiv.org/html/2607.05736#bib.bib8)]来丰富表征。虽然现代消息传递GNN擅长解析局部的量子微环境，但由于图过平滑，它们通常难以处理精确的全局计数任务和长程拓扑依赖性。相反，表格架构（如深度交叉网络）可以轻松映射显式的宏观启发式信息，而语言模型通过全局自注意力擅长捕捉长程拓扑语法。组合这些模态理论上提供了一种正交的数学捷径，可减轻GNN的盲点，但由于特征分布和信息密度的显著差异，这仍然是一个非平凡的挑战[10 (https://arxiv.org/html/2607.05736#bib.bib10)]。

为解决这一问题，我们提出了一种高度参数高效的多模态表示学习框架，该框架系统性地整合了连续几何特征、离散语义嵌入和显式有界物理化学描述符。我们的模块化架构通过专用编码器处理每种模态，然后将它们融合到一个共享的预测潜在空间中。几何分支使用连续滤波卷积捕获局部原子间依赖性，并通过加性池化适应扩展性质——这是预测原子化能等扩展热力学目标的数学要求。同时，深度交叉网络（DCN）[11 (https://arxiv.org/html/2607.05736#bib.bib11)]通过多项式交互显式建模全局物理化学启发式信息。最后，语义分支通过SwiGLU门控降维[12 (https://arxiv.org/html/2607.05736#bib.bib12)]蒸馏预训练的SMILES嵌入，捕获常被局部欧几里得卷积遮蔽的长程官能团模式。

我们在QM9基准上针对扩展性质的原子化能进行评估，主要贡献总结如下：

- **参数高效的多模态架构：** 我们提出了一种模块化三分支融合框架，集成了空间GNN、显式DCN特征交叉和SwiGLU门控SMILES嵌入。通过依靠多模态协同而非极端深度，该框架在不足一百万个参数下运行，非常适合快速推理流程。
- **亚化学精度：** 所提出的融合网络在QM9基准上实现了0.0207 eV的验证平均绝对误差（MAE），成功超越了标准亚化学精度阈值（≈0.0433 eV），同时保持轻量级计算足迹。
- **协同组合消融：** 通过跨单模态和双模态配置的全面消融，我们经验证明，综合正交宏观和拓扑数据相比严格控制的纯几何基线（0.0261 eV）带来了20.6%的显著误差降低。
- **潜在瓶颈分析：** 我们对语义嵌入维度（从32到256扫描）进行了系统性灵敏度分析，确定恰好64维是蒸馏全局拓扑而不对下游潜在空间过度参数化的最优信息瓶颈。
- **架构表格验证：** 我们评估了表格路由机制，确认通过DCN进行的显式多项式特征交叉相比标准MLP控制（0.0210 eV）建立了优越的验证下限。

## 2 多模态学习框架

### 2.1 架构概述

所提出的模块化融合网络旨在通过晚期融合架构综合三种正交分子模态。该范式确保每个数据流由结构优化的编码器处理，防止初始表示学习中的特征干扰。形式上，我们将分子 \(M\) 定义为多模态元组：

\[
M = (\mathcal{G}, \mathcal{T}, \mathcal{S}) \tag{1}
\]

其中 \(\mathcal{G} = (V, E)\) 表示3D分子图，\(\mathcal{T} \in \mathbb{R}^{d_{\text{tab}}}\) 是宏观物理化学描述符向量，\(\mathcal{S} \in \mathbb{R}^{d_{\text{sem}}}\) 是来自预训练语言模型的密集序列嵌入。

如图1 (https://arxiv.org/html/2607.05736#S2.F1) 所示，这些模态通过三个独立的参数化编码器——几何编码器 \(\Phi_{\text{geo}}\)、表格编码器 \(\Phi_{\text{tab}}\) 和语义编码器 \(\Phi_{\text{sem}}\)——路由，以提取统一隐藏维度 \(d_h\) 的结构对齐潜在向量。这种并行路由在投影到目标属性之前，将正交表示汇集到单一统一状态。

```
Molecule M
3D Graph G = (V, E)
Macroscopic T ∈ R^{d_tab}
SMILES S ∈ R^{d_sem}
Geometric Encoder Φ_geo: SchNet + Global Pooling
Tabular Encoder Φ_tab: Deep & Cross Network
Semantic Encoder Φ_sem: SwiGLU + LayerNorm
Concat z ∈ R^{3d_h}
Fusion MLP Ψ_fusion: Norm + LeakyReLU
ŷ (Target)

h_geo, h_tab, h_sem
```

**图1：三分支模块化融合网络示意图。** 该框架通过连续滤波GNN处理3D几何、DCN处理显式表格物理、以及SwiGLU门控编码器处理SMILES序列，从而泛化分子表示。对齐的潜在表示（\(\mathbf{h}_{\text{geo}}, \mathbf{h}_{\text{tab}}, \mathbf{h}_{\text{sem}}\)）被拼接并通过共享的晚期融合网络处理，以预测目标扩展性质（\(\hat{y}\)）。

### 2.2 几何编码器（\(\Phi_{\text{geo}}\)）

为捕获量子级预测所需的复杂原子间空间依赖性，我们的几何分支采用了连续滤波卷积架构[4 (https://arxiv.org/html/2607.05736#bib.bib4)]。每个原子 \(i \in V\) 与原子序数 \(Z_i\) 和笛卡尔坐标 \(\mathbf{r}_i \in \mathbb{R}^3\) 相关联。原子间距离 \(d_{ij} = \|\mathbf{r}_i - \mathbf{r}_j\|_2\) 参数化一个可学习的连续滤波网络，通过迭代消息传递更新节点表示。

在本工作中，我们选择0 K原子化能（\(U_0^\mathrm{atom}\)）作为主要预测目标来评估框架。为使架构结构性地适应这一特定目标，几何读出机制必须显式配置以匹配其底层物理。由于 \(U_0^\mathrm{atom}\) 是一种扩展热力学性质——其总幅度直接随分子系统中的原子数量缩放——标准的尺寸不变读出（如均值或最大池化）会错误地压缩这一关键的尺寸相关信息。

因此，在 \(L\) 个交互层之后，我们绕过标准读出。原始空间消息 \(\mathbf{h}_i^{(L)}\) 首先通过逐原子多层感知机（\(\mathrm{MLP}_{\mathrm{atom}}\)）细化，然后严格使用全局加性池化聚合：

\[
\mathbf{h}_{\text{geo}} = \sum_{i=1}^{|V|} \mathrm{MLP}_{\mathrm{atom}} \big( \mathbf{h}_i^{(L)} \big) \tag{2}
\]

通过采用这种加性约束，几何潜在表示（\(\mathbf{h}_{\text{geo}} \in \mathbb{R}^{d_h}\)）的幅度与原子数 \(|V|\) 成比例缩放，确保所得嵌入空间在数学和物理上与扩展宏观性质保持一致。

### 2.3 表格编码器（\(\Phi_{\text{tab}}\)）

为处理全局物理化学描述符（\(\mathcal{T}\)），我们使用了DCN [11 (https://arxiv.org/html/2607.05736#bib.bib11)]。与隐式学习特征交互的传统MLP不同，DCN显式计算有界多项式交叉特征依赖，为网络提供精确的宏观启发式信息。

对于第 \(l\) 个交叉层，交互公式为：

\[
\mathbf{x}_{l+1} = \mathbf{x}_0 \odot (\mathbf{W}_l^\top \mathbf{x}_l) + \mathbf{b}_l + \mathbf{x}_l \tag{3}
\]

其中 \(\mathbf{x}_0\) 是标准化输入向量，\(\mathbf{W}_l, \mathbf{b}_l\) 是可学习参数。同时，一个并行深度网络处理输入以提取隐式抽象模式（\(\mathbf{x}_{\text{deep}} = \mathrm{MLP}_{\mathrm{tab}}(\mathbf{x}_0)\)）。输出拼接后线性投影：

\[
\mathbf{h}_{\text{tab}} = \mathbf{W}_{\text{final}} [\mathbf{x}_{L_c} \parallel \mathbf{x}_{\text{deep}}] + \mathbf{b}_{\text{final}} \tag{4}
\]

其中 \(L_c\) 是交叉层总数，得到最终表格表示 \(\mathbf{h}_{\text{tab}} \in \mathbb{R}^{d_h}\)。

### 2.4 语义编码器（\(\Phi_{\text{sem}}\)）

SMILES字符串提供了分子结构的稳健拓扑映射。然而，直接拼接高维文本嵌入会引入特征冗余，并可能淹没低维物理模态。为高效地将此嵌入蒸馏到目标潜在空间，我们应用了SwiGLU门控投影机制[12 (https://arxiv.org/html/2607.05736#bib.bib12)]。

语义向量通过并行线性投影处理，并通过Sigmoid线性单元（SiLU）激活进行门控，随后进行dropout和层归一化：

\[
\mathbf{h}_{\text{sem}} = \mathrm{LayerNorm}\Big( \mathrm{Dropout}\big( (\mathcal{S}\mathbf{W}_1) \odot \mathrm{SiLU}(\mathcal{S}\mathbf{W}_2) \big) \Big) \tag{5}
\]

其中 \(\mathbf{W}_1, \mathbf{W}_2 \in \mathbb{R}^{d_{\text{sem}} \times d_e}\)。中间语义瓶颈维度 \(d_e\) 充当信息扼流点，系统性地过滤语言噪声，同时保留关键的长程拓扑依赖性，然后投影到 \(d_h\)。

### 2.5 多模态融合与优化

来自三个不同分支的潜在表示被拼接成统一的联合多模态状态（\(\mathbf{z} \in \mathbb{R}^{3d_h}\)）：

\[
\mathbf{z} = [\mathbf{h}_{\text{geo}} \parallel \mathbf{h}_{\text{tab}} \parallel \mathbf{h}_{\text{sem}}] \tag{6}
\]

这个拼接后的向量通过融合MLP（\(\Psi_{\text{fusion}}\)）处理，该MLP由