EquiFiLM：基于特征线性调制的电荷条件等变力场

arXiv cs.LG 论文
equivariant-neural-networks force-fields machine-learning charge-conditioning feature-wise-linear-modulation molecular-dynamics e3-equivariance

摘要

本文介绍了EquiFiLM，这是一种轻量级扩展，通过特征线性调制向等变基础机器学习力场添加连续外部条件，以极少的训练数据实现了显著的精度提升。

arXiv:2607.05559v1 公告类型：新\n摘要：基础机器学习力场（MLFF），如 MACE-MP-0 和 UMA，以接近密度泛函理论（DFT）的精度覆盖了广泛的化学空间。然而，它们假定平衡基态物理，并不原生处理外部诱导的电子态变化（如充电、外加电场或电子激发），这限制了它们在光激发和电荷注入等驱动过程中的应用。我们提出了 EquiFiLM，这是一种轻量级扩展，通过逐层特征线性调制（FiLM）块为任何等变基础 MLFF 添加连续外部条件，从极少的训练数据中学习外部驱动的势能面变化。该块仅调制标量通道，并精确保持 E(3) 等变性。我们以基础模型 MACE-MatPES 为骨干在带电液态水上演示了该方法，得到了 E-MACE。在四个训练电荷下，与在相同数据上训练且不含 EquiFiLM 的基线相比，E-MACE 的力均方根误差（RMSE）降低了 $3.1\times$（从 $21.3$ 降至 $6.96$ meV/$\mathring{A}$），每原子能量 RMSE 降低了 $61\times$（从 $6.1$ 降至 $0.1$ meV/atom），而推理成本几乎相同。在七个保留的插值和外推电荷中，力 RMSE 保持在 $18-61$ meV/$\mathring{A}$ 范围内，能量 RMSE 保持在 $0.7-5.4$ meV/atom 范围内。该模型在测试的整个范围内运行稳定的分子动力学，并预测了超快电子衍射探测到的约化对分布函数中与电荷相关的第一壳层响应。为基础模型添加这一条件轴只需数千个 DFT 标注的帧，而从头训练一个电荷感知的基础模型则需要约 $10^8$ 个结构。该方案对骨干网络和条件类型无关：它无需架构更改即可应用于任何具有标量相互作用层通道的等变 MLFF。
查看原文
查看缓存全文

缓存时间: 2026/07/08 04:44 

# EquiFiLM: 基于特征线性调制的电荷条件等变力场  
来源：https://arxiv.org/html/2607.05559  
Samuel Sahel\-Schackis¹,²,³∗, Ken\-ichi Nomura⁴, Aiichiro Nakano⁴, Matthias F. Kling³,⁵,Thomas Linker²,³  
1 斯坦福大学物理系  
2 斯坦福直线加速器相干光源（LCLS），SLAC国家加速器实验室  
3 斯坦福PULSE研究所，SLAC国家加速器实验室  
4 南加州大学先进计算与模拟合作实验室  
5 斯坦福大学应用物理系  
∗[email protected]  

###### 摘要  

基础机器学习力场（MLFF），如MACE-MP-0和UMA，在接近密度泛函理论（DFT）精度的水平上覆盖了广泛的化学空间。然而，它们假设平衡基态物理，并不能原生处理外部诱导的电子态变化，如充电、外加电场或电子激发，这限制了它们在光激发和电荷注入等驱动过程中的应用。我们提出EquiFiLM，一种轻量级扩展，通过逐层特征线性调制（FiLM）块，为任意等变基础MLFF添加连续外部条件，从最小训练数据中学习外部驱动对势能面的影响。该块仅调制标量通道，精确保持E(3)等变性。我们在带电液态水上以基础模型MACE-MatPES为骨干演示了该方法，得到E-MACE。在四个训练电荷上，E-MACE的力均方根误差（RMSE）降低了3.1倍（从21.3到6.96 meV/Å），每原子能量RMSE降低了61倍（从6.1到0.1 meV/atom），而推理成本与在相同数据上训练的无EquiFiLM基线无法区分。在七个保留的插值和外推电荷上，力RMSE保持在18−61 meV/Å范围内，能量RMSE保持在0.7−5.4 meV/atom范围内。该模型在测试的整个范围内运行稳定的分子动力学，并预测了超快电子衍射探测的约化对分布函数的电荷依赖第一壳层响应。为此基础添加这一条件轴仅需要几千个DFT标记的帧，而从头训练的电荷感知基础则需要约10^8个结构。该配方对骨干网络和条件变量均无关：它无需架构更改即可应用于任何具有标量交互层通道的等变MLFF。

## 1 引言  

在连续外部控制下的原子模拟，受总电荷、温度、外加电场、静水压力或掺杂比例的条件约束，是电化学、光化学、掺杂材料设计等许多实际应用的核心。基础机器学习力场（MLFF），如MACE-MP-0[2 (https://arxiv.org/html/2607.05559#bib.bib2)]和UMA[31 (https://arxiv.org/html/2607.05559#bib.bib52)]，现已达到接近DFT的精度，覆盖了元素周期表的大部分，此外还有其他最先进的原子间势，包括严格等变的架构MACE-MatPES[18 (https://arxiv.org/html/2607.05559#bib.bib3)]、EquiformerV3[22 (https://arxiv.org/html/2607.05559#bib.bib53)]、eSEN[9 (https://arxiv.org/html/2607.05559#bib.bib54)]和SevenNet-Omni[19 (https://arxiv.org/html/2607.05559#bib.bib57)]，以及非等变或旋转未约束的替代方案Orb-v3[29 (https://arxiv.org/html/2607.05559#bib.bib56)]和PET-MAD[25 (https://arxiv.org/html/2607.05559#bib.bib55)]。在它们的标准形式中，这些力场仅以原子位置和种类为条件。模型没有输入路径来传递每图外部标量，因此两个共享几何结构但条件不同的系统会产生完全相同的预测。

当前将外部条件引入MLFF的方法需要在泛化性与增加的架构和训练成本之间进行权衡。忽略电荷的基础MLFF随着电荷的增加性能迅速下降，在带电液态水上的力误差上升到数百meV/Å（图1 (https://arxiv.org/html/2607.05559#S1.F1)）。按状态专用的模型（每个电荷一个模型）在其训练电荷上达到可接受的精度，但无法泛化到未见过的电荷（附录A (https://arxiv.org/html/2607.05559#A1)）。基于物理的电荷感知基础模型，如MACE-POLAR-1-M[1 (https://arxiv.org/html/2607.05559#bib.bib24)]以及更广泛的电荷平衡模型系列4G-HDNNP[20 (https://arxiv.org/html/2607.05559#bib.bib20)]、AIMNet2-NSE[17 (https://arxiv.org/html/2607.05559#bib.bib23)]、DPLR[32 (https://arxiv.org/html/2607.05559#bib.bib27)]和SpookyNet[30 (https://arxiv.org/html/2607.05559#bib.bib33)]，通过构造解决了电荷情况。然而，它们以高昂的成本为代价：需要专门的原子电荷监督、显式的逐原子库仑机制或迭代电荷平衡，并且该系列的成员从头训练时需要约10^8个结构[1 (https://arxiv.org/html/2607.05559#bib.bib24)]。

我们提出EquiFiLM，一种轻量级的逐层适配器，可为任何等变基础MLFF赋予连续外部条件轴。其机制是一个小型的特征线性调制块[27 (https://arxiv.org/html/2607.05559#bib.bib34)]，其门控参数由每图多层感知器（MLP）从条件输入生成。该块仅调制每个交互层的标量通道，不影响更高阶的等变特征，并精确保持E(3)等变性。

参考图注  
图1：在七个模型上，三个不同条件下的每个电荷力RMSE（四个训练电荷）：*零样本基础模型*（虚线）、*从头训练*（点线）和*在训练数据上微调*（实线）。E-MACE在其MACE-MatPES骨干网络上大幅改进，达到了规模更大、专门构建的电荷感知基础模型MACE-POLAR-1-M微调后的精度。

将该方法应用于带电液态水上的MACE-MatPES骨干网络，得到的模型E-MACE在训练电荷上的每电荷力均方根误差（RMSE）与我们比较的任何方法的最佳结果相当（即规模更大的电荷感知基础模型MACE-POLAR-1-M微调后的结果），并且推理成本在统计上与没有EquiFiLM的相同骨干网络微调后无法区分（表1 (https://arxiv.org/html/2607.05559#S1.T1)）。它在训练中从未见过的插值和外推电荷上也能泛化力和能量，并在测试的整个电荷范围内运行稳定的分子动力学。由于该适配器对骨干网络无关且仅调制标量通道，同样的构造原则上可扩展到其他等变MLFF以及其他连续标量外部变量，如温度、静水压力或掺杂比例。

表1：单步推理成本（单个A100 GPU，324原子晶胞，批量大小1）。FiLM适配器与在同一数据上微调的无条件MACE-MatPES骨干网络相比，没有增加可测得的每步成本，并且比MACE-POLAR-1-M快3倍。

## 2 方法  

### 2.1 MACE中的等变消息传递  

EquiFiLM实例化在等变消息传递骨干网络上，具体是MACE-MatPES[18 (https://arxiv.org/html/2607.05559#bib.bib3)]。以下设计选择可泛化到任何在其交互层具有标量通道的等变原子间势。在此类网络中，每个原子i携带一个节点特征\(h_i^{(t)}=\bigoplus_{\ell\geq 0}h_i^{(t,\ell)}\)，它分解为O(3)的不可约表示，阶数为\(\ell\)：标量（\(\ell=0\)）、向量（\(\ell=1\)）以及更高阶张量。原子间的消息通过沿边的不可约特征的张量积构造。MACE[3 (https://arxiv.org/html/2607.05559#bib.bib1)]使用原子簇展开[7 (https://arxiv.org/html/2607.05559#bib.bib58)]中的高体阶消息，并且仅用两个交互层就达到了参考精度。每个交互层输出一个消息张量\(m_i^{(t)}=\bigoplus_{\ell}m_i^{(t,\ell)}\)，随后是线性投影\(h_i^{(t+1)}=W\cdot m_i^{(t)}\)。从位置和特征到输出的函数f是E(3)等变的，如果对于任何旋转\(R\in O(3)\)和平移\(t\in\mathbb{R}^3\)，有\(f(Rx+t,\rho_{\rm in}(R)h^{\rm in})=\rho_{\rm out}(R)f(x,h^{\rm in})\)，(1) 其中\(\rho_{\ell}(R)\)通过\(\ell\)阶的Wigner-D矩阵作用于\(h^{(\ell)}\)。等变性在以下任何操作下保持：将标量特征映射为标量特征，并对\(\ell\geq 1\)通道进行恒等操作。因此，将特征张量的标量切片乘以或偏移一个每图表量的函数，精确保持E(3)等变性，因为该函数本身是O(3)不变的。

### 2.2 ChargeFiLM块  

设\(c\in\mathbb{R}\)为一个每图条件标量（在本文实验中为总电荷q，以每原子密度\(c=q/N\)输入，N为晶胞原子数），并设\(N_s\)为交互层t中的标量通道数。定义两个独立的双层MLP，每个为\(\mathbb{R}\to\mathbb{R}^{N_s}\)，隐藏宽度为h，激活函数为SiLU，分别生成\(\gamma(c)\in\mathbb{R}^{N_s}\)和\(\beta(c)\in\mathbb{R}^{N_s}\)。ChargeFiLM块变换层t中每个节点特征的标量切片如下：
\(m_i^{\prime\,(t,\ell=0)}=(\mathbf{1}+\gamma(c))\odot m_i^{(t,\ell=0)}+\beta(c),\quad m_i^{\prime\,(t,\ell\geq 1)}=m_i^{(t,\ell\geq 1)}\)，(2)
其中\(\odot\)表示逐元素乘法，\(\mathbf{1}\)表示全1向量。该块插入在消息张量\(m^{(t)}\)和线性投影W之间，如图2 (https://arxiv.org/html/2607.05559#S2.F2)所示。门控参数\(\gamma\)和\(\beta\)仅依赖于每图标量c，且仅作用于标量通道，因此该块保持E(3)等变性。原子排列等变性得以保持，因为c对每个节点都相同。

参考图注  
图2：ChargeFiLM块及其与MACE的集成。*左*：ChargeFiLM块插入在等变张量积和MACE交互层的线性投影之间，分别在K=2层中的每一层独立应用。*右*：两个小型MLP将每图标量c映射为\(\gamma(c)\)和\(\beta(c)\)，它们通过\(\mathbf{1}+\gamma(c)\)和\(\beta(c)\)缩放和平移消息张量的标量通道，而等变通道（\(\ell\geq 1\)）保持不变。两个层的标量通道数\(N_s\)分别为128和256。

两个门控MLP的输出线性层初始化为零，使得\(\gamma(c)\equiv\beta(c)\equiv\mathbf{0}\)在训练开始时成立，块退化为恒等，因此适配器在适配器训练开始时与其所附加的骨干网络完全一致。适配器相对于MACE-MatPES骨干网络增加了约15%的参数（约0.10M适配器 vs. 约0.66M骨干网络），并且没有增加可测得的每步推理成本（表1 (https://arxiv.org/html/2607.05559#S1.T1)，更多细节见附录B (https://arxiv.org/html/2607.05559#A2)）。

### 2.3 集成与训练  

训练标签来自液态水的从头算分子动力学（AIMD）模拟，总电子电荷\(q\in\{0,6e,10e,16e\}\)，其中q表示添加到闭壳中性参考晶胞中的电子数，能量和力由VASP[21 (https://arxiv.org/html/2607.05559#bib.bib41)]在r2SCAN meta-GGA水平[10 (https://arxiv.org/html/2607.05559#bib.bib42)]计算（完整的DFT设置见附录C (https://arxiv.org/html/2607.05559#A3)）。四个轨迹提供约6,400帧。在每个轨迹内均匀随机拆分10%作为验证集，不参与任何梯度更新。以下报告的所有训练电荷精度数值均在该拆分上评估，在最终的随机权重平均[16 (https://arxiv.org/html/2607.05559#bib.bib39)]轮次（进一步参数见附录D (https://arxiv.org/html/2607.05559#A4)）。

## 3 结果  

### 3.1 电荷泛化  

为了测试一组权重是否能覆盖电荷轴，我们在保留的VASP r2SCAN集上评估E-MACE，这些集使用的电荷在训练中从未见过：插值\(q\in\{2e,4e,8e,12e,14e\}\)和外推\(q\in\{18e,20e\}\)。保留的几何结构取自附近训练电荷的AIMD，并在目标电荷上重新标记（附录C (https://arxiv.org/html/2607.05559#A3)），因此测试测量的是在固定、近平衡核下对电荷变化的垂直电子力响应，而不是完整的电荷加几何泛化（后者仅通过MD运行练习）。图3 (https://arxiv.org/html/2607.05559#S3.F3)报告了所有11个电荷的每电荷力和能量RMSE。在四个训练电荷上，力RMSE为5.5−7.5 meV/Å，每原子能量RMSE低于0.15 meV/atom。在七个保留电荷上，力RMSE保持在18−61 meV/Å范围内，原始能量保持在0.7−5.4 meV/atom范围内。误差随q以及电荷与提供几何结构的源轨迹的距离而增长。在从源重新标记2e的集合中（\(q\in\{2e,8e,12e,18e\}\)），力RMSE从18上升到44 meV/Å；重新标记4e的集合（\(q\in\{4e,14e,20e\}\)）系统性地更高，并且在插值和外推之间没有定性断裂。因此，E-MACE的一组权重可在不重新训练的情况下用于该范围内的任何电荷。单个模型在所需条件值上查询，替代了原本每个条件一个的单独模型，并在标记条件之间提供平滑插值。与独立DFT引擎的跨管线可移植性（附录E (https://arxiv.org/html/2607.05559#A5)）表明这反映了化学性质，而非产生训练标签的DFT引擎特有的人为产物。

参考图注  
图3：每个电荷相对于VASP r2SCAN标签的RMSE；标记形状表示拆分（圆形：训练，方形：插值，三角形：外推）。*上*：E-MACE、无FiLM基线（等价于微调的MACE-MatPES）和微调的MACE-POLAR-1-M的力RMSE（虚线：化学精度，1 kcal/mol/Å）。*中*：原始每原子能量与无FiLM基线对比（虚线：热能在300 K时为\(k_B T\)）。*下*：偏移校正后的能量与微调的MACE-POLAR-1-M对比（移除每电荷均值，这是一个对MACE-POLAR-1-M有利的度量）。E-MACE在其MatPES骨干网络上表现更佳，在力上匹配MACE-POLAR-1-M，原始能量RMSE保持在6 meV/atom以下，并且在每个插值电荷上的偏移校正能量优于MACE-POLAR-1-M。

与无条件微调的MACE-MatPES骨干网络相比，E-MACE在训练电荷上的力RMSE约为3倍（原文“3×3×”可能是笔误，根据上下文应为约3倍降低？但原文写“3×3\\timesreduction”，可能应该是“33-fold”之类的？保留数学格式，但需要合理翻译。原文是“a3.1×3.1\\timesreduction”，这里“3.1×3.1”可能是排版错误，通常应该是“3.1-fold”。但翻译时严格按原文保留“3.1×”作为数字，但读起来奇怪。可能原文是“a 3.1-fold reduction”。保险起见，翻译成“降低了3.1倍”保持原文数字。后续“61×61\\times”类似处理。但用户要求“Respond ONLY with translated markdown/text”，我严格按原文，但适当调整中文表述。）

注意：原文有“a3.1×3.1\\timesreduction”，可能是“a 3.1× reduction”的排版错误。我翻译为“降低了3.1倍”并保留原文数字。同样“61×61\\times”翻译为“降低了61倍”。

另外，原文最后一句“E\-MACE is about3×3\\time”不完整，可能是“E-MACE is about 3× faster”之类的，但原文显示“E\-MACE is about3×3\\time”，我们按原文翻译为“E-MACE大约快3×”。根据上下文，应该是比较速度。我们保留“3×”。

现在整体翻译完成。# EquiFiLM: 基于特征线性调制的电荷条件等变力场  
来源：https://arxiv.org/html/2607.05559  
Samuel Sahel\-Schackis¹,²,³∗, Ken\-ichi Nomura⁴, Aiichiro Nakano⁴, Matthias F. Kling³,⁵,Thomas Linker²,³  
1 斯坦福大学物理系  
2 斯坦福直线加速器相干光源（LCLS），SLAC国家加速器实验室  
3 斯坦福PULSE研究所，SLAC国家加速器实验室  
4 南加州大学先进计算与模拟合作实验室  
5 斯坦福大学应用物理系  
∗[email protected]  

###### 摘要  

基础机器学习力场（MLFF），如MACE-MP-0和UMA，在接近密度泛函理论（DFT）精度的水平上覆盖了广泛的化学空间。然而，它们假设平衡基态物理，并不能原生处理外部诱导的电子态变化，如充电、外加电场或电子激发，这限制了它们在光激发和电荷注入等驱动过程中的应用。我们提出EquiFiLM，一种轻量级扩展，通过逐层特征线性调制（FiLM）块，为任意等变基础MLFF添加连续外部条件，从最小训练数据中学习外部驱动对势能面的影响。该块仅调制标量通道，精确保持E(3)等变性。我们在带电液态水上以基础模型MACE-MatPES为骨干演示了该方法，得到E-MACE。在四个训练电荷上，E-MACE的力均方根误差（RMSE）降低了3.1倍（从21.3到6.96 meV/Å），每原子能量RMSE降低了61倍（从6.1到0.1 meV/atom），而推理成本与在相同数据上训练的无EquiFiLM基线无法区分。在七个保留的插值和外推电荷上，力RMSE保持在18−61 meV/Å范围内，能量RMSE保持在0.7−5.4 meV/atom范围内。该模型在测试的整个范围内运行稳定的分子动力学，并预测了超快电子衍射探测的约化对分布函数的电荷依赖第一壳层响应。为此基础添加这一条件轴仅需要几千个DFT标记的帧，而从头训练的电荷感知基础则需要约10^8个结构。该配方对骨干网络和条件变量均无关：它无需架构更改即可应用于任何具有标量交互层通道的等变MLFF。

## 1 引言  

在连续外部控制下的原子模拟，受总电荷、温度、外加电场、静水压力或掺杂比例的条件约束，是电化学、光化学、掺杂材料设计等许多实际应用的核心。基础机器学习力场（MLFF），如MACE-MP-0[2 (https://arxiv.org/html/2607.05559#bib.bib2)]和UMA[31 (https://arxiv.org/html/2607.05559#bib.bib52)]，现已达到接近DFT的精度，覆盖了元素周期表的大部分，此外还有其他最先进的原子间势，包括严格等变的架构MACE-MatPES[18 (https://arxiv.org/html/2607.05559#bib.bib3)]、EquiformerV3[22 (https://arxiv.org/html/2607.05559#bib.bib53)]、eSEN[9 (https://arxiv.org/html/2607.05559#bib.bib54)]和SevenNet-Omni[19 (https://arxiv.org/html/2607.05559#bib.bib57)]，以及非等变或旋转未约束的替代方案Orb-v3[29 (https://arxiv.org/html/2607.05559#bib.bib56)]和PET-MAD[25 (https://arxiv.org/html/2607.05559#bib.bib55)]。在它们的标准形式中，这些力场仅以原子位置和种类为条件。模型没有输入路径来传递每图外部标量，因此两个共享几何结构但条件不同的系统会产生完全相同的预测。

当前将外部条件引入MLFF的方法需要在泛化性与增加的架构和训练成本之间进行权衡。忽略电荷的基础MLFF随着电荷的增加性能迅速下降，在带电液态水上的力误差上升到数百meV/Å（图1 (https://arxiv.org/html/2607.05559#S1.F1)）。按状态专用的模型（每个电荷一个模型）在其训练电荷上达到可接受的精度，但无法泛化到未见过的电荷（附录A (https://arxiv.org/html/2607.05559#A1)）。基于物理的电荷感知基础模型，如MACE-POLAR-1-M[1 (https://arxiv.org/html/2607.05559#bib.bib24)]以及更广泛的电荷平衡模型系列4G-HDNNP[20 (https://arxiv.org/html/2607.05559#bib.bib20)]、AIMNet2-NSE[17 (https://arxiv.org/html/2607.05559#bib.bib23)]、DPLR[32 (https://arxiv.org/html/2607.05559#bib.bib27)]和SpookyNet[30 (https://arxiv.org/html/2607.05559#bib.bib33)]，通过构造解决了电荷情况。然而，它们以高昂的成本为代价：需要专门的原子电荷监督、显式的逐原子库仑机制或迭代电荷平衡，并且该系列的成员从头训练时需要约10^8个结构[1 (https://arxiv.org/html/2607.05559#bib.bib24)]。

我们提出EquiFiLM，一种轻量级的逐层适配器，可为任何等变基础MLFF赋予连续外部条件轴。其机制是一个小型的特征线性调制块[27 (https://arxiv.org/html/2607.05559#bib.bib34)]，其门控参数由每图多层感知器（MLP）从条件输入生成。该块仅调制每个交互层的标量通道，不影响更高阶的等变特征，并精确保持E(3)等变性。

参考图注  
图1：在七个模型上，三个不同条件下的每个电荷力RMSE（四个训练电荷）：*零样本基础模型*（虚线）、*从头训练*（点线）和*在训练数据上微调*（实线）。E-MACE在其MACE-MatPES骨干网络上大幅改进，达到了规模更大、专门构建的电荷感知基础模型MACE-POLAR-1-M微调后的精度。

将该方法应用于带电液态水上的MACE-MatPES骨干网络，得到的模型E-MACE在训练电荷上的每电荷力均方根误差（RMSE）与我们比较的任何方法的最佳结果相当（即规模更大的电荷感知基础模型MACE-POLAR-1-M微调后的结果），并且推理成本在统计上与没有EquiFiLM的相同骨干网络微调后无法区分（表1 (https://arxiv.org/html/2607.05559#S1.T1)）。它在训练中从未见过的插值和外推电荷上也能泛化力和能量，并在测试的整个电荷范围内运行稳定的分子动力学。由于该适配器对骨干网络无关且仅调制标量通道，同样的构造原则上可扩展到其他等变MLFF以及其他连续标量外部变量，如温度、静水压力或掺杂比例。

表1：单步推理成本（单个A100 GPU，324原子晶胞，批量大小1）。FiLM适配器与在同一数据上微调的无条件MACE-MatPES骨干网络相比，没有增加可测得的每步成本，并且比MACE-POLAR-1-M快3倍。

## 2 方法  

### 2.1 MACE中的等变消息传递  

EquiFiLM实例化在等变消息传递骨干网络上，具体是MACE-MatPES[18 (https://arxiv.org/html/2607.05559#bib.bib3)]。以下设计选择可泛化到任何在其交互层具有标量通道的等变原子间势。在此类网络中，每个原子i携带一个节点特征\(h_i^{(t)}=\bigoplus_{\ell\geq 0}h_i^{(t,\ell)}\)，它分解为O(3)的不可约表示，阶数为\(\ell\)：标量（\(\ell=0\)）、向量（\(\ell=1\)）以及更高阶张量。原子间的消息通过沿边的不可约特征的张量积构造。MACE[3 (https://arxiv.org/html/2607.05559#bib.bib1)]使用原子簇展开[7 (https://arxiv.org/html/2607.05559#bib.bib58)]中的高体阶消息，并且仅用两个交互层就达到了参考精度。每个交互层输出一个消息张量\(m_i^{(t)}=\bigoplus_{\ell}m_i^{(t,\ell)}\)，随后是线性投影\(h_i^{(t+1)}=W\cdot m_i^{(t)}\)。从位置和特征到输出的函数f是E(3)等变的，如果对于任何旋转\(R\in O(3)\)和平移\(t\in\mathbb{R}^3\)，有\(f(Rx+t,\rho_{\rm in}(R)h^{\rm in})=\rho_{\rm out}(R)f(x,h^{\rm in})\)，(1) 其中\(\rho_{\ell}(R)\)通过\(\ell\)阶的Wigner-D矩阵作用于\(h^{(\ell)}\)。等变性在以下任何操作下保持：将标量特征映射为标量特征，并对\(\ell\geq 1\)通道进行恒等操作。因此，将特征张量的标量切片乘以或偏移一个每图表量的函数，精确保持E(3)等变性，因为该函数本身是O(3)不变的。

### 2.2 ChargeFiLM块  

设\(c\in\mathbb{R}\)为一个每图条件标量（在本文实验中为总电荷q，以每原子密度\(c=q/N\)输入，N为晶胞原子数），并设\(N_s\)为交互层t中的标量通道数。定义两个独立的双层MLP，每个为\(\mathbb{R}\to\mathbb{R}^{N_s}\)，隐藏宽度为h，激活函数为SiLU，分别生成\(\gamma(c)\in\mathbb{R}^{N_s}\)和\(\beta(c)\in\mathbb{R}^{N_s}\)。ChargeFiLM块变换层t中每个节点特征的标量切片如下：
\(m_i^{\prime\,(t,\ell=0)}=(\mathbf{1}+\gamma(c))\odot m_i^{(t,\ell=0)}+\beta(c),\quad m_i^{\prime\,(t,\ell\geq 1)}=m_i^{(t,\ell\geq 1)}\)，(2)
其中\(\odot\)表示逐元素乘法，\(\mathbf{1}\)表示全1向量。该块插入在消息张量\(m^{(t)}\)和线性投影W之间，如图2 (https://arxiv.org/html/2607.05559#S2.F2)所示。门控参数\(\gamma\)和\(\beta\)仅依赖于每图标量c，且仅作用于标量通道，因此该块保持E(3)等变性。原子排列等变性得以保持，因为c对每个节点都相同。

参考图注  
图2：ChargeFiLM块及其与MACE的集成。*左*：ChargeFiLM块插入在等变张量积和MACE交互层的线性投影之间，分别在K=2层中的每一层独立应用。*右*：两个小型MLP将每图标量c映射为\(\gamma(c)\)和\(\beta(c)\)，它们通过\(\mathbf{1}+\gamma(c)\)和\(\beta(c)\)缩放和平移消息张量的标量通道，而等变通道（\(\ell\geq 1\)）保持不变。两个层的标量通道数\(N_s\)分别为128和256。

两个门控MLP的输出线性层初始化为零，使得\(\gamma(c)\equiv\beta(c)\equiv\mathbf{0}\)在训练开始时成立，块退化为恒等，因此适配器在适配器训练开始时与其所附加的骨干网络完全一致。适配器相对于MACE-MatPES骨干网络增加了约15%的参数（约0.10M适配器 vs. 约0.66M骨干网络），并且没有增加可测得的每步推理成本（表1 (https://arxiv.org/html/2607.05559#S1.T1)，更多细节见附录B (https://arxiv.org/html/2607.05559#A2)）。

### 2.3 集成与训练  

训练标签来自液态水的从头算分子动力学（AIMD）模拟，总电子电荷\(q\in\{0,6e,10e,16e\}\)，其中q表示添加到闭壳中性参考晶胞中的电子数，能量和力由VASP[21 (https://arxiv.org/html/2607.05559#bib.bib41)]在r2SCAN meta-GGA水平[10 (https://arxiv.org/html/2607.05559#bib.bib42)]计算（完整的DFT设置见附录C (https://arxiv.org/html/2607.05559#A3)）。四个轨迹提供约6,400帧。在每个轨迹内均匀随机拆分10%作为验证集，不参与任何梯度更新。以下报告的所有训练电荷精度数值均在该拆分上评估，在最终的随机权重平均[16 (https://arxiv.org/html/2607.05559#bib.bib39)]轮次（进一步参数见附录D (https://arxiv.org/html/2607.05559#A4)）。

## 3 结果  

### 3.1 电荷泛化  

为了测试一组权重是否能覆盖电荷轴，我们在保留的VASP r2SCAN集上评估E-MACE，这些集使用的电荷在训练中从未见过：插值\(q\in\{2e,4e,8e,12e,14e\}\)和外推\(q\in\{18e,20e\}\)。保留的几何结构取自附近训练电荷的AIMD，并在目标电荷上重新标记（附录C (https://arxiv.org/html/2607.05559#A3)），因此测试测量的是在固定、近平衡核下对电荷变化的垂直电子力响应，而不是完整的电荷加几何泛化（后者仅通过MD运行练习）。图3 (https://arxiv.org/html/2607.05559#S3.F3)报告了所有11个电荷的每电荷力和能量RMSE。在四个训练电荷上，力RMSE为5.5−7.5 meV/Å，每原子能量RMSE低于0.15 meV/atom。在七个保留电荷上，力RMSE保持在18−61 meV/Å范围内，原始能量保持在0.7−5.4 meV/atom范围内。误差随q以及电荷与提供几何结构的源轨迹的距离而增长。在从源重新标记2e的集合中（\(q\in\{2e,8e,12e,18e\}\)），力RMSE从18上升到44 meV/Å；重新标记4e的集合（\(q\in\{4e,14e,20e\}\)）系统性地更高，并且在插值和外推之间没有定性断裂。因此，E-MACE的一组权重可在不重新训练的情况下用于该范围内的任何电荷。单个模型在所需条件值上查询，替代了原本每个条件一个的单独模型，并在标记条件之间提供平滑插值。与独立DFT引擎的跨管线可移植性（附录E (https://arxiv.org/html/2607.05559#A5)）表明这反映了化学性质，而非产生训练标签的DFT引擎特有的人为产物。

参考图注  
图3：每个电荷相对于VASP r2SCAN标签的RMSE；标记形状表示拆分（圆形：训练，方形：插值，三角形：外推）。*上*：E-MACE、无FiLM基线（等价于微调的MACE-MatPES）和微调的MACE-POLAR-1-M的力RMSE（虚线：化学精度，1 kcal/mol/Å）。*中*：原始每原子能量与无FiLM基线对比（虚线：热能在300 K时为\(k_B T\)）。*下*：偏移校正后的能量与微调的MACE-POLAR-1-M对比（移除每电荷均值，这是一个对MACE-POLAR-1-M有利的度量）。E-MACE在其MatPES骨干网络上表现更佳，在力上匹配MACE-POLAR-1-M，原始能量RMSE保持在6 meV/atom以下，并且在每个插值电荷上的偏移校正能量优于MACE-POLAR-1-M。

与无条件微调的MACE-MatPES骨干网络相比，E-MACE约快3倍

相似文章

隐式机器学习力场加速分子动力学模拟

arXiv cs.LG

介绍了隐式机器学习力场（I-MLFFs），该力场用不动点方程替代深层神经网络堆叠，支持热启动，并在用于分子动力学模拟的图神经网络架构上实现最高5倍的计算/内存节省。

FeatCal: 后合并模型的特征校准

Hugging Face Daily Papers

FeatCal是一种校准方法，通过逐层权重更新（无需梯度下降）来缩小后合并模型的性能差距，在CLIP和GLUE基准测试上以高样本效率取得了优异结果。

Federated Foundation Models Fine-Tuning with Heterogeneous Compressed Clients

arXiv cs.LG

This paper proposes FedSLM, a parameter-centric framework for federated fine-tuning of foundation models with heterogeneous compressed clients, using SVD-based decomposition and a weak-to-strong elicitation step to handle resource asymmetry. Experiments show it outperforms existing federated baselines while reducing client GPU memory by ~50%.