解决AI中叠加问题以实现可解释性与患者神经元图像的跨模态对齐

# 解决人工智能中的叠加问题以实现可解释性及患者神经图像中的跨模态对齐  
来源：https://arxiv.org/html/2606.31394  

Jisung Park¹, Seohyeon Kang¹, Daeun Yoo¹, Eunsu Lee², Seoin Cho¹, Wooyeop Choi¹, Ian Choi¹, James R. Evan⁴, Daesoo Kim¹,³, Sonia Gandhi⁴, Minee L. Choi¹,³  

¹韩国科学技术院（KAIST），²建阳大学，³长庚大学，⁴伦敦大学学院奎恩广场神经病学研究所与弗朗西斯·克里克研究所  

###### 摘要  

人工智能正在改变我们解决生物学挑战的能力。在因高维生物数据而加剧的维度瓶颈情况下，神经网络将不同概念强制压缩到较低维度，这种现象称为叠加。尽管这种叠加广为人知会阻碍可解释性，但它对潜在空间几何结构的破坏性影响却一直被严重忽视。在此，我们利用稀疏自编码器（SAEs）对来自帕金森病患者和健康神经元的超过10万张多路复用图像进行训练，以解决叠加问题。该方法通过转向可解释的潜在表征分析，绕过了特征归因的数学非唯一性。我们从理论和实验上证明了叠加会污染表征度量空间，而SAEs能够成功恢复几何保真度。将这些几何纯化的表征视为单细胞状态向量后，我们直接将单细胞RNA测序（scRNA-seq）数据分析方法应用于图像领域。最后，我们引入了GW-map，利用Gromov-Wasserstein最优传输将这些图像表征与真实的scRNA-seq数据进行*从头*对齐。这种耦合重构了如钙-AIS支架等神经病理层级通路，无需参考空间转录组学，为空间生物学建立了一个可扩展的基础。代码可在 https://github.com/jijihihi/Bio_superposition 获取。  

## 1 引言与相关工作  

### 1.1 特征归因XAI的局限性  

深度学习在生物图像分析中已变得不可或缺，病理基础模型通常从视觉信息中提取高维表征。为了建立模型可靠性并生成生物学假设，诸如梯度加权类激活映射（Grad-CAM）Selvaraju等人 (2017) 和Shapley加性解释（SHAP）Lundberg和Lee (2017) 等事后特征归因技术被广泛采用Aravindkumar等人 (2026)；Zhou等人 (2023)。然而，这些方法面临一个基于几何学的基本矛盾。根据流形假设，分量层面的信用分配在数学上是非唯一的Sundararajan和Najmi (2020)。由于生物学变量的密集相互依赖性，这种歧义性在生物学中尤为严重。相反，通过忽略数据的内在几何结构来绕过这种歧义性，则会导致偏离流形的解释Frye等人 (2020)；Anders等人 (2020)。鉴于这种流形-归因悖论，再加上可解释人工智能（XAI）方法之间频繁存在不一致性Krishna等人 (2024) 及其他局限性Bilodeau等人 (2024)；Huang和Marques-Silva (2024)，XAI在生物学中的应用迫切需要一种内在的替代方案。  

### 1.2 生物学中加剧的机制可解释性与表征污染  

机制可解释性（MI）最近作为一种强大的替代方案出现Elhage等人 (2021)。MI认为，可解释性挑战源于概念叠加：神经网络中将多个不同概念强制压缩到更少维度的现象Elhage等人 (2022)。为了解决这一问题，MI利用稀疏自编码器（SAEs）将叠加的概念解耦为单语义单元Bricken等人 (2023)；Templeton等人 (2024)。这种概念隔离使得模型的内部表征直接可解释，从而避免了流形-归因悖论。它无需改变模型架构Chen等人 (2019) 或预定义概念Koh等人 (2020)；Kim等人 (2018)，即可实现以人为中心的可解释性，同时不牺牲预测能力。虽然叠加对可解释性的影响日益受到认识Somvanshi等人 (2026)，但其对表征几何结构的破坏作用却被严重忽视Elhage等人 (2022)；Bricken等人 (2023)；Longon等人 (2026)。由于神经网络为了优化损失而密集地打包概念向量Elhage等人 (2022)；Park等人 (2024)，这种打包会污染度量空间，破坏潜在空间的数学等距性，使得局部测量（如余弦距离）不可靠。关键在于，叠加在生物学领域变得尤为突出。神经网络内部维度的宽度远小于生物学状态的极端多样性，造成了严重的维度约束。此外，由于干扰本质上源于稀疏概念向量之间的内积，数据稀疏性是叠加的关键因素。鉴于极端高维度和零膨胀稀疏性是生物数据固有的特征Jiang等人 (2022)，这种几何污染在生物AI中极其显著，从根本上威胁了基于表征的主流下游分析的可靠性Chai等人 (2024)；Caicedo等人 (2018)。  

### 1.3 我们提出的框架  

为解决这一问题，我们采用SAEs来解耦叠加。我们使用患者诱导多能干细胞（iPSC）来源的皮层神经元进行高内涵分析，验证了这一框架。通过理论和实证分析，我们证明了叠加会污染表征，因此解耦叠加并通过SAEs提升维度可以恢复被破坏的度量空间，使表征能够忠实地反映数据的内在语义。利用这些几何纯化的表征以及SAE表征与单细胞RNA测序（scRNA-seq）数据之间的结构相似性（见第5节），我们成功地将基于图的scRNA-seq分析方法（针对数据固有的噪声和连续生物学特性进行定制）直接应用于图像领域。此外，我们开发了GW-map框架，利用Gromov-Wasserstein (GW) 最优传输Peyré和Cuturi (2019)；Mémoli (2011)；Demetci等人 (2022) 来*从头*对齐图像和单细胞转录组数据，无需参考空间转录组学（ST）。通过自主重构神经元病理的层级通路架构，该方法克服了ST的基本局限性，包括受限的细胞分辨率、高成本、有限的基因覆盖范围以及长期的跨模态对齐挑战Guo等人 (2025)；Khan等人 (2025)。本文的主要贡献总结如下：  

- • 我们从理论上证明了叠加在数学上会污染表征度量空间。  
- • 我们在生物成像模型中实证了这种几何污染，并表明基于SAE的叠加解耦能够忠实地恢复数据的内在几何保真度。  
- • 利用几何纯化的SAE表征，我们成功地将先进的scRNA-seq分析算法应用于图像领域，为评估表征和发现生物学假设建立了一个强大的框架。  
- • 我们引入了GW-map，它通过Gromov-Wasserstein最优传输将纯化的SAE表征与真实的scRNA-seq数据自主耦合，为空间生物学提供了一种高度可扩展的新方法。  

## 2 方法  

在本节中，我们介绍将高内涵成像数据转换为可解释的、几何纯化的表征，将scRNA-seq方法学应用于图像领域，并通过GW耦合与真实scRNA-seq数据对齐的计算框架。所有实验结果报告为八个独立随机种子的平均值。详细方法见附录E。  

参考图注  
图1：(a) 基于MoCo的对比表征学习框架。(b) 将SAE集成到CNN中。SAE GAP潜在向量用于伪转录组分析和多模态整合。(c) 左图：纠缠的CNN注意力与SAE解耦注意力的比较。右图：SAE更忠实地反映了数据的拓扑关系。(d) 单细胞方法应用于SAE表征。(e) SAE表征与真实scRNA-seq数据的无监督跨模态对齐。下游分析验证了这种跨模态对齐的生物学合理性。图(a-e)使用BioRender制作；Choi, ML. (2026) https://BioRender.com/tk1hkpy  

### 2.1 皮层神经元图像上的CNN对比学习  

皮层神经元由健康对照（3个细胞系）和家族性PD患者*（SNCA×3, LRRK2, GBA）*的hiPSCs分化而来。使用四种荧光标记进行高内涵活细胞成像：Hoechst 33342（细胞核）、TMRM（线粒体）、LysoTracker（溶酶体）和Sytox Green（用于凋亡定量的死细胞）D'Sa等人 (2023)。我们选择定制的CNN架构而非Vision Transformer（ViT），是因为CNN具有空间局部性Lecun等人 (1998)；Olah等人 (2020)；Burgert等人 (2025)；Brendel和Bethge (2019)；Dosovitskiy等人 (2021)；Raghu等人 (2021)，有助于机制解释。网络使用三通道输入（排除死细胞标记），在超过10万张图像上进行训练。图1(a)展示了基于MoCo的监督对比学习框架He等人 (2020b)；Khosla等人 (2020)，用于四分类（对照和三种PD突变）。为最小化技术伪影和细胞密度变化，对所有输入图像应用了实例归一化（IN）。  

### 2.2 稀疏自编码器集成与表征评估  

为确定最优潜在空间，我们评估了从投影头之前的最后三个CNN层的全局平均池化（GAP）中提取的特征向量。门控稀疏自编码器（SAE）Bricken等人 (2023)；Templeton等人 (2024)；Rajamanoharan等人 (2024) 在来自最优CNN特征图（f_stage5 ∈ R^(H×W×C)）空间位置的逐点向量（v_ij ∈ R^C）上进行训练（图1(b)）。按照标准做法，每个逐点向量在SAE训练前进行批量居中和L2归一化。我们通过内积分布、空间注意力单语义性和有效维度（eRank）评估了不同扩展因子和稀疏惩罚下的叠加解耦效果。SAE成功地将复杂的空间注意力分解为人类可解释的特征图（图1(c)左），并以显著高于基线CNN表征的拓扑保真度保留了生物学语义（图1(c)右）。除非另有说明，后续所有分析均对SAE激活应用了1×10^(-5)的稀疏阈值。  

### 2.3 通过将scRNA-seq方法学适应于图像领域进行流形分析  

利用SAE提供的几何纯化且语义解析的特征，我们将这些表征视为类转录组的单细胞谱。这种概念桥接使得能够直接适应scRNA-seq分析框架，后者提供了用于非线性流形分析的工具。具体来说，我们应用了扩散伪时间（DPT）Haghverdi等人 (2016)，该方法通过建模随机游走和热扩散核来近似复杂非欧几里得数据流形上的测地距离。我们还应用了热扩散亲和基转移嵌入势（PHATE）Moon等人 (2019) 来可视化信息论距离，并应用了基于分区的图抽象（PAGA）Wolf等人 (2019) 来严格量化拓扑连通性。  

### 2.4 通过GW-map进行跨模态耦合  

我们通过GW-map将图像与真实scRNA-seq数据进行耦合。具体来说，我们对公开的*SNCA×3* 3D类器官scRNA-seq数据Jin等人 (2024) 进行了批量校正（使用单细胞变异推断scVI，Lopez等人 (2018)），并通过计算过滤保留了2D代表性群体。然后，通过GW耦合将PCA降维后的SAE特征向量与scVI潜在向量进行结构对齐。为稳健地量化基因特异性的可预测性，避免方差引起的膨胀，我们通过严格的置换检验生成零分布，并将预测R²值标准化，计算Z分数。下游分析验证了这种跨模态对齐的生物学合理性。  

## 3 CNN表征中编码的生物学信息  

我们定制的CNN在线性探针上达到了90.31 ± 0.38%的准确率（均值±标准差；图2(a)、(b)），中心核对齐（CKA）Kornblith等人 (2019) 证实了独立训练模型之间稳健的表征相似性（512维度，每类2500个样本Nguyen等人 (2021)；Murphy等人 (2024)；图2(c)）。为评估网络是否捕捉到了超越