iLENS: 可解释的LLM引导的混合专家模型用于神经影像生存分析
摘要
本文介绍了iLENS,一种可解释的、由大语言模型(LLM)引导的混合专家(MoE)框架,用于阿尔茨海默病的生存预测和患者亚型分析。该方法为其路由决策提供了透明且基于生物学的合理解释,弥合了高性能生存分析与可解释临床决策支持之间的差距。
arXiv:2607.08778v1 公告类型:新
摘要:阿尔茨海默病(AD)是一种复杂的神经退行性疾病,持续影响着全球数百万人。在前驱阶段预测AD转化对于疾病理解和患者护理仍然至关重要。因此,生存模型被广泛用于AD风险预测,但它们通常是静态预测器,可解释性有限,且不具备自然语言推理能力。在这项工作中,我们提出了iLENS,一种基于混合专家(MoE)的可解释大语言模型(LLM)引导框架,用于AD转化的生存预测。我们的方法使用LLM来综合结构化神经影像测量和非结构化信息,以指导专家路由。该框架展示了具有竞争力的预测性能和患者亚型分析能力。此外,我们的框架为其路由决策提供了透明且基于生物学的合理解释,弥合了高性能生存分析与可解释临床决策支持之间的差距。
查看缓存全文
缓存时间: 2026/07/13 07:54
# 可解释的LLM引导混合专家模型用于神经影像生存分析 来源:https://arxiv.org/html/2607.08778
Farica Zhuang¹, Seong Woo Han¹, Zixuan Wen¹, Shu Yang¹, Yize Zhao², Li Shen¹
¹宾夕法尼亚大学,²耶鲁大学
###### 摘要
阿尔茨海默病(AD)是一种复杂的神经退行性疾病,持续影响着全球数百万人。在前驱期预测AD转化对于疾病理解和患者护理仍然至关重要。因此,生存模型被广泛用于AD风险预测,但它们通常是静态预测器,可解释性有限,且不具备自然语言推理能力。在这项工作中,我们提出了iLENS,一种基于混合专家模型(MoE)的可解释大语言模型(LLM)指导框架,用于AD转化的生存预测。我们的方法利用LLM综合结构化神经影像测量和非结构化信息来指导专家路由。我们的框架展示了具有竞争力的预测性能和患者亚型划分能力。此外,我们的框架为其路由决策提供了透明、基于生物学的理由,弥合了高性能生存分析与可解释临床决策支持之间的差距。
iLENS:可解释的LLM引导混合专家模型用于神经影像生存分析
Farica Zhuang¹, Seong Woo Han¹, Zixuan Wen¹, Shu Yang¹, Yize Zhao², Li Shen¹
¹宾夕法尼亚大学,²耶鲁大学
## 1 引言
生存分析,或称时间-事件预测,是精准医学的重要组成部分。在神经退行性疾病如阿尔茨海默病(AD)中,预测转化为AD的风险评分以及识别特定风险特征对于早期干预和资源分配至关重要Sperling等人 (2011 (https://arxiv.org/html/2607.08778#bib.bib36));Nakagawa等人 (2020 (https://arxiv.org/html/2607.08778#bib.bib35));Mirabnahrazam等人 (2023 (https://arxiv.org/html/2607.08778#bib.bib37))。经典的生存方法和现代深度学习模型提高了预测准确性,但它们主要仍然是数值结果风险评分的预测器Fox and Weisberg (2002 (https://arxiv.org/html/2607.08778#bib.bib6));Nagpal等人 (2021 (https://arxiv.org/html/2607.08778#bib.bib7));Katzman等人 (2018 (https://arxiv.org/html/2607.08778#bib.bib5))。然而,在临床环境中,基于风险概况识别患者亚组或聚类的能力非常有价值,因为这样的亚型可以揭示异质性的疾病进展模式,并支持更具可解释性的预后决策。这在AD中尤其重要,因为患者通常表现出多样化的神经退行性和生物标志物负担轨迹Goyal等人 (2018 (https://arxiv.org/html/2607.08778#bib.bib38))。为了弥合这一差距,我们引入了iLENS,一种用于神经影像生存分析的可解释LLM引导MoE。超越静态编码器,我们研究语言模型是否可以在基于专家的生存聚类框架中充当语义路由控制器。这种设计提供了两层可解释性。首先,我们基于每个患者的结构化神经影像生物标志物测量提供自然语言可解释性,以证明模型基于临床的专业路由的合理性。其次,我们保持聚类可解释性并揭示潜在的生存亚型。我们使用阿尔茨海默病神经影像倡议(ADNI)数据集中的真实纵向神经影像数据来评估我们的框架,以预测和亚型划分AD转化Petersen and others (2010 (https://arxiv.org/html/2607.08778#bib.bib32))。
参见说明
图1:iLENS概览。该系统处理结构化MRI特征和临床笔记的多模态输入。LLM策略师定义路由配置,同时LLM路由器在混合专家库中为专门的专家分配权重。此过程生成可解释的临床推理理由和混合威布尔分布,以产生阿尔茨海默病进展的个体化生存分析曲线。
## 2 相关工作
**生存预测与亚型聚类。** 传统的生存模型通常关注给定结果的风险评分预测Fox and Weisberg (2002 (https://arxiv.org/html/2607.08778#bib.bib6));Katzman等人 (2018 (https://arxiv.org/html/2607.08778#bib.bib5));Nagpal等人 (2021 (https://arxiv.org/html/2607.08778#bib.bib7))。然而,医学应用中生存预测的一个关键目标也是识别具有相似生存模式和风险概况的患者亚组,称为亚型划分(例如,高风险与低风险)Abbasi等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib4))。这有助于治疗分配、资源分配和疾病理解Carobbio等人 (2020 (https://arxiv.org/html/2607.08778#bib.bib1));Glare等人 (2003 (https://arxiv.org/html/2607.08778#bib.bib2));Binder and Schumacher (2008 (https://arxiv.org/html/2607.08778#bib.bib3))。因此,神经生存聚类(NSC)模型被引入作为一类新的生存模型,它们不仅预测个体化风险,而且还执行显式的亚型发现Jeanselme等人 (2022 (https://arxiv.org/html/2607.08778#bib.bib11));Hou等人 (2023 (https://arxiv.org/html/2607.08778#bib.bib9)、2024 (https://arxiv.org/html/2607.08778#bib.bib8));Wen等人 (2025 (https://arxiv.org/html/2607.08778#bib.bib10))。然而,这些模型依赖于单个共享编码器,这通常难以捕捉异质性人群和疾病结构中的不同特征模式,这在复杂疾病中很常见,例如AD患者在前额叶萎缩和其他生物标志物方面存在差异。
**临床建模中的MoE。** MoE架构通过专门的子网络(称为专家)展示了捕捉异质数据分布的能力Fedus等人 (2022 (https://arxiv.org/html/2607.08778#bib.bib14));Zhu等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib19));Shen等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib22))。专家的路由逻辑由一个门控网络(通常是神经网络)学习。独立的MoE架构已应用于临床任务,显示出在处理临床场景中的数据异质性、可解释性和缺失模态方面的优势Zhang等人 (2025 (https://arxiv.org/html/2607.08778#bib.bib18));Yun等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib17));Xin等人 (2025 (https://arxiv.org/html/2607.08778#bib.bib15));Zhuang等人 (2025 (https://arxiv.org/html/2607.08778#bib.bib16))。然而,MoE的可解释性通常仅限于来自门控网络的专家权重,导致路由逻辑需要事后分析,这在临床环境中降低了透明度。
**用于临床决策支持的LLM。** LLM越来越多地用于在临床任务中执行各种任务、规划和进行预测,可以采用单智能体或多智能体框架Tang等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib24));Wang等人 (2025 (https://arxiv.org/html/2607.08778#bib.bib25));Hou等人 (2025 (https://arxiv.org/html/2607.08778#bib.bib23));Li等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib26));Kim等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib27))。鉴于这些能力,最近的进展进一步表明LLM可以充当路由器,在任务该去往何处做出决定之前作为信息的初始处理器Liu and Lo (2025 (https://arxiv.org/html/2607.08778#bib.bib29));Ong等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib28));Hu等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib30))。与传统的分类器不同,LLM路由器可以接受自然语言指令和推理,以在临床应用中改进超越结构化数据的路由决策。
## 3 方法
### 3.1 LLM引导的路由
不同于依赖门控网络的传统MoE模型,我们的框架利用LLM语义推理在两个阶段定义和引导专家专业化过程,如图1所示。我们使用GPT 4.1-mini作为这两个阶段的LLM。
**表型驱动的专家初始化。** 我们利用LLM将来自神经影像测量区域列表和非结构化临床笔记列表的高维结构化特征空间映射到一个由\(E\)个不同生理表型构成的集合(附录A.4 (https://arxiv.org/html/2607.08778#A1.SS4),表3 (https://arxiv.org/html/2607.08778#A1.T3))。给定特征名称集\(F\)和预后任务,LLM生成一个架构规范\(S=\{e_1, e_2, ..., e_E\}\),其中每个专家定义\(e_i\)包含专家名称和描述等信息(表4 (https://arxiv.org/html/2607.08778#A1.T4))。在我们的设置中,我们使用\(E=4\)。通过使用提示词定义\(E\),我们确保MoE主干锚定在固定数量的临床可分离AD进展模式上。
**语义路由。** 对于给定的患者,给定结构化神经影像特征\(x_{neuro}\)(即测量的脑区兴趣区域)和非结构化临床笔记\(x_{notes}\)(即初始评估和病史),路由权重\(g(x)\)由LLM根据患者与初始化表型\(S\)的匹配度来分配。ROI特征被聚合成中尺度脑区摘要,以提高语义可解释性(附录A.5 (https://arxiv.org/html/2607.08778#A1.SS5),表5 (https://arxiv.org/html/2607.08778#A1.T5))。LLM充当语义门控函数:
\[
g(x) = \operatorname{Softmax}(\operatorname{LLM}(x_{neuro}, x_{notes}, S)).
\]
(1)
提示词和路由输出的示例见附录A.6 (https://arxiv.org/html/2607.08778#A1.SS6),表6 (https://arxiv.org/html/2607.08778#A1.T6)。LLM输出前\(k\)个专家的概率分布和临床推理,我们定义\(k=2\)以模仿MoE中的稀疏性。推理提供了路由决策的人类可读解释。
表1:性能比较。跨脑成像模态(VBM、FDG、AV45)和聚类数(\(K\))的比较。iLENS在几乎所有设置中都显示出改进或具有竞争力的预后(C-index)和亚型分离(LogRank),同时保持有竞争力的预后判别。对于每个指标,表现最佳的模型以**加粗**突出显示,表现次佳的模型以下划线标出。\(-\):由于测试样本被分配到单个聚类,LogRank未定义。
| 聚类计数 | 模型 | VBM (MRI) | FDG (代谢) | AV45 (淀粉样蛋白) |
|----------|------------|-------------------|-------------------|---------------------|
| | | C-Idx↑ | Log-R↑ | C-Idx↑ | Log-R↑ | C-Idx↑ | Log-R↑ |
| \(K=2\) | SCA | 0.502 | 1.63 | 0.588 | 1.78 | 0.561 | 0.79 |
| | VaDeSC | 0.548 | 2.45 | 0.525 | \(-\) | 0.618 | 28.73 |
| | NSC | 0.604 | 4.25 | 0.679 | 6.56 | 0.728 | \(-\) |
| | DCSM | 0.638 | \(-\) | 0.654 | \(-\) | 0.786 | 16.81 |
| | \cellcolorgray!15 iLENS (Ours) | \cellcolorgray!15 **0.670** | \cellcolorgray!15 2.92 | \cellcolorgray!15 **0.775** | \cellcolorgray!15 11.22 | \cellcolorgray!15 0.759 | \cellcolorgray!15 **36.34** |
| \(K=3\) | SCA | 0.440 | 0.60 | 0.450 | 3.96 | 0.527 | 4.46 |
| | VaDeSC | 0.483 | 1.55 | 0.562 | 0.74 | 0.565 | 14.81 |
| | NSC | 0.529 | 0.72 | 0.690 | 15.50 | 0.508 | 3.49 |
| | DCSM | 0.595 | 7.07 | 0.803 | 9.31 | 0.783 | 20.24 |
| | \cellcolorgray!15 iLENS (Ours) | \cellcolorgray!15 **0.634** | \cellcolorgray!15 2.54 | \cellcolorgray!15 0.722 | \cellcolorgray!15 **25.97** | \cellcolorgray!15 0.767 | \cellcolorgray!15 **29.01** |
### 3.2 专家路由的生存聚类
给定专家路由权重\(g(x) \in \mathbb{R}^E\),每个患者表示\(h(x)\)作为专家输出的加权组合获得:
\[
h(x) = \sum_{e=1}^E g_e(x) f_e(x),
\]
(2)
其中\(f_e(x)\)表示专家\(e\)的输出,\(g_e(x)\)是其路由权重。为了识别临床上有意义的亚组,我们将生存过程建模为\(K\)个不同生存亚型的潜在混合。遵循先前聚类生存模型(如DCSM)的生成方法Hou等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib8)),患者表示\(h(\mathbf{x})\)的生存函数定义为:
\[
S(t \mid \mathbf{x}) = \sum_{k=1}^K \pi_k(\mathbf{x}) S_k(t),
\]
(3)
其中\(\pi_k(\mathbf{x})\)表示患者属于第\(k\)个生存亚型的概率。在我们的实现中,我们设置\(K=2\),对应于高风险和低风险分层。每个亚型生存函数\(S_k(t)\)使用威布尔分布建模,因其灵活性和闭式表达式而被选择:
\[
S_k(t) = \exp\left(-\left(\frac{t}{\lambda_k}\right)^{\rho_k}\right),
\]
(4)
其中\(\lambda_k\)和\(\rho_k\)分别表示尺度参数和形状参数。与每个患者估计这些参数的传统模型不同,我们将它们视为定义每个潜在亚型共享生存轨迹的全局参数。分配权重\(\pi_k(\mathbf{x})\)通过softmax层从LLM引导的专家增强表示\(h(\mathbf{x})\)估计:
\[
\pi_k(\mathbf{x}) = \frac{\exp(w_k^T h(\mathbf{x}))}{\sum_{j=1}^K \exp(w_j^T h(\mathbf{x}))}.
\]
(5)
这些权重充当软聚类成员关系,允许模型提供个体化的生存预测,同时保持对人群水平风险概况的可解释性。LLM引导的生存建模框架的详细信息见附录A.7 (https://arxiv.org/html/2607.08778#A1.SS7)。
## 4 实验
### 4.1 数据集
我们在阿尔茨海默病神经影像倡议(ADNI)数据集上评估iLENSPetersen and others (2010 (https://arxiv.org/html/2607.08778#bib.bib32)),这是一个纵向多模态研究,包括临床、影像、遗传和生化生物标志物。在这项工作中,我们从ADNI获取了三种结构化影像测量值,即VBM、FDG和AV45,用于脑体积和生物标志物测量。对于临床笔记,我们提取了初始评估和近期病史(附录A.1 (https://arxiv.org/html/2607.08778#A1.SS1))。
参见说明
参见说明
参见说明
参见说明
参见说明
图2:亚型分离。AV45在\(K=2\)下的Kaplan-Meier生存曲线,跨不同聚类方法。蓝色和红色曲线分别表示根据平均预测生存风险划分的低风险和高风险亚组。灰色曲线表示测试样本坍缩到单个聚类。
### 4.2 基线方法
我们将iLENS与最先进的聚类生存模型进行比较,包括SCAChapfuwa等人 (2020 (https://arxiv.org/html/2607.08778#bib.bib13))、VaDeSCManduchi等人 (2021 (https://arxiv.org/html/2607.08778#bib.bib12))、NSCJeanselme等人 (2022 (https://arxiv.org/html/2607.08778#bib.bib11))和深度聚类生存机(DCSM)Hou等人 (2024 (https://arxiv.org/html/2607.08778#bib.bib8))。所有模型均使用Optuna进行超参数调优Akiba等人 (2019 (https://arxiv.org/html/2607.08778#bib.bib31))(附录A.2 (https://arxiv.org/html/2607.08778#A1.SS2),表2 (https://arxiv.org/html/2607.08778#A1.T2))。
### 4.3 可解释的预后与亚型划分
我们首先使用一致性指数(C-index)评估框架与基线方法的预后性能,并使用LogRank统计量衡量发现亚型之间的分离程度。在实践中,个体预后准确性之间常常存在竞争性权衡。相似文章
LongMoE:基于轨迹感知的混合专家模型的纵向多模态学习
LongMoE提出了一个统一框架,同时解决多模态临床学习中的模态缺失和纵向动态问题,利用上下文感知插补、注意力令牌化、轨迹感知编码和稀疏混合专家路由。在ADNI、OASIS-3和MIMIC-IV上的实验表明,在缺失模态情况下鲁棒性得到提升,同时在完整模态设置下仍具有竞争力。
@iScienceLuvr:学习稀疏潜在预测基础模型用于多模态神经影像 本文介绍了Neuro-JEPA,一个基…
本文介绍了Neuro-JEPA,一个基础模型,它使用潜在预测目标和混合专家架构来编码跨T1w、T2w和FLAIR序列的脑部MRI扫描,并在包含155万次扫描的大型数据集上进行了预训练。
代理建模:解读黑盒大模型在医学预测中的隐含知识
研究者提出一种代理建模框架,可量化并解释黑盒大模型内部编码的医学知识,同时揭示有效关联与持续的种族偏见。
通过交互感知的Mixture-of-Experts理解结构化健康数据
本文研究了利用结构化健康记录的多层次视图,通过交互感知的Mixture-of-Experts进行中风后僵硬预测。尽管性能提升微乎其微,但路由归因揭示了不同视图间系统性的重要性差异,强调视图构建是实现可解释性的关键。
利用深度学习进行具有不确定性意识的阿尔茨海默病进展纵向预测
本文提出了一种概率框架,用于阿尔茨海默病进展预测,该框架结合了有序诊断预测、多时间点轨迹生成和分解不确定性估计,采用 Temporal Fusion Transformer 编码器和自回归混合密度网络。在ADNI数据上,该模型优于基线,实现了接近标称的90%可信区间覆盖率,并提供了具有临床意义的不确定性信号。