CalTwin：通过 Fisher-Information 正则化实现校准且对偏移鲁棒的医学世界模型

# CalTwin：通过费舍尔信息正则化实现校准的、对偏移鲁棒的医学世界模型
来源：https://arxiv.org/html/2607.26752

11institutetext:Institute of Business Administration Karachi, Karachi, Pakistan
11email:[email protected], [email protected]
22institutetext:Gachon University, Korea
22email:[email protected]
33institutetext:St. John’s University, New York, USA
33email:[email protected]

###### 摘要

医学世界模型旨在学习患者或器官生理状态的潜在表示，以及一个预测该状态在干预下如何演化的转移函数，从而支持从成像诊断到数字孪生治疗规划的下游任务。在临床部署中，此类模型的可靠性面临两种失效模式：(i) *协变量偏移*，因为训练数据分散在不同的医院、扫描仪和时间段内，因此潜在动态预测器所看到的特征分布在各个数据片段之间以及部署时的分布之间存在差异；(ii) *置信度错位*，因为多步预测往往在临床风险最高的地方过度自信。我们认为，这两个问题可以通过一个统一的轻量级正则化目标 CalTwin 来统一处理，该目标结合了基于费舍尔信息的偏移惩罚（改编自我们先前关于碎片化协变量偏移修复的工作 [5 (https://arxiv.org/html/2607.26752#bib.bib6), 3 (https://arxiv.org/html/2607.26752#bib.bib7)]）和置信度错位惩罚（改编自我们先前关于校准的视觉-语言分类的工作 [4 (https://arxiv.org/html/2607.26752#bib.bib8)]），在此应用于基于 GRU 的医学世界模型的潜在转移预测器。我们推导了组合目标，确定了哪些证明步骤可以直接从分类设置中迁移而无需修改，哪些需要调整，并在 PhysioNet 2019 Sepsis Challenge 上对其进行了评估，将两个医院系统视为顺序训练片段，将未见过的系统视为分布外测试。CalTwin 将 OOD 下一步潜在状态 MSE 相对降低了 9.1%（FIM 惩罚单独贡献 7.0%）；置信度错位惩罚带来的 ECE 降低是真实的但较小（CalTwin 为 0.7%，单独 CMP 为 1.3%）。我们明确指出了当前实验能够证明和不能证明的内容，并确定了在本研讨会核心的成像模态上验证 CalTwin 所需的步骤。

## 1 引言

医学世界模型的新兴范式学习患者或器官生理状态的紧凑潜在表示，以及一个预测该状态如何随时间、干预或成像采集演化的转移函数。最近的综述将目标分布形式化为 \(p(s_{t+1} \mid s_t, a_t)\)，并调查了涵盖纵向 MRI 模拟、放射影像投影动力学、EHR 轨迹生成、心脏引导和手术视频合成的实现方法，将方法置于从时间预测（L1）到动作条件模拟（L2）、反事实推演（L3）和闭环规划（L4）的四级能力阶梯上 [8 (https://arxiv.org/html/2607.26752#bib.bib1)]，并指出 L3–L4 能力（即临床价值最高的能力）仍然很少见。医学数字孪生系统由患者、数据连接、*计算机内患者*、临床接口和孪生同步机制五个组件组成 [11 (https://arxiv.org/html/2607.26752#bib.bib2)]，是这一范式的 L3–L4 自然体现，而 [11 (https://arxiv.org/html/2607.26752#bib.bib2)] 和医疗保健数字孪生综述 [10 (https://arxiv.org/html/2607.26752#bib.bib4)] 均将联邦学习和可信的多模态数据整合确定为原型与临床部署之间的开放性优先事项。

医学环境的两个特性使得此类系统的可信部署在实践中难以实现，我们认为它们最好作为一个统一的技术问题处理，而非分开处理。

**碎片化、非集中训练数据上的协变量偏移。** 医学世界模型的转移预测器很少在单个集中数据集上训练：患者轨迹分散在不同的医院、扫描仪供应商、协议和时间段内，隐私法规（HIPAA、GDPR）将训练推向联邦或批次顺序机制。因此，每个数据片段都有自己的经验分布 \(P_k(s_t)\)，使潜在动力学模型暴露于一系列彼此不同且与部署分布不同的协变量分布。这并非假设：在 eICU 和 MIMIC-III 基准上的脓毒症和 ICU 死亡率预测中，在一组医院上训练的联邦模型因人口统计学和临床实践协变量偏移，在留出医院上表现一直较差 [14 (https://arxiv.org/html/2607.26752#bib.bib9)]。对于世界模型，这种片段级偏移作用于预测轨迹的每一步，由此产生的每步误差在整个预测范围内累积。

经典的应对方法是通过估计的密度比 \(P_{\mathrm{dep}}(s)/P_{\mathrm{train}}(s)\) 进行重要性加权 [12 (https://arxiv.org/html/2607.26752#bib.bib11)]，但在此不适用：部署分布在训练时未知，并且在联邦/批次顺序机制中，训练分布和参考分布都随片段变化，因此没有单个密度比能够一次性校正所有片段级偏移。一个参数空间正则化器，惩罚偏离基于信息几何的全局先验（即跨片段累积的费舍尔信息矩阵 FIM），可以避免这两个问题：它只需要模型在当前片段上的梯度，并在片段到达时增量更新。这是我们先前关于碎片诱导协变量偏移修复 (FIcsR) [5 (https://arxiv.org/html/2607.26752#bib.bib6)] 及其初步版本 [3 (https://arxiv.org/html/2607.26752#bib.bib7)] 中形式化的方法，我们在此将其适应于医学世界模型的转移预测器。

**多步临床预测中的置信度错位。** 即使控制了片段级偏移，一个自回归部署（每一步都根据自身先前输出进行条件化）的世界模型仍面临第二种复合失效模式。训练使用教师强制（真实的、临床获取的状态作为输入）；在部署时，模型根据自身的先前预测进行条件化，这种不匹配在整个预测范围内累积。在时间步 \(t\) 报告的预测置信度反映了给定*真实*先前状态的不确定性，而不是模型自身日益错误的自我生成状态的不确定性。神经分类器在分布内已经过于自信 [2 (https://arxiv.org/html/2607.26752#bib.bib12)]，而诸如温度缩放的事后修复已知会在数据集偏移下*恶化*校准 [13 (https://arxiv.org/html/2607.26752#bib.bib13)]，这排除了事后解决方案的可能性，因为这里的偏移是模型自身预测过程内生的。过度自信的错误预测（例如，在心脏数字孪生中关于治疗反应的预测）比诚实表达不确定性的预测更危险，因为临床医生无法从模型自身的置信度中获得信号来判断该输出应被折扣。

**我们的立场。** 这两个问题都可以通过一种基于费舍尔信息的正则化器家族进行统一处理，其组件已经在非医学数据上分别针对分类任务得到验证：FIcsR [5 (https://arxiv.org/html/2607.26752#bib.bib6), 3 (https://arxiv.org/html/2607.26752#bib.bib7)] 惩罚片段的参数分布与累积的基于 FIM 的全局先验之间的 KL 散度，从而改善片段级偏移下的泛化能力；CalShift [4 (https://arxiv.org/html/2607.26752#bib.bib8)] 通过 CMP 增强了这一点，将对数似然从过度自信的错误预测中重新分配，联合提高了 CLIP 类分类器在偏移下的准确性和 ECE，并且这两种惩罚可证明地组合成一个目标。我们将两者共同适应于医学世界模型的潜在转移预测器：FIM 用于跨片段动力学偏移，CMP 用于自回归轨迹上的校准，并指定哪些推导步骤可以直接迁移、哪些需要修改、以及还需要哪些验证（第 4 节），我们使用真实的多医院 ICU 时间序列作为代理基准（而非成像验证的替代品）。

## 2 相关工作

**医学数字孪生与世界模型。** 数字孪生起源于工程领域 [11 (https://arxiv.org/html/2607.26752#bib.bib2)]；其在医学领域的转化正在快速增长，但缺乏稳定的架构共识 [11 (https://arxiv.org/html/2607.26752#bib.bib2)]。医疗保健数字孪生综述将多模态数据整合、联邦学习和可信/可解释建模确定为开放性优先事项 [10 (https://arxiv.org/html/2607.26752#bib.bib4)]，而生成式 AI 人类数字孪生综述指出，高保真建模通常必须从稀缺、有偏、多源的数据中构建 [1 (https://arxiv.org/html/2607.26752#bib.bib5)]。世界模型范式——联合学习潜在状态和转移预测器——最近已被提议用于临床预测、反事实推理和规划，涵盖成像、EHR 和手术机器人用例 [8 (https://arxiv.org/html/2607.26752#bib.bib1)]；我们将潜在动力学预测器视为必须变得对偏移鲁棒且校准的对象。

**协变量偏移校正。** 经典方法通过估计的训练/测试密度比对训练样本进行重新加权 [5 (https://arxiv.org/html/2607.26752#bib.bib6)]；Moreno-Torres 等人表明 k 折交叉验证本身也会诱导这种偏移 [5 (https://arxiv.org/html/2607.26752#bib.bib6)]。而 FIcsR 及其初步版本 C3 通过经验费舍尔信息矩阵近似片段分布与全局参考之间的相对熵，这对于过参数化网络是可行的，并且可以在批次/折叠之间增量累积，无需同时访问两个分布的样本 [5 (https://arxiv.org/html/2607.26752#bib.bib6), 3 (https://arxiv.org/html/2607.26752#bib.bib7)]——这是我们适应跨站、跨时间医学世界模型碎片化的机制。

**分布偏移下的置信度校准。** 已知校准在分布偏移和低数据微调下会退化 [4 (https://arxiv.org/html/2607.26752#bib.bib8)]。CalShift 将上述 FIM 惩罚与 CMP 项相结合，该 CMP 项将概率质量从错误类别中移开，程度与这些类别超出真实类概率的比例成正比，并且在 [0,1] 中有界，对于校准良好的模型则消失 [4 (https://arxiv.org/html/2607.26752#bib.bib8)]。据我们所知，这种组合目标此前尚未被提议用于医学世界模型的多步潜在动力学预测器——这正是本文要解决的空缺。

**临床时间序列中的多医院偏移。** 独立于世界模型文献，联邦 EHR 工作直接量化了我们第 4 节实验针对的偏移：在 eICU 医院上训练的模型在不相交的 MIMIC-III 医院系统上显示出退化的死亡率/脓毒症预测，这归因于人口统计学和实践差异而非任务难度 [14 (https://arxiv.org/html/2607.26752#bib.bib9)]。这促使我们在第 4 节中使用（同样是多医院、真实而非合成的）PhysioNet 2019 脓毒症挑战 [9 (https://arxiv.org/html/2607.26752#bib.bib10)] 作为协变量偏移测试平台。

## 3 提出方法

### 3.1 设置：医学世界模型的潜在转移预测器

我们采用 [8 (https://arxiv.org/html/2607.26752#bib.bib1)] 中调查的世界模型公式：编码器 \(\mathcal{E}\) 将时间步 \(t\) 的多模态临床输入（成像体积、生理信号或 EHR 特征）映射到潜在状态 \(s_t = \mathcal{E}(x_t)\)；参数化转移预测器 \(f_\theta\) 建模 \(p_\theta(s_{t+1} \mid s_t, a_t)\)，其中 \(a_t\) 是可选的干预/采集变量。我们对 \(f_\theta\) 的唯一要求是 \(\log p_\theta(s_{t+1} \mid s_t, a_t)\) 对 \(\theta\) 可微。

训练数据来自 \(K\) 个片段 \(\{B_1, \ldots, B_K\}\)，每个片段是一个医院站点、扫描仪供应商、协议或时间窗口，具有经验分布 \(\hat{P}_k(s_t)\)；\(P_{\mathrm{dep}}(s_t)\) 表示未知的部署分布。目标必须产生 \(\theta\)，使其 (i) 跨片段泛化，(ii) 泛化到 \(P_{\mathrm{dep}}\)，(iii) 在自回归展开的每一步给出良好校准的置信度。

B1B_1B2B_2B3B_3Hosp.B 留出编码器 \(\mathcal{E}\)GRU 转换 \(p_\theta(s_{t+1} \mid s_t)\)\(s_t\)评估ID 测试：留出的 Hosp. AOOD 测试：Hospital B指标：MSE、ECE、AUROC辅助风险头预测风险 \(\hat{y}_t\)Fisher 信息 \(\lambda_1 \mathcal{L}_{\mathrm{FIM}}\)\(\hat{I}^{(k)}(\theta)\)置信度错位惩罚 \(\lambda_2 \mathrm{CMP}\)CalTwin 训练目标 NLL 更新 \(\theta\)（公式 6）碎片化多站点数据医学世界模型评估校准正则化数据/特征流参数更新（\(\theta\)）留出 OOD 路径

图 1：CalTwin 训练流程。顺序的医院片段 \(B_1, B_2, B_3\) 训练共享的编码器 \(\mathcal{E}\) 和 GRU 转移预测器（第 3.1 节）；一个留出的医院仅用于 OOD 评估。\(s_t\) 还馈入一个辅助风险头，受 CMP 惩罚（第 3.3 节）；一个对角费舍尔信息累积器根据先前片段（第 3.2 节）锚定编码器/转移参数。两种惩罚和转移对数似然组合成 CalTwin 目标（公式 6），其梯度更新 \(\theta\)（虚线循环）。

### 3.2 用于跨片段协变量偏移的费舍尔信息正则化

遵循 [5 (https://arxiv.org/html/2607.26752#bib.bib6), 3 (https://arxiv.org/html/2607.26752#bib.bib7)]，我们通过对数似然的二阶泰勒展开近似在片段 \(B_k\) 上训练引起的参数分布 \(P(\theta \mid B_k)\) 与全局参考 \(Q(\hat{\theta})\) 之间的 KL 散度，该展开以费舍尔信息矩阵 (FIM) 作为首项 [ref_lecun2002]：

\[
D_{\mathrm{KL}}\!\left(P(\theta \mid B_k)\,\|\,Q(\hat{\theta})\right) \approx \frac{1}{2}(\hat{\theta}-\theta)^\top I(\theta)\,(\hat{\theta}-\theta), \qquad I(\theta)=-\,\mathbb{E}\!\left[\frac{\partial^2 \log P(X \mid \theta)}{\partial\theta\,\partial\theta^\top}\right]. \tag{1}
\]

这与弹性权重巩固 (EWC) [6 (https://arxiv.org/html/2607.26752#bib.bib14)] 和分类领域的 FIcsR [5 (https://arxiv.org/html/2607.26752#bib.bib6)] 使用的近似相同。对于过参数化的世界模型，完整的 FIM 难以处理，因此我们使用经验费舍尔：

\[
I_e(\theta) = \frac{1}{N} \sum_{i=1}^N g_i g_i^\top, \qquad g_i = \frac{\partial \log p_\theta(s_{i,t+1} \mid s_{i,t}, a_{i,t})}{\partial\theta},
\]