用于阿片类药物使用障碍预测的EHR诊断编码特征选择方法比较研究

# 电子健康记录诊断码特征选择方法在阿片类药物使用障碍预测中的比较研究
来源：https://arxiv.org/html/2608.04180
\\institutes

1纽约州立大学石溪分校，2罗格斯大学，3佛蒙特大学

M\.S\.1Yinan Liu1Tengfei MaPh\.D\.1Rachel WongM\.DM\.P\.HM\.B\.AM\.S\.1George LeibowitzPh\.DL\.I\.C\.S\.W\.2Benjamin LittenbergM\.D\.3Xia ZhengPh\.D\.1Richard N\. RosenthalM\.D\.1†和Fusheng WangPh\.D\.1†111两位为共同通讯作者。

## 摘要

特征选择是基于电子健康记录（EHR）的预测建模中的关键步骤，此类模型的输入变量通常具有高维、稀疏、嘈杂和冗余的特点。庞大的特征集不仅会增加计算负担和过拟合风险，还会使模型解释变得困难，导致其在临床环境中的实用性受限。在本研究中，我们聚焦于诊断相关特征，比较了五种用于阿片类药物使用障碍（OUD）预测的特征选择范式：复发富集、基于NTK的早期梯度敏感性、LightGBM-SHAP、弹性网络和大型语言模型（LLM）引导的语义选择。我们使用统一的预处理和评估框架，并通过下游预测性能、重采样稳定性以及对低频诊断码的表示来评估每种方法。结果表明，随着特征预算的增大，性能会提升，但在超过中等规模后收益递减。NTK敏感性在准确性和稳定性之间提供了最佳的整体平衡，而LLM引导的选择尽管独立性能较低，但贡献了互补的、具有临床意义的信号。

## 引言

美国持续面临严重的阿片类药物危机，据估计，2019年有约1000万12岁及以上人群使用阿片类药物，平均每天有130人因药物过量死亡1 (https://arxiv.org/html/2608.04180#bib.bib6)；3 (https://arxiv.org/html/2608.04180#bib.bib7)。为应对这一公共卫生挑战，基于电子健康记录（EHR）的预测建模已成为识别阿片类药物误用、依赖和过量高风险患者的核心方法。21 (https://arxiv.org/html/2608.04180#bib.bib1)；10 (https://arxiv.org/html/2608.04180#bib.bib4)；9 (https://arxiv.org/html/2608.04180#bib.bib3)；11 (https://arxiv.org/html/2608.04180#bib.bib2)；8 (https://arxiv.org/html/2608.04180#bib.bib5) 在结构化EHR数据中，诊断码尤其具有吸引力，因为它们是被常规采集的、临床上可解释的，并且标准化程度足以支持跨研究和跨机构的复用。因此，诊断码特征被广泛用于在下游预测任务中总结患者的疾病负担。然而，原始诊断码表示难以直接使用。在患者层面，它们极其稀疏且高维；在系统层面，它们受到编码规范、术语映射以及特定站点或时间的文档实践的影响。2 (https://arxiv.org/html/2608.04180#bib.bib10)；20 (https://arxiv.org/html/2608.04180#bib.bib9) 此外，诊断码的频率高度不均衡，一小部分常见码占据了大部分观察到的信号，而许多码则很少被观察到。这些特征使得完整的诊断码空间即使在训练任何分类器之前，也是嘈杂、冗余、难以解释，并且可能对预测建模不稳定。5 (https://arxiv.org/html/2608.04180#bib.bib11)

在这种情况下，特征选择不仅仅是为了计算效率的便利；它是一个核心方法论问题。13 (https://arxiv.org/html/2608.04180#bib.bib12) 经典框架区分了过滤法、包装法和嵌入法；然而，它们在高维诊断码空间中的行为仍然知之甚少。23 (https://arxiv.org/html/2608.04180#bib.bib14) 诊断码表示通常包含数千个候选变量，这些变量稀疏观测，并通过编码层次结构和共病模式相互关联17 (https://arxiv.org/html/2608.04180#bib.bib13)；20 (https://arxiv.org/html/2608.04180#bib.bib9)，而临床有意义的信号可能存在于相对罕见的、表型特定的代码中，而不是全球普遍存在的代码中。因此，简单的频率过滤或纯单变量排名可能会丢弃罕见但重要的诊断，而嵌入模型可能会优先选择相关代码中占主导地位或不稳定的替代特征。尽管统计学文献中已经提出了面向稳定性的思想19 (https://arxiv.org/html/2608.04180#bib.bib15)，但基于诊断码的EHR建模中特征选择策略的系统性评估仍然有限，特别是在同时考虑预测性能、重采样稳定性和罕见临床代码表示的情况下。

先前在EHR机器学习方面的工作主要强调表示学习和时间预测，而不是对诊断码进行显式子集选择。Deep Patient框架证明了从大规模EHR数据中学习的无监督表示可以改善多种不同结果的疾病预测。17 (https://arxiv.org/html/2608.04180#bib.bib13) Doctor AI和RETAIN随后分别展示了如何对纵向诊断序列进行建模，以进行未来事件预测和可解释的临床预测5 (https://arxiv.org/html/2608.04180#bib.bib11)。与特征发现更直接相关的是，Hong等人于2021年提出了KESER，它使用代码嵌入和稀疏回归来识别相关的编码特征，而无需共享患者级数据。14 (https://arxiv.org/html/2608.04180#bib.bib16) Ghasemi和Lee于2024年在冠状动脉心脏病的ICD和ATC代码集上比较了几种无监督特征选择方法，突出了性能和可解释性之间的权衡。12 (https://arxiv.org/html/2608.04180#bib.bib17) 最近，大型语言模型（LLM）已被探索作为结构化EHR表型分析的知识引导工具，它们可以为表型构建提出临床相关标准。25 (https://arxiv.org/html/2608.04180#bib.bib18) 在医疗保健特定基准之外，新兴的机器学习工作进一步表明，即使无法直接访问下游训练数据，LLM也能竞争性地对预测变量进行排名。15 (https://arxiv.org/html/2608.04180#bib.bib19) 综上所述，这些文献促使我们对统计、机器学习和LLM辅助方法进行更广泛的比较，以从稀疏的EHR数据中选择紧凑的诊断码特征集。

为弥补这一空白，我们对源自EHR数据的诊断码特征进行了多种特征选择策略的系统比较。所评估的方法涵盖三个方法论类别：统计排名方法、基于机器学习的嵌入选择方法和LLM辅助的特征识别。所有方法都在统一的预处理和建模流程中实现，确保下游性能的差异源于特征选择策略，而不是数据处理或模型配置的不一致。除了传统的预测指标外，我们还进一步分析了所得特征集的定性属性，包括重采样下的稳定性以及不同方法保留低频（长尾）诊断码的程度。通过共同检查判别能力、特征紧凑性、选择稳定性和罕见代码的表示，本研究提供了对诊断码特征选择的系统性实证评估，并突出了与构建稳健的基于EHR的预测模型相关的实际权衡。

## 方法

参见图1：特征选择与评估流程。我们比较了五种特征选择方法，它们反映了关于在高维、稀疏EHR数据中使诊断特征具有预测性的不同归纳假设：（1）统计富集，（2）早期梯度敏感性，（3）基于树的模型重要性，（4）正则化线性建模，以及（5）语义引导选择。这些方法被选为代表不同且常用的特征选择范式。为了实现受控比较，每种方法都生成了一个候选诊断特征的排名列表。对于下游建模，我们在相同的数据划分和评估协议下，从每个排名中构建了前KK特征子集。

- •复发感知病例富集（Recurrence Enrichment）。这种基于过滤的方法优先考虑在OUD阳性患者中过度代表的诊断特征，同时考虑跨就诊的复发情况。设P\+\\mathcal\{P\}^\{\+\}和P−\\mathcal\{P\}^\{\-\}分别表示OUD阳性和OUD阴性患者集合，其中N\+=\|P\+\|N^\{\+\}=\|\\mathcal\{P\}^\{\+\}\|且N−=\|P−\|N^\{\-\}=\|\\mathcal\{P\}^\{\-\}\|。对于每个患者pp和诊断dd，我们定义 fd\(p\)=诊断d在患者p的就诊记录中出现的不同就诊次数，f\_\{d\}\(p\)\\;=\\;\\text\{number of distinct encounters in which diagnosis \}d\\text\{ appears for patient \}p,（1）这捕获了诊断在多次就诊中的复发情况，而不是将出现视为二元的。然后计算每个患者组的群体归一化平均复发次数：f ̄d\+=1N\+∑p∈P\+fd\(p\)，f ̄d−=1N−∑p∈P−fd\(p\)。\\bar\{f\}\_\{d\}^\{\+\}=\\frac\{1\}\{N^\{\+\}\}\\sum\_\{p\\,\\in\\,\\mathcal\{P\}^\{\+\}\}f\_\{d\}\(p\)，\\qquad\\bar\{f\}\_\{d\}^\{\-\}=\\frac\{1\}\{N^\{\-\}\}\\sum\_\{p\\,\\in\\,\\mathcal\{P\}^\{\-\}\}f\_\{d\}\(p\)。\(2\)诊断按富集分数Δd=f ̄d\+−f ̄d−，\\Delta\_\{d\}\\;=\\;\\bar\{f\}\_\{d\}^\{\+\}\-\\bar\{f\}\_\{d\}^\{\-\},（3）进行排名，其中更高的Δd\\Delta\_\{d\}表示在OUD阳性患者中复发升高更明显。仅保留满足最小患者支持度阈值（nd≥50n\_\{d\}\\geq 50）的诊断。特征按Δd\\Delta\_\{d\}降序排列，产生一个仅由观察到的结果关联驱动的、与模型无关的排名。
- •基于NTK的早期梯度敏感性（NTK Sensitivity）。该方法在模型初始化时根据特征的梯度幅度对诊断特征进行排名，无需迭代训练。对于每个患者pp和诊断dd，复发加权特征定义为 xd′\(p\)=log⁡\(1\+fd\(p\)\),x^\{\\prime\}\_\{d\}\(p\)\\;=\\;\\log\\bigl\(1\+f\_\{d\}\(p\)\\bigr\),（4）其中fd\(p\)f\_\{d\}\(p\)是公式（1）中定义的就诊级复发次数。在逻辑回归初始化时，偏置为b0=log⁡\(r/\(1−r\)\)b\_\{0\}=\\log\\\!\\left\(\{r\}/\{\(1\-r\)\}\\right\)，其中rr是群体层面的OUD患病率，初始化时的预测概率为p^0=σ\(b0\)\\hat\{p\}\_\{0\}=\\sigma\(b\_\{0\}\)。对于患者pp的每次就诊ee，标签为y∈\{0,1\}y\\in\\\{0,1\\\}，特征dd的梯度贡献为 gd\(e\)=\(p^0−y\)⋅xd′\(p\)。g\_\{d\}\(e\)\\;=\\;\(\\hat\{p\}\_\{0\}\\-y\)\\cdot x^\{\\prime\}\_\{d\}\(p\)。\(5\)诊断按所有就诊的聚合绝对梯度进行排名，Sd=∑e\|gd\(e\)\|，S\_\{d\}\\;=\\;\\sum\_\{e\}\\bigl\|g\_\{d\}\(e\)\\bigr\|，（6）其中更大的SdS\_\{d\}表示初始化时更大的敏感性，根据NTK理论，也意味着在后续训练中更大的预期影响。
- •带SHAP归因的梯度提升（LightGBM–SHAP）。我们在就诊级二元诊断特征上训练了梯度提升决策树模型（LightGBM），并在训练和验证划分期间强制实施患者级分组，以防止信息泄漏。特征重要性通过SHAP（SHapley Additive exPlanations）值φd\(e\)\\phi\_\{d\}\(e\)进行量化，该值衡量每个特征对给定就诊ee时模型输出的边际贡献。诊断按验证集上的平均绝对SHAP值进行排名，16 (https://arxiv.org/html/2608.04180#bib.bib26) φ ̄d=1\|Eval\|∑e∈Eval\|φd\(e\)\|，\\bar\{\\phi\}\_\{d\}\\;=\\;\\frac\{1\}\{\|\\mathcal\{E\}\_\{\\text\{val\}\}\|\}\\sum\_\{e\\,\\in\\,\\mathcal\{E\}\_\{\\text\{val\}\}\}\\bigl\|\\phi\_\{d\}\(e\)\\bigr\|，（7）其中更大的φ ̄d\\bar\{\\phi\}\_\{d\}表示对OUD预测的平均贡献更大。这种范式捕获了线性模型可能忽略的稀疏诊断特征之间的非线性效应和条件依赖关系。
- •弹性网络正则化逻辑回归（Elastic Net）。我们拟合了一个带有弹性网络正则化的逻辑回归模型：minβ⁡L\(β\)\+λ\[1−α2‖β‖22\+α‖β‖1\]，\\min\_\{\\boldsymbol\{\\beta\}\}\\;\\mathcal\{L\}\(\\boldsymbol\{\\beta\}\)\+\\lambda\\\!\\left\[\\frac\{1\-\\alpha\}\{2\}\\\|\\boldsymbol\{\\beta\}\\\|\_\{2\}^\{2\}\+\\alpha\\\|\\boldsymbol\{\\beta\}\\\|\_\{1\}\\right\]，（8）其中L\\mathcal\{L\}是二元交叉熵损失，α∈\[0,1\]\\alpha\\in\[0,1\]控制L1/L2权衡，λ\>0\\lambda\>0控制整体惩罚强度。两个超参数均基于验证集AUROC通过网格搜索选择。诊断特征按\|β^d\|\|\\hat\{\\beta\}\_\{d\}\|（即拟合系数的绝对值）进行排名，其中L1分量引入精确稀疏性，L2分量在特征相关时稳定估计。
- •大型语言模型引导的语义先验（LLM Semantic）。我们采用了一种使用Claude Sonnet 4.5（Anthropic；温度=0）的两阶段LLM策略。在第一阶段，每个候选的ICD-10三位数字代码通过结构化提示2 (https://arxiv.org/html/2608.04180#Sx3.F2)独立评估，提示提供了代码描述和汇总的队列级OUD患病率统计数据；在任何阶段都没有与模型共享个体患者记录，以确保符合患者隐私要求。模型被指示评估作为OUD前兆的临床合理性，并明确排除代表已确立OUD后果或治疗的代码，以防止标签泄漏。在第二阶段，所有被认可的代码被集体审查，模型根据临床相关性、特异性和非冗余性选择最终的前100个特征。

第一阶段 — 逐代码评估提示 评估以下ICD-10诊断码是否应作为预测未来阿片类药物使用障碍（OUD）的特征。 ICD-10：\{code\} — \{description\} OUD患者：\{n\+\} \| 非OUD：\{n\-\} \| OUD比率：\{\%\} 如果该诊断是已确立OUD的后果或治疗（即标签泄漏），则排除。 如果其在临床上与疼痛管理、阿片类药物暴露或物质使用脆弱性相关，则包含。 仅以JSON格式回复：\{"include": true/false, "confidence": 0.0-1.0, "rationale": "<50 words>"\}第二阶段 — 前100名短名单提示 从第一阶段认可的\{N\}个ICD-10代码中，选择用于OUD风险预测的前100个最具临床意义的类别。按优先顺序应用以下标准： 1.与阿片类药物暴露、疼痛管理、物质使用或通常与OUD相关的心理健康状况有很强的相关性。 2.优先选择更广泛的临床概念，而不是狭窄或行政性代码。 3.非冗余性：如果多个代码反映相同概念，保留最具代表性的一个。 4.不要仅基于频率计数做决定；优先考虑临床判断。仅输出有效的JSON：一个包含100个对象的列表，每个对象具有ICD10，DIAGNOSIS\_DESCRIPTION和rationale字段。

图2：两阶段LLM特征选择过程中使用的简化提示。花括号中的占位符在运行时用代码特定值填充。不包含个体患者记录；仅提供汇总的队列级统计数据。对于每种方法，我们共