从繁多到有意义:利用大语言模型进行特征引导的零样本慢性肾病筛查

arXiv cs.LG 论文

摘要

本研究提出了一种基于特征引导的零样本框架,利用大语言模型进行早期慢性肾病筛查,在异构数据集上使用最少的社区可获取特征实现了一致的改进。

arXiv:2607.12260v1 Announce Type: new 摘要:早期慢性肾病(CKD)筛查对于预防不可逆进展至关重要;然而,许多基于机器学习(ML)的筛查方法由于依赖大型标记数据集、资源密集的病理学测试或高维临床特征,以及对人群和分布变化的鲁棒性有限,难以在社区和资源有限的筛查环境中部署。本研究探讨了在零样本设置下使用大语言模型(LLMs)进行早期CKD筛查的可行性,无需数据集特定训练。我们提出了一种特征引导的零样本框架,该框架使用一组临床上有意义且易于获取的社区特征来评估LLM性能,而不是详尽的临床输入。特征选择由基于ML的分析指导,以识别紧凑且临床相关的变量子集。然后使用标准化提示模板将表格化患者记录序列化为文本,以实现零样本推理。使用完整特征集和选定的子集评估了四个LLM(LLaMA-3、Qwen-3、Mistral和GPT-4o-mini)的零样本性能。通过在三个国家三个异构CKD数据集上的测试评估了泛化能力。在模型和数据集上,选定的特征集在平衡准确率和概率估计上产生了一致且统计显著的改进,达到了适合筛查目的的性能水平。这些发现表明,LLMs可以使用最少的社区可获取患者特征支持临床上有意义的、无需训练的CKD筛查,为实际筛查环境中的传统ML方法提供了实用补充。
查看原文
查看缓存全文

缓存时间: 2026/07/15 04:18

# 从繁多到精要:基于特征引导的大语言模型零样本慢性肾脏病筛查
来源: https://arxiv.org/html/2607.12260
11institutetext:查尔斯·斯特大学计算、数学与工程学院,新南威尔士州,澳大利亚
11email:akabir@csu\.edu\.au
22institutetext:伦斯勒理工学院计算机科学系,纽约州,美国
22email:munirs@rpi\.edu###### 摘要

慢性肾脏病(CKD)的早期筛查对防止不可逆进展至关重要;然而,许多基于机器学习(ML)的筛查方法仍难以在社区和资源有限的筛查环境中部署,原因在于它们依赖大规模标注数据集、资源密集型的病理检测或高维临床特征,以及对人群和分布变化的鲁棒性有限。本研究考察了在零样本设置下(无需数据集专属训练)使用大语言模型(LLM)进行早期CKD筛查的可行性。我们提出了一种特征引导的零样本框架,该框架使用一组经过临床意义筛选、易于获取的社区级特征(而非全面的临床输入)来评估LLM性能。特征选择通过基于ML的分析指导,以识别紧凑且临床相关的变量子集。随后,使用标准化提示模板将表格形式的患者记录序列化为文本,从而实现零样本推理。使用全部特征集和所选子集评估了四个LLM(LLaMA-3、Qwen-3、Mistral 和 GPT-4o-mini)的零样本性能。泛化能力在三个跨国家的异质性CKD数据集上进行了评估。在所有模型和数据集中,所选特征集在平衡准确率和概率估计方面均表现出持续且统计显著的改进,达到了适合筛查目的的性能水平。这些发现表明,LLM 能够使用最少的社区可获取患者特征,支持具有临床意义、无需训练的CKD筛查,为实际筛查环境中传统ML方法提供了实用的补充。

††出版声明。本文是以下工作的作者准备预印本:Kabir, M.A., Munira, S., “从繁多到精要:基于特征引导的大语言模型零样本慢性肾脏病筛查”,载于*《人工智能在医学中的应用(AIME)论文集》*,Andreev, P., Van Woensel, W., Holmes, J., Sauré, A.(编),《计算机科学讲义》第16748卷,第38–48页。Springer, Cham(2027年)。https://doi.org/10.1007/978-3-032-30710-1_5。已出版版本记录版权声明:© 2027 作者,获得Springer Nature Switzerland AG独家许可。## 1 引言

慢性肾脏病(CKD)是一种以肾功能持续丧失或持续性肾损伤为特征的进展性疾病。若未及时发现,可能发展为终末期肾病,需要昂贵且终身的治疗[9] (https://arxiv.org/html/2607.12260#bib.bib17)。全球约有8.5亿人受CKD影响,其中低收入和中等收入国家的负担尤为沉重,这些国家早期诊断和预防性护理的可及性仍然有限[13] (https://arxiv.org/html/2607.12260#bib.bib30)。在南亚,特别是孟加拉国,社区研究报告称,农村和城郊地区CKD患病率高且认知度低[2] (https://arxiv.org/html/2607.12260#bib.bib16), [12] (https://arxiv.org/html/2607.12260#bib.bib8)。早期CKD(1-3期)通常无症状,但及时检测可显著延缓疾病进展[9] (https://arxiv.org/html/2607.12260#bib.bib17)。

标准的CKD筛查依赖于实验室标志物,如血清肌酐、估算肾小球滤过率(eGFR)和尿白蛋白-肌酐比值,这些检测需要配备良好的设施和训练有素的人员[9] (https://arxiv.org/html/2607.12260#bib.bib17)。在南亚许多地区,特别是农村和城郊地区,有限的诊断基础设施和经济限制限制了对这些检测的可及性[13] (https://arxiv.org/html/2607.12260#bib.bib30)。虽然传统机器学习(ML)模型在CKD检测方面表现出色,但它们依赖于大规模标注数据集、预定义特征空间以及针对新人群的再训练[11] (https://arxiv.org/html/2607.12260#bib.bib27)。这些要求降低了在异质性、现实筛查环境中的适应性。

大语言模型(LLM)的最新进展已在各种分类和推理任务中展现出强大的零样本泛化能力[3] (https://arxiv.org/html/2607.12260#bib.bib38)。在肾脏病学领域,LLM已被探索用于多种应用[6] (https://arxiv.org/html/2607.12260#bib.bib7),包括患者教育和个性化饮食建议[8] (https://arxiv.org/html/2607.12260#bib.bib25)、诊断支持[14] (https://arxiv.org/html/2607.12260#bib.bib4)和药物管理[11] (https://arxiv.org/html/2607.12260#bib.bib27)。然而,它们在系统性CKD筛查中的应用——特别是在零样本设置下,且基于非诊断性或易于获取的社区级特征——仍然在很大程度上未被探索。

受此差距的驱动,我们研究LLM是否能在无需任何数据集专属训练或微调的情况下实现具有临床意义的零样本CKD检测。本研究做出三项主要贡献:(i) 我们评估了四个最先进的LLM(LLaMA-3、Qwen-3、Mistral 和 GPT-4o-mini)的零样本筛查性能;(ii) 我们系统比较了使用全面特征集与紧凑的临床有意义的变量子集,考察特征精简是否能改善或维持筛查性能;(iii) 我们通过在一个社区人群上评估该方法,并在来自不同国家的另外两个数据集上进行验证,来评估泛化能力。尽管数据集特征空间不完全相同,但跨数据集存在一个统一的选定特征子集。在所有模型和数据集中,所选特征子集相对于使用所有可用特征,实现了可比或更好的性能。这些发现表明,有意义的特征选择可以增强基于LLM的零样本CKD筛查,这对资源受限的环境至关重要,并且证明了跨人群的鲁棒性。

## 2 方法

图1 (https://arxiv.org/html/2607.12260#S2.F1) 提供了所提出的用于CKD筛查的零样本LLM框架概述。工作流程包括三个主要步骤:(i) 特征统一和选择,(ii) 提示构建,以及 (iii) 使用大语言模型进行推理。

参见图注
图 1:用于CKD检测的零样本LLM流水线示意图
### 2.1 数据集

我们使用三个异质性CKD数据集评估了所提出的零样本LLM框架,这些数据集总结于表1 (https://arxiv.org/html/2607.12260#S2.T1),代表了基于社区(数据集-1)和基于医院(数据集-2和数据集-3)的人群,分别来自孟加拉国、印度和阿联酋。为符合我们的研究目标,所有数据集中均排除了用于直接CKD诊断的金标准病理检测,如血清肌酐、尿白蛋白、尿肌酐、eGFR和uACR。这些标志物是CKD的直接临床标识。因此,包含它们将使预测任务变得微不足道。此外,此类病理检测成本高昂,在资源匮乏或社区环境中并不总是可及。通过排除这些特征,我们评估LLM是否能使用更易获取的、非金标准的临床信息来检测CKD。

表 1:本研究使用的CKD数据集摘要
| 数据集 | 国家 | 样本量 | CKD分期 | 考虑的特征 |
|--------|------|--------|---------|------------|
|       |      | CKD | 非CKD | 总计 | SD | LH | MH | CE | 病理* | 总计 |
| 数据集-1[12] (https://arxiv.org/html/2607.12260#bib.bib8) | 孟加拉国 | 112 | 172 | 284 | 1–3 | 5 | 3 | 7 | 4 | 5 | 24 |
| 数据集-2[10] (https://arxiv.org/html/2607.12260#bib.bib9) | 印度 | 250 | 150 | 400 | – | 1 | 1 | 3 | 5 | 13 | 23 |
| 数据集-3[1] (https://arxiv.org/html/2607.12260#bib.bib41) | 阿联酋 | 56 | – | 56 | 3–5 | 2 | 1 | 8 | 1 | 2 | 14 |

*排除用于CKD诊断的金标准病理检测,如血清肌酐、尿白蛋白、尿肌酐、eGFR和uACR

数据集-1[12] (https://arxiv.org/html/2607.12260#bib.bib8) 是一项基于社区的CKD调查,在孟加拉国Tangail县的Mirzapur次区进行。该数据通过年龄分层随机抽样收集,对象为Mirzapur人口监测系统中18岁及以上的成年人。CKD根据标准临床指南,基于肾功能下降(eGFR)和/或尿白蛋白-肌酐比值(uACR)升高进行诊断。剔除不完整记录后,最终数据集包括284名参与者,其中112名早期CKD病例(1-3期)和172名非CKD个体。该数据集包含24个变量,涵盖社会人口学(SD)、生活习惯(LH)、病史(MH)、临床检查(CE)和病理检测(Path)特征。

数据集-2[10] (https://arxiv.org/html/2607.12260#bib.bib9) 是UCI 2015年CKD数据集,收集自印度一家医院,广泛用作CKD检测研究的基准。它包含400名患者的临床记录(这些患者在两个月内入院),包括250名CKD病例和150名非CKD对照组。在移除金标准病理标志物后,保留了23个变量,涵盖社会人口学、生活习惯、病史、临床检查和非金标准病理特征。该数据集未报告CKD分期。

数据集-3[1] (https://arxiv.org/html/2607.12260#bib.bib41) 是阿联酋CKD数据集,来自阿布扎比Al-Ain市Tawam医院的医院记录。它包括56名确诊为中度至晚期CKD(3-5期)的患者。在该原始数据中,CKD 1-2期未与健康个体明确区分;因此,我们的分析中仅使用已确诊的CKD病例。在排除金标准检测和冗余特征后,保留了14个特征,涵盖人口统计学、生活习惯、病史、临床和病理。

表 2:各数据集在统一化后保留的所有特征及所选特征(下划线)
| 数据集 | 考虑的特征 |
|--------|------------|
| 数据集-1 | 年龄,性别,文盲,职业,婚姻状况,睡眠时长,吸烟者,无烟烟草,高血压史,糖尿病史,心脏病,中风,糖尿病家族史,高血压家族史,CKD家族史,体重指数,腹部肥胖,营养不良,贫血,尿液中红细胞存在,血清白蛋白,高胆固醇血症,HDL胆固醇,高甘油三酯血症 |
| 数据集-2 | 年龄,血压,尿比重,白蛋白,糖,尿液中红细胞存在,脓细胞,脓细胞团块,细菌,随机血糖,血尿素,钠,钾,血红蛋白,红细胞压积,白细胞计数,红细胞计数,高血压史,糖尿病史,冠状动脉疾病,食欲状况,足部水肿,贫血 |
| 数据集-3 | 年龄,性别,心脏病史,血管疾病,血脂异常史,高血压史,糖尿病史,吸烟者,体重指数,高胆固醇血症,服用降脂药物,服用降糖药物,服用降压药物,HbA1C |
### 2.2 特征统一与选择

为确保数据集间的一致性,我们在模型评估前进行了系统性的特征统一。代表相同临床概念的变量通过标准化特征名称和值编码,统一为语义可解释的格式,以便于零样本LLM推理。这种统一使得跨数据集的提示构建和评估具有可比性。本研究考虑的统一特征完整列表见表2 (https://arxiv.org/html/2607.12260#S2.T2)。

特征选择基于我们之前对社区数据集-1[7] (https://arxiv.org/html/2607.12260#bib.bib15) 进行的机器学习分析,该数据集包含多样且易于获取的变量,涵盖社会人口学特征、生活方式因素、病史、临床检查结果和选定的病理指标。在[7] (https://arxiv.org/html/2607.12260#bib.bib15) 中,应用了十种互补的特征选择方法(包括使用多个ML估计器的递归特征消除),以确定一个紧凑的、具有临床意义且易于获取的变量子集,这些变量对早期CKD最具预测性。选定的特征在表2 (https://arxiv.org/html/2607.12260#S2.T2) 中以如下划线标出。随后,通过识别具有等效临床解释的变量,将来自数据集-1的选定特征映射到数据集-2和数据集-3。由于数据集之间的特征空间不完全相同,只有与数据集-1所选特征匹配的变量才被保留为数据集2和3中的所选特征。

### 2.3 提示构建

我们将每个患者记录(表格实例)通过将特征-值对序列化为结构化列表格式(附录0.A (https://arxiv.org/html/2607.12260#Pt0.A1))来表示。此设计遵循先前的研究发现,即基于列表的序列化能保留特征边界、减少歧义,并且在将LLM应用于表格推理时,其性能与自由文本或句子形式相当[5] (https://arxiv.org/html/2607.12260#bib.bib14)。序列化表示使得模型能够在保留原始表格语义的同时,对各个属性进行推理。

我们采用指令式、角色条件化提示策略(对于GPT-4o-mini采用聊天风格),其中每个序列化记录嵌入到结构化的指令-输入-输出格式中[15] (https://arxiv.org/html/2607.12260#bib.bib12)。提示(附录0.A (https://arxiv.org/html/2607.12260#Pt0.A1))明确指定任务目标,为模型分配功能角色,定义预期的二值输出空间,并呈现序列化输入记录。此设计与现代LLM训练中使用的指令微调范式一致,已被证明能增强零样本泛化能力[16] (https://arxiv.org/html/2607.12260#bib.bib10)。与原生聊天风格模板不同,指令式提示避免了对模型特定控制标记的依赖,提高了鲁棒性和跨模型的泛化能力。此外,明确的输出约束减少了生成变异性,并支持更具确定性的预测,这对于结构化临床数据的零样本二分类是有利的。

提示文本是通过调整与模型指令微调范式一致的指令模板,并经过实证验证的迭代优化而制定的,这与先前在上下文学习环境中基于指令的提示优化工作相一致[4] (https://arxiv.org/html/2607.12260#bib.bib18)。

### 2.4 使用LLM进行推理

我们评估了四个大语言模型:LLaMA-3 8B、Qwen-3 8B、Mistral 7B 和 GPT-4o-mini,选择它们是为了代表架构多样性、参数规模差异以及训练范式差异(开放权重与专有)。这些模型已在包含生物医学和临床知识的大规模、异质性语料库上进行预训练,使其适用于医疗相关任务(如CKD筛查)的零样本推理。此外,所有选定模型均具备

相似文章

大型语言模型作为统一多模态学习器用于临床预测

arXiv cs.AI

该论文提出将多模态患者数据(文本、实验室结果、生命体征)转换为单一自然语言序列,并对大型语言模型进行微调以用于临床预测,在三个任务中实现了与专用融合架构相当或更优的性能。

面向在线患者咨询的可操作分诊分类的小样本大语言模型

arXiv cs.CL

本文探讨了使用小样本提示的大语言模型对在线患者咨询进行可操作分诊分类,分为自我护理、预约就诊、紧急临床审查或急诊转诊。最佳模型(Claude Haiku 4.5,12次小样本提示)的macro-F1达到0.475,超过了有监督基线,但作者得出结论:LLMs可以支持分诊优先级排序和选择性人工审核,但不能自主部署。