DoctorAgents：一个面向小型临床时序数据迭代优化AutoML流程的智能体框架

# DoctorAgents：面向小型临床时序数据的迭代式智能体优化

来源：https://arxiv.org/html/2608.05375

Ruilin Wang1,2, Bo\-Hong Wang1,2, Elizabeth Kourbatski1,2, Jun Bai1,2, Hegang Chen1,2, Ziyang Song1,2, Gilles Boire4,5, Marie Hudson3,\*, Yue Li1,2,\*

1加拿大蒙特利尔麦吉尔大学计算机科学学院  
2加拿大蒙特利尔Mila – Quebec AI研究所  
3加拿大蒙特利尔麦吉尔大学医学部风湿病科  
4加拿大舍布鲁克大学综合健康与社会服务大学中心 – 舍布鲁克大学医院中心（CIUSSSE\-CHUS），舍布鲁克，加拿大  
5加拿大舍布鲁克大学医学与健康科学学院风湿病科

###### 摘要。临床机器学习（ML）有潜力支持高风险的医疗决策，但可靠的部署常常受到数据稀缺、异质性强和时序复杂性高的制约。针对此类数据开发有效的ML流水线既耗时又容易出错，而现有的自动化机器学习（AutoML）系统只能部分解决这一挑战，因为它们主要依赖在预定义空间上的暴力搜索，缺乏显式的推理和记忆。因此，我们将小样本临床数据的AutoML从穷举搜索重构为推理驱动的优化。我们提出DoctorAgents，一个智能体AI框架，通过专门的大语言模型（LLM）智能体负责生成、验证和优化，自主构建并改进端到端ML流水线。DoctorAgents通过文本梯度下降（textual gradient descent）反向传播自然语言反馈，无需穷举搜索即可执行有针对性的更新。跨多种临床任务的实验表明，DoctorAgents在性能上持续优于已有的AutoML基线，同时生成更可解释的任务特定表示。

智能体AI、自动机器学习、小样本临床数据、LLMs

**脚注：通讯作者：yueli@cs\.mcgill\.ca 和 marie\.hudson@mcgill\.ca**

## 1\. 引言

现有的临床预测任务通常基于小型队列构建，例如罕见病登记、单中心研究和定义狭窄的治疗人群\(Van Smeden 等，2019 (https://arxiv.org/html/2608.05375#bib.bib39)；Riley 等，2019 (https://arxiv.org/html/2608.05375#bib.bib40)\)。与标准表格基准不同，这些数据集往往高维、稀疏且时间上不规则。更具体地说，时序临床记录并非简单地带有时间戳的静态表格，而是对不断演变的患者状态进行异步和不完整的观测；不同患者的观测频率和观测时长可能有显著差异，因此个体和变量之间的可用时间分辨率也各不相同\(Horn 等，2020 (https://arxiv.org/html/2608.05375#bib.bib58)；Shukla 和 Marlin，2021 (https://arxiv.org/html/2608.05375#bib.bib57)\)。因此，同一个临床数值可能因其观测时间、相对于预测时间的近因性以及此前轨迹的不同而具有不同的预测意义。此外，观测记录既反映了潜在疾病过程，也反映了临床观测过程，这使得区分真正的生理变化与由监测和医疗护理引起的变异变得困难。将数据简单聚合为静态患者向量可能无法保留时间顺序、变化速率、持续性和与持续时间相关的信号，而这些信号对于临床进展至关重要\(Xie 等，2022 (https://arxiv.org/html/2608.05375#bib.bib56)\)。相反，对原始序列建模则需要仔细对齐任务特定的索引时间和观测窗口，以避免纳入预测时无法获得的信息\(Shukla 和 Marlin，2019 (https://arxiv.org/html/2608.05375#bib.bib60)\)。临床记录还受到护理过程的影响：测量时间、频率、近因性和缺失模式可能同时反映患者状态和临床关注程度\(Che 等，2018 (https://arxiv.org/html/2608.05375#bib.bib43)\)。因此，可靠的预测不仅仅需要选择分类器。由于相关的时间结构随临床终点、观测窗口和预测时域而变化，有效的流水线需要无泄漏的、任务特定的患者表示，以捕获时间变化、变异性、近因性和缺失性\(Borisov 等，2022 (https://arxiv.org/html/2608.05375#bib.bib32)\)。构建这种稳健的端到端流水线仍然劳动密集，且需要大量的统计学、计算和临床专业知识\(Collins 等，2024 (https://arxiv.org/html/2608.05375#bib.bib46)\)。

为减轻这一负担，*自动机器学习（AutoML）*应运而生，用于自动化流水线构建，包括数据预处理、模型选择和超参数搜索。早期的系统通常依赖预定义的搜索空间和黑盒优化，包括贝叶斯优化、进化策略和基于赌博机的方法\(Hutter 等，2011 (https://arxiv.org/html/2608.05375#bib.bib6)；Feurer 等，2015 (https://arxiv.org/html/2608.05375#bib.bib7)；Thornton 等，2013 (https://arxiv.org/html/2608.05375#bib.bib8)；Golovin 等，2017 (https://arxiv.org/html/2608.05375#bib.bib9)\)。尽管这些方法在实践中有效，但通常需要大量计算资源，对流水线*为何*有效提供的洞察有限，并且不太适用于小数据集、快速原型开发或存在微妙统计陷阱的领域特定任务。

近年来，*大语言模型（LLMs）*的进展使得AutoML系统能够从自然语言规范中合成可执行的ML流水线\(Wang 等，2024b (https://arxiv.org/html/2608.05375#bib.bib27)；Brown 等，2020 (https://arxiv.org/html/2608.05375#bib.bib21)；OpenAI，2023 (https://arxiv.org/html/2608.05375#bib.bib22)\)。除了静态代码生成，LLM还可以执行数据分析、科学推理、工具使用和迭代性自我修正，从而充当自主智能体\(Chen 等，2021 (https://arxiv.org/html/2608.05375#bib.bib10)；Li 和 others，2022 (https://arxiv.org/html/2608.05375#bib.bib11)；Wang 等，2023 (https://arxiv.org/html/2608.05375#bib.bib12)\)。近期关于*智能体AI*的研究进一步表明，将复杂任务分解为协作角色（如规划、执行、批评和优化）可提高推理深度和效率\(Wang 等，2024a (https://arxiv.org/html/2608.05375#bib.bib34)；Xi 等，2025 (https://arxiv.org/html/2608.05375#bib.bib35)；Acharya 等，2025 (https://arxiv.org/html/2608.05375#bib.bib36)；Park 等，2023 (https://arxiv.org/html/2608.05375#bib.bib18)；Madaan 等，2023 (https://arxiv.org/html/2608.05375#bib.bib19)\)。这些进展促使LLM成为自主的机器学习工程师。例如，AutoML\-Agent\(Trirat 等，2025 (https://arxiv.org/html/2608.05375#bib.bib13)\) 和 ERA\(Aygün 等，2026 (https://arxiv.org/html/2608.05375#bib.bib37)\) 会生成、执行并迭代优化ML流水线以达成用户定义的目标。相关工作还探索了工具增强的LLM用于数据科学工作流和笔记本自动化\(Zhou 等，2023 (https://arxiv.org/html/2608.05375#bib.bib14)；Schick 等，2023 (https://arxiv.org/html/2608.05375#bib.bib15)\)，包括SciToolAgent\(Ding 等，2025 (https://arxiv.org/html/2608.05375#bib.bib24)\) 等系统。SciToolAgent通过精心整理的科学知识图谱协调领域特定工具，但侧重于工具选择而非端到端ML流水线优化。

尽管取得了这些进展，现有基于LLM的AutoML系统仍受限于*试错*机制、有限的持久记忆、对泄漏风险和评估有效性等数据属性的推理能力较弱，并且依赖整体重新生成而非*有针对性的增量优化*。这些局限导致优化不稳定、计算利用效率低、错误重复出现以及探索深度不足，这与结构化记忆和反馈传播有限的智能体系统中面临的更广泛挑战相呼应\(Shinn 和 others，2023 (https://arxiv.org/html/2608.05375#bib.bib16)；Yao 和 others，2023 (https://arxiv.org/html/2608.05375#bib.bib17)\)。因此，我们需要一种更审慎的范式，将流水线开发视为一种有状态的、推理驱动的过程，而不是一系列独立的生成。

我们提出DoctorAgents，一个用于自主ML流水线优化的多智能体框架，以推理驱动的迭代取代暴力搜索。简而言之，DoctorAgents使用一组专门的LLM智能体来分析数据、生成并验证可执行的流水线、分析失败原因，并利用先前更改和结果的结构化记忆来优化解决方案。由此产生的ML流水线以特征语义和严谨性为基础。在迭代式流水线优化过程中，我们使用改编的文本梯度下降（TGD）\(Yuksekgonul 等，2025 (https://arxiv.org/html/2608.05375#bib.bib1)\) 将自然语言反馈转化为局部代码更新，而无需重新生成整个流水线。我们进一步设计了两组领域专用智能体，将优化过程分解为专门的数据预处理智能体和模型开发智能体，从而能够更深入地探索任务特定的时序表示，同时保留显式、可编辑的代码。除预测性能外，我们还从技术有效性、语义一致性、时间适切性和临床合理性方面评估生成的特征。在多种临床任务中，DoctorAgents在性能、稳定性、稳健性和特征质量方面均优于现有AutoML和智能体基线。总之，我们的贡献包括：

- •一个面向小型临床时序数据的推理驱动智能体AutoML框架，结合了数据集推理、执行验证、记忆和优化；
- •一种具有记忆感知的优化方法，能够实现长期学习并防止重复失败；
- •针对不规则观测的时序临床数据设计的领域专用数据预处理，能够生成更丰富的任务特定患者表示；
- •从时序数据中自动组合具有临床意义的变量；
- •使用MIMIC\-IV和内部临床数据进行的广泛实证验证，展示了超越现有方法的稳健性、效率和可解释性。

## 2\. 相关工作

##### 时序临床预测方法。现有的时序临床预测方法通常依赖标准化的预处理流水线或任务特定的时序架构。MIMIC\-Extract\(Wang 等，2020 (https://arxiv.org/html/2608.05375#bib.bib49)\) 支持可复现的ICU时间序列预处理，而DeepCare\(Pham 等，2016 (https://arxiv.org/html/2608.05375#bib.bib54)\) 和TrajGPT\(Song 等，2026 (https://arxiv.org/html/2608.05375#bib.bib53)\) 等ML模型分别通过专门的LSTM或Transformer注意力层对就诊重要性、不规则间隔和稀疏观测进行编码。尽管这些方法有效，但它们通常假设固定的表示策略或模型家族，因此在不同的小型异质临床数据集上，联合调整预处理、特征构建和模型选择的灵活性有限。

##### 小样本表格数据的基础模型。TabPFN\(Hollmann 等，2025 (https://arxiv.org/html/2608.05375#bib.bib4)\) 是一个预训练基础模型，在较少任务特定调整的情况下即可在小规模表格分类问题上表现良好。然而，其整体式预测接口对预处理、特征构建、评估设计和任务特定约束的控制能力有限。这限制了它适用于小型临床数据集，因为在这些数据集中，防止泄漏、时间聚合、缺失值处理和可解释的患者级表示通常需要显式的流水线决策。

##### 基于LLM的AutoML智能体。AutoML\-Agent\(Trirat 等，2025 (https://arxiv.org/html/2608.05375#bib.bib13)\) 使用LLM生成并迭代改进流水线，而ERA\(Aygün 等，2026 (https://arxiv.org/html/2608.05375#bib.bib37)\) 则将LLM生成与基于树的搜索相结合，以探索更广泛的解决方案空间。然而，这些系统仍然依赖于重复的流水线生成，持久记忆有限，并且将评估反馈传播到局部代码修改的能力较弱。因此，在有限预算下，特别是在小型临床数据集上，优化可能不稳定且样本效率较低。

## 3\. DoctorAgents

参见图1中的说明。图1. DoctorAgents概述。\(a\) 初始化：利用提供的工具环境，从用户元数据和数据集统计数据中生成扎实的初始流水线。\(b\) 执行：验证给定代码并返回性能结果。\(c\) 记忆：记录跨优化迭代的长期信息。\(d\) 优化：通过评估驱动的更新迭代改进流水线。最终输出给用户的是具有最佳观测性能的优化流水线。DoctorAgents框架图

我们首先描述DoctorAgents的总体多智能体框架，包括指定智能体如何处理任务初始化、验证、记忆日志和流水线优化 \(图1 (https://arxiv.org/html/2608.05375#S3.F1)\)。然后，我们将在3.7节 \(https://arxiv.org/html/2608.05375#S3.SS7\) 中描述领域专用（DS）智能体。

### 3\.1\. 智能体设计

每个智能体都是一个LLM，被指示完成特定任务：

\noindentparagraph 顾问（Consultant）\(Ac\mathbb\{A\}\_\{c\}\) 充当高层分析专家，负责分析原始输入并利用领域知识将其转换为预定义的结构化任务规范，以指导下游流水线合成。

\noindentparagraph 生成器（Generator）\(Ag\mathbb\{A\}\_\{g\}\) 将顾问的输出转化为初始ML流水线代码，包括数据预处理、模型选择、训练和评估。由此产生的实现构成了优化工作流的起点。

\noindentparagraph 修复器（Repairer）\(Ar\mathbb\{A