Guideline-as-Oracle：眼科电话分诊代理的零标注训练

# 指南即 Oracle：眼科电话分诊代理的零标注训练
Source: https://arxiv.org/html/2608.04772

###### 摘要

扩展多轮医疗代理的监督信号十分困难，因为专家对话标注成本高昂，且临床对话受隐私限制。我们提出 *指南即 Oracle*（Guideline-as-Oracle, GAO），将美国眼科学会（American Academy of Ophthalmology）的指南编译为一张 70 行的操作规则表，并以此作为 3,000 个训练对话的唯一实例级监督来源，人类标注仅用于评估。由于将规则转换为对话本身就是一个设计问题，我们系统梳理了八种构建策略——包括引用行分级指派、单事实边界对、仅元数据修复和标签修复——并刻画了每种策略的证据状态：标注机制、无效结果、存在混杂、或仅作为整体包被评估。在此语料上微调 9B 骨干模型得到 GAO-Triage，使得与 201 例操作参考标准的一致率从 61.7% 提升到 74.1%（精确 McNemar 检验 p=0.0046），急症病例召回率从 9.5% 提升到 69.0%；这一提升在第二个随机种子和患者模拟器上均保持。在我们测试的七个通用系统中，没有一个在两项指标上同时优于 GAO-Triage，且 GAO-Triage 在推理时无需前沿模型。打乱标签与对话的对应关系会使模型退化成一个恒定输出常规（routine）的预测器，这表明信号来自指南推导出的标签分配，而非对话的表层形式。标签修复与训练后期安全性退化现象的消失同时出现。

## 1 引言

眼科电话分诊必须仅凭语言互动（不进行检查或影像）来判断来电者是需要紧急（emergent, E）、紧急（urgent, U）还是常规（routine, R）处置。分诊不足可能延误威胁视力的疾病的处理；过度分诊则会占用临床资源。因此，自动化分诊代理需要多轮获取鉴别性证据，并输出可审计的处置决定，而不是对静态情境进行分类。

对多轮通话转录稿进行专家标注难以扩展，且可识别的临床对话很少能作为训练数据发布。然而，专业学会会发布将症状表现映射到处置等级的结构化指南。这就留下两个问题：将这样的规则表编译为能支撑一个合格多轮代理的监督信号需要什么？该监督中究竟是什么携带了最终的能力？我们通过以作者编译的操作化规则表作为训练对话的唯一实例级监督（人类标注仅用于评估）来研究这两个问题。

参考图 1：干净协议结果（n=201；*干净*指第 4 节（https://arxiv.org/html/2608.04772#S4）中的完整档案启发式被禁用）：在 42 个急症病例上，操作参考一致率与召回率的关系。点状十字线标记 GAO-Triage（红星），阴影右上象限代表能够同时在*两个*指标上击败它的实验方案。没有任何方案做到。Base 和仅 ROUTINE 方案位于图的底部边缘锚定；GPT-5.5++R 是提供了 70 行规则表的 GPT-5.5。其余检验结果见 表1（https://arxiv.org/html/2608.04772#S5.T1）和补充材料。不显著并不等于等价。
参考图 2：指南即 Oracle（第 3 节（https://arxiv.org/html/2608.04772#S3)）。(1) 作者将受 AAO 启发的指南编译为一张 70 行的规则表；一个档案引用非空行集合 JJ，并收到 Φ(J)\\Phi(J)，即仅对被引用行中的最高等级。(2) 八种构建策略将该表转化为 3,000 个多轮对话，这些对话不携带任何实例级人工标签；质量门是一种预期分类法，而非经验证的属性。(3) 类加权重采样与护士 token 交叉熵得到 GAO-Triage，然后它以交互式护士的身份运行并直接给出处置。人类标签仅在评估阶段进入。由于编译得到的策略是作者定义的，而非临床金标准，下游得分衡量的是对策略的一致性。

我们将美国眼科学会（AAO）材料编译为一张 70 行操作表，并让它提供所有实例级对话标签（*指南即 Oracle*, GAO），将微调于此语料上的 9B 骨干模型命名为 GAO-Triage。这两个名称的实际含义都比听起来窄：*零标注*排除的是训练标签，而非对策略本身的编译和审计；*Oracle* 是一种构建角色，而非临床金标准或 AAO 的背书。

我们在一个 201 例的操作参考标准上评估该骨干模型的完全参数监督微调（SFT）。该参考标准也用于告知规则覆盖率和模型选择——因此以下得分衡量的是对正在开发中的策略的一致性，而非未见的临床泛化（第 4 节（https://arxiv.org/html/2608.04772#S4)）。审计我们自己的评估流程，发现了修复后的对话中存在源自基准的改写，以及一个完整档案启发式可能从隐藏病例数据中覆盖裁决；所有主要结论均基于禁用该启发式的干净比较（第 5.1 节（https://arxiv.org/html/2608.04772#S5.SS1)）。

本文有三个贡献：

- • **规则到对话构建的设计空间。** 我们系统化整理了将规则表转换为训练对话的八种策略：引用行标签、单事实边界对、仅元数据修复、措辞多样性、替换、证据门控、训练-服务对齐和标签修复。我们还刻画了每种策略的证据状态。尽管它们各自的效应无法被单独识别，但由此得到的无效结果和混杂因素划定了从现有证据中能够——以及不能够——得出的结论（第 3.3 节（https://arxiv.org/html/2608.04772#S3.SS3)）。
- • **一个可与前沿模型竞争的护士角色代理。** SFT 将一致率从 61.7% 提升到 74.1%（精确 McNemar p=0.0046），急症召回率从 9.5% 提升到 69.0%。在与八个外部护士方案进行比较时，没有一个方案在一致率和急症召回率两个指标上同时优于 GAO-Triage（第 5.1 节（https://arxiv.org/html/2608.04772#S5.SS1)）。
- • **对所学能力的受控定位。** 在保留对话文本的同时打乱对话与标签的对应关系，会使模型退化成一个恒定输出*常规*的预测器（112/201），急症召回率降为 0/42。这一干预表明，所学能力依赖于对话与标签之间的分配关系，而非仅依赖于对话的表层形式（第 6 节（https://arxiv.org/html/2608.04772#S6)）。

## 2 相关工作

#### 无需逐实例标签的监督。

数据编程（data programming）用作者编写的标注函数取代逐实例标注，并由生成式标签模型进行聚合（Ratner 等人 2016 (https://arxiv.org/html/2608.04772#bib.bib6), 2017 (https://arxiv.org/html/2608.04772#bib.bib7)），另一条并行路线则从书面原则或模型输出中推导监督信号（Bai 等人 2022 (https://arxiv.org/html/2608.04772#bib.bib8); Wang 等人 2023 (https://arxiv.org/html/2608.04772#bib.bib19); Taori 等人 2023 (https://arxiv.org/html/2608.04772#bib.bib20)），近期的医学工作则从结构化领域知识综合出代理轨迹（Yu 等人 2025 (https://arxiv.org/html/2608.04772#bib.bib27)）。我们的设置与其区别在于什么扮演了标注函数的角色。专业指南并不是需要去噪的噪声启发式：它就是可执行的决策规则，因此一张编译好的规则表可以携带所有实例级标签，无需标签模型或对弱来源进行多数投票。我们舍弃的是经过验证的临床规则本可提供的正确性保证；并且由于我们的标签是生成的而非聚合的，故障模式也不同——我们面对的不是噪声但独立的投票，而是内部相互矛盾的规则，这正是标签修复作为独立构建策略出现的原因（第 3.3 节（https://arxiv.org/html/2608.04772#S3.SS3)）。在此，从指南进行编译之所以具有吸引力，恰恰是因为那些让多轮分诊难以监督的数据正是不可发布的数据：公开可得的临床资源是记录、波形或摘要，而非对话（Goldberger 等人 2000 (https://arxiv.org/html/2608.04772#bib.bib34); Johnson 等人 2023 (https://arxiv.org/html/2608.04772#bib.bib31); Zhao 等人 2023 (https://arxiv.org/html/2608.04772#bib.bib30)），而电话分诊通话即使去标识化后也很少能分享。

#### 学习提问，以及从结果中学习。

当交互数据不可用时，面向任务的对话系统会针对模拟用户进行训练（Schatzmann 等人 2007 (https://arxiv.org/html/2608.04772#bib.bib36); Kreyssig 等人 2018 (https://arxiv.org/html/2608.04772#bib.bib37)），近期的 LLM 工作则在信息缺失条件下训练主动提问（Huang 等人 2025 (https://arxiv.org/html/2608.04772#bib.bib38); Li 等人 2025 (https://arxiv.org/html/2608.04772#bib.bib39)）。我们的边界对策略通过另一条路径追求同一目标：它不奖励信息增益，而是从操作规则中推导局部对比，从而使仅在一个决策关键事实上有所不同的两个对话获得不同等级。在我们的参考标准上移除这些对是无效的（第 5.2 节（https://arxiv.org/html/2608.04772#S5.SS2)），因此我们将其呈现为已声明无效结果，而非已证明的机制。直接奖励结果显然是另一条路线：偏好优化和策略梯度方法使模型与结果或偏好信号对齐（Ouyang 等人 2022 (https://arxiv.org/html/2608.04772#bib.bib10); Rafailov 等人 2023 (https://arxiv.org/html/2608.04772#bib.bib11); Shao 等人 2024 (https://arxiv.org/html/2608.04772#bib.bib12)），但分诊对它们来说存在一个信用分配缺口，因为被奖励的量是最终处置，而产生该处置的行为却是问了什么以及何时停止提问。我们的训练后方案与该缺口一致——奖励结果会损害赚得该结果的行为。

#### 交互式临床代理及其评估。

医学 LLM 评估一直强调诊断式问答和静态情境（Nori 等人 2023 (https://arxiv.org/html/2608.04772#bib.bib16); Singhal 等人 2023 (https://arxiv.org/html/2608.04772#bib.bib15); Thirunavukarasu 等人 2023 (https://arxiv.org/html/2608.04772#bib.bib18)），并用自博弈来引发更丰富的行为（Tu 等人 2024 (https://arxiv.org/html/2608.04772#bib.bib17)）；分诊基准（包括眼科分诊基准）仍然是全信息设定（Lee 等人 2025 (https://arxiv.org/html/2608.04772#bib.bib25); Mittal and Aggarwal 2026 (https://arxiv.org/html/2608.04772#bib.bib35)）。在用户查询前扣留发现结果的代理更接近电话场景（Schmidgall 等人 2024 (https://arxiv.org/html/2608.04772#bib.bib40); Nori 等人 2025 (https://arxiv.org/html/2608.04772#bib.bib41)），一个已部署的电话代理将其 LLM 限制为在逐次护士审查下进行脚本化准备（Kini 等人 2026 (https://arxiv.org/html/2608.04772#bib.bib42)）。这些工作都没有针对眼科分诊，也没有一个审计自己的评估流程中那些我们发现有必要的检查路径——这正是本文其余部分保持谨慎的来源。合成数据流水线可能通过修复和再生成将基准内容传播到训练中（Xu 等人 2024 (https://arxiv.org/html/2608.04772#bib.bib26); Zhou 等人 2023 (https://arxiv.org/html/2608.04772#bib.bib22)），因此我们的修复策略仅基于元数据规定；当一个破坏性记录器覆盖了直接裁决时，重建无法从保留的元数据中被识别出来，因此我们转而界定受影响量的范围，这遵循了关于粗化和污染数据的工作（Heitjan and Rubin 1991 (https://arxiv.org/html/2608.04772#bib.bib5); Horowitz and Manski 1995 (https://arxiv.org/html/2608.04772#bib.bib4); Manski 2003 (https://arxiv.org/html/2608.04772#bib.bib3)）。我们的标注流程还使用规则条件的 LLM 审计；它们作为评判者时的已知偏差（Zheng 等人 2023 (https://arxiv.org/html/2608.04772#bib.bib21)）正是它们只提出标签而非分配标签的原因。

## 3 方法：Guideline-as-Oracle

我们将指南锚定的分诊建模为在作者定义的构建策略下的顺序证据获取，而非经过验证的临床规则。

### 3.1 编译指南

编译产物是一张有序规则表 T=\{(qj,sj,yj)\}j=1m\\mathcal{T}=\{(q_{j},s_{j},y_{j})\}_{j=1}^{m}，其中每条规则将一个文本触发器 qjq_{j} 和症状族 sjs_{j} 与其对应的等级 yjy_{j} 配对。我们根据基准分析将最初的 64 行 AAO 知情表（American Academy of Ophthalmology 2026 (https://arxiv.org/html/2608.04772#bib.bib24)）扩展为 m=70m=70 行，因此覆盖率受基准影响，但没有复制任何病例文本；该表既没有独立临床验证，也没有到来源段落的映射。

标注是通过引用（citation）而非匹配（matching）进行的。每个生成的档案记录其生成器调用的非空行集合 JJ，并继承其中最高等级 Φ(J)\\Phi(J)，因此标签最多只能与生成器所引用的行一样好。同一个句柄还驱动另外两种策略：单事实边界对一个特定事实及其目标行进行编辑，从而按构造移动 Φ\\Phi；修复则仅从规则、症状族、等级和失败标签出发重新生成对话，不保留被拒绝文本、评估叙述和病例身份。验证器强制执行行成员资格、最大引用等级规则以及有限显式一致性，但不检查每个触发器的语义覆盖；审计后来发现了修复规范的历史违规。可接受的对话以 Φ(J)\\Phi(J) 结束，护士随等级一同输出的 `Reason` 字段只能引用来电者提供的发现；训练通过确定性重采样对类别进行加权，并仅对护士 token 计算交叉熵。第 4.2 节（https://arxiv.org/html/2608.04772#S4.SS2)的诊断需要一个更进一步、特意更弱的对象。一个在 25 键模式上的 39 项子集形成一个*可执行*匹配器 Φ^(x)=r(g(x))\\hat{\Phi}(x)=r(g(x))：gg 提取病例叙述 xx 提到的模式字段，rr 在这些字段上运行相应的规则子集。由于不完整，Φ^\\hat{\Phi} 从不标记训练行，也不提供评估标签；它的存在是为了让一个病例可以通过三种方式被阅读——系统根据其引出的转录稿 hh 陈述的处置 v(h)v(h)，以及 Φ^\\hat{\Phi} 在该转录稿上与在完整叙述上的结果。

### 3.2 从规则表到语料库

由于 Φ\\Phi 提供所有处置，语料库不携带任何实例级对话标签（图2 (https://arxiv.org/html/2608.04772#S1.F2)）。它并非一次构建完成：类别比例、质量门、覆盖率、提供者组合和上采样在连续多版语料库中自适应变化，因此以下内容是一个开发轨迹，本身无法识别任何干预效应。

#### 生成流水线。

档案覆盖八个症状族，其中一些是从公开 Reddit 叙述中抽象而来，对话在单独的流程中生成。不同的角色分别产生档案、患者回复和护士轮次，并用族特定的系统块监督每一轮护士输出。除第 3.1 节（https://arxiv.org/html/2608.04772#S3.SS1)的验证器外，还有七个质量门对覆盖率、决定性事实支持、一致性、格式、接地、多样性和泄漏进行筛选；这些质量门在不同批次中演化，描述的是一种预期分类法，而非经验证的属性。

对于基础模型与 SFT 的主要比较，语料库包含 3,000 个对话……