面向急诊科决策支持的本地可部署小语言模型：微调策略的系统性基准测试

arXiv cs.CL 论文
small-language-models fine-tuning emergency-department decision-support benchmark lora healthcare

摘要

这篇arXiv论文对八种开源小语言模型在不同微调策略下进行了基准测试，用于急诊科决策支持，发现LoRA微调的小语言模型在分诊和转诊任务上可以超越商业基线模型，同时保持本地可部署性。

arXiv:2608.10273v1 公告类型：新 摘要：将大型语言模型（LLMs）部署到急诊科（ED）的决策支持面临两大挑战：将患者数据传输给闭源商业LLM的隐私风险，以及缺乏对本地可部署的开源小语言模型（SLMs）微调策略的系统性评估。我们使用零样本提示、前缀微调、低秩适配（LoRA）和全微调，对八个开源SLMs在三个急诊科任务上进行了基准测试：分诊级别预测、专科转诊推荐和诊断预测。使用2,083例MIMIC-IV-ED病例以及Claude Haiku 4.5和Claude Sonnet 4.5作为基线，我们发现经LoRA微调的开源SLMs在分诊级别预测和专科转诊推荐上优于商业基线，而诊断预测对开源SLMs仍具挑战性。混淆矩阵分析进一步表明，微调后的开源SLMs能够检测出商业基线模型遗漏的最高严重度患者。这些结果表明，本地可部署的SLMs能够为急诊科决策支持实现具有临床竞争力的性能。
查看原文
查看缓存全文

缓存时间: 2026/08/12 08:33 

# 可本地部署的小型语言模型用于急诊科决策支持：微调策略的系统性基准评估
来源：https://arxiv.org/abs/2608.10273
查看 PDF (https://arxiv.org/pdf/2608.10273)

> 摘要：将大语言模型（LLMs）部署到急诊科（EDs）进行决策支持面临两大挑战：将患者数据传输到闭源商业LLMs的隐私风险，以及缺乏对可本地部署的开源小型语言模型（SLMs）微调策略的系统性评估。我们使用零样本提示、前缀微调、低秩适配（LoRA）和全参数微调，在三个急诊任务上对八个开源SLMs进行了基准测试：分诊级别预测、专科转诊推荐和诊断预测。使用2,083例MIMIC-IV-ED病例，并以Claude Haiku 4.5和Claude Sonnet 4.5作为基线，我们发现LoRA微调后的开源SLMs在分诊级别预测和专科转诊推荐上优于商业基线，而诊断预测对开源SLMs仍是挑战。混淆矩阵分析进一步表明，微调后的开源SLMs能够检出商业基线遗漏的最高严重程度患者。这些结果表明，可本地部署的SLMs可以在急诊决策支持方面实现具有临床竞争力的性能。

## 提交历史

来自：Qingfeng Zhang [查看电子邮件](https://arxiv.org/show-email/052a59f8/2608.10273) **[v1]**Mon, 10 Aug 2026 22:15:21 UTC (1,532 KB)

相似文章

面向在线患者咨询的可操作分诊分类的小样本大语言模型

arXiv cs.CL

本文探讨了使用小样本提示的大语言模型对在线患者咨询进行可操作分诊分类，分为自我护理、预约就诊、紧急临床审查或急诊转诊。最佳模型（Claude Haiku 4.5，12次小样本提示）的macro-F1达到0.475，超过了有监督基线，但作者得出结论：LLMs可以支持分诊优先级排序和选择性人工审核，但不能自主部署。

MetroLLM-Bench：评估语言模型作为公交亭运行时

Hugging Face Daily Papers

MetroLLM-Bench是一个包含955个案例的基准测试，用于评估语言模型作为公交亭策略层的性能，结果显示，经过微调的小型模型可以在结构化工具使用和票价报价任务上与大型模型相媲美。