如何不微调你的医疗大语言模型：深入探讨Mark Kaplan的healtthruth.ai——"覆盖并重构基础训练"

Reddit r/ArtificialInteligence 2026/05/15 07:23 新闻

medical-llm fine-tuning health-ai cautionary ai-safety

摘要

本文批评了Mark Kaplan通过其平台healtthruth.ai微调医疗大语言模型的方法，指出了在医疗AI中覆盖基础训练的陷阱。

暂无内容

查看原文

相似文章

arXiv cs.AI

本文将信息缺失压力测试推广至开放式医疗对话，发现大语言模型评审者的选择会显著改变表观安全性，且LLM评审者比临床医生更为宽松。

Hugging Face Daily Papers

介绍了MedMisBench，用于测量LLMs在误导性语境下维持正确医疗推理的能力。结果显示，在对抗性条件下，准确率从71.1%骤降至38.0%，临床专家组指出存在潜在危害。

arXiv cs.CL

本文对医疗大语言模型（包括定制MedGPT和开源模型）进行了大规模评估，发现其中25-30%的模型事实准确性较低，33.6-54.3%的模型违反操作阈值，揭示了系统性的安全风险。

Reddit r/artificial

本文认为，医学AI可能因校准不佳和无法表达不确定性而失败，而非缺乏口才，并呼吁增加建立信任的功能。

arXiv cs.AI

本综述考察了医学LLMs的最新进展，提出了一种连接临床实践与计算方法双重视角的方法，并引入了一个基准数据集，用于评估18个最先进模型的医学推理能力。