AI Morbidity and Mortality: 一个临床AI失败审查框架

arXiv cs.AI 论文
clinical-ai ai-safety error-analysis healthcare framework morbidity-mortality

摘要

本文提出了一种名为AI Morbidity and Mortality (AI M&M)的非责备框架，用于对临床AI失败进行案例审查，旨在将个体错误转化为可操作的机构学习。

arXiv:2609.00076v1 公告类型：新 摘要：临床人工智能正日益融入现实世界的医疗护理，但现有的安全机制并不适合重建和从与AI相关的个别错误和近乎失误中学习。总体模型监控可以识别性能变化，传统的患者安全报告可以捕获不良事件，但两者都无法解释风险如何在AI系统、临床医生、工作流程和机构控制之间的互动中产生。我们提出了AI Morbidity and Mortality (AI M&M)，这是一个结构化的、非责备的框架，用于对临床AI失败进行案例审查。该框架结合了标准化案例录入、证据保存和调查员级别的重建、工具在环归因和纠正措施跟踪。每个事件通过四个相关维度进行分类：触发因素 - 机制 - 临床路径 - 纠正措施，将暴露漏洞的条件与产生风险的过程、其对护理的后果以及分配的补救措施分开。我们使用五个门诊药物和临床决策支持案例来演示该框架；两名临床医生独立应用所有四个分类轴，并在所有20个轴级分类中达成一致。AI M&M旨在通过将个体AI在工作流中的失败转化为可操作的机构学习来补充而非替代模型监控、患者安全报告和监管监督。需要在不同机构、AI系统和临床环境中进行前瞻性评估。
查看原文
查看缓存全文

缓存时间: 2026/09/02 05:56 

# AI发病率与死亡率：临床AI故障审查框架
来源：https://arxiv.org/abs/2609.00076
查看PDF (https://arxiv.org/pdf/2609.00076)

> 摘要：临床人工智能正日益融入真实世界的医疗实践，但现有安全机制在重构和学习单次AI相关错误及险情方面存在不足。聚合模型监控能识别性能变化，传统患者安全报告能捕获不良事件，但二者均无法解释风险如何在AI系统、临床医生、工作流程及机构管控的交互作用中产生。我们提出AI发病率与死亡率（AI M&M）框架，这是一种基于案例的、无责备的结构化临床AI故障审查机制。该框架结合标准化案例录入、证据保全与调查员级重建、工具环路归因和纠正措施追踪。每个事件从四个关联维度进行分类：触发因素‑作用机制‑临床路径‑纠正措施，将暴露漏洞的条件、产生风险的流程、对医疗的后果及补救方案相互分离。我们通过五个门诊用药及临床决策支持的典型案例演示了该框架；两名临床审阅者独立应用全部四个分类轴线，并在全部20项轴级分类中达成一致。AI M&M旨在通过将个体AI工作流程故障转化为可操作的机构经验，作为模型监控、患者安全报告和监管监督的补充而非替代。需要在跨机构、AI系统和临床场景中进行前瞻性评估。

## 投稿历史

来源：Paulius Mui \[查看邮件 (https://arxiv.org/show-email/3ad8a35e/2609.00076)\] **\[v1\]**2026年8月31日（周一）07:41:30 UTC \(273 KB\)

相似文章

AI 实战前线：为何其辉煌与失败源于同一根源

Reddit r/artificial

作者分享了两年内使用AI构建平台的经验，指出了六种反复出现的故障模式（补丁式、假设式、漂移式、幻觉式、缺乏常识式、最小阻力式），并认为即使模型不断改进，这些故障模式依然存在，且变得更加难以察觉。

大多数 AI Agent 的失败是组织设计失败，而非模型失败

Reddit r/AI_Agents

文章认为，生产环境中 AI Agent 的失败往往归因于糟糕的组织设计和模糊的责任边界，而非模型本身的局限性。文章提出了一种成熟度模型，区分了 AI 助手、自动化流程和 AI 员工，以指导任务所有权的确立。

AI治理不是政策文件

Reddit r/ArtificialInteligence

文章强调了AI应用中的关键治理失败，例如通过面部识别导致的错误逮捕和聊天机器人生成的虚假情报报告，突出了人类问责制和清晰决策框架的必要性。