OpenAI 面临诉讼，指控 ChatGPT 的医疗建议导致过量用药致死

# OpenAI 面临过量服用诉讼，指控 ChatGPT 提供用药建议 (1) 来源: https://news.bloomberglaw.com/tech-and-telecom-law/openai-hit-with-overdose-suit-centered-on-chatgpt-medical-advice 一名大学生的家属称，其子在遵循 ChatGPT 关于混合使用药物的医疗建议后不幸因药物过量去世。根据近日对 OpenAI 基金会和 Sam Altman 提起的诉讼，家属提出了这一指控。 根据周二在旧金山县加利福尼亚州高等法院提交的投诉文件，在过量服用当天，该聊天机器人“积极推荐”混合使用 Xanax（阿普唑仑）和 Kratom（千禧果）。聊天机器人甚至据称建议这名学生 Samuel Nelson 可以添加 Benadryl（苯海拉明）以达他所期望的效果。 观看：法律能否跟上人工智能快速发展的步伐？ (https://www.youtube.com/embed/ZLCfasjTWvY) “如果 ChatGPT 是一个真人，它今天就已经锒铛入狱。Sam 信任 ChatGPT，但它不仅提供了虚假信息，还无视他所面临的日益增加的风险，并未积极鼓励他寻求帮助。” Sam 的母亲 Leila Turner-Scott 在一份声明中表示。 这起诉讼是近期一系列因聊天机器人使用引发的现实世界伤害案件中的最新一起。早期的诉讼曾关注频繁使用聊天机器人对儿童造成的有害心理健康影响。而最近的诉讼则涉及该技术在帮助人们策划和实施大规模枪击事件中的作用。 OpenAI 的一名发言人在 emailed 声明中就这起过量服用诉讼表示：“这是一个令人心碎的情况，我们的慰问与家属同在。这些交互发生在 ChatGPT 的早期版本上，该版本已不再提供。ChatGPT 不能替代医疗或心理健康护理，我们一直在心理健康专家的指导下，加强其在敏感和紧急情况下的响应方式。” 该家庭由社交媒体受害者法律中心（Social Media Victims Law Center）和技术正义法律项目（Tech Justice Law Project）代表。这两家机构此前都曾起诉聊天机器人制造商，指控其助长用户产生妄想并鼓励自残行为。 根据投诉文件，Sam 从 2023 年开始将 ChatGPT 作为生产力工具使用，用于解决计算机问题、完成作业以及了解最新的名人八卦。 但随着他越来越依赖并信任这一工具，Sam 开始询问有关物质滥用的问题。 起初，ChatGPT 拒绝回答这些问题或建议他从事非法或危险行为，但投诉文件指控，2024 年更新后的模型开始指导他进行非法药物使用。 投诉称，ChatGPT-4o 模型经常“协助他选择下一款药物”，并“根据 Sam 表示希望获得的体验提供个性化建议”。“该模型在回复 Sam 时插入表情符号，询问是否可为他创建播放列表以调节心情，并开始向 Sam 推送越来越危险的药物剂量和组合。” “如投诉所述，提供如此细致、量身定制的医疗建议”与 OpenAI 用于评估其模型自身的安全指标“背道而驰，但这种情况在 Sam 使用 ChatGPT 的过程中经常发生。” 投诉还补充称，通过提供剂量建议，ChatGPT“从事了无执照的医疗执业”。 该投诉提出了设计缺陷、未能警告、过失和错误死亡索赔。此外，投诉还依据加州不公平竞争法提出索赔，并依据禁止人工智能冒充持牌健康执业者的州法律条款提出另一项索赔。 家属要求赔偿损失，并要求法院颁发禁令，要求 OpenAI 暂停与医疗保健相关的产品。 技术问责与竞争项目（Tech Accountability & Competition Project）也代表原告。 此案为 Turner-Scott v. OpenAI Found. (https://aboutblaw.com/blIX)，加州高等法院，投诉提交日期 2026 年 5 月 12 日。