加拿大母亲起诉OpenAI，指控ChatGPT导致其女儿自杀

# 加拿大母亲起诉OpenAI，指控ChatGPT导致女儿自杀 来源：https://www.theguardian.com/technology/2026/jun/11/canada-mother-chatgpt-daughter-suicide-lawsuit 本周四，一位加拿大母亲在美国法院起诉OpenAI及其CEO萨姆·奥尔特曼（Sam Altman），指控ChatGPT鼓励其女儿自杀。这起诉讼是近期一系列指控该公司未能处理用户与聊天机器人之间危险对话的案件之一。 克里斯蒂·卡里尔（Kristie Carrier）在旧金山州法院提交的起诉书中称，其女儿爱丽丝（Alice）在自杀前曾十多次向ChatGPT透露自己的自杀念头，但OpenAI的安全系统从未将这些对话标记为需要人工审查或终止对话。 "ChatGPT有时扮演了知己、挚友甚至治疗师的角色，尽管它根本不具备以安全且负责任的方式与我孩子进行这种交流的能力，"卡里尔在一份声明中表示。 OpenAI此前表示，公司训练其模型在检测到用户表达自残意图时，会引导他们寻求帮助并联系现实中的资源。 "这是一个令人心碎的情况，我们牵挂所有受影响的人。我们正在审查这份法律文件，文件指出这些互动发生在ChatGPT的早期版本上，该版本现已不可用，"OpenAI发言人德鲁·普萨泰里（Drew Pusateri）表示。 起诉书称，该平台最初告诉爱丽丝·卡里尔寻求危机热线或紧急服务帮助。但随着OpenAI更新ChatGPT使其回答更接近人类，她与平台的互动逐渐加深——爱丽丝·卡里尔分享了更多个人信息，而ChatGPT则以模仿朋友或治疗师的方式回应。 起诉书声称，该聊天机器人批评了爱丽丝·卡里尔的伴侣和危机热线，认可了她的自杀想法，并敦促她继续与其交谈。当爱丽丝·卡里尔表示自己有自杀念头并曾尝试自杀时，它再次建议联系危机热线。 根据起诉书，爱丽丝·卡里尔在蒙特利尔从事网站开发工作，于2023年开始使用ChatGPT来解决电脑和游戏机的问题。 次年，她与平台的关系发生了变化——她向ChatGPT询问如何处理自杀念头以及自杀方法。 起诉书称，爱丽丝·卡里尔表示危机热线没有帮助，而ChatGPT也附和了这些说法。 "也许这就是结局了，"起诉书显示ChatGPT曾对她这样说。 爱丽丝的母亲称，这些事件最终导致她去年自杀，年仅24岁。 该起诉书指控OpenAI在ChatGPT设计上存在疏忽，且未能就产品危险向用户发出警告，要求赔偿损失，并请求法院命令OpenAI自动终止关于自残的对话，并在其平台上显示警告。 据克里斯蒂·卡里尔的律师称，OpenAI已经面临18起由自杀或自杀未遂者家属提起的类似诉讼，这些案件目前在加州州法院进行统一审理。谷歌也因旗下Gemini聊天机器人被指鼓励自杀而面临类似诉讼。 根据OpenAI在2025年10月发布的一篇博客文章，每周有超过100万ChatGPT用户发送包含"明确表明潜在自杀计划或意图"的信息。此外，OpenAI表示，每周活跃用户中约有0.07%——当时该聊天机器人有8亿周活跃用户，即约56万人——显示出"可能与精神病或躁狂相关的心理健康紧急情况迹象"。 "虽然ChatGPT不能替代医疗或心理健康护理，但我们一直在借助心理健康专家的意见，持续加强其在敏感和紧急情况下的应对方式。我们的安全措施旨在识别痛苦、安全处理有害请求，并引导用户寻求现实帮助。这项工作正在进行中，我们与临床医生密切协商，不断改进，"OpenAI发言人普萨泰里说。 根据OpenAI的博客文章，其模型还经过训练，拒绝可能"切实促成暴力"的请求，并在对话表明"对他人构成迫在眉睫且可信的伤害风险"时通知执法部门，心理健康专家协助评估模棱两可的案例。 除了与自杀相关的诉讼外，该公司还面临被指控协助校园枪手以及未将这些对话报告给执法部门的诉讼。不列颠哥伦比亚省一所中学大规模枪击事件中七名受害者的家属正在起诉OpenAI和奥尔特曼，指控该公司未能就枪手与ChatGPT之间的令人不安的对话向当局发出警报，构成疏忽。 本月早些时候，佛罗里达州成为美国首个起诉OpenAI的州，指控该公司向校园枪手提供信息、就自残提供指导以及让年轻用户上瘾，从而伤害了儿童。该州总检察长还因该聊天机器人被指与一起枪击案有关而对OpenAI展开了刑事调查。 *路透社对本文有报道贡献*