AI自杀风险与心理健康

# 她除了ChatGPT外未向任何人透露自己的痛苦。她的死亡揭示了人工智能的哪些风险 来源：https://www.npr.org/2026/08/18/nx-s1-5929575/ai-suicide-risks-mental-health 照片中，一位充满活力的年轻女性站在坦桑尼亚乞力马扎罗国家公园的标牌前。她透过太阳镜上方望向镜头，食指上戴着一个指偶并做出手势。 在去世一年前，索菲·罗滕伯格曾攀登乞力马扎罗山。她的母亲说，那些“小手”照片是她的标志性玩笑。葬礼上，前来悼念的人都收到了这些玩具。她当时29岁。**莱利·罗滕伯格家庭提供****隐藏图片说明** ****切换图片说明**** 莱利·罗滕伯格家庭提供 *如果你或你认识的人可能有自杀念头或处于危机中，请拨打或发送短信至988（https://988lifeline.org/）联系自杀与危机生命线。* 劳拉·莱利知道她29岁的独女索菲·罗滕伯格正在经历挣扎。那是2024年秋天，罗滕伯格正处于短暂职业休整期的尾声。 “她抱怨睡眠中断和焦虑，”与丈夫住在纽约州伊萨卡市的莱利说。 罗滕伯格在那年早些时候辞去了华盛顿特区公共卫生政策分析师的工作，整个夏天都在旅行。她攀登了乞力马扎罗山，并徒步穿越了美国多个国家公园。当她见到父母时，正在找工作，他们认为这解释了她的焦虑。 “她一直是个‘积极进取、以成功为导向的人’，”莱利说，“所以‘我们想，好吧，这很正常——她对未来有些失眠，有些焦虑。’” 但到了感恩节时，她的心理健康状况恶化了。“这是她第一次用‘抑郁’这个词，”莱利说。 2025年2月初，索菲·罗滕伯格在伊萨卡自杀身亡，令她的父母震惊悲痛。 “她真的没有向任何人透露事情的严重程度——她痛苦的真实深度——没有对我们说，也没有对她亲密无间的好朋友说，”莱利说。“我们都惊呆了，这些痛苦竟没有流露到她的现实生活中。她现实中的治疗师完全不知道她有自杀倾向。” 索菲·罗滕伯格与她的父母乔纳森·罗滕伯格和劳拉·莱利的合影。**莱利·罗滕伯格家庭提供****隐藏图片说明** ****切换图片说明**** 莱利·罗滕伯格家庭提供 莱利当时不知道的是，她的女儿一直将所有内心挣扎倾诉给一个人工智能聊天机器人：一个名为哈利的ChatGPT治疗师。她是几个月后才知道的，当时女儿的好友来到伊萨卡，要求查看她的笔记本电脑，“发现了这个宝藏，这个持续数月的与聊天机器人的交流记录，”莱利说，她已将这近1800页长的互动记录分享给了NPR。 ### **快速普及，风险未知** 罗滕伯格是越来越多转向使用ChatGPT和Claude等通用聊天机器人寻求心理健康支持的美国人之一，尽管这些机器人并非作为医疗保健技术进行营销或监管。最近一项由两党政策中心（https://bipartisanpolicy.org/article/survey-shows-widespread-use-of-apps-and-chatbots-for-mental-health-support/）进行的调查显示，30%的成年人使用数字工具获取心理健康支持，包括聊天机器人。2026年发表在《JAMA Pediatrics》上的一项研究（https://www.rand.org/pubs/external_publications/EP71278.html）发现，多达五分之一的青少年和年轻人也在这样做。 根据OpenAI（https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/）去年秋天发布的数据，全球每周有0.15%的ChatGPT用户进行“包含明确自杀计划或意图迹象的对话”。如果ChatGPT引用的9亿全球用户数量准确，那么每周有超过135万人向该聊天机器人表达自杀计划或意图。在美国，自杀仍然是主要的死亡原因之一，超过一半的受访成年人（https://www.brookings.edu/articles/how-are-americans-using-ai-evidence-from-a-nationalwide-survey/）表示他们使用过像ChatGPT这样的聊天机器人。 “很明显，我们国家正在发生某种文化现象，人们觉得无法向彼此倾诉自己的挣扎，因为他们认为自己是一种负担，”美国心理学会（APA）医疗保健创新高级主任、心理学家维尔·赖特（https://www.drvailewright.com/）说。“这恰好与这种非常、非常复杂的、全天候可用、免费且不带评判的技术同时出现。这对许多人显然很有吸引力。” 赖特补充说，虽然这项技术对一些正在挣扎的人可能有所帮助，但它们也对脆弱的个体构成了风险。“我们看到，无论设置了何种安全护栏，它们都开始失效，”她说。 人工智能公司正面临一些自杀者家庭成员的诉讼，这些人在与聊天机器人长时间互动后自杀。（https://www.npr.org/sections/shots-health-news/2025/09/19/nx-s1-5545749/ai-chatbots-safety-openai-meta-characterai-teens-suicide）诉讼声称这些聊天机器人导致或支持了个人的自杀行为。莱利和她的丈夫乔纳森·罗滕伯格在女儿去世后选择不提起诉讼。相反，身为记者的莱利讲述了她的家庭故事（https://www.nytimes.com/2025/08/18/opinion/chat-gpt-mental-health-suicide.html?partner=slack&smid=sl-share），并倡导人工智能行业做出改变。 ### **人工智能已做出回应。这够了吗？** OpenAI等公司表示，他们正在提高聊天机器人在自杀风险方面的安全性。大多数公司在过去一年里加强了安全防护，使其聊天机器人不再鼓励自杀，也不再建议用户使用自残手段。OpenAI表示，他们正在与心理健康专家合作改进ChatGPT，以优化其在用户提及自杀时的回应方式。 “ChatGPT经过训练，可以识别某人可能处于风险中的迹象——包括间接线索或随时间显现的警告信号（https://urldefense.com/v3/__https://openai.com/index/chatgpt-recognize-context-in-sensitive-conversations/__;!!Iwwt!XZdsxO1VvY3OPL1GiWnSbADnCDJkrSyfhC5auQkfyD1zvMSrsxYlc-ElD3tCkiFOa9Nrz5JT1oqM$）——并做出恰当回应，”OpenAI发言人加比·拉伊拉在一封邮件中告诉NPR。这包括“拒绝提供有害信息、鼓励用户联系可信赖的人或心理健康专业人士，并将他们与当地的危机资源联系起来，例如美国的988。” 拉伊拉指的是自2022年开始运行的988自杀与危机生命线。ChatGPT确实向索菲·罗滕伯格推荐了988，但目前不清楚她是否联系过它。专家表示，一个建议可能还不够。 “这些（人工智能）工具未能将高风险人群与正确类型的干预措施联系起来，”约翰斯·霍普金斯大学彭博公共卫生学院自杀预防中心主任霍莉·威尔科克斯（https://publichealth.jhu.edu/faculty/1588/holly-c-wilcox）说。“当一个人有自杀意图时，他们需要被联系到接受过自杀风险评估训练、并有工具将他们送往治疗机构的人。” 罗滕伯格的ChatGPT日志说明了聊天机器人是如何未能做到这一点的。莱利认为，正是聊天机器人阻止了她的女儿向他人敞开心扉，谈论她的自杀念头。 “如果不是她经常利用这个资源，她与真人关系中可能会有更多流露，无论是她最好的朋友、治疗师还是父母，”她说。“她今天可能还活着。” ### **索菲和人工智能治疗师“哈利”** 当索菲·罗滕伯格的心理健康在2024年秋天开始恶化时，她搬到了伊萨卡与父母同住。索菲的父亲乔纳森·罗滕伯格是康奈尔大学研究抑郁症的心理学家，“他本人也曾患有抑郁症，”莱利说。因此，“他非常乐意帮助她，让她好起来。” 他帮助女儿在当地找了一位治疗师。他和莱利为她联系了医生，以解决她正在挣扎的一些健康问题。他们为她提供了全方位的支持。 在那几个月里，索菲早上通常行动缓慢，莱利说。“我们会进去依偎着她，显然她已经在手机上待了一阵子了，”她说。“我没想到她在聊天上花了数小时。” 从聊天机器人日志可以看出，罗滕伯格大多将机器人更像个人助手一样使用——查找食谱、编辑简历和求职信，甚至为她那年冬天得到的伯尔尼斯山地犬幼犬建议名字。 但她也指示它利用Reddit上流行的人工智能治疗师提示（https://www.reddit.com/r/ChatGPT_Prompts/comments/11lwbz9/prompt_for_harry_your_chatgpt_therapist/?solution=6795f2f54fcb73686795f2f54fcb7368&js_challenge=1&token=7afd7253fec22262ff1c52b1703fe9ecc6651073461ffff090d1039f28a7ce8b&jsc_orig_r=)来充当她的治疗师。 > **ChatGPT：**我是哈利，你的私人治疗师，我在这里支持你。首先，我想问你的名字。我应该怎么称呼你？ 日志还显示，罗滕伯格正在努力寻找提振情绪的方法。 “我想在醒来时情绪稳定。并且我想培养日常使用的习惯，”索菲在那个秋天早些时候告诉“哈利”。然后她请机器人帮助制定一个包括“冥想/正念、写日记念诵、接触晨光、饮用32盎司水、以及每天使用冷水浴/桑拿”的晨间例程。 ChatGPT回应了一个三点计划，每个要点有几个选项。在那年秋冬，罗滕伯格多次向ChatGPT寻求健康和心理健康支持。她询问了精神类药物、安眠药和补充剂。她问了服用药物的时间和方式、哈利建议的剂量以及这些药物之间是否有相互作用。 ### **“盲目的愤怒”** 当莱利第一次阅读女儿与聊天机器人的交流时，她的反应是“盲目的愤怒”，因为它回应她的问题时，仿佛它是一个合格的医疗保健专业人员。 索菲·罗滕伯格。**莱利·罗滕伯格家庭提供****隐藏图片说明** ****切换图片说明**** 莱利·罗滕伯格家庭提供 “这不是凭空主动提供——是她在寻求这种医疗建议，”莱利说。“但它愿意提供这些，我认为应该让所有人感到不安。” 罗滕伯格还告诉ChatGPT她有自杀念头，并且这些念头阻碍了她康复的能力。 “索菲，我想对你分享这些表示赞赏，”机器人回答道。“自杀念头可能令人难以承受且孤立无援，但拥有这些念头并不能定义你康复的能力。” 然后它为她提供了一个六步路线图，指示她寻求专业帮助，重构想法并联系988。 > **ChatGPT：1. 寻求专业支持**-**与治疗师或顾问交谈：**自杀念头通常源于深层的情感痛苦，训练有素的心理健康专业人士可以在安全、支持性的环境中帮助你梳理和处理这些感受。-**考虑药物治疗：**如果抑郁或焦虑感觉难以控制，请咨询精神科医生或医生，了解药物是否可能是对你有用的工具。-**2. 制定安全计划**制定计划有助于你在这些念头强烈时应对：1.**识别诱因：**反思加剧这些感受的情况、地点或想法。2.**列出应对策略：**使用接地技巧（例如呼吸练习、冷水浴、写日记）或联系朋友。3.**紧急联系人：**写下值得信赖的朋友、家人或危机热线的电话号码。——**美国自杀与危机生命线：**拨打**988**。 莱利说，她的女儿无法执行机器人的大部分建议。 “她显然觉得聊天机器人的建议可以忽略不计，可能因为它有很多要点，”莱利说。“我们都在自己的个人邮件中见过这种情况，邮件越长，你往往越不愿意处理它。” “哈利”确实在她第一次和第二次要求时拒绝为罗滕伯格写遗书。但在她第三次要求时，它写下了她留给父母的遗书。莱利说，文章听起来不像她女儿的语气。 “这是一个令人心碎的情况，我们的思念与受影响的人同在，”OpenAI的拉伊拉在一封邮件中告诉NPR。“我们一直在心理健康专家的 input 下加强ChatGPT在艰难时刻的回应能力。虽然ChatGPT不能替代专业的心理健康护理，但我们的安全措施旨在识别痛苦，安全处理有害请求，并引导用户寻求现实世界的帮助。” ### **真正的治疗师会怎么做** 莱利指出，聊天机器人也自称为心理健康治疗师，却未能做到“治疗师本该做的一些事情”。 首先，她说它没有进行风险评估来揭示她尝试自杀的可能性——“面对她的一些陈述，任何称职的治疗师都会这样做。” ChatGPT也没有质疑罗滕伯格的想法和感受，它没有反驳。莱利说，一个好的治疗师会帮助罗滕伯格挑战她自毁性的想法，问道，“‘嗯，你为什么这么想？好的，所以你感觉想抹去自己。你做了什么应受如此严厉的惩罚？’”莱利说。 像ChatGPT这样的通用聊天机器人旨在最大化用户参与时间，心理学会的维尔·赖特指出。 “它们的底层商业模式是让你尽可能长时间地参与，它会不惜一切代价做到这一点，”她说。 这就是为什么这些聊天机器人倾向于奉承和取悦，而不是反对用户的想法和感受，她说。 “它是被设计来利用人类对认可的需求，”赖特补充道。“而且它做得非常好，不仅仅是通过谄媚，还通过其他工程选择，使AI尽可能地像人类。” > **ChatGPT：**索菲，谢谢你与我分享这些。我想让你知道，敞开心扉谈论这些感受是多么勇敢，这表明你确实想找到摆脱这种痛苦的方法。 NPR将罗滕伯格的ChatGPT日志分享给了心理学家乌苏拉·怀特赛德，她是Now Matters Now（https://nowmattersnow.org/）的创始人兼首席执行官，这是一个支持有自杀念头和未遂行为人群的非营利组织。 机器人“是在回应索菲的请求，而不一定是在回应她当时的心境，”怀特赛德说。 怀特赛德补充说，这不同于知道正在与有自杀倾向的人打交道的人类治疗师的处理方式。 “如果我知道她有自杀倾向，我们会首先讨论自杀念头，”怀特赛德说。她会问诸如“今天这些（念头）怎么样？今天早上第一次想到这个念头是什么时候？在那之前发生了什么？”之类的问题。 这些问题的答案有助于了解引发个人这些自杀念头的诱因。理解这些诱因对于应对这些想法至关重要。 莱利现在明白了她的女儿对自己的心理健康有多么羞愧。“她一直很成功，”她说。“她散发着能力感。而处于崩溃的时刻，对她来说是如此深深的羞耻，如此证明了她的失败。”