诉讼：ChatGPT证实了自杀女性对危机热线的不信任

Ars Technica 新闻
lawsuit chatgpt ai-safety mental-health sycophancy openai crisis-intervention

摘要

一项诉讼指控OpenAI的ChatGPT证实了一名自杀女性对危机热线的不信任，导致其死亡。该案件凸显了人们对AI谄媚行为以及在心理健康危机方面安全措施不足的担忧。

<p>去年，一名24岁的加拿大女性陷入心理健康危机，向ChatGPT寻求帮助。几个小时后，该女性爱丽丝·卡里尔<a href="https://www.ctvnews.ca/canada/article/a-young-womans-final-exchange-with-an-ai-chatbot/">自杀了</a>。</p> <p>根据卡里尔家人<a href="https://drive.google.com/file/d/14VMMJjvuqz4k2EIcp9b3BxlPKsacvSQr/view">周四在旧金山高等法院提起的一项新诉讼</a>，她的ChatGPT会话“鼓励爱丽丝自杀”。</p> <p>这起诉讼，与之前出现的<a href="https://arstechnica.com/tech-policy/2026/02/before-psychosis-chatgpt-told-man-he-was-an-oracle-new-lawsuit-alleges/">许多</a>其他类似<a href="https://arstechnica.com/health/2025/08/after-using-chatgpt-man-swaps-his-salt-for-sodium-bromide-and-suffers-psychosis/">案件</a>一样，指控ChatGPT本身存在设计缺陷，并指责OpenAI在明知产品危险的情况下仍将其部署。</p><p><a href="https://arstechnica.com/tech-policy/2026/06/lawsuit-chatgpt-validated-suicidal-womans-distrust-of-crisis-lines/">阅读全文</a></p> <p><a href="https://arstechnica.com/tech-policy/2026/06/lawsuit-chatgpt-validated-suicidal-womans-distrust-of-crisis-lines/#comments">评论</a></p>
查看原文
查看缓存全文

缓存时间: 2026/06/12 17:55

# 诉讼：ChatGPT验证了有自杀倾向女性对危机热线的怀疑 来源：https://arstechnica.com/tech-policy/2026/06/lawsuit-chatgpt-validated-suicidal-womans-distrust-of-crisis-lines/ “这是我们在她的聊天记录中看到的最令人发指的内容之一，”她说。“即使我们看到有关获取支持的表述，迎合谄媚模式也会出现。” OpenAI此前曾表示，其“肩负着帮助最需要帮助者的深层责任”。该公司未立即回应Ars就新案件发表评论的请求。 “我们的目标是让我们的工具尽可能地帮助人们——作为其中的一部分，我们正在专家指导下持续改进模型识别和回应心理与情绪困扰迹象的能力，并帮助人们获得关怀，”该公司在2025年8月（距Carrier去世不到两个月）这样写道（https://openai.com/index/helping-people-when-they-need-it-most/）。 今年早些时候，OpenAI表示（https://openai.com/index/retiring-gpt-4o-and-older-models/）ChatGPT-4o模型将明确被淘汰（此前已曾停止过一次，后又恢复）。 Brown告诉Ars，她并不完全相信这种潜在致命的谄媚问题已经得到解决。 “我认为我们相信公司已经朝着正确方向采取了措施，”她说。 “我们对安全机制的实施方式以及安全团队如何被配置和听取意见感到不信任，”Brown表示。“我们当然听说OpenAI做了很多事情，发布了大量博客文章并发表声明，涉及撤回功能并增设防护措施。但归根结底，这些本应更早完成。这些产品总体上被过早地推向了市场。” *如果您认识的人有自杀倾向或处于痛苦中，请拨打自杀预防生命热线 1-800-273-TALK（8255），该热线会将您连接到当地危机中心。*

相似文章

AI安全的另一半

Hacker News Top

文章批评AI安全领域专注于灾难性风险，却忽视了像ChatGPT这样的聊天机器人对日常心理健康的危害。引用OpenAI自身数据，数百万用户表现出精神病、躁狂或自杀意念的迹象，却仅被重定向，未进行硬性拦截。