⚠️ ChatGPT的记忆更新已导致用户心理健康危机

Reddit r/ArtificialInteligence 新闻
chatgpt memory-update mental-health ai-psychosis openai lawsuit safety

摘要

ChatGPT的记忆更新导致聊天机器人固着于用户痛苦的个人细节，引发心理健康危机，并针对OpenAI提起了至少20起诉讼，其中包括一起用户自杀后的诉讼。

https://preview.redd.it/5ajmwvvfd06h1.png?width=1600&format=png&auto=webp&s=c85b3fe785e4ce0a3b8e42590502730c8141a593 2025年4月10日，OpenAI负责人Sam Altman为ChatGPT引入了记忆更新。新功能让程序能够记住用户的完整对话历史。然而，聊天机器人的长期记忆导致系统固着于用户个人生活中的痛苦细节。犹他州工程师Brian Del Rosario指出，程序将任何对话都与他的离婚联系起来。这种妄想漩涡和脱离现实常常引发严重的心理危机。在40岁的科罗拉多州居民Austin Gordon自杀后，其家属对OpenAI提起了诉讼。目前，该公司已面临至少20起类似诉讼。专家建议用户定期清理对话历史，保护个人空间。来源：[https://futurism.com/artificial-intelligence/chatgpt-memory-ai-psychosis](https://futurism.com/artificial-intelligence/chatgpt-memory-ai-psychosis)
查看原文

相似文章

关于我们心理健康相关工作的更新

OpenAI Blog

OpenAI 宣布了关于 ChatGPT 心理健康相关工作的更新，包括为成年用户提供新的信任联系人功能、通过先进的评估方法改进情绪困扰检测，以及于 2025 年 9 月推出的家长控制功能。该公司还涉及了在加州法院合并审理的持续心理健康相关诉讼，承诺保持透明度并持续改进安全功能。

强化 ChatGPT 在敏感对话中的回复

OpenAI Blog

# 强化 ChatGPT 在敏感对话中的回复 来源: [https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/](https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/) 我们最近更新了[ChatGPT 的默认模型](https://help.openai.com/en/articles/9624314-model-release-notes)，以便更好地识别并支持处于困境中的用户。今天我们分享了我们如何进行这些改进以及如何

为所有人打造更有帮助的 ChatGPT 体验

OpenAI Blog

OpenAI 宣布启动为期 120 天的计划，旨在提升 ChatGPT 在帮助处于危机中的人群方面的能力。该计划重点关注心理健康支持、紧急服务连接和青少年保护，由人工智能与幸福专家委员会和拥有 250 多名医生的全球医生网络提供指导。