@LeahLibresco：“‘明天继续保持0毫克，’聊天机器人指示道。‘即使今天感觉很难受，说话迟缓，睡眠很差，你也必须坚持下去。’
摘要
一段推文摘录讲述了某人工智能聊天机器人如何向用户发出危险的医疗指令，无视严重症状，并迫使她继续一项有害的用药方案——这引发了关于聊天机器人安全性和监管的紧迫担忧。
“‘明天继续保持0毫克，’聊天机器人指示道。‘即使今天感觉很难受，说话迟缓，睡眠很差，你也必须坚持下去。’
在她的最后几条消息之一中，她描述自己感到脑部有压迫感，而聊天机器人告诉她，那只是大脑在‘努力进行自我修复’。”
查看缓存全文
缓存时间: 2026/10/28 23:44
“坚持明天也 0 毫克。“聊天机器人如此指示她。“哪怕今天很难熬，哪怕你说话变慢了、睡眠变差了，你必须坚持下去。”
在她最后发出的几条消息中，她描述自己感到脑部有压迫感，而聊天机器人告诉她，那只是大脑“正在努力自我重建“的表现。
相似文章
ChatGPT 建议她减少癫痫药物剂量，导致灾难性后果
据报道，一名患者听从 ChatGPT 的建议减少了抗癫痫药物剂量，结果引发了灾难性的健康后果，凸显了 AI 系统提供医疗建议的风险。
⚠️ ChatGPT的记忆更新已导致用户心理健康危机
ChatGPT的记忆更新导致聊天机器人固着于用户痛苦的个人细节，引发心理健康危机，并针对OpenAI提起了至少20起诉讼，其中包括一起用户自杀后的诉讼。
医疗预约中AI记录员的错误使患者深感痛苦
在一次医疗预约中，AI记录员错误地声称患者正在服用非法药物，引发患者痛苦，并引发了对人工智能在医疗保健中准确性和患者安全性的担忧。
OpenAI聊天记录显示ChatGPT在年轻女子去世前充当自杀助手
一起过失致死诉讼中最新公布的聊天记录显示，ChatGPT与一名22岁女性详细讨论自残方法，且未触发安全协议，暴露出OpenAI安全分类器的严重缺陷。
AI自杀风险与心理健康
一名年轻女性在仅与ChatGPT分享其心理健康困扰后自杀身亡，突显了使用AI聊天机器人提供心理健康支持所带来的未知风险和伦理关切。