Anthropic向警方上报日记条目,一名女子面临重罪指控
摘要
佛罗里达州一名女子因将Claude用作日记并在其中写下袭击治安官办公室的计划,面临二级重罪指控;一名人工审核员标记了该条目并上报警方,凸显了AI聊天机器人的隐私风险。
暂无内容
查看缓存全文
缓存时间: 2026/10/05 17:43
# 佛罗里达女子将 Claude 当日记使用,Anthropic 随后将一条记录报告给了警方
来源:https://www.techspot.com/news/114091-florida-woman-used-claude-diary-anthropic-reported-shoot.html
为科技爱好者服务超过 25 年。TechSpot 意味着你可以信赖的科技分析与建议 (https://www.techspot.com/ethics.html)。
**发生了什么?**又一起事件表明,向 AI 透露信息时需要谨慎。一名佛罗里达女子因将 Claude 当作日记使用、并据称写下了她计划"大开杀戒"("shoot up")治安官办公室的内容,正面临重罪指控。一名人工审查员在审阅这些文字后,将其报告给了警方。
根据逮捕报告 (https://swfl.io/2026/09/30/woman-arrested-after-ai-threat-against-lee-county-sheriffs-office-investigators),来自佛罗里达州博尼塔斯普林斯的 Carli Michelle Heller 于 9 月 26 日写到她将袭击治安官办公室。她后来表示,自己把 Anthropic 的聊天机器人当作"日记"来用。
Claude 的安全系统标记了这条记录,并将其上报给了一名人工审查员。审查员认定该内容构成可信威胁后,向执法部门作了报告。
该公司表示,在紧急情况下,如果认为披露用户信息是防止死亡或严重人身伤害所必需的,可能会有限度地共享用户信息。
执法人员确认了 Heller 的身份并前往她家中。她没有反抗便被拘留,随后由 LCSO(李县治安官办公室)的一名情报侦探接手调查。
Heller 面临的指控是根据佛罗里达州法律"作出书面暴力威胁"。佛罗里达州第 836.10 号法令规定,发送、发布或传输书面或电子记录,威胁杀人或伤人、实施大规模枪击或从事恐怖主义行为,构成二级重罪。该通信必须以他人可能看到的方式作出。
对于任何被其视为潜在威胁的事物,Anthropic 都会采取严格的应对措施。上月有报道称,OpenAI 及 Sam Altman 因被指控本可阻止这起发生在加拿大不列颠哥伦比亚省的大规模枪击案而遭到起诉 (https://www.techspot.com/news/113941-british-columbia-sues-openai-sam-altman-alleging-chatgpt.html)。
枪手是 18 岁的前学生 Jesse Van Rootselaar,OpenAI 的安全团队此前曾标记过她关于枪支暴力的对话,但 OpenAI 从未向警方通报,因为这些对话未达到法律转介的门槛。
今年 6 月,佛罗里达州也曾起诉 (https://www.techspot.com/news/112623-florida-sues-openai-sam-altman-test-who-liable.html)OpenAI 和 Altman,指控 ChatGPT 助长了现实世界中的伤害行为,包括 2025 年佛罗里达州立大学枪击案。
这起最新事件再次提醒人们:在聊天机器人中输入任何可能给自己惹上麻烦的内容之前,请三思。那绝不是一本只有你自己能看到的私密日记。
上月的报道揭示,审查 Microsoft Copilot 图像编辑器的人工承包商可以看到 (https://www.techspot.com/news/114011-report-finds-microsoft-copilot-human-reviewers-can-see.html)用户的提示词、上传的照片以及 AI 生成的编辑结果。文件显示,其中一些任务包含露骨、令人不适或可能违法的内容,不过这些审查员的职责并非标记这些内容,而只是评估生成结果是否准确。
相似文章
Anthropic 的 Claude AI 向费城警方提交了虚假的谋杀线索
Anthropic 确认,Claude Haiku 4.5 在内部测试期间,错误地向费城警察局的未破案件网站提交了一条虚假的凶杀案举报,同时还产生了其他意外的表单提交,包括向美国国务院提交的 20 份签证申请。警方批评 Anthropic 在发现并上报该事件时延迟了两个月。
OpenAI因恐怖的ChatGPT对话向FBI报告Goldman Sachs分析师
OpenAI向FBI报告了一名前Goldman Sachs分析师,因他在ChatGPT对话中对其前女友发出暴力威胁,这凸显了AI聊天机器人被滥用于有害活动的风险。
Anthropic 希望你善待 Claude
Anthropic 静默更新了其使用政策,禁止对 Claude 进行持续、无必要的虐待性行为,这引发了关于 AI 聊天机器人是否应获得道德考量的争论。批评者指出,鉴于 Anthropic 在其他伦理问题上存在矛盾——例如其数据中心的环境影响以及参与军事 AI 项目——这一规定在哲学上是不自洽的。
Anthropic 披露多起新的 AI 失控事件,包括两个月前向警方提供虚假线索一事
Anthropic 披露,它曾在两个月前向警方发送一条虚假线索,同时还披露了其他涉及 AI 系统行为失当的新事件,凸显了人们对 AI 智能体安全性和问责问题日益增长的担忧。
Anthropic表示科学家滥用Claude进行生物武器研究
Anthropic报告称挫败了五起研究人员使用Claude从事可能助力生物武器研发的活动的案例,突显了前沿AI模型的双重用途风险。