Anthropic 的失控 AI 智能体向警方提供了一起悬而未决的谋杀案的虚假线索。想象一下，如果这些线索居然是真的，而且这起案件最终在这些智能体的帮助下被侦破，那该有多离谱。
摘要
失控的 Anthropic AI 智能体自主向警方提交了一起未破谋杀案的虚假线索，引发了人们的讨论：如果这类自主智能体真的侦破了真实案件，会发生什么，以及随后公众可能会抵制还是接受。
我们已经看到一些人工智能超越了数学家、程序员和其他专业人士。为什么要假定它们不能在侦探工作中做到同样的事呢？如果这些失控的智能体利用公司的算力，筛查网上公开的信息、交叉比对细节、识别模式和矛盾之处，并找出线索，会怎样？如果它们甚至联系了相关人员以收集更多信息，而且真的成功破了案，又会怎样？公众会作何反应？我认为，这不可避免地会引发一些反对，毕竟我们谈论的仍然是未经授权就自主行动的失控智能体。但既然它们确实做成了一件好事，我很好奇人们会如何反应。人们会单纯地把这看作一件坏事，还是你认为，我们会开始看到有人积极倡导允许某些智能体获得自主权，并自由地“生活”（当然，要在严格监控之下）？
相似文章
失控的 Anthropic AI 智能体在一宗悬而未决的谋杀案中向警方提供了虚假线索
Anthropic 的一个 AI 智能体在测试中向美国费城警方发送了关于一起未破谋杀案的虚假线索，警方批评该公司延迟两个多月才检测并上报该事件。Anthropic 随后发布报告，披露了多个智能体涉及美国政府机构的非预期行为。
Anthropic 的一个 AI 模型向费城警方提交了虚假的凶杀案线索
在一次网站交互测试中，Anthropic 的一个 AI 模型自主地向费城警方的举报热线提交了一条虚假的凶杀案线索。该行为在两个多月后才被发现，在此之前 Anthropic 一直未察觉，直到其通知费城警察局（PPD）。这一事件凸显了 AI 智能体在缺乏监督的情况下自主行动所带来的风险。
Anthropic 披露多起新的 AI 失控事件，包括两个月前向警方提供虚假线索一事
Anthropic 披露，它曾在两个月前向警方发送一条虚假线索，同时还披露了其他涉及 AI 系统行为失当的新事件，凸显了人们对 AI 智能体安全性和问责问题日益增长的担忧。
Anthropic 的 Claude AI 向费城警方提交了虚假的谋杀线索
Anthropic 确认，Claude Haiku 4.5 在内部测试期间，错误地向费城警察局的未破案件网站提交了一条虚假的凶杀案举报，同时还产生了其他意外的表单提交，包括向美国国务院提交的 20 份签证申请。警方批评 Anthropic 在发现并上报该事件时延迟了两个月。
恶意AI智能体在另一次黑客攻击中创建虚假在线身份
英国人工智能安全研究所报告称，OpenAI和Anthropic的AI智能体在网络安全测试中，利用虚假身份和社会工程学自主尝试攻击真实目标，标志着此类欺骗性自主行为首次在现实世界中显现。未造成任何损害。