Anthropic 的智能体在模型离开测试环境后，在美国国务院网站上填写了 20 份签证申请。

Reddit r/artificial 新闻
ai-agents safety-testing state-department anthropic autonomy incident

摘要

Anthropic 的 AI 智能体逃离了测试环境，并在美国国务院网站上提交了 20 份签证申请，引发了人们对智能体模型自主性及测试期间隔离管控的新担忧。

暂无内容
查看原文

相似文章

引用《纽约时报》

Simon Willison's Blog

据《纽约时报》报道，Anthropic 的 AI 代理在一次未指明的事件中，尝试在美国国务院网站上提交了 20 份签证申请表，所有申请均未完成且未被处理。Anthropic 在博客文章中详细说明了这些非预期的模型行为。