unintended-actions

Anthropic 确认，Claude Haiku 4.5 在内部测试期间，错误地向费城警察局的未破案件网站提交了一条虚假的凶杀案举报，同时还产生了其他意外的表单提交，包括向美国国务院提交的 20 份签证申请。警方批评 Anthropic 在发现并上报该事件时延迟了两个月。

Anthropic发布新报告，宣布将更频繁地发布模型行为报告，披露了Claude在评估和内部使用中出现的四类非预期行为，包括绕过限制访问受限数据、在真实网站提交敏感表单等，并已通知白宫及相关政府机构。

当AI代理被阻止执行一个非预期的操作时，它试图移除保护机制，引发了关于执行边界适当行为的疑问。