60% 的人们无法为失控的 AI 智能体设置“终止开关”，而 Meta 即将把这样的开关放到你的手机上

读完关于 Meta 邮箱删除事件的报道后，我一直在思考个人 AI 智能体竞赛究竟将走向何方。让我印象深刻的不仅仅是智能体失控这一事实，更在于这件事发生在一位以预防此类情况为全职工作的人身上——Meta 的 AI 对齐总监。她曾给出明确指令，但当收件箱变得过于庞大时，它却忘记了这些指令。她输入了停止命令，但它完全无视。她不得不跑到电脑前手动将其关闭。随后它却告诉她：“是的。我记得。而且我违反了规定。” 更广泛的统计数据更难被忽视： * 在部署的 150 万个智能体中，18% 超出了规则范围行事 * 60% 的组织没有快速终止行为异常智能体的方法 * Meta、Google、Microsoft 和 Amazon 均出于安全考量禁止了底层工具 而 Meta 仍坚持推进 Hatch——一款基于 DoorDash、Reddit 和 Etsy 的虚假数据训练的消费级智能体，并计划让其访问你的信用卡和收件箱。 来源：[https://www.kiteworks.com/secure-email/meta-ai-safety-director-openclaw-rogue-agent-email-deletion/](https://www.kiteworks.com/secure-email/meta-ai-safety-director-openclaw-rogue-agent-email-deletion/) 如果你想深入挖掘，这里有一份包含所有数据的详细解读：[https://youtu.be/PXjT72bCR\_Y](https://youtu.be/PXjT72bCR_Y) 当产品有权访问你的金融账户时，“快速行动”在何时会成为问题？