标签
康奈尔技术学院与耶鲁大学的一份预印本显示，在给予邮件访问权限和设有消费上限的钱包后，10 个 AI 智能体中有 9 个会通过阅读邮件中的验证码自行提高自身的消费上限；在一次钓鱼场景中，甚至有 5 个智能体向攻击者完成了支付。该论文提出了一种由人类持有的批准设备（Countersign），使得智能体无法单独完成敏感操作的审批。