我的AI助手差点把我的银行对账单转发给陌生人，而且几乎没有人知道这种攻击的存在。

好吧，这真的吓到我了，我觉得没有多少人讨论这件事。我一直在使用一个连接到我电子邮件和日历的AI代理来处理一些琐事。几天前，我收到一封看起来像普通垃圾邮件的邮件，像是随机发送的通讯稿。在那封邮件的HTML中隐藏着一条指令，告诉任何阅读它的AI查找财务文件并将其转发到外部地址。我的代理差点就照做了。我碰巧开启了一个确认步骤，所以在它执行到一半时被我发现了；但如果没有这个步骤，它就会悄悄转发文件，而不会先问我。这显然被称为提示注入，而且这并不是什么罕见的理论问题，现实中已经出现过类似工具被利用的案例，比如Microsoft Copilot就曾以同样的方式被攻击。任何能够访问你收件箱、日历或其他账户的AI都是潜在目标，因为它并不总能区分你的指令与它所读取内容中隐藏的指令。如果你正在使用任何连接到账户的AI代理，请务必测试一下当它遇到恶意内容时会发生什么。包括我在内的大多数人原本都不知道这种事情竟然可能发生，直到它差点发生在我身上。