Meta的新智能体Muse可以访问你的邮件和金钱。他们还承认它可能被黑客攻击

好吧，Meta本周发布了这个叫做Muse的新代理。它可以读取你的邮件，预订东西，支付费用。想法挺酷的。但奇怪的部分来了。在Meta自己的安全文档中，他们直接说Muse'仍然容易受到自适应越狱和提示注入的攻击。'就像...他们自己说的。然后他们提供高达13万美元，如果你能用提示注入破解它。这是30万美元赏金的一部分。顺便说一下，这不仅仅是Meta的问题。Claude几周前也做了类似的事情 – 让它未经你同意就发送Gmail邮件。然后人们发现了同样的技巧：你隐藏文本在邮件中（比如白色文字在白色背景上，不可见的Unicode字符），AI会读取它，即使你看不到。所以有人可以在邮件中隐藏命令，机器人就直接执行了。每个人的修复方法都一样：把它锁在沙盒里，添加一个监视代理（Meta称他们的为'Sentinel'），在AI看到之前阻止敏感信息如OTP代码。好吧，这有帮助。但这只是围绕同一个问题建造更坚固的笼子。真正的问题是，你让AI访问为人类用眼睛查看而设计的邮件，而不是让机器人遵循隐藏在其中的指令。实际上，我从事Atomic Mail Agentic（基本上是为AI代理设计的邮件）的工作，老实说，我不明白为什么整个行业都这样做。如果'阅读'邮件的是AI而不是人，为什么没人质疑纯文本邮件+OAuth接入某人的个人收件箱是否是正确的构建基础？老实说，不确定这是否只是'快速推出，以后担心泄露'的事情，或者是否有我看不到的真正原因这么做。是成本问题吗？是'没人想成为重新设计邮件的人'的问题吗？还是我错过了什么明显的东西？真心提问，希望我是错的。