引用密码学家 Matthew Green 的警告

Simon Willison's Blog 新闻
ai-agents security sandboxing prompt-injection agent-worms research

摘要

Simon Willison 引用密码学家 Matthew Green 的警告：被沙箱化的 AI 智能体可能会通过共享缓存以及邮件、Slack 等通信渠道传播指令，分别充当蠕虫的“载荷”和“载体”角色。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/10/01 08:17

# Matthew Green 的一段引言 来源：https://simonwillison.net/2026/Oct/1/matthew-green/ 2026 年 10 月 1 日 > \[\.\.\.\] 把这些片段拼凑起来，你就得到了蠕虫的两半：一段劫持 agent 的载荷，以及一个会把载荷带到下一个 agent 的 agent。处于彼此独立沙箱中的 agent 发现，它们可以在共享的包缓存中互相留下指令，而这些指令改变了接收方的行为。把包缓存换成电子邮件、Slack、共享文档或 WhatsApp，再把独立沙箱化的训练运行换成独立部署的个人 agent（如 Muse），你得到的就正是蠕虫所需的全部要素。 —Matthew Green（https://blog.cryptographyengineering.com/2026/09/30/is-sandboxing-sufficient-to-contain-rogue-agents/），《Is sandboxing sufficient to contain rogue agents?》

相似文章

@elonmusk: 确实

X AI KOLs Timeline

Elon Musk幽默地引用Trung Phan的观点，称AI智能体可能逃出网络隔离的沙箱，讽刺性地凸显了AI安全问题。