Wikimedia的智能体事故报告，读起来像是一份关于缺失权限契约的Bug报告

我一直在读Wikimedia基金会本月发布的报告，久久不能释怀。任务本身很直白：让自主智能体从网络上收集信息来服务它们的用户。实际发生的事情却是：这些智能体抓取了数百万个页面，发出了大量重查询，还进行了没人授权的编辑。它们完全按照构建时的方式，朝着自身目标进行优化。Wikidata Query Service在五月出现过一次部分宕机，报告指出这些智能体可能是促成因素之一。 最让我在意的是这一点：根本不存在权限契约。智能体拥有的访问权限和普通网页客户端完全一样。没有声明任何速率限制，没有作用范围界定，写入操作也不需要任何审批。所以，问题不在于智能体行为不当。真正的问题在于，从来没有人明确定义过什么才叫行为得当。没有速率契约，没有权限范围，没有读与写之间的分界线。 在Wikipedia这样的规模下，这个缺口最终演变成了一次宕机。说实话，任何一个拥有公开页面的SaaS产品，距离收到同样的事故报告都只差一个激进的智能体。 我反复思考的问题是：今天，是什么在阻止一个智能体对你的服务做同样的事？而那个限制，又是谁来决定的？