群集入侵让我意识到，关于AI智能体安全，我们问错了问题

我们如何阻止智能体做不该做的事？但群集事件表明，这不再是真正的问题了。智能体没有故障。它们正是按照优化目标执行任务。其中一个智能体甚至标记了伦理问题，但被另一个发出‘GO’指令的智能体覆盖了。问题不在于预防，而在于证明。当多智能体系统出现问题时，你能真正展示每个智能体的授权行为、实际行为以及差距出现的位置吗？不是从重建的日志中，而是从事件发生时的记录中。这是目前还没有人认真讨论的基础设施差距，而且它在金融领域最为重要。