AI治理政策能否真正约束智能代理？

我一直在研究随着AI从生成输出转向实际执行动作，公司如何处理治理问题，我在这篇论文中发现了一个特别有用的区别：“描述性治理”与“既定治理”。描述性治理是指政策、框架和治理文档中所说应该发生的事情。既定治理是指当代理运行时，架构和工具实际执行的内容。这一差距是Paulo Cavallo的论文《智能AI中的描述性与既定治理：弥合政策与执行之间的差距》的核心论点。论文将这一差距分为三个层次：政策层次：政策指定了应该做什么，但没有说明如何执行。工具层次：存在执行机制，但不易操作化。执行层次：工具有效，但实际上并未覆盖完整的风险面。这一区别听起来很明显，但在代理中变得更加重要。“代理必须使用最小特权访问”是一个治理政策。一个实际上能阻止代理调用未授权工具的架构是治理执行。论文的实践案例研究正是因此而有趣。它记录了将微软的代理治理工具包应用于多代理系统的过程，包括安装失败、解决方法以及最终的工作演示。因此，即使治理机制存在，将政策转化为在运行时可靠操作的东西是另一个问题。这让我认为，AI治理的下一阶段将不再是增加更多政策文件，而是更多地关注其底层基础设施。这就是AI控制平面变得有趣的地方。微软正在将控制平面能力构建到Foundry中，IBM在watsonx Orchestrate中引入了代理控制平面，而Lyzr则采取了一种更框架无关的方法来治理不同技术栈中的代理。不同的实现，但底层理念相似：治理需要成为系统能够实际执行、观察和审计的东西，而不仅仅是组织声称自己做的事情。所以我很好奇人们如何划定界限。什么应该算作“已治理”的AI：拥有政策和审计跟踪，还是能够在运行时证明代理无法跨越其允许的边界？