标签
微软开源了Agent Governance Toolkit(代理治理工具包),这是一个为AI代理设计的治理层,可强制执行策略、身份验证、沙箱隔离和审计日志,确保自主代理操作安全合规。
作者认为当前AI代理的安全措施(如护栏和监控)不足,提出“外部准入”作为一种更严格的模式,即暂扣执行权限,直到外部权威明确允许高风险操作。