标签
Sente Labs 开源了 extensible-mcp,这是一个 MCP 代理,可动态加载 MCP 服务器而不污染 LLM 上下文,同时对工具调用实施零信任策略控制(支持 Rego、CEL,如今还支持 Cedar)。工具定义存储在可查询的向量存储中,策略和凭据则置于 LLM 无法触及的位置,从而将用户意图与已授予的权限区分开来。
Sapien 是一个有状态策略引擎,通过以有状态谓词来定义允许的工具调用序列,从而对自主 AI 智能体执行上下文感知的安全策略。它在几乎不牺牲智能体效用的前提下,拦截了 AgentDojo 上 93-95% 的攻击以及 Toolathlon 上 62-85% 的攻击,在长周期任务上表现优于静态工具白名单。
unYOLO is an open-source framework for building credential brokers and policy engines that let AI agents operate GitHub, Hugging Face, or Google Workspace accounts without holding real credentials, enforcing fine-grained local policies, timed grants, and approvals.
作者将自己实盘交易系统中的风险/授权层开源为一个独立的默认拒绝(fail-closed)策略引擎,该引擎在每次执行前评估智能体操作,并正在寻找智能体构建者进行试点。
微软开源了Agent Governance Toolkit(代理治理工具包),这是一个为AI代理设计的治理层,可强制执行策略、身份验证、沙箱隔离和审计日志,确保自主代理操作安全合规。
作者认为当前AI代理的安全措施(如护栏和监控)不足,提出“外部准入”作为一种更严格的模式,即暂扣执行权限,直到外部权威明确允许高风险操作。