标签
unYOLO is an open-source framework for building credential brokers and policy engines that let AI agents operate GitHub, Hugging Face, or Google Workspace accounts without holding real credentials, enforcing fine-grained local policies, timed grants, and approvals.
作者将自己实盘交易系统中的风险/授权层开源为一个独立的默认拒绝(fail-closed)策略引擎,该引擎在每次执行前评估智能体操作,并正在寻找智能体构建者进行试点。
微软开源了Agent Governance Toolkit(代理治理工具包),这是一个为AI代理设计的治理层,可强制执行策略、身份验证、沙箱隔离和审计日志,确保自主代理操作安全合规。
作者认为当前AI代理的安全措施(如护栏和监控)不足,提出“外部准入”作为一种更严格的模式,即暂扣执行权限,直到外部权威明确允许高风险操作。