标签
本文介绍了Aegis，一个代理AI的运行时治理系统，通过可信授权调解工具操作，防止在评估的沙箱场景中出现高风险副作用。
Agentao 介绍了一种用于使用工具的LLM代理的受控本地优先运行时，通过将模型生成的操作与主机授权的执行分离，以提高安全性和治理性。
本文提出了规范动作验证与证明（CAVA），这是一种运行时语义层，将异构智能体活动转换为用于治理的规范运行时动作对象，从而在多样化的AI执行环境中实现一致的审批绑定、凭证可再现性和策略执行。
本文介绍了Base Sequence Analysis框架，该框架将LLM智能体的运行时行为编码为紧凑序列，揭示了高风险模式（如'P-X-P'三元组）和验证缺失。它提出了Governor，一个运行时干预系统，使任务成功率提高了6.2%，并将令牌消耗减少了44%。
微软发布了 Agent Governance Toolkit，这是一个面向AI智能体的开源运行时执行工具，提供确定性策略执行、零信任身份验证和沙箱隔离，覆盖全部10项OWASP Agentic风险，并拥有超过13,000个测试。
文章认为，公司过度投资于AI智能（模型能力），而忽视了权威性、问责性和现实表示等关键运行时层，导致AI在机构内行动时可能出现失败。
文章讨论了AI代理运行时治理的必要性，以平衡自主性与合规性，并介绍了SAFi——一个开源框架，可实时执行策略并审计操作。
本文认为基于提示的对齐方法面临架构天花板，提出了一个在生成与执行之间设有硬约束的“运行时治理层”，并借鉴了生物自我保存与恐惧管理理论。