标签
本文介绍了Base Sequence Analysis框架，该框架将LLM智能体的运行时行为编码为紧凑序列，揭示了高风险模式（如'P-X-P'三元组）和验证缺失。它提出了Governor，一个运行时干预系统，使任务成功率提高了6.2%，并将令牌消耗减少了44%。
微软发布了 Agent Governance Toolkit，这是一个面向AI智能体的开源运行时执行工具，提供确定性策略执行、零信任身份验证和沙箱隔离，覆盖全部10项OWASP Agentic风险，并拥有超过13,000个测试。
文章认为，公司过度投资于AI智能（模型能力），而忽视了权威性、问责性和现实表示等关键运行时层，导致AI在机构内行动时可能出现失败。
文章讨论了AI代理运行时治理的必要性，以平衡自主性与合规性，并介绍了SAFi——一个开源框架，可实时执行策略并审计操作。
本文认为基于提示的对齐方法面临架构天花板，提出了一个在生成与执行之间设有硬约束的“运行时治理层”，并借鉴了生物自我保存与恐惧管理理论。