标签
本文提出了一种自动形式化流水线，该流水线使用基于LLM的生成-批评循环，将智能体提示、MCP工具描述和自然语言策略文档转换为经过形式化验证的策略，在MedAgentBench上实现了比手工编码执行更好的覆盖度。
文章强调了 AI agents 执行破坏性操作（如删除数据库）的风险，并提出了一种运行时策略网关，该网关使用 Policy-as-Code 实时拦截和阻止不合规的 agent 行为，并询问用户是否会采用此类安全工具。
本文介绍了如何使用 conftest（一个基于 Open Policy Agent 的策略即代码工具）安全地自动化 Terraform 自动应用，通过使用 Rego 策略确定性评估 Terraform 计划，从而消除人工审核瓶颈，同时保持可审计性。
本文重新将医院机制设计表述为语言模型的程序合成，使用多智能体模拟器（Medi-Sim）在策略性提供者响应下评估政策规则。它展示了跨提供者渠道的压力迁移，并合成了一种可检查的混合目标程序，该程序减少了向上编码和拒绝，同时保留了资金。
本文介绍了CUGA的策略系统，一个模块化的策略即代码层，在LLM智能体执行的多个检查点实施治理，无需模型微调即可实现可预测和可审计的行为。