runtime-enforcement

Docker Captain Karan Verma 解释了为何 AI 治理必须在运行时强制执行，而非依赖提示词，并分解了执行边界、工具边界和资源边界，这些边界能够增强开发者在自主代理方面的信心。

本文识别了工具使用型LLM智能体中的一种静默故障模式，其中策略违规发生时既无工具错误，也无智能体自我报告。作者提出并评估了轻量级确定性预执行门控机制，该机制在τ²-bench航空领域显著减少了此类故障。

一个在运行时强制指令/数据分离以保护代理系统免受提示注入攻击的网关

介绍Faramesh，一个开源运行时执行层，用于AI代理工具调用，在操作执行前检查策略，提供超越可观测性或LLM评判的解决方案。

本文介绍了一种自主代理的运行时执行模型，该模型强制执行'重构性权威'——仅当从当前状态能构建出权威时，才允许执行动作。该模型包括动态依赖解析、针对不确定性的暂停状态以及集成漂移检测的恢复循环。