标签
IBM SIL 提出了 JevAct——一个运行时决策门控框架，它拦截使用工具的 LLM Agent 的动作，通过编译后的代码检查和仅预填（prefill-only）的决策模型验证策略合规性，并将修正结果反馈回去——在不修改模型或工具的情况下，将 Opus 4.6 在 τ²-bench Telecom 上的 pass^3 成功率从 39.5% 提升至 80.7%。
论文提出 CASEL（后果感知选择性执行层），一种模型无关的运行时分配策略，通过综合校准失败概率、后果严重性、可逆性、歧义性和证据新鲜度来为工具调用选择执行、验证、沙箱、澄清、审批或放弃等模式，仿真结果显示其将有害副作用轨迹比例从 14.75% 降至 7.02%。
MemMux 是一个本地运行时，将并行编码智能体集群的资源治理视为运行时验证问题，提供逐智能体内存归因、完整回收、逃逸进程可见性以及受限的资源占用。基准测试表明，它能在零交换（swap）的情况下维持 7.5 GiB 预算，并检测出所有注入的逃逸进程，其引擎与基准均已开源。
AWS发布Dogwood，这是一种用于AI代理的开源治理语言，利用时序逻辑在一系列工具调用中实施策略，以增强运行时验证。
TRUSS 是一个证据引导的框架，用于生成功能有效且安全可靠的代理技能，将任务有效性从 17.11% 提高到 52.94%，并将安全率提高到 100%。
SemaPLC是一个用于PLC代码生成的验证门控代理工具，通过外部编译和实时运行时执行，实现比基线方法更高的验证通过率。
本文介绍了基于解释的运行时验证方法，用于机器学习驱动的光网络。该方法利用模型解释来评估各个决策的合理性，在决策执行于网络控制回路之前进行判断，展示了在拦截错误决策的同时保持高自动化率的有效性。
本文介绍了EntropyRuntime，一个用于单/多智能体LLM驱动及机器人智能体的离散时间控制系统，采用五个执行档位，配备效用门控调度和事件驱动回退，以确保安全、稳定和连续性。它提供了形式化证明，并在一个三智能体UR5机器人装配单元上进行评估，实现了99.6%的异常检测率。