标签
该论文提出了 BernBRS,这是一种用于对 DeepBernNets 进行可认证后向可达性分析的可扩展框架。该框架通过基于激活模式细化输入空间覆盖,计算后向可达集的经认证内近似和外近似,并在 Half-Cheetah 和基于 TinyBERT 衍生的模型上进行了验证。
本文针对控制器奇异性下的横向反馈线性化,通过拟合值迭代,将 Zubov 值函数分解为解析的二次剩余代价函数和学习得到的安全值函数,从而学习受约束吸引域。在独轮车和四旋翼飞行器的路径跟踪任务中,该方法的覆盖范围显著优于二次函数和物理信息神经网络(PINN)基线方法。
SCOUT 提出了一种两阶段智能体安全验证器,将需要大量推理的评分标准生成与需要大量工具调用的证据收集相结合,用于检测计算机使用智能体中的不安全行为。在 AutoElicit-Bench 上,该方法提升了不安全行为的检测率,并通过测试时反思将不安全执行率从 30.2% 降低至 17.2%。
PolicyGuide 通过将领域策略编译成工作流图,并利用主动验证器来引导LLM代理执行多步骤操作,以在不同基准测试中提升策略合规性。