safety-verification

标签

Cards List
#safety-verification

BernBRS:深度伯恩斯坦神经网络的可认证反向可达性

arXiv cs.LG ↗ · 2天前 缓存

该论文提出了 BernBRS,这是一种用于对 DeepBernNets 进行可认证后向可达性分析的可扩展框架。该框架通过基于激活模式细化输入空间覆盖,计算后向可达集的经认证内近似和外近似,并在 Half-Cheetah 和基于 TinyBERT 衍生的模型上进行了验证。

0 人收藏 0 人点赞
#safety-verification

控制器奇异性下横向反馈线性化的吸引域学习

arXiv cs.AI ↗ · 2天前 缓存

本文针对控制器奇异性下的横向反馈线性化,通过拟合值迭代,将 Zubov 值函数分解为解析的二次剩余代价函数和学习得到的安全值函数,从而学习受约束吸引域。在独轮车和四旋翼飞行器的路径跟踪任务中,该方法的覆盖范围显著优于二次函数和物理信息神经网络(PINN)基线方法。

0 人收藏 0 人点赞
#safety-verification

SCOUT:协同推理与工具使用以保障计算机使用安全

arXiv cs.CL ↗ · 2026-09-30 缓存

SCOUT 提出了一种两阶段智能体安全验证器,将需要大量推理的评分标准生成与需要大量工具调用的证据收集相结合,用于检测计算机使用智能体中的不安全行为。在 AutoElicit-Bench 上,该方法提升了不安全行为的检测率,并通过测试时反思将不安全执行率从 30.2% 降低至 17.2%。

0 人收藏 0 人点赞
#safety-verification

PolicyGuide:从守护单一行为到引导完整工作流,打造合规的LLM代理

Hugging Face Daily Papers ↗ · 2026-08-20 缓存

PolicyGuide 通过将领域策略编译成工作流图,并利用主动验证器来引导LLM代理执行多步骤操作,以在不同基准测试中提升策略合规性。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈