safety-guarantees

MAGS引入了一种多智能体框架，利用Dafny进行形式化验证，从LLM编程智能体生成具有安全保证的可执行程序，在CUDA内核和机器人任务等多个领域实现了100%的验证代码生成成功率。

这篇综述论文回顾了38项关于安全LLM代理的研究，强调了关键挑战，如规范翻译瓶颈、运行时监控等执行方法的不完全安全保障，以及阻碍安全任务完成的验证者税。

本文介绍了用于计算神经网络可信鲁棒性认证的瓣心距度量(apothem measure)，证明了体积最优认证的难解性，并提出了ParallelepipedoNN系统，在MNIST和Fashion MNIST数据集上实现了最小边长两倍的提升。