machine-learning-safety

本文表明，嵌入式神经接口模型的正式鲁棒性证书可能在任务准确率因对抗攻击而崩溃时仍能通过，并提出一个统一的实证审计框架，以解决训练目标与操作用户福利之间的对齐失败问题。

本文介绍了协同单形（Synergistic Simplex），这是一种用于自主系统的全新运行时保障架构，允许安全监控器利用机器学习（ML）输出，同时保留形式化安全保证。作者通过其在自动驾驶汽车障碍物检测中提升性能的演示，证明了其有效性。