安全网的适用性：一种用于神经网络认证的设计安全解决方案

arXiv cs.AI 论文
ai-safety neural-network-certification aviation safety-by-design lookup-tables open-source easa-compliance

摘要

本文首次系统分析了安全网在航空安全关键系统中认证神经网络的应用，展示了在满足EASA指南的前提下，最小化存储大小并保证100%正确输出的最优设计配置。

arXiv:2608.20053v1 公告类型：新 摘要：人工智能（AI）在安全关键航空系统中的集成给认证和部署带来了重大挑战。航空通常被视为最安全的交通方式，依赖于众多安全关键系统。对于未来基于AI的安全关键系统，EASA要求采用设计安全（Safety-by-Design）方法，这可以通过使用安全网（Safety Nets）来实现，该方法结合神经网络压缩和查找表，以确保在离散化运行设计域内实现100%正确的运行时行为。尽管安全网已被研究，但尚未对其性能特征和系统设计权衡进行全面研究。本工作首次系统分析了安全网中神经网络与查找表大小之间的权衡。通过系统比较具有不同架构的神经网络，本研究确定了最小化整体存储和内存需求并保持认证合规性的最优设计参数。结果表明，具有3到5个隐藏层、每层约50到100个节点的架构，结合独热编码（one-hot encoding），实现了最佳平衡。在这些配置中，神经网络准确表示至少97%的数据，而紧凑的查找表处理剩余错误。由此产生的安全网将系统大小减少了近三个数量级，适应当前航空电子硬件的内存预算，同时保证在整个离散化输入空间上100%正确输出，符合EASA指南。本工作首次提供了用于HCAS和VCAS的开源安全网实现，具有可复制的结果，展示了在航空领域实现可认证基于AI系统的实用路径，并确立了安全网作为安全关键应用中可行的设计安全解决方案。
查看原文
查看缓存全文

缓存时间: 2026/08/21 10:16 

# 安全网的适用性：一种用于神经网络认证的安全设计解决方案
来源：https://arxiv.org/abs/2608.20053
查看PDF (https://arxiv.org/pdf/2608.20053)

> 摘要：人工智能（AI）在安全关键型航空系统中的集成给认证与部署带来了重大挑战。航空业被视为最安全的运输方式，其依赖于众多安全关键系统。针对未来的安全关键型AI系统，欧洲航空安全局（EASA）要求采用安全设计（Safety-by-Design）方法。这可以通过使用“安全网”来实现——该方法结合神经网络压缩与查找表，以确保在离散化的操作设计域内实现100%的正确运行时行为。尽管安全网已被研究，但目前尚无对其性能特性和系统设计权衡的全面研究。本工作首次对安全网中神经网络与查找表规模之间的权衡进行了系统分析。通过系统比较不同架构的神经网络，本研究确定了在保持认证合规性的同时，能最小化整体存储和内存需求的最优设计参数。结果表明，具有3至5个隐藏层（每层约50至100个节点）并采用独热编码的架构，实现了最佳平衡。在此类配置中，神经网络能准确表示至少97%的数据，而紧凑型查找表处理剩余的误差。最终形成的安全网将系统规模缩小了近三个数量级，使其能适配当前航空电子硬件的内存预算，同时保证在整个离散化输入空间中100%的输出正确性，符合EASA指南的要求。本工作首次提供了针对HCAS和VCAS安全网的开源实现，且结果可复现，展示了通向可认证航空AI系统的可行途径，并确立了安全网作为安全关键型应用中可行安全设计解决方案的地位。

## 提交历史

来自：Johann Christensen \[查看邮件 (https://arxiv.org/show-email/16bb422c/2608.20053)\] **\[版本1\]** 2026年8月20日（星期四）13:51:35 UTC \(547 KB\)

相似文章

证书失效时：嵌入式神经接口模型的统一安全框架

arXiv cs.LG

本文表明，嵌入式神经接口模型的正式鲁棒性证书可能在任务准确率因对抗攻击而崩溃时仍能通过，并提出一个统一的实证审计框架，以解决训练目标与操作用户福利之间的对齐失败问题。

揭示神经网络证明共享的极限

arXiv cs.LG

本文对基于模板的神经网络鲁棒性验证加速进行系统性研究，并介绍了FastCert，一种自动分配模板以提高性能的技术。