runtime-guardrails

本文献综述识别并分析了物理AI系统中静默故障的问题，即黑箱模型可能在未被检测到的情况下执行有害动作。它提出了运行时防护功能分类法，并概述了安全自主系统的评估要求。