safety-rules

本文介绍了 BoardSafety，这是一个基于厂商数据手册构建的基准，用于评估大语言模型能否判断某项操作对特定开发板是否安全。结果表明，即使能够获取针对特定开发板的规则，当前模型仍无法可靠地作出安全判断。

本文探讨了将安全规则硬编码到AI模型中以防范不当行为的挑战，并将简单规则作为辩论焦点。

本文提出了GuardEn，一个可执行的保障框架，它使用安全规则蕴含来增强视觉语言模型的视觉合规性，并取得了显著的性能提升。

化学品事故不断增加，特朗普政府提议削弱安全法规，引发环保组织批评，也凸显出持续存在的危险。