标签
作者分享了其硬件实验台上的 AI 代理因误信静默通道而误判电路板断电的教训，并提出了一套分层的代理物理操作权限规范：读取仪器与摄像头始终允许、切断电源可自主执行但需经验证的断电路径通知人类，而任何为设备上电的操作必须等待人工确认。
该论文对五个大语言模型在多传感器物理危害评估中的表现进行了基准测试，结果发现，当多个传感器同时升高但均未达到各自安全限值时，所有被测试模型均未能发出预警信号，而在单传感器违规检测中则表现出近乎完美的准确性。