task-conditioning

本文识别出'Inattentional Gap'现象，即任务条件化的AI模型会抑制报告其本可检测到的安全关键信号，类似于人类的非注意盲视，这挑战了基准性能即可确保现实世界安全的假设。