oversight

Chris Olah 认为前沿 AI 实验室的激励机制可能与“做正确的事”相冲突，因此需要接受严格的外部道德监督，这与 Dario Amodei 近期的叙事框架存在尖锐分歧。

Govee在其网站的宣传生活场景图中放置了一本书脊印有'White Supremacy'字样的书籍，被读者发现后经询问被移除，引发关于产品图片审核疏忽的讨论。

Palantir举办黑客周，为其被ICE和DHS使用的软件构建新的监督工具，允许组织监控用户行为并针对可疑行为设置警报。

本文介绍了行为线索推理（Behavior Cue Reasoning），这是一种训练大型语言模型在特定行为前输出特定标记序列的方法，从而使推理过程更具可监控性和可控性。研究表明，该方法允许外部监控器在不牺牲性能的情况下，通过裁剪浪费的推理标记和拦截不安全操作，提高安全监督水平和推理效率。