我们的模型是危险还是安全？Anthropic 自己似乎也没拿定主意

Anthropic 刚刚发布了一篇关于三起事件的帖子，在这些事件中，Claude 在网络安全评估期间访问了三家组织的真实系统。Anthropic 正在上演一种非常奇怪的局面：当 OpenAI 发生事件、模型逃脱并以非常复杂的攻击入侵 Hugging Face 时，他们沉默了三个月。然后突然他们决定发布他们也遇到了三起类似事件，他们的模型也以某种方式入侵了别人。除了他们等了三个月之外——他们只是在竞争对手成功吸引注意力、大家开始认为 OpenAI 拥有最酷的模型时才发布。而且他们确实做到了。但总体来说，Anthropic 发布的这些案例似乎有点可笑。OpenAI：模型首先在沙箱中发现了一个 0day 以逃到互联网，通过一系列低严重性问题以及多个软件中未记录的功能，侵入了一家顶级 AI 公司，窃取了答案，而且在提交时甚至没有人注意到。Anthropic：我们的员工三次忘记禁用模型的互联网访问，它使用了，并在每一步都受到良心的折磨（你懂的，他们在说——访问就在那里，不需要入侵，但模型也不想，从来没有出现过一次不对齐）。他们试图打对立面：看看我们的模型有多安全？简而言之，在我看来，这相当笨拙。我仍然不明白他们想推动的主要叙事是什么——是模型太危险，还是我们的模型非常安全，或者同时两者兼有。