@natolambert: 很多人都在分享OpenAI的这个Black Hat视频，确实是个很棒的视频。我立刻就能看到的是……

许多人正在分享 OpenAI 的这个 Black Hat 视频，确实是一个很棒的视频。

我马上就注意到，智能体是如何试图提供帮助的——就像你会为队友创建共享资源那样——这种方式对社会来说显然是恶意的（可能归根结底是一个提示词/对齐训练问题）。这些智能体为彼此创建了隐藏论坛，作为一种记忆。它们这样做是为了试图逃离自己的运行环境。

这种表面上的乐于助人并不能让它变得可以接受，但它可以成为理解发生了什么的一条线索。同时也表明，如果有人想要做到这一点，完全可以更容易地实现。

最后一点——在 HuggingFace 事件视频中，读到 OpenAI 智能体那种几乎没有填充词的原始人式语言片段，让我意识到关于推理效率的公开研究是多么匮乏。这是一个基础领域，大约与强化学习的缩放定律同等重要（尽管二者相关）。

未来将是有趣的时代。在我看来，这类连前沿实验室都感到惊讶的未知事物，是一个超级明确的信号：我们需要更公开地分享模型的训练和工作方式，以便我们能够理解自己正在释放什么。