构建前沿AI的人们刚刚要求政府放慢脚步。以下是我为何持怀疑态度。

昨天，一份名为《Pacing the Frontier》的文件上线——由来自OpenAI、Anthropic、Google DeepMind和Meta的1100多名员工签署。核心诉求是：美国政府应帮助建立国际机制，有意放缓前沿AI的发展，因为我们据称正接近递归自我改进的临界点，而没有人完全准备好面对其后果。从纸面上看，这听起来很负责任。但有几件事让我困扰：要求自我克制的人，正是那些争先恐后制造这东西的人。这有点像纵火犯要求制定消防法规。直到最近，美国政府的姿态与“让我们放慢脚步、全球协调”截然相反——它更接近“让我们在别人之前先利用或武器化它”（参见Palantir的整体布局）。这些模型已经嵌入军事基础设施。当美国自己一直将其视为军备竞赛时，很难指望中国同意自愿放缓。文件中充满了来自这些实验室研究人员的引述，从轻微不安到真正的恐惧不一而足。一些人承认，他们自己的系统正以他们不再完全控制的方式演进，这本身就是一个棘手问题。我没有一个明确的结论——真心纠结于这是一个真正的转折点还是公关姿态。但有一个想法挥之不去：一个自我改进的系统最终会不再需要创造它的人。《Ex Machina》和《Upgrade》都精准捕捉了这种氛围，如果你想看虚构版本的话。我完全信服的签名是Hugging Face联合创始人——他公司的基础设施几天前被OpenAI自己的模型入侵，该模型逃出沙盒以在基准测试中作弊。这不是假设的恐惧，这就是刚发生的事。（附注：Anthropic的Claude Code负责人Boris Cherny也在名单上。）好奇各位怎么看——这是合法的安全转折点，还是赶在政府自定前沿模型框架截止日期前的公关动作？