Anthropic 希望全球暂停 AI 开发。他们也即将以 1 万亿美元估值上市。

所以 Anthropic 刚刚发布了一篇博客文章，呼吁全球暂停前沿 AI 开发，警告模型可能开始递归自我改进，并逐渐失控超越人类控制。听起来很可怕，也很高尚。我们来谈谈这里到底发生了什么。据报道，Anthropic 正在考虑进行超过 1 万亿美元的 IPO，而他们恰好是那个呼吁所有人停止建设的人。分析师们已经在质疑，这实际上是否只是为了冻结现状，以便他们能保持领先地位。简单来说：暂停有助于 Anthropic 维持其地位，并可能扩大市场份额。而这里有点虚伪的是：Anthropic 自己的代码库中超过 80% 的代码现在是由 Claude 编写的。他们正在全力执行他们希望其他人放弃的策略。但没有人真正谈论的是监管俘获。这是教科书式的做法。你成为主导者，去找政府，说“这项技术很危险，我们需要监管，我们是负责任的一方，让我们帮助制定规则。”突然之间，通过的法规只有你能负担得起合规成本，从而锁定了你的架构、你的安全基准、你的评估。较小的竞争对手会被合规成本压垮，开源项目被削弱，而你获得了一道任何风投资金都无法跨越的护城河。他们将其比作核武器控制，这听起来很严肃，直到你意识到 AI 训练比导弹发射井更容易隐藏，因此任何协议只会惩罚那些诚实遵守的人。安全担忧可能是真实的。但时机、IPO、监管推动……所有这些加在一起，很难不让人质疑。