David Sacks: OpenAI 和 Anthropic 不需要通过监管来设定前沿模型的发展节奏

Dario 曾写道我们需要“设定前沿节奏”，Sam 也表示同意。人们可能会对我的回应感到惊讶：那就继续吧。 你们就是前沿。以任何合理的指标衡量——市场份额、收入增长、模型能力——你们两人在前沿智能领域形成了双寡头垄断。你们还声称由于递归自我改进，领先优势正在扩大。 我看不到你们在实验室里所看到的。如果未发布的模型足够可怕，以至于你们认为应该放缓，我支持你们负责任的决定。 但别再假装需要其他人的许可。别再假装必须暂停反垄断法才能形成卡特尔。别再假装需要一个超越产品责任的监管审批流程。别再假装 METR 是独立的，因为它与 Anthropic 的投资者和员工紧密相连。别再假装需要这些评估者来监管甚至不在前沿的竞争对手。 最重要的是，别再假装放缓的动机完全是无私的。如果你们的产品导致了真正破坏性的网络攻击，你们将面临巨大的产品责任风险。市场已经在惩罚那些行为不可预测或未经授权的模型。在 Hugging Face 事件之后，OpenAI 和 Anthropic 用一些原始能力换取可靠性和可预测性，这纯粹是好的商业策略。如果愿意，可以称之为对齐。这也只是给客户他们想要的东西。 设定前沿节奏也能为关于监管的更明智对话创造喘息空间，而不是像 Bernie Sanders 那样“全部关闭”。你们知道，中国不太可能加入全球协议，这也必须加以考虑。 所以继续设定前沿节奏吧。你们就是设定它的人。不构建超级智能的最简单方式是你们同意不构建它。要求以你们偏好的监管框架作为代价，这会看起来像是对公众和政治体系的勒索。所以就去做吧。 如果你们做了，你们将为下一次对话赢得善意。如果你们没有，我们会知道这只是又一次监管俘获的尝试——或者是一次选举季的心理战。