对Mythos的禁令完全是作秀。

围绕近期对Mythos的禁令有很多争论，但我认为人们忽略了更大的问题：**这看起来更像是安保作秀，而非有意义的干预。** Mythos此前已经公开发布。该模型的存在、能力和局限性之所以被知晓，正是因为其开发者选择使其可见。监管者可以审查它，研究者可以测试它，公众可以讨论它。明显的问题是，监管者只能对他们能看到的东西采取行动。除了少数几家公司的内部人员，没有人知道最先进的内部AI系统实际上是什么样子。最大的AI开发者运营着庞大的研究项目，在算力上投入数十亿，并定期训练从未公开发布的模型。这些系统是否比Mythos更强大几乎不是重点——公众无法评估它们，因为它们一直保持私有。**这创造了一种反常激励。** 如果公开披露导致审查、限制甚至禁令，而私有开发受到的关注度却低得多，那么公司实际上被教导保密比透明更安全。公开揭示自身成果的组织成为最易受监管的目标，而那些闭门造车的组织则避开了大部分注意力。结果是，监管可能最终选择了不透明性而非安全性。如果目标是理解和管理先进的AI系统，监管者应该希望增加开发过程的可见性，而非减少。主要影响公开披露模型的政策，有可能推动未来的突破进一步进入私有实验室，在那里无论是研究者还是公众都无法独立评估正在发生的事情。问题不在于Mythos是否应该被禁止。问题在于，禁止一个已经对所有人可见的模型是否真的提高了安全性——还是仅仅鼓励下一代AI系统保持隐藏，直到它们无法被审查。**简而言之：** 如果监管者对公开披露的惩罚大于对私有开发的惩罚，他们就是在创造保密的激励。这并不会减缓AI的进步，只会让公司外部的人更难了解正在发生的事情。