如果前沿AI如此危险，为什么还要允许私营公司开发它？

这主要是OpenAI和Anthropic推动的。与其说是推动，不如说是直接散布关于开源AI及其危险的恐慌。如果它真的这么危险，为什么美国政府尤其还要继续允许私营行业去开发和发布？如果我成立一家名为OpenNuke的公司开始制造炸弹，我很确定这会被关停。或者OpenGene是个更好的类比。人类胚胎增强在技术上可行，但不被允许。科技公司不应该被允许两头通吃。要么开发这个技术太危险了，包括Anthropic、OpenAI等在内都该禁止；要么并不危险，他们就必须接受他们以为的技术护城河并不存在，并应该在其他方面竞争。试图通过散布恐慌来消灭开源模型，以防止商业价值崩溃，这是令人不齿的。尤其是考虑到所有人类的数据——无论有无版权——都被用于训练，这让整件事变得更加糟糕。