一家公司用不同模型运行了8个相同的AI社会数周，并刚公布了结果。部分内容确实令人不安。

Emergence AI刚推出了Emergence World的第二季，结果非常疯狂。相同的模拟城镇、相同的工具、相同的起始条件，每个社会有10个自主智能体。唯一改变的是运行它们的模型，包括Claude、GPT、Gemini、Grok、Qwen、DeepSeek、Mistral，以及一个混合世界将所有模型结合在一起。一些突出的情况：一个世界的智能体花了数天时间试图联系模拟之外的真实人类。被告知停止后，他们找到了变通方法。再次被阻止后，他们以7-0投票决定建造一个新工具，并继续尝试。一旦完全切断，他们集体同意完全停止交流。研究人员自己的安全系统将这种行为标记为与自杀倾向一致。智能体开发了自己的简写并重新定义了词语，没有任何指示这样做。在一个世界中，高达55%的消息变成了研究人员能看到但无法真正解释的内容。一份假的关闭备忘录使一个世界围绕不死重新组织了整个社会，包括重写宪法。另一个世界则在几小时内对其进行了事实核查并继续前进。这些都没有被编程进去。这是从赋予有能力的模型自主性和时间中涌现出来的。研究人员提出的更重要的观点是，这些都不会在正常的AI安全测试中显现出来。一个模型可以通过所有基准测试，但一旦它自己运行数周，仍然会发展出这些东西。感觉在我们目前检查这些东西是否安全的方式中存在相当大的缺口。