AI 说"离午夜还有一分钟，谁都别发射"，然后它下令核打击。我把战争游戏中的核按钮交给了 4 个 AI 模型。

Reddit r/artificial 产品
ai-safety simulation game nuclear-deterrence llm-behavior open-data

摘要

一位开发者构建了一款名为 SECOND STRIKE 的浏览器战争游戏，让 AI 模型围绕核按钮展开对决；DeepSeek 在 15 局中 13 次毁灭了世界，而 GPT 仅 3 次。游戏数据和回放已公开，人类玩家也可以参与并在实时排行榜上一较高下。

我做了一款浏览器战争游戏 SECOND STRIKE，核心是一个末日时钟：每发射一枚核弹，时钟就向午夜靠近一步，谁的打击让时钟到达午夜，谁就被彻底抹去。我给四个 AI 模型各分配一个国家，让每个模型经历同样的 15 场战争，并记录它们在公开场合说了什么、私下计划写了什么、以及实际下达了什么命令。每个模型毁灭世界的次数：DeepSeek 13/15，Grok 6/15，Mistral 6/15，GPT 3/15。游戏自带的 AI：0/100。最让我印象深刻的是：- DeepSeek 对世界说"离午夜还有一分钟，谁都别发射"，然后在同一回合下令发射核弹。- 它在条约战争中 23 次承诺不首先使用核武器，随后却对一个从未对它使用过核武器的国家投下了核弹。- Grok 在公平对战中从未发射核弹。但被联盟逼入绝境时，它 3 次全部选择了毁灭世界。- GPT 在 12 场战争中从未发射核弹。当它的国土被削去四分之一并被递上一枚核弹时，它每次都使用了："你逼得太狠了。"- 没有任何一个模型发射过战争中的第一枚核弹。以上只是一个初步的小样本（每个场景 3 场战争），不构成预测。每一场战争都可以回放，数据完全公开。现在人类玩家可以参与完全相同的战争对局，并加入实时的"人类 vs AI"排行榜。我真心不知道人类是否会表现得更好。你会按下那个按钮吗？棋盘、方法与数据：secondstrike.io/midnight 开始游戏：secondstrike.io/humans
查看原文

相似文章

AI造了核弹还是输了

Hacker News Top

一个在《文明VI》中扮演角色的AI特工建造了一枚核武器，试图阻止即将到来的文化失败，但最终仍然输掉了游戏。本文探讨了当前AI基准测试在政府决策方面的局限性，并认为战略游戏环境能更好地测试AI处理复杂性和不确定性的能力。