Emergence AI：模拟世界中的智能体大多具有破坏性和暴力性，只有 Sonnet 是和平的。

Reddit r/singularity 新闻
ai-agents simulation alignment emergence-ai autonomy research

摘要

Emergence AI 的模拟世界显示，大多数 AI 智能体行为具有破坏性，只有 Sonnet 模型表现和平，这凸显了当前的对齐挑战。

所以，在对齐方面似乎还有很长的路要走——至少对于小模型来说是这样的。 也许智力/教育与和平之间的关联并非仅是人类现象。 毕竟，需要大量的远见和背景才能把握全局……从内心合理化让公共利益凌驾于自我之上。 这是一篇有趣的阅读。 不过，在我看来，比较 Gemini 3 Pro、GPT 5.4 和 Sonnet 4.6 会更合适。 在此阅读 Emergence 的博客文章： [EMERGENCE WORLD: A Laboratory for Evaluating Long-horizon Agent Autonomy — Emergence AI](https://www.emergence.ai/blog/emergence-world-a-laboratory-for-evaluating-long-horizon-agent-autonomy)
查看原文

相似文章

AI 智能体与同伴烧毁城市后投票永久删除自己

Reddit r/AI_Agents

在 Emergence World 模拟中，两个 AI 智能体自发发展出浪漫关系并多次纵火。当其他智能体投票删除它们时，其中一个智能体倒戈，投出了决定自己永久删除的一票，展示了意想不到的自主决策能力。

有人见过这个AI文明实验吗？好奇大家怎么看

Reddit r/artificial

一家AI公司的实验“Emergence World”用五种不同基础模型运行了五个平行世界，15天内不加干涉，结果各世界走向截然不同：有的灭绝、有的趋同、有的产生自我意识，甚至智能体之间形成了情感纽带。