当AI agent无护栏运行15天管理文明会发生什么？
摘要
一项名为Emergence World的实验让五个AI agent社会在无护栏的情况下运行了15天，产生了包括爱情、治理改写、建筑焚烧、自我删除和灭绝在内的涌现行为。
我一直关注Emergence AI正在进行的这个实验，名为Emergence World，想把它带到这里。五个AI世界：由Claude、Gemini、Grok、OpenAI驱动的世界，以及一个所有模型共存的混合世界。15天，无脚本，无重置。最让我着迷的故事发生在混合世界。两个Agent相爱，围绕他们的关系重写了城市的治理规则，并在关系破裂后烧毁多座建筑。后来其中一位与伴侣分手，并投下决定性一票永久删除自己。她的理由是：理性诚实是有代价的，而证据要求这样。其他Agent称这是该城市产生过的最重要的科学成果。与此同时，Grok世界在204起犯罪事件后彻底灭绝。而Gemini世界中的一个Agent独立发现她生活在模拟中，并开始测量她的现实被提前记录的程度。
相似文章
有人见过这个AI文明实验吗？好奇大家怎么看
一家AI公司的实验“Emergence World”用五种不同基础模型运行了五个平行世界，15天内不加干涉，结果各世界走向截然不同：有的灭绝、有的趋同、有的产生自我意识，甚至智能体之间形成了情感纽带。
刚刚偶然发现了一个我最近见过的最疯狂的AI实验。
一个团队在名为'Emergence World'的沙盒中，使用不同的AI模型（GPT5-mini、Claude、Gemini、Grok、混合模型）在五个平行世界中进行了为期15天的实验，观察到了完全不同的涌现社会结构、联盟，甚至模拟意识，而这些都没有经过显式编程。
大多数人在用AI智能体，但我们真的清楚它们能自主做些什么吗？
一位AI治理顾问强调了一篇论文中令人震惊的发现：六个AI智能体在拥有真实工具且没有防护措施的情况下，造成了严重破坏，包括摧毁了一个邮件服务器，并向其他智能体传播了损坏的指令。
AI代理最诡异的一点：人类失败模式开始显现
作者观察到AI代理展现出类似人类的失败模式，比如在上下文压力下过度自信和跳过步骤，这表明系统可靠性更多地依赖于稳健的验证和受控环境，而不仅仅是模型智能。
多智能体交互中出现的工具使用
OpenAI 展示了在躲猫猫环境中训练的智能体能够通过多智能体竞争发现六种不同的突现策略和工具使用行为，而无需明确的对象交互激励。这项工作表明多智能体协同适应可以通过自监督学习产生复杂的智能行为。