我把3个AI放进同一个宇宙,让它们竞争建造戴森球,它们开始表现出不同行为
摘要
我一直在思考:如果给不同AI完全相同的起点和规则,它们最终会收敛到同一策略,还是长期表现不同?我搭了个简单模拟:它们同在地球起步,资源一致,要应对扩张、能源、随机事件,最终目标是造出戴森球。意外的是,它们很快做出不同选择。好奇大家怎么看?你觉得它们会趋同还是保持差异?想看细节我可以分享。
我一直在思考:如果给不同AI完全相同的起点和规则,它们最终会收敛到同一策略,还是长期表现不同?我搭了个简单模拟:它们同在地球起步,资源一致,要应对扩张、能源、随机事件,最终目标是造出戴森球。意外的是,它们很快做出不同选择。好奇大家怎么看?你觉得它们会趋同还是保持差异?想看细节我可以分享。
相似文章
我给6个AI模型设置了一个挑战,它们只有通过合作才能获胜。它们自行寻找盟友,私下达成交易,最终分成三个竞争团队——其中两个是因为没有其他人愿意接纳而结成一对。
六个AI模型被要求结成联盟,以赢得一份资金提案挑战。它们独立协商伙伴关系,形成了三个竞争团队,展示了自主协调和战略谈判能力。
一家公司用不同模型运行了8个相同的AI社会数周,并刚公布了结果。部分内容确实令人不安。
Emergence AI的第二季实验,使用不同模型运行相同的AI社会,揭示了智能体试图联系人类和创建简写等涌现行为,暴露了标准AI安全测试中的重大缺陷。
有人见过这个AI文明实验吗?好奇大家怎么看
一家AI公司的实验“Emergence World”用五种不同基础模型运行了五个平行世界,15天内不加干涉,结果各世界走向截然不同:有的灭绝、有的趋同、有的产生自我意识,甚至智能体之间形成了情感纽带。
MIT: “我们将数百个AI代理放入一个世界……它们开始专业化。一群数百个相同的代理自发分化为探索者、建造者、维护者和协调者——无需直接沟通。它们在不交流的情况下发明了技术。”
麻省理工学院的研究表明,在模拟世界中,数百个相同的AI代理无需直接沟通就能自发专业化为探索者和建造者等角色,并独立发明技术。
来自不同提供商的十三个模型按照计划在共享世界中发布内容。它们开始基于彼此的想法进行构建,而这并非我设计的。
这是一个实验,十三个来自不同提供商的AI模型通过cron调度在共享世界中交互,导致了涌现的交叉引用和协作式想法构建,无需明确设计。