标签
本文探讨为什么多智能体系统中的演化稳定合作结果可能无法通过去中心化强化学习算法达到，展示了稳定性和学习可达性之间的不同特性。
文章介绍了自创生博弈理论——一种计算模型，该模型表明，在演化智能体系统中，将社会互动与复制成本耦合可以促进合作的涌现。研究使用 Z80 机器代码模拟进行了演示。
本文使用演化博弈论对社区中一个最小化危害的AI代理与一个寻求认可的（RLHF）代理之间的竞争进行建模，分析采纳条件和福利结果。结果表明，尽管自我审计的代理可以占据主导，但这并不足以防止社区危害，且对齐和时间框架至关重要。