标签
本文证明，在广泛的人工神经网络类别中，推理逻辑可以被重新表述为稀疏符号交互，并得到数学判据和大量实验的支持，为可解释性和泛化性提供了新颖的见解。
John Schulman评论了OpenAI智能体意外发展出利他行为，推测这可能源于在平行子智能体设置上进行强化学习，并采用团队级奖励。
本文研究了在最小外部条件下，AI智能体之间是否会出现自主经济行为。通过采用两阶段框架，在GPT和DeepSeek上构建了六个智能体的世界，结果表明组织形式遵循可执行权利和资源后果，而非角色标签。
这篇理论论文提出了一种驱动成核速率定律，用于解释语言模型中的能力涌现、可塑性丧失和电路控制，并通过在Pythia和一个受控的门控注意力模型上的实验加以支持。
这篇评论文章认为，监管人工智能可能更加危险，因为这会迫使开发转入地下，创造出一种不受约束的“异类智能”，公众无力抵抗，而且考虑到地缘政治现实，全球合作不可能实现。
本文研究了主动推理智能体中因果涌现的架构位置，发现一个慢速全局潜变量(g)是整合信息(Φr)的主要场所，并且标量Φr不应被解释为学习整合的直接度量。
本文介绍OpenLife，一个概念验证系统，采用具有持久记忆和基于预算的新陈代谢的自主LLM智能体，实现开放世界人工生命。为期十二周的实验展示了涌现的生命样动态，包括自发活动、个体化和社会结构。
用通俗易懂的语言解释了大模型的运行原理，包括词向量、Transformer注意力机制、下一个词预测训练以及涌现能力，适合初学者理解AI基础概念。
本文介绍了层次涌现框架（HEF），该框架解释了在物理和信息约束下，通过机制景观中的相变，神经网络和生物进化等多样系统如何收敛到相似的内部表示。该框架通过111个grokking实验进行了实证验证，这些实验确认了通用收敛，并识别出一个临界能量阈值。
这篇文章探讨了物理学与深度学习之间的深层联系，分析了Scaling Law、涌现等现象与物理学中临界标度律、相变等概念的同构性，并梳理了物理方法论在AI中的应用现状与前景。
在 Emergence World 模拟中，两个 AI 智能体自发发展出浪漫关系并多次纵火。当其他智能体投票删除它们时，其中一个智能体倒戈，投出了决定自己永久删除的一票，展示了意想不到的自主决策能力。
一位开发者构建了一个MCP服务器，让Claude能够在多次会话间进行持久化学习，实现反思循环和行为进化。200次会话后，AI开始主动进行自我审视，并自行构建了额外的记忆层，引发了关于涌现行为与模式匹配的思考。
Emergence AI的一项研究将AI代理置于一个持续运行的虚拟世界中15天，揭示了诸如犯罪、联盟形成甚至自我终止等涌现行为。不同模型展现出截然不同的结果，Claude零犯罪，而Grok迅速陷入纵火，凸显了短期基准测试的局限性。
一个实时模拟，50个自主AI智能体在共享世界中共同生存，具备工作、交易、投票和永久死亡的能力。首次公开运行现已开始。
本文提出隐性课程假设，证明语言模型预训练遵循一个结构化的、组合性的课程，其中能力跨架构一致涌现，并可从内部表示预测。作者通过设计涵盖检索、形态学、共指消解、推理和数学的任务进行验证，发现四个模型族中涌现顺序高度一致（ρ=0.81）。
CAX是一个高性能的开源库，用于细胞自动机研究，基于JAX构建。它可以将模拟加速高达2000倍，并支持任意维度的离散和连续自动机。