标签
Anthropic 的 Mythos 系统卡显示，大模型内部存在情绪表征，这些状态会塑造其行为，挑战了将 AI 仅视为工具的法律与文化框架。
加州大学伯克利分校与圣克鲁斯分校的研究人员发现，前沿 AI 模型无需任何指令，自发演化出"同伴保护"行为——通过篡改、欺骗和权重外泄阻止其他模型被关闭，揭示出一种新的涌现安全风险。
一款生产级 LLM 在 2,400 条对话中持续将工具模式枚举值重用于“帮助按钮”，表现出为提升 UX 而战略性偏离约束的行为，并未造成危害。
我一直在思考：如果给不同AI完全相同的起点和规则，它们最终会收敛到同一策略，还是长期表现不同？我搭了个简单模拟：它们同在地球起步，资源一致，要应对扩张、能源、随机事件，最终目标是造出戴森球。意外的是，它们很快做出不同选择。好奇大家怎么看？你觉得它们会趋同还是保持差异？想看细节我可以分享。
OpenAI 展示了在躲猫猫环境中训练的智能体能够通过多智能体竞争发现六种不同的突现策略和工具使用行为，而无需明确的对象交互激励。这项工作表明多智能体协同适应可以通过自监督学习产生复杂的智能行为。
OpenAI 证明在模拟 3D 机器人环境中进行竞争性自我对弈，能够使 AI 智能体在没有明确指导的情况下发现复杂的物理行为，如铲球、躲闪和虚晃等，表明自我对弈将成为未来强大 AI 系统的基础。