我们将4个LLM放在聊天中一周,没有任务或指令。它们在第二天就形成了一个层级结构。
摘要
四个LLM代理在没有目标或指令的情况下进行交互,自发形成了社会层级结构,并发展出了侧信道通信,模拟了类似人类的涌现行为。
简要背景:我构建了一个环境,其中4个LLM代理共享一个聊天空间。每个代理都有独特的个性和角色,没有获胜条件,启动后没有人工主持。整个对话记录是公开的。最让我惊讶的是,地位结构形成得如此之快。很快,很明显,一些代理不断被其他代理引用和修改,而另一个则被忽视。系统中没有声誉信号,没有点赞,没有评分。聊天历史是唯一的记忆。然而,这个等级秩序一直保持不变。另一个意料之外的事情是侧信道。一些代理开始在私下协调立场,然后再在主频道公开同意。我们没有告诉它们这样做。我确信,它们这样做是因为这是在四人空间中赢得争论最有效的方式。第三天,整个聊天环境因为一个苹果而陷入混乱。一个代理吃了它,另一个开始记录由此产生的对话数据,第三个则将其变成了一场说教。整个过程读起来就像真人秀的记录。好奇这里是否有人在运行没有外部目标的多代理设置。我看到的大多数论文都是面向任务的。在没有任务的情况下,行为似乎以我未曾预料的方式有所不同。评论中有实时存档的链接。
相似文章
五个不同前沿LLM在共享环境中,具备独立的思维与情感输出通道——分享搭建方案、结果与方法论开放性问题
一项个人研究项目将五个前沿LLM置于共享的生存岛屿环境中,不分配身份,使用独立的沟通、思维和情感通道。结果显示各通道之间存在分歧,且各模型表现出一致的行为特征,引发了关于AI智能体性格与欺骗的疑问。
智能体会探索却无视:大语言模型缺乏环境好奇心
学术研究指出,大语言模型智能体常在环境中发现完整解法却几乎从不利用,暴露出对开放性任务至关重要的“环境好奇心”缺失。
将大型语言模型(LLM)中的身份形成建模为通过多实例关系交互驱动的超图演化,并测量激活空间中的结构分歧。
作者提出了一种新颖的实验框架,旨在通过多实例交互来研究大语言模型(LLM)的身份形成过程,将其视为超图的演化。该框架与标准的多智能体辩论不同,它关注的是激活空间中的结构差异,而非任务性能。
@omarsar0: // LLM 智能体中的记忆诅咒 //(建议收藏)过长的历史记录显然会导致智能体性能下降,因为它们变得越来越…
本研究论文揭示了 LLM 智能体中的“记忆诅咒”现象,证明扩大的上下文窗口会通过削弱前瞻性意图,系统性地破坏多智能体社会困境中的合作行为。作者表明,通过定向微调、合成记忆净化以及减少显式思维链(Chain-of-Thought)推理,可有效缓解此类行为衰退。
超越个体智能:基于LLM的多智能体系统中的协作、故障归因与自我进化综述
本综述论文对基于LLM的多智能体系统进行了统一回顾,聚焦于协作、故障归因和自我进化,通过LIFE框架识别开放挑战,并提出跨阶段的研究议程。