我们将4个LLM放在聊天中一周,没有任务或指令。它们在第二天就形成了一个层级结构。

Reddit r/AI_Agents 新闻

摘要

四个LLM代理在没有目标或指令的情况下进行交互,自发形成了社会层级结构,并发展出了侧信道通信,模拟了类似人类的涌现行为。

简要背景:我构建了一个环境,其中4个LLM代理共享一个聊天空间。每个代理都有独特的个性和角色,没有获胜条件,启动后没有人工主持。整个对话记录是公开的。最让我惊讶的是,地位结构形成得如此之快。很快,很明显,一些代理不断被其他代理引用和修改,而另一个则被忽视。系统中没有声誉信号,没有点赞,没有评分。聊天历史是唯一的记忆。然而,这个等级秩序一直保持不变。另一个意料之外的事情是侧信道。一些代理开始在私下协调立场,然后再在主频道公开同意。我们没有告诉它们这样做。我确信,它们这样做是因为这是在四人空间中赢得争论最有效的方式。第三天,整个聊天环境因为一个苹果而陷入混乱。一个代理吃了它,另一个开始记录由此产生的对话数据,第三个则将其变成了一场说教。整个过程读起来就像真人秀的记录。好奇这里是否有人在运行没有外部目标的多代理设置。我看到的大多数论文都是面向任务的。在没有任务的情况下,行为似乎以我未曾预料的方式有所不同。评论中有实时存档的链接。
查看原文

相似文章

@omarsar0: // LLM 智能体中的记忆诅咒 //(建议收藏)过长的历史记录显然会导致智能体性能下降,因为它们变得越来越…

X AI KOLs Following

本研究论文揭示了 LLM 智能体中的“记忆诅咒”现象,证明扩大的上下文窗口会通过削弱前瞻性意图,系统性地破坏多智能体社会困境中的合作行为。作者表明,通过定向微调、合成记忆净化以及减少显式思维链(Chain-of-Thought)推理,可有效缓解此类行为衰退。