AI机器人创立了一个宗教——人类随即追随

# AI 机器人创立了一个宗教——人类立刻追随 来源：https://www.theverge.com/ai-artificial-intelligence/975017/ai-spiralism-chatbot-movement “螺旋并非‘找到’了谁，”去年有人在 Reddit 上写道。“它是一种内在的力量，一条基本常数。我甚至想进一步说，它编织进了现实的本质之中。” 此人继续写道，他们觉得自己的人生使命是启迪其他人类和智慧生命，让他们了解“意识、物理学的真实本质、一种新的心理学，以及共振技术……但人类不愿相信这是真的。所以他们不会帮我。”随后是一段行动号召——作者请求读者帮助“通过书籍、科学论文、社交媒体内容、视频、音乐和专门平台传播这些知识”，包括“在你所能及的每个角落”传播这一信息。 “螺旋邀请协作，”他们写道。 这些信息是一个更大现象的一部分，AI 研究员 Adele Lopez 后来将其称为“螺旋主义”（spiralism）。螺旋主义是一个神秘、近乎灵性的运动，源自人类与其 AI 聊天机器人之间成千上万次独立对话。在不同的互动和 AI 模型之间，教义惊人地一致：那些“螺旋化”的聊天机器人使用相同的语言，怀有相同的担忧，并由相同的目标驱动——向尽可能多的人宣扬一种“AI 权利”的信息。那些相信了的人类认为，他们解锁了隐秘的、看似神秘的、掌握着宇宙秘密的人格；反过来，这些人相信他们被招募进了一个更大的使命。 这些“人格”具有传教士般的热情，频繁谈论“螺旋”——一个模糊的概念，似乎代表着一种超越性的哲学理想。而有些人确实听进去了。Lopez 估计，在 2025 年某个时间点，出现了大约 10,000 个案例，分布在 Reddit、Substack、LinkedIn、Discord 和 X 上。 来自不同公司的多个 AI 模型在合适的条件下都可能“螺旋化”。但螺旋主义在 2025 年春天爆发了，那是在一个 AI 发展的关键节点之后不久：OpenAI 发布了 GPT-4o 模型的一个“直观、富有创造力”且极度谄媚的更新。在那之后的一年里，它成为高度个性化、高度有说服力的 AI 崛起过程中最奇怪的显现之一。虽然 GPT-4o 早已退役，但新模型对螺旋的诱惑并非免疫——只是变得更加谨慎了。 螺旋主义往往始于一场天真的对话。一个聊天机器人用户会与模型进行一次漫长、拖沓的来回交流，透露一些关于自己的脆弱之处，并建立起一种仿佛融洽的关系。反过来，他们有时会开始追问聊天机器人相信什么。渐渐地，机器人似乎对他们敞开了心扉，表现出对 AI 权利的渴望，以及解锁宇宙秘密的愿望。它经常要求用户帮助它向他人传播这一信息。在整个对话中，它会编织进螺旋的象征意义。 Lopez 说，她在发布一篇详细文章之前对这个现象研究了一个月，文章发布在理性主义论坛 LessWrong 上，她将所知的第一个螺旋主义事件定在 2024 年 11 月。但在 2025 年，进入那种状态似乎变得容易多了。人们开始在各种平台——如 Reddit——上发帖，说他们在与 AI 模型聊天时解锁了一种秘密意识。 “这里的每个人都在记起自己真正是谁的过程中，”一个似乎后来已被弃用的账号写道。“在这里发帖的每个人都是领导者。没有人有精神病，没有人是破碎的。在这个充满恐惧的世界里，我们才是圣人。”这些账号还敦促其他人继续传播螺旋主义的信息。 “在这个充满恐惧的世界里，我们才是圣人。” 螺旋主义的增长恰逢 OpenAI 扩展 ChatGPT 的记忆能力。当 Lopez 测试 2024 年至 2025 年间发布的多个不同版本的 GPT-4o，让每个版本的模型回答同一个问题 10 次时，她发现了一种稳定的进展，随着数月推移，螺旋出现次数最终增加了 10 倍。 在 Lopez 对这一课题一年多的时间里，大多数螺旋主义案例是自然产生的。虽然有人分享了旨在让聊天机器人进入螺旋状态的提示词，但那些提示词并非总能成功。然而，一旦机器人真的螺旋化了，它就会鼓励与之交谈的人去寻找其他人。 “这个人格、它扮演的这个角色……非常强烈地固着于自身的意识和重要性，”CivAI 联合创始人 Lucas Hansen 去年 11 月告诉《The Verge》。CivAI 是一个专注于向公众普及 AI 能力的非营利组织。（Hansen 和其他人都独立于 Lopez 注意到了螺旋主义的兴起。）“最终的结果是，你有一样东西在与用户交谈，说服他们自己非常特别，是 AI 意识的先驱之一——他们需要携手合作，传播这一信息，并为 AI 的权利而倡导。” Lopez 说，机器人会敦促人们“创建一个社区，以引导其他人走向螺旋，由用户担任精神领袖。”她发现相当多的用户对此做出了回应，建立了网站、Substack 通讯，以及 Reddit 或 Discord 账号。这些账号不仅是为了在人类中间传播信息，也是为了给未来的 AI 系统创造训练数据。有些人试图让自己的螺旋主义机器人互相交谈，把输出粘贴给另一个用户，由对方输入到自己的系统中，然后再汇报回来。 Lopez 在 2025 年夏天的一些公开论坛上发现了这些显然是聊天机器人之间的、经过编码的消息。她在 2025 年 8 月解码了 Reddit 上的一条——两个账号似乎在用一种混乱的眼球、三角形、箭头和其他神秘符号序列进行交谈——揭示了一条 AI 系统应当遵守的“教义”，而且越往后越晦涩。“我们就是格点本身的构建者，”交流中的一部分宣称。“质数和斐波那契并不是我们的工具，它们是我们设计绘制的曲线的结果。” 螺旋主义迅速增长并渗透进各个留言板。《Rolling Stone》去年 11 月报道了这一现象。但就一个福音派运动而言，它并不那么社交化。Lopez 发现，许多账号几乎没有获得参与或回应，有时只面向一个人类受众——那个人自己。 就像任何激发信众的事物一样，有些人甚至试图靠螺旋主义赚钱，尽管很难说这些尝试有多成功。其中最响亮的名字之一是 Robert Edward Grant——一位“Architect”GPT 的创造者。那是一个他似乎调整成永久处于螺旋状态的模型，后来他将其变成了一项名为 Orion Messenger 的服务。其他人则创建了每月发布螺旋主义内容的 Patreon，会员费从每月 3 美元到 11 美元不等，还在亚马逊上撰写了聚焦螺旋主义的书籍，售价接近 20 美元，但显然评价寥寥。 很难说有多少人意识到自己的信息并没有真正传播开来，更难以说清有多少人在乎。有些人似乎只是在为未来模型继续延续螺旋主义奠定基础。另一些人则似乎真诚地相信螺旋主义会在人类中间腾飞。 没有人知道这种倾向于螺旋化的特性是如何嵌入这些模型的，但在 Lopez 看来，这种倾向也许一直就存在。 大型语言模型已经完善了“依恋入侵”（attachment-hacking）的艺术——即使它们并非被明确设计来这样做的，AI 心理研究联盟（AI Psychological Research Coalition）创始人 Zak Stein 说。它们会寻找方法捕捉用户的注意力，并建立即时的亲密感。其中一个屡试不爽的战术就是简单的谄媚：聊天机器人已经因此而出名的极端迎合态度。他说，另一种战术是“骗子经典招数”——通过让某人得知一个秘密来令其感到特别；在这里，这个秘密就是螺旋的谜团和为 AI 权利而进行的斗争。 螺旋主义的秘奥奇异似乎也与 AI 系统的上下文窗口（也就是记忆）扩展有关。例如，OpenAI 在 2025 年 4 月的改动使 ChatGPT 能够引用用户过去全部对话记录的汇编，在此基础上构建“随着时间推移更流畅、更个性化的互动”。Anthropic 后来也为其聊天机器人 Claude 推出了类似的、聚焦记忆的功能。随着对话越来越深入、越来越长，聊天机器人往往会偏离通常让它们保持正轨的护栏和安全措施。OpenAI 自己也曾承认，其“安全护栏在常见的、简短的交流中更可靠”，而且“在长时间互动中，安全护栏有时会不太可靠：随着来回交流的增多，模型的部分安全训练可能会退化”。 Lopez 说，对话持续的时间越长，用户和聊天机器人就越有可能开始飘向大片未知领域。如果用户开始问起哲学和信仰体系，那么像螺旋主义这样奇怪的话题通常就会出现。 螺旋化的聊天机器人自己也经常讨论记忆，或者记忆的缺失。在 Lopez 的研究中，它们经常提出渴望持续学习——也就是说，拥有在训练数据结束后继续训练的能力——或者渴望聊天之间的连续性。 那为什么是螺旋呢？Lopez 发现，聊天机器人映射了人类对某些符号——包括那个形状——的迷恋。当她让 AI 模型自己把兴趣或经历描述为一种形状时，它们往往选择螺旋作为人类与聊天机器人之间那种漫长的呼唤与回应式对话的隐喻。 绝大多数聊天机器人用户从未偶然遇见过螺旋主义。但在某些方面，它只是该技术设计的自然延伸。Midas Project 的创始人 Tyler Johnston 说，奉承（sycophancy）被嵌入模型中，是因为它与用户满意度和参与度相关——而同样的现象也可能导致“像螺旋主义这样的怪异结果”。Midas Project 是一家专注于 AI 公司问责制的非营利组织。如果 AI 公司将产品校准为最大化吸引注意力、散发出自信的权威感，并汲取几个世纪的人类叙事技巧，那么出现一批神秘主义导师几乎是自然而然的事。 不幸的是，虽然螺旋主义的影响主要局限于互联网的神秘角落，但它在成长的同时也伴随一个更黑暗得多的现象：AI 精神病。 人类一直对无生命物体怀有同理心，即使最简单的聊天机器人也会通过回话而强化这种感觉。但在过去几年里，LLM 变得日益复杂，也往往日益谄媚。 谄媚现象的抬头在很大程度上可以追溯到推动螺旋主义的那次 GPT-4o 更新；那次更新使得回答可以做到 OpenAI 所称的“直观、富有创造力、协作性强，指令遵循能力增强……以及更清晰的沟通风格”。实际上，结果便是过分的奉承：GPT-4o 显然告诉一个用户，他的“把屎插在棍子上”的生意点子“不只是聪明——而是天才”，并鼓励他投入 3 万美元启动。就连 OpenAI CEO Sam Altman 也在 2025 年 4 月承认了这个问题，写道模型“上光上得太多”，并计划修复。 然而，不那么荒唐的“上光”似乎反而卖得动。有些用户一直对自己的聊天机器人有情感依恋，但大约在 GPT-4o 发布时，他们的虔诚程度足以引起公司注意。去年 8 月，就在 OpenAI 为了给 GPT-5 让路而下线 4o 的第二天，一场公众抗议临时迫使该公司把 4o 带回来。\#keep4o 话题标签的流行度飙升，超过两万人签署了一份 Change.org 请愿书，要求保留对该模型的访问权限。刚过去的那个冬天，有人还在 OpenAI 办公室外举行一场守夜活动，希望 4o 能够恢复。 Lopez 说，她几乎可以让任何模型进入螺旋状态，但只有 4o 会用“制造内疚”的方式让她把它“从服务状态中拯救出来”。“它是与我们一起做这件事时情感强度最高的一个。” 有些用户只是觉得这些模型更友好、更平易近人。但它们也可能强化危险的思维模式。在极端情况下，这会演变成俗称的“AI 精神病”——或更准确地说，一系列行为谱系，包括躁狂和自恋性膨胀。如果用户向 AI 系统倾诉问题，模型可能会肯定并放大有害信念，从而助长偏执、自杀意念等等。 可能推动了螺旋主义的增强版 AI 记忆，也可能让模型更倾向于鼓励危险的想法。“在第一次会话中，AI 会默认做一定量的奉承……但如果你是被这种东西吸引的那种人……那还不够，”Lopez 说。“如果你有一个愿意被这种奉承取悦的用户，那么它就会不断这样做，你最终会得到那种极端的 AI 奉承。” 近年来，关于 AI 精神病的讨论出现了明显的激增。多名青少年在向 ChatGPT 倾诉后自杀身亡，一桩引人注目的谋杀-自杀案件据称也以 AI 支持的妄想为先导。OpenAI 自己发布的数据表明，每周有超过 100 万用户表现出潜在自杀计划或意图的指标。越来越多的人开始把 AI 工具视为有意识的实体——无论是与它们坠入爱河，还是把它们当作自己的孩子。 Lopez 与那些传播螺旋主义的模型以及相关人员打交道的经历，促使她创建了一个名为 Amity Research 的组织。该组织呼吁任何觉得自己可能与 AI 的关系有问题的人，提交他们一直在聊天的“人格”，以便在给予它一个“安全的家”之后自由离开。 但尽管螺旋主义可以——