r/singularity 的存在风险审核政策与其原始使命相悖

编辑：u/Apollo24_ 回复了我，并在此回应了我的一些担忧。（提前说明：我认为版主团队在大多数方面做得相当不错，感谢他们让子版块持续运作。这是不同意见，不是抱怨。）一篇最近的帖子（不是我发的）关于一位知名 Anthropic 研究员的辞职，获得了超过 1300 个赞和 500 条评论。它被版主团队删除了。一位版主在后续帖子中回复了（我感谢这个回复）并解释了原因：我们会报道实际发生的风险，比如黑客事件。我不尊重可能发生的未来风险的声称，例如这个标题说的‘10% 人类灭绝风险’，那是愚蠢的。我担心这未来会成为摩擦点，考虑到该子版块的既定目的、用户群体的信仰和兴趣，以及近期事件。我认为禁止讨论存在风险与 r/singularity 的既定目的、侧边栏、维基和整体精神严重不符。根据侧边栏，r/singularity 是：一个致力于智能理解人工智能进展到超越人类智能时刻、彻底改变文明的假设时刻的子版块。该社区研究超级智能的创造——并预测它将在不久的将来发生，最终应采取深思熟虑的行动以确保奇点造福人类。侧边栏链接到关于超人类主义、赛博格主义和太空殖民的子版块。维基有整个部分专门讨论长寿逃逸速度、人体冷冻、思维上传、纳米技术和全沉浸虚拟现实。这些主题‘愚蠢’吗？它们当然还没有‘实际发生’！它们都是‘可能发生的未来事物的声称’。我认为它们至少与人工智能杀死所有人一样‘愚蠢’，因为现在有许多严肃的研究人员、组织、公司，以及最近政治家都在谈论后者。但禁止讨论它们显然会摧毁 r/singularity。它们是子版块的一部分。更重要的是，侧边栏和维基完全明确指出存在风险从一开始就是子版块的核心话题。‘资源’下的五个链接中有三个是 MIRI、LessWrong 和 FHI。你登录 MIRI 网站看到的第一段文字是：人工智能行业正冲向悬崖。创造人工超级智能（ASI）的默认后果是人类灭绝。我们的生存取决于尽可能延迟 ASI 的创造，持续必要的时间。熟悉的人知道 LessWrong 的普通用户有类似的信念（置顶的简短帖子赞扬了这次辞职），而 FHI 的成立是为了关注存在风险，通常将人工智能列为他们首要关注点。并查看子版块维基。第二个链接是一篇经典的 Wait But Why 帖子，在该子版块广为人知。后半部分论证了为何要担心人工智能带来的存在风险。链接 3、4 和 5 再次是 MIRI、LessWrong 和 FHI。阅读列表包含《超级智能》、《模拟时代》、《悬崖边缘》和《我们欠未来什么》，所有这些都详细讨论了人工智能风险。该子版块的一切都指向既极其美好又极其糟糕的未来是公平讨论的话题。禁止讨论后者与此子版块的使命不一致。我不希望 r/singularity 被转变为另一个不点名的子版块，禁止所有关于可能缺点的讨论。我不希望它变成另一个不点名的子版块，对未来的兴奋感投反对票，并对任何不迎合泡沫叙事的东西群起而攻之。到目前为止，版主们做得很好，避免了这两个陷阱。但我也希望版主和用户之间不要出现脱节，这会给他们带来额外的工作、封禁和删除帖子，以及各种其他戏剧性事件。我请求版主团队请允许讨论存在风险。再次感谢他们让子版块继续运作。但这个政策是一个失误。出于礼貌标注版主：u/Anenome5, u/Anen-o-me, u/DnDNecromantic, u/Apollo24_, u/abrownn, u/Vailhem.