否定论者比所谓的“灭绝论者”更危险
摘要
作者认为 AI 极端灭绝风险被夸大，但技术转型带来的挑战可能导致普通人眼中的反乌托邦，并批评部分科技评论者对 AI 的否定态度是有害的。
首先，我认为灭绝风险其实并不高，但向新世界的转型带来了全新而艰巨的挑战，可能会导致大多数人眼中的反乌托邦。不幸的是，大多数人的世界观是僵化不变的。“互联网泡沫”“LLM 不过是随机鹦鹉”“这一切都只是营销”“监管被俘获”……Ed Zitron 之流对整个舆论场而言是一场瘟疫。
相似文章
Ed Zitron completely falls apart when facing real AI specialists.
这场辩论聚焦于AI灭绝风险的讨论，专家们对风险概率、定义以及当前危害与未来风险的优先级存在根本分歧。
在不被某个阵营撕碎的情况下自由讨论 AI，感觉是不可能的。
作者观察到互联网上关于 AI 的讨论已分裂为盲目支持与极端反对两大阵营，任何试图同时讨论 AI 益处与风险的人都会遭到双方攻击。文章以 OpenAI 等公司解雇 AI 安全与对齐研究人员为例，指出这种氛围从线上蔓延到现实，严重阻碍了对 AI 安全的理性讨论。
人工智能未必需要消灭我们才能削弱我们
作者警告说，人工智能的真正危险不是敌意，而是人类的过度依赖，这可能会削弱批判性思维，并将信息控制权集中在少数几家公司手中。
AI安全社区的作为恐怕弊大于利（7分钟阅读）
作者认为，Palisade Research 采访前沿AI实验室员工，称人类灭绝只是"抛硬币"，这正在损害AI行业，尤其在 Jacob Coxon 高调离开 Anthropic 以及《Pacing the Frontier》公开信发布之后，这种说法助长了国会和公众的反AI情绪。
并非所有AI从业者都认为这项技术可能消灭人类
并非所有AI从业者都相信人工智能对人类构成生存威胁；许多人对近期关于AI导致人类灭绝的高调警告持怀疑态度。