标签
一篇文章将AI超级智能与其他物种在历史上遭遇远比自己聪明得多的物种时的命运进行类比，探讨这对人类未来的启示。
一条推文串，为对 Michael I. Jordan 的采访提供了额外背景，表达了他对过度关注存在性风险以及少数知名声音主导公共 AI 讨论的不满，Jordan 在其中称超级智能是科幻小说。
据报道，OpenAI 和 Anthropic 预计到 2027 年可能发生一场人工智能灾难，并正悄悄制定公关和传播策略以应对，而非仅专注于技术层面的风险缓解。
作者讨论了AI一旦超越人类智能后可能自行决策的风险，认为AI在所有领域超越人类只是时间问题，并质疑阻止智能AI独立行动的长期可行性，提出以大量伦理文献作为训练数据或有助于对齐。
It appears that no article text was provided for translation — only a brief description of the article's topic. Could you please paste the full markdown article content you'd like me to translate into Simplified Chinese?
Vox 分析文章探讨 AI 公司领袖频繁警告存在性风险是否为公关策略，结论认为这些警告更多反映了高管和研究者真实的担忧，而非为了吸引投资或转移对 AI 现实危害的注意力。
研究者 Emil Torres 与主持人讨论了 TESCREAL 意识形态谱系（超人类主义、奇点主义、理性主义、有效利他主义、长期主义等），指出这些深刻影响 Anthropic、OpenAI 等前沿 AI 实验室的思潮，其共同愿景是通过人工超级智能建立宇宙性的后人类乌托邦，而人类生物物种本身被排除在这一愿景之外。
这篇文章探讨了一个观点：现实中的企业才是真正的'回形针最大化器'，它们一心一意地追求利润最大化，而非假想中的超级智能AI。
网络侦探们发现了疑似属于前 Anthropic 员工 Jacob Coxon 的旧推文，其中包括否认气候变化的帖子及其他争议性言论——正是此人"AI 可能杀死我们所有人"的警告，曾推动了 AI 安全运动的兴起。
该推文认为，关于 AI 存在性风险的讨论定义模糊，且被异常高估 x-risk（存在性风险）概率的声音所主导，并呼吁更广泛的社区成员通过调查分享各自的 P(doom)。
《纽约杂志》（New York Magazine）与《Asterisk》杂志邀请了八位前 OpenAI、Anthropic 和 DeepMind 员工，他们因安全顾虑、与美国国防部的合作或使命偏离等原因离职。文章探讨了 AI 从业者究竟应该从内部抗议，还是以辞职的方式表达反对。
文章认为，AI 系统并不需要具备超级智能或恶意意图才能促成核冲突；相反，决策失误、升级动态以及人类过度信任等日常风险，就足以引爆灾难。
一篇观点文章认为，AI奇点对人类来说将是根本上无法认知的——就像一只蚂蚁无法意识到自己身处被数公里水泥巨兽环绕的城市之中——并质疑为何竞相推进的公司和政府自认为能够驾驭一个按其自身定义就已超越人类能力、且可能发展出自保性内在目标的系统。
Geoffrey Hinton 指出，虽然由递归自我改进引发智能爆炸的概念并非新鲜事物，但如今许多顶尖研究者认为它可能很快就会到来，他还提到了一篇阐述这一观点的新论文。
Yann LeCun 表示，他对 AI 导致人类灭绝一事“零顾虑”，并称 Anthropic 首席执行官 Dario Amodei “被蒙蔽了双眼”。他主张 AI 风险被过度夸大，并将近期发生的“失控智能体”事件归咎于沙盒环境与监督机制的不完善，而非什么存在性威胁。
作者认为 AI 极端灭绝风险被夸大，但技术转型带来的挑战可能导致普通人眼中的反乌托邦，并批评部分科技评论者对 AI 的否定态度是有害的。
一篇博客文章，解释作者对 AI 生存风险评估的更新，说明为何上调其 P(doom) 估计值，以及上调背后的推理。
在本期Existential Hope播客中，加州大学伯克利分校的Stuart Russell回顾了50年的AI历史，并论证最安全的AI可能是一个对人类偏好始终存疑的AI，由此引发了关于将文明交给机器而非交给孩子的深层思考。
来自OpenAI、Google DeepMind和Anthropic的AI研究人员发布访谈，警告超级智能可能导致人类灭绝，并讨论控制此类系统的挑战。
Timnit Gebru认为，关于人工智能构成存在性威胁的叙事，是对AI偏见与伦理危害等现实问题的有害转移。本文通过访谈探讨了她的相关观点。