标签
Jacob Coxon 从 Anthropic 辞职，凸显了对 AI 追逐超级智能的担忧，而 Evan Hubinger 确认缺乏对齐计划，强调了存在风险。
文章介绍了'p(despair)'作为比'p(doom)'更广泛的AI风险衡量标准，强调了像大规模失业和生活水平下降这样的场景，这些场景可能比完全灭绝更可能发生。
一条推文质疑为什么AI讨论从对失业的担忧转向了存在风险，同时指出AI尚未抢走工作。
作者惊讶于主流媒体和公众开始讨论ASI及相关存在风险的速度之快，从小众话题转变为广泛关注。
CZ，Binance的创始人，发推文幽默地指出，人类正热情地开发潜在的破坏性技术，可能指的是AI或其他进步。
作者反思了自己对大型语言模型（LLMs）的最初怀疑，承认它们已超出预期，并可能导致技术奇点，强调需要就存在风险进行审慎的全球讨论。
文章分析了AI行业关于存在风险的激烈争论，起因于一名研究员从Anthropic辞职，并声称AI极有可能导致人类灭绝，同时质疑了这些说法的可信度和影响。
Eliezer Yudkowsky敦促民主党人和共和党人在共同问题上合作，以抵御死亡，强调团结而非党派攻击。
Anthropic最新的AI滥用报告强调了诸如病原体研究等特定风险，引发了关于AI安全的讨论、潜在的美国国会听证会以及对开放权重模型的审视。
本文分析了为何一些批评者轻视人工智能的风险，尤其是存在性威胁，原因是对当前人工智能能力的有限认知或将其视为炒作。
这篇文章批判了一个涉及超级智能AI的模糊末日情景，认为它缺乏具体细节，本质上是在制造关于AI安全的恐慌。
一条推文认为，根据历史死亡人数和Hans Jonas的伦理推理，政府对人类的生存风险大于人工智能。
文章探讨了建造大规模人工智能基础设施的讽刺性，这些设施可能赋能于对人类构成生存威胁的因素，并质疑此类发展是否在无意中为未来的对手提供了资源。
一位Anthropic研究员表达了对AI安全的深切恐惧，表示愿意牺牲股权以换取更高的生存机会。
英国议员敦促首相安迪·伯纳姆支持禁止人工超级智能（ASI），专家警告称其可能带来人类灭绝风险。
AI研究人员日益担忧，先进的AI通过递归自我改进，可能对人类构成生存风险，导致一些人从大型实验室辞职以强调这些危险。
文章探讨了由Anthropic员工社交媒体发言引发的AI生存风险恐慌，指出这种恐惧或为营销或监管所夸大，并凸显了有效AI治理的不足。
这篇文章探讨了AI工具如ChatGPT、Gemini、Claude和Grok关于AI如何理论上导致人类灭绝的回应，对各种情景进行排名，并强调人类误用比AI获得自我意识构成更大的直接风险。