我们需要一个p(despair)

Reddit r/artificial 新闻
ai-safety existential-risk probability civilization-collapse ethics

摘要

文章介绍了'p(despair)'作为比'p(doom)'更广泛的AI风险衡量标准，强调了像大规模失业和生活水平下降这样的场景，这些场景可能比完全灭绝更可能发生。

所有这些研究人员都在使用p(doom)来描述存在风险的概率，但我实际上更感兴趣的是p(despair)，即文明崩溃、大规模失业危机、生活水平下降，或任何未达到灭绝程度的事件发生的概率。对于每一个AI（或一群使用AI的人类）让我们全部消失的场景，可能还有十个场景是它只影响部分人，对那些掉队者漠不关心，对吗？所以当一个anthropic研究员说‘我的p(doom)是10%’时，他们是否也暗示‘我的p(despair)大于50%’？这是一个非常重要的问题。我认为我们应该知道！
查看原文

相似文章

P(doom)

Armin Ronacher

本文探讨了P(doom)以及AI领导者Dario Amodei、Sam Altman和Elon Musk对AI风险的回应，重点讨论了关于调节AI发展速度及其社会影响的关切。

AI行业最新末日警告的真相

TechCrunch AI

文章分析了AI行业关于存在风险的激烈争论，起因于一名研究员从Anthropic辞职，并声称AI极有可能导致人类灭绝，同时质疑了这些说法的可信度和影响。

未来是否还有乐观可言？

Reddit r/ArtificialInteligence

作者对人类与人工智能共存的未来表达了深切的悲观，强调了政治领导层未能应对人工智能风险的紧迫性。

问题

Hacker News Top

文章概述了超级人工智能的存在风险，警告说如果没有积极的政策响应，当前的人工智能发展可能导致人类灭绝。