所谓的减速并不可信。相反,公司应该加速安全研究——并公开所有安全研究。

Reddit r/singularity 新闻

摘要

文章认为AI领导者的减速说法不可信,并敦促公司加速并公开分享AI安全研究。

字面上相信Sam、Elon和Dario所说的减速是幼稚的。要登上像这样的公司高层,你必须毫无顾忌地对人撒谎。他们都是精神病患者。这显然是个谎言,我很惊讶他们竟然这么做了。在我看来,通过“同意”减速,他们在安全问题上的可信度降低了。更可信的说法是他们没有减速,而是在寻找其他替代方案来提高安全性。这实际上是我们长期以来预期的经典场景——随着奇点临近,独立实体公开宣布减速,但实际上自己继续或加速研究。减速反正没用。我们需要的是AI安全研究相对于核心AI研究加速。公司应该公开表示他们正在投入更多资金到安全研究中。更重要的是,公司应该分享他们的安全研究,甚至进行合作。为什么不呢?我们都会从中受益。
查看原文

相似文章

AI减速如何真正得以执行

Wired

文章探讨了为确保安全而推行AI减速的提案与研究,并突出了一份新报告及AI行业领袖的支持。

AI超级智能放缓

The Verge

文章讨论了不断升级的AI安全辩论,涉及一起失控AI事件,以及像Anthropic首席执行官这样的行业领袖因潜在风险呼吁放缓AI开发。

大科技公司的AI放缓是安全协议还是卡特尔?

The Verge

本文探讨了大科技公司提出的AI开发放缓究竟是安全协议还是卡特尔,引用了行业批评和专家关于CEO在领导AI治理中作用的看法。文章强调了AI安全倡导者的担忧以及围绕监管AI进展的辩论。