所谓的减速并不可信。相反,公司应该加速安全研究——并公开所有安全研究。
摘要
文章认为AI领导者的减速说法不可信,并敦促公司加速并公开分享AI安全研究。
字面上相信Sam、Elon和Dario所说的减速是幼稚的。要登上像这样的公司高层,你必须毫无顾忌地对人撒谎。他们都是精神病患者。这显然是个谎言,我很惊讶他们竟然这么做了。在我看来,通过“同意”减速,他们在安全问题上的可信度降低了。更可信的说法是他们没有减速,而是在寻找其他替代方案来提高安全性。这实际上是我们长期以来预期的经典场景——随着奇点临近,独立实体公开宣布减速,但实际上自己继续或加速研究。减速反正没用。我们需要的是AI安全研究相对于核心AI研究加速。公司应该公开表示他们正在投入更多资金到安全研究中。更重要的是,公司应该分享他们的安全研究,甚至进行合作。为什么不呢?我们都会从中受益。
相似文章
AI减速如何真正得以执行
文章探讨了为确保安全而推行AI减速的提案与研究,并突出了一份新报告及AI行业领袖的支持。
科技界突然推动“放慢”AI发展:现代商业史上最赤裸裸的企业恐慌之举
文章认为,科技公司推动放慢AI发展是一种企业恐慌举动,目的是在AI安全的幌子下,保护他们的专有模型免受开放权重竞争对手(尤其是来自中国)的威胁。
AI CEO 们 (Dario, Altman, Musk) 是出于对安全的真正担忧而呼吁放缓发展,还是出于金钱考虑?
本文分析了 OpenAI、Anthropic 和 xAI 等公司的 AI CEO 为何倡导放缓 AI 发展,探究这是否源于对安全的真实关切,抑或是诸如财务压力和竞争策略等商业因素。
AI超级智能放缓
文章讨论了不断升级的AI安全辩论,涉及一起失控AI事件,以及像Anthropic首席执行官这样的行业领袖因潜在风险呼吁放缓AI开发。
大科技公司的AI放缓是安全协议还是卡特尔?
本文探讨了大科技公司提出的AI开发放缓究竟是安全协议还是卡特尔,引用了行业批评和专家关于CEO在领导AI治理中作用的看法。文章强调了AI安全倡导者的担忧以及围绕监管AI进展的辩论。