一位既训练过前沿LLM又设计过病毒的人认为AI超级病毒末日论是荒谬的。
摘要
一位拥有训练前沿LLM和设计病毒经验的专家反驳了AI创造超级病毒的末日情景。
暂无内容
相似文章
@VraserX: 我的争议性观点是，如果一个前沿实验室能展示出可信且立即的灾难性能力，那么 AI 大幅放缓是合理的。
作者认为，只有在前沿实验室展示出可信的立即灾难性能力证据时，AI 大幅放缓才是合理的，而不是基于假设的未来危险。
我突然想到：如果开源模型现在已接近前沿水平的能力，我们还有哪些护栏能阻止有人设计另一种超级病毒并重演疫情？
对拥有前沿能力的开源AI模型风险的反思，质疑当前护栏在防止被滥用于生物武器制造方面的有效性。
你究竟认为AI会如何实际执行毁灭全人类的行动？
这篇文章批判了一个涉及超级智能AI的模糊末日情景，认为它缺乏具体细节，本质上是在制造关于AI安全的恐慌。
“paperclip maximizer”对我而言说不通！真正现实的AI末日场景有哪些？
一场质疑“paperclip maximizer”思想实验的讨论，询问专家们认为哪些具体的AI末日场景才是对人类的现实威胁。
恐惧的传染
Bryan Cantrill 分享了在大学实验室中传播恐惧的个人经历，以批评AI专家关于人类灭绝的极端言论。