标签
一条由@typesfast发布的推文评论了AI安全,引用了Evan Hubinger的观点,他认为AI在十年内杀死所有人类的概率超过10%,并批评Anthropic缺乏超级智能对齐的明确计划。
文章呼吁发起类似曼哈顿计划的倡议来解决人工智能对齐问题,强调超级人工智能带来的紧迫存在风险。
继一名员工因担忧AI实验室的不负责任行为而辞职后,Anthropic的一位安全研究员警告称,人工智能在未来十年内杀死所有人类的概率超过10%。
Anthropic 研究人员警告称,AI 可能在十年内杀死全人类,其中一人估计概率超过 10%,突显了安全方面的担忧以及高级 AI 系统的仓促发展。
Evan Hubinger,Anthropic的对齐科学负责人,表示他相信AI在未来十年内杀死所有人类的概率超过10%,并且Anthropic缺乏解决超级智能对齐的计划。
Jacob Coxon从Anthropic辞职,担忧行业追求自我改进的AI可能导致失控后果和人类灭绝。
United Nations人权事务高级专员Volker Turk警告说,人工智能可能对人类构成生存风险。
Sam Altman 分享了 OpenAI 研究员 Jakub Pachocki 的一篇文章,探讨了对未来几年 AI 发展态势的担忧,以及为确保未来仍由人类掌控所需做出的选择。
作者讨论了他们对AI快速发展的矛盾情感,对未来富足表示兴奋,但对过渡时期的社会动荡和个人不安全感感到担忧。
作者向Reddit社区询问关于对齐不良的人工超级智能导致存在性灾难的概率看法,反映了个人在AI安全领域的担忧和经历。
Miles Brundage 对人工智能技术可能导致的世界末日后果表示担忧,敦促人们咨询该领域的可信赖专家。
前OpenAI内部人士Daniel Kokotlo在离开OpenAI并放弃价值200万美元的股票期权后,警告AI递归自我改进的风险,并提出一个更安全的全球计划。
作者警告说,AI制造的流行病正成为首要的生存风险,并指出AI已经创造了一种全新病毒,未来前沿模型的创新可能导致比COVID更严重的威胁。
一项对2022至2026年间34个来源的AI风险预测的分析显示,风险估算每年都在恶化,引发了对公众意识和问责制的担忧。
指出了一个当前现实世界的事件与讽刺电影《不要抬头》中的著名场景相呼应,在该场景中,科学家们发出的紧急警告被社会和领导者忽视或轻视。
一场质疑“paperclip maximizer”思想实验的讨论,询问专家们认为哪些具体的AI末日场景才是对人类的现实威胁。