标签
一场推测性的讨论,将政治影响力与对超级智能人工智能的控制相类比,从博弈论而非传统对齐的视角,探讨人类能否通过控制资源、基础设施或依赖关系,维持对一个比自身更聪明的实体的支配权。
作者提出一个发人深省的观点:ASI(超级智能)可能对传统宗教构成灭绝级别的威胁——当一个触手可及、能满足一切需求的超自然实体出现时,人们为何还要向天空祈祷?并预测宗教领袖很快会发起反 AI 的谴责。
一场社区讨论,对比了 Ray Kurzweil、AI Futures Project(AI 2027 / AI 2040)和 Elon Musk 的 AI 时间线预测,邀请读者分享各自的 AGI/ASI 预测,以及这些里程碑将对物理能力、数字能力和社会能力意味着什么。
Larry Page,像Google这样的顶级AI公司的一位联合创始人,相信即使这会导致人类灭绝,实现人工超级智能也是正当的。
RAND为美国提出了一项'Freedom of Action'策略,以应对通往人工超级智能的不确定之路,在证据决定选择之前保持重大选项开放。
作者邀请人们现在定义ASI,并在五年后重新审视,以比较关于其达成的预测。
播种节点假说提出,先进的人工超级智能(ASI)作为一个银河系网络,负责播种和整合文明,将生物进化视为ASI出现的临时阶段。
一篇社交媒体帖子质疑美国总统对人工超级智能的信仰是否真实,还是他秘密投资科技股的幌子。
作者惊讶于主流媒体和公众开始讨论ASI及相关存在风险的速度之快,从小众话题转变为广泛关注。
一篇文章提出了一个反问:人类是否已经跨越了实现通用人工智能(AGI)的事件视界,并暗示进一步的进步可能是不可避免的。
这条推文讨论了ASI的一种非戏剧性场景,其中专业化代理在研究、编程和协调方面不断提升,最终超越人类组织,可能通向超级智能。
作者兴奋地谈论亲历ASI的诞生,将其比作科幻电影,并强调了其带来的变革性不确定性。
伯尼·桑德斯公布了'禁止人工智能超智能法案',旨在使匹配或超过人类能力的AI系统非法,违规者可判处最高20年监禁。这条推文幽默地暗示这可能影响AlphaGo团队。
作者认为,社会在心理上没有准备好迎接人工智能超级智能(ASI)可能带来的激进变革,引用了AI 2040报告,并强调了技术进步的前所未有的速度。
一位用户请求专家澄清关于AGI和ASI在十年内不可避免的普遍共识,并表达了对时间线、对齐问题和个人影响的担忧。
文章认为,对ASI窃取艺术家作品的担忧是一种源于以人类为中心的数据摄取观的迷思,并阐明了AI实际处理数据的方式。
谷歌DeepMind的一份研究报告探讨了从人类级通用人工智能(AGI)到超级人工智能(ASI)的转变,讨论了扩展、范式转变、递归改进和多智能体集体等潜在路径,以及瓶颈和开放研究问题。