@DFintelligence:我刚刚花了两小时深入研读关于AI导致人类灭绝风险的科学文献。除了……

X AI KOLs Following 新闻

摘要

该推文认为,不存在AI导致人类灭绝的合理完全自主情景,并批评了对科幻式风险的强调,倡导对AI安全进行更严肃的研究。

我刚刚花了两小时深入研读关于AI导致人类灭绝风险的科学文献。除了几乎没有相关内容外,几乎所有内容都指向书籍和小说,或者像'回形针'最大化器这样的捷径,这些主要都是思想实验,在实际生活中没有真正应用。 而且,在我读到的所有情景中,没有一个不需要人类干预的。 基于这个前提,我不明白人们怎么能说什么'AI可能杀死所有人类'这样的话还能被当真。 给我三个由AI完全自主导致人类灭绝的合理情景。即使是超级智能和自我学习的那种。 来吧,我洗耳恭听。 说真的,我们如此重视科幻情景让我筋疲力尽。 偏离到如此巨大的威胁上,却没有一个合理情景,是极度缺乏诚信的。 对越来越智能的系统在越来越深层次的安全研究很重要。 但我真的认为我们需要停止如此重视像这样的废话。这让我筋疲力尽。
查看原文
查看缓存全文

缓存时间: 2026/09/11 22:45

我花了整整两小时深入研究关于AI导致人类灭绝风险的科学文献。除了几乎找不到什么实质内容之外,大部分引向的都是书籍小说,或是像“回形针最大化器”这样的思维捷径——这些本质上都是思想实验,在现实生活中并无实际应用。

而我读到的所有所谓可能性,没有一个不需要人类干预。

基于这个前提,我不明白为什么有人能随口说出“AI可能杀死所有人类”这种话还能被当回事。

请给我三个真正能够自主实现、由AI全权执行的人类灭绝情景。即便是那种超级智能且具备自主学习能力的AI。

来吧,我洗耳恭听。

说真的,我们如此重视科幻场景让我精疲力尽。

在缺乏任何可信场景的情况下,渲染如此巨大的威胁,完全是在无限透支公信力。

对日益智能的系统在各个深度层面的安全性研究确实重要。

但我真的认为我们必须停止过度关注这类胡说八道。这太令人疲倦了。

相似文章

AI行业最新末日警告的真相

TechCrunch AI

文章分析了AI行业关于存在风险的激烈争论,起因于一名研究员从Anthropic辞职,并声称AI极有可能导致人类灭绝,同时质疑了这些说法的可信度和影响。

问题

Hacker News Top

文章概述了超级人工智能的存在风险,警告说如果没有积极的政策响应,当前的人工智能发展可能导致人类灭绝。