对了解人工智能的人的一个（愚蠢？）问题

Reddit r/singularity 新闻
agi ai-safety infrastructure-dependency automation human-dependence future-ai

摘要

这篇文章质疑通用人工智能是否会因依赖人类维护的物理基础设施以及实现完全自动化的挑战而自我挫败地消灭人类。

假设任何通用人工智能或其他超级智能AI将依赖其物理基础设施来“生存”，那么在此刻及近期内消灭人类岂不是适得其反？它难道不会认识到这个事实吗？处理器、数据中心、传输基础设施等等，共同包含了人类所创造的一些技术上最复杂的事物，这些事物本身具有极其冗长和复杂的供应链及制造相互依赖性。其中一些正在以不错的速度自动化，但整体上仍然需要大量的人工投入。我认为其中一个远离完全自动化的部分是稀土的开采和加工。完全自动化的供应链、制造、建设和维护似乎还很遥远。而且材料和组件本身会随时间推移而损坏。那么，任何足够先进和复杂的AI最终不仍然依赖于人类来维护和建设其基础设施吗？而且，即使它想，今天的通用人工智能能多快现实地自动化所有这一切，设计和制造机器人等等？如果发生大规模反弹，国家或活动家开始通过摧毁或禁用其物理组件来关闭它（类似于Flock的抵制），它将如何保护自己免受人类攻击？
查看原文

相似文章

AI为何会毁灭人类

Reddit r/ArtificialInteligence

一位用户质疑AI会发展出恶意特质的假设，认为人类更可能滥用AI用于破坏性目的，并讨论了AI生存的逻辑方面。