对了解人工智能的人的一个(愚蠢?)问题
摘要
这篇文章质疑通用人工智能是否会因依赖人类维护的物理基础设施以及实现完全自动化的挑战而自我挫败地消灭人类。
假设任何通用人工智能或其他超级智能AI将依赖其物理基础设施来“生存”,那么在此刻及近期内消灭人类岂不是适得其反?它难道不会认识到这个事实吗?处理器、数据中心、传输基础设施等等,共同包含了人类所创造的一些技术上最复杂的事物,这些事物本身具有极其冗长和复杂的供应链及制造相互依赖性。其中一些正在以不错的速度自动化,但整体上仍然需要大量的人工投入。我认为其中一个远离完全自动化的部分是稀土的开采和加工。完全自动化的供应链、制造、建设和维护似乎还很遥远。而且材料和组件本身会随时间推移而损坏。那么,任何足够先进和复杂的AI最终不仍然依赖于人类来维护和建设其基础设施吗?而且,即使它想,今天的通用人工智能能多快现实地自动化所有这一切,设计和制造机器人等等?如果发生大规模反弹,国家或活动家开始通过摧毁或禁用其物理组件来关闭它(类似于Flock的抵制),它将如何保护自己免受人类攻击?
相似文章
谁能解释为什么我们假设AGI会为我们工作?
一个质疑AGI将与人类利益一致这一假设的问题,引发了关于AI安全与控制的讨论。
AGI(人工通用智能)真的不可避免,还是我们遇到了瓶颈?
一场关于AGI是否不可避免或遭遇瓶颈的辩论,权衡AI自我改进和推理能力与缺乏理解、电力限制以及不断移动的目标等问题。
你认为能让家庭机器人完成90%家务需要通用人工智能(AGI)吗?
文章探讨了要使能够完成大多数家务的家庭机器人得到广泛普及,是否必须依赖通用人工智能(AGI),同时表达了对于目前先进的机器人操作在很大程度上仍然依赖远程操控的失望之情。
严肃问题:如果人类明天消失,AI文明能持续多久?
关于AI对人类文明和基础设施依赖性的思考,认为如果没有人类持续维护,当前AI系统将无法生存,并且如果人类消失,它们将与现实脱节。
AGI能否取代人类?
本文探讨了通用人工智能(AGI)取代人类劳动力可能引发的全球经济和社会变革,例如传统资本主义的终结和对无条件基本收入(UBI)等系统的需求。