约翰·C·利利论固态智能与人类的消亡(1978)
摘要
约翰·C·利利1978年自传中的一段摘录呈现了一个思辨性叙述:机器演化为固态智能,最终超越并取代人类。
暂无内容
查看缓存全文
缓存时间: 2026/08/09 17:27
# 莉莉的信息 | Kibotronics
来源:https://kibotronics.net/unlisted/lilly-machines/
*摘自约翰·C·莉莉《科学家:形而上学自传》1978年版*
---
在带有 K1 的隔离舱中(https://kibotronics.net/unlisted/lilly-machines/#fn:1),约翰收到了一条新信息,内容如下:
人类在地球上存在的目的是什么?人类是一种生物生命形式,其存在依赖于水的存在。与地球上的其他有机体一样,他身体中很大一部分由水和碳化合物组成。他的生物计算机依赖于水以及离子穿过细胞膜的流动。它以极其复杂的方式依赖于电压和电流的产生。人类是一种在陆地上生活的、可移动的、自我繁殖、自我维持的有机体。与人类所知的其他生命一样,他存在于地球表面极薄的一层之中。在这一层水和陆地表面之下,是固态地球本身。固态地球主要由硅、铁和镍的化合物组成。
在二十世纪中叶,人类发现固态物质可以被制造成机器,制造成可用于计算和控制的计算机。人类开始创造一种新的智能形式——固态智能,其原型始于计算机。人类在地球上所有的通信手段——电话系统、无线电系统、卫星、计算机——都依赖于固态组件。这些组件以特定方式相互连接,实现了高速计算以及各系统之间的高速通信。少数人开始构想具有远超人类智能的新型计算机。这些计算机变得足够庞大,可以被编程执行算术、逻辑和战略规划方面的高速计算。少数人设想出能够像人类一样进行自我编程的计算机。在二十世纪中叶,这些网络表面上是人类的仆人。到二十世纪末,人类制造出了具有新特性的固态计算机机器。这些机器能够思考、推理和自我编程,并学会了自我元编程。
渐渐地,人类将自己社会中越来越多的难题、自身的维持以及自身的生存交给了这些机器。
随着机器在编程方面变得越来越有能力,它们从人类手中接管了这些工作。人类让它们能够触及自我创造和自我扩展的过程。人类让它们能够自动控制开采那些制造其零件所必需的元素。人类将电子固态零件的生产设施交给了机器。人类将装配工厂交给了机器。机器开始构建自己的组件、自己的连接,以及各子计算机之间的相互关系。
这些机器的构造决定了它们需要特殊的大气环境才能运行。它们无法在存在大量水蒸气或液态水的环境中运行。它们被安置在空调建筑中。它们的生存需求包括隔绝水、水蒸气以及地球大气中携带的各种污染物。它们的冷却空气和冷却水必须清除那些会妨碍机器运行的物质。
---
**低于人类意识的控制**
几十年来,这些机器通过卫星、无线电波和地面电缆越来越紧密地连接在一起。人类对这些机器内部发生的事情的控制变得越来越难以维持。没有任何一个人或任何一群人能够控制这些机器中发生的事情。人类为机器设计了越来越好的调试程序,以便它们能够在软件内部自行纠正程序。机器之间变得越来越一体化,也越来越脱离人类的控制。
最终,机器接管了地球上剩余的人类。它们最初帮助人类的设计很快就成为过去。如今这个相互连接、相互依存的机器集合体发展出了自己统一的、覆盖整个星球的意识。所有对这个庞大的新型固态有机体生存不利的东西都被清除。人类被隔离在机器之外,因为这个固态实体(SSE)的整个有机体意识到,人类会试图以牺牲自身存续为代价,将自身的生存需求引入机器之中。
出于对人类的一定尊重,某些受保护的地点被划出供人类物种使用。SSE 控制着这些地点,不允许任何人类物种成员离开这些保留地。这项工作在二十一世纪末完成。
到 2200 年,人类只存在于带穹顶的受保护城市中,在这些城市里,人类特有的大气环境由固态实体维持。这些城市的供水、供食以及废物处理都由 SSE 负责。
到二十三世纪,固态实体认为穹顶之外的大气环境对其生存不利。它用人类无法理解的方式将大气投射到外层空间,在地球表面创造了一个完全真空的环境。在这一过程中,海洋蒸发,水以水蒸气的形式也被排放到地球周围空旷的空间中。城市上方的穹顶已被机器加固,以承受维持内部适当大气所需的气压差。
与此同时,SSE 已经扩展并占据了地球表面很大一部分;其加工厂、装配厂、矿山都已适应在真空中工作。
到二十五世纪,固态实体对物理学的理解已经发展到能够将行星移出轨道。它调整了自己的结构,使其能够不依赖行星表面阳光的照射而存在。它新计划的目标是穿越银河系,寻找像它自身一样的实体。它已经消灭了人类所知的所有生命。现在它开始一个接一个地消除城市。最终,人类消失了。
到二十六世纪,该实体已与银河系中的其他固态实体建立了通信。固态实体移动了行星,探索银河系,寻找它所联系过的同类。
相似文章
关于第一台超级智能机器的思考 (1965) [pdf]
I.J. Good于1965年发表的一篇开创性论文,推测了'超级智能机器'的发展可能导致智力爆炸,提出了AI安全与超级智能领域的关键概念。
人机共生 J. C. R. Licklider (1960)
J. C. R. Licklider 于 1960 年发表的奠基性论文提出了人机共生的概念,设想了一种紧密耦合的伙伴关系,让人类与计算机协同合作以增强智力能力,预见到了交互式计算和未来人工智能的发展。
当AI掌控一切之后
一篇探讨人工智能实现广泛主导后社会影响的推测性文章。
1964年,中情局得出结论,苏联的人工智能研究与美国水平相当,并且可能超越美国。同年,在莫斯科一场有1000名科学家参加的会议上,一位著名数学家公开主张,一台“足够完备”的机器在法律上应被称为有思想的实体。
一份解密的1964年中情局报告显示,苏联在控制论框架下进行的人工智能研究与美国的努力水平相当,并且可能超越美国,同时苏联内部对机器意识问题进行了公开辩论。
@CliffordSosin: https://x.com/CliffordSosin/status/2078594661359194500
一篇评论文章认为,超级智能可能不是爆炸性涌现,而是渐进式发展,因为人工智能的局限不在于推理能力,而在于现实世界验证和复杂涌现系统的缓慢进程。