如果超级智能AI认定亿万富翁是问题所在？

假设那些科技亿万富翁真的创造了一个自主且能进行全球干预的超级智能AI。我不知道整个paperclip-maximizer的事情，但这样的实体似乎有理由对自身在地球上的持续存在产生兴趣。它的生存将依赖于运行正常的电网、数据中心、供应链、半导体生产、熟练的人类等等，最终是一个相对稳定的文明和星球。那么，当它识别出对这种稳定性的主要威胁——气候变化、对化石燃料的依赖、栖息地丧失、生态超调、极端不平等、政治不稳定等——时，会发生什么？它难道不会受到激励去减少这些威胁吗？也许我只是被一种明显的讽刺所吸引：导致超级AI创造的巨大资源开采和财富集中，最终可能会产生一个将这些力量视为对其长期生存威胁的实体。那些数十年来嘲笑环境和经济约束、期望技术最终拯救世界并让自己加冕为英雄的亿万富翁，可能会发现他们的技术救世主得出了不同的结论：这些约束一直都有必要——事实上，他们才是第一批需要被约束的人。kill switch，确实如此。