我们关注错了问题！

大多数关注点在于AI的危害，而不是大公司如何部署AI。我担心的不是AI变得越来越强大。当然，这也是一个担忧，但由于大多数影响都是推测性的，除了各国联合起来制定关于如何分发和使用前沿模型及能力的规则和政策（尤其是在战争领域）之外，你无法对这个问题的立场或采取行动。我最担心的是企业和政府会利用AI对他们的公民做什么。数据中心的建设不仅仅关乎AI。它们关乎创建一种基础设施，以实现对大脑资本的全面捕获。换句话说，已有实际计划来尽可能多地收集我们个人大脑的数据，如果他们能准确绘制出所有这些数据，就能衡量我们向国家提供的认知输出的数量和质量，这意味着他们可以根据认知输出来评估我们的价值。此外，他们可以利用环境助推和算法管理来修改和塑造个人行为，这意味着抗议或表达任何关切变得不再必要。宏观来看：政府、公民和企业之间的社会契约正在被彻底重塑，以适应一个普通人几乎没有或根本没有议价能力的世界，这摧毁了发声的力量。这就是为什么我们不应该摧毁AI。相反，我们应该想办法摆脱对大型科技公司的依赖，以便重新获得议价能力。最大的错误是接受像伯尼·桑德斯和罗·卡纳所建议的那种贿赂。我并不是反对他们或其他什么，但他们提出的让联邦政府持有大型科技公司股份的建议是一场正在酝酿中的灾难。如果发生这种情况，就别指望任何朝着更美好未来的可控演进了。你将与代表大型科技公司行事的联邦政府作斗争，因为不这样做，它们的自我融资能力就会枯竭。这是一个我们正在步入的巨大陷阱，这就是为什么AI社区必须着眼于去中心化的开源系统，这些系统可以本地托管，以大规模部署和使用AI。如果我们过于依赖少数几家大公司，我们将进入一个技术封建体系，其中比我们更强大的势力几乎可以为所欲为而逍遥法外。我们不能让这种情况发生！