Connor Leahy: “我们正在培育AI，而不是构建它——我们只理解其内部约3%的内容”

https://controlai.org/ 刚刚观看了一个小时的采访。三件事：培育，而非构建。神经网络自我组装成数十亿个不可读的参数。Anthropic 的CEO表示只有3%的可解释性。这更像是召唤，而非工程。指数增长提供了两个窗口：太早或太晚。Leahy：到2027年有30%的概率出现超级智能，到2030年为50%。“1%已经发生。”超级智能是可复制的软件。数百万智能体争夺权力。人类 = 高速公路上的蚂蚁。对齐：“我们完全不知道该怎么做。”这是未解决的科学问题，而非困难的工程问题。障碍不是分歧——而是无知。政客和军方都说：“完全没料到。我们该怎么办？”要求：在超级智能存在之前阻止它。为控制争取时间。致电你的代表。链接：https://youtu.be/wzgkc6Iegx8