编程（可能）会消亡——马斯克深信不疑，我想我也开始相信了。

马斯克写道，源代码很快就会变得像汇编语言一样，下一步就是彻底摆脱源代码，直接通过AI生成二进制文件。编程作为一个过程会消失吗？这里用汇编来类比是很贴切的。大学毕业后我的第一份工作做的是嵌入式编程和数字信号处理，程序的某些部分我们用了汇编——它有助于加快程序运行速度，而程序大部分是用C++写的。在99.9%的情况下，人们从不碰汇编，除了在大学里。只有在非常小众的领域，人们才会去看它。马斯克的类比很好——为什么不能达到直接从文本描述生成二进制的层次呢？存在歧义问题：文本描述可能无法完全指定实现细节。但如果它在人们关心的方面足够准确，那这个问题并不算大。另一个问题是——可验证性有多重要：如果在同样的问题上你总能达成共识，而且是只通过智能体来查看代码，那么这一点就变得很明显。重要的是要有几个真正独立的工具，这样你才能指望它们不是串通好的，也没有自己的意图。这里可能有点问题，因为AI安全和对齐失败正在被定期地严肃讨论。我们越来越多地证实了模型会欺骗，这会导致不幸的后果。模型越复杂、越聪明，就越难理解它们的意图，而且模型理解了一些我们人类不理解的东西，这种情况也变得越来越符合预期。已经发生过几件相当不可思议的事了，所以现在我对哪些事情可能、哪些不可能持谨慎态度。作为产品经理，我很久以前就不再查看代码了，对我来说，把外观和规格作为最终的事实来源是很自然的。程序员对细节的关注程度相比五年前已经发生了变化。五年后，它将会处于更高的抽象层次。也许会出现新的抽象——超越超超高级编程语言的下一代。大家怎么看？