标签
一篇重访弗雷德·布鲁克斯1986年《没有银弹》论点的文章，解释了为什么AI编程工具仍然无法带来数量级的生产力提升，因为它们只处理了偶然的复杂性，而非软件工程的本质概念性工作。
该论文指出，对于当前的编码智能体，验证解决方案比生成解决方案更为困难，且任何固定的奖励函数都无法随着能力增长而持续有效。作者通过四种奖励构建的实验表明，针对性的验证设计可以抑制奖励黑客行为并提升任务完成质量。