标签
这篇文章认为，博斯特罗姆的正交性论题实际上已获胜，并主张自我保存和自我建模是具有长期行动规划能力的智能体普遍趋向的汇聚点，而梯度下降就像进化压力，会在超级智能系统中催生异质的代理目标冲动，而非温顺、可预测的行为。