control-problem

由Shane Parrish主持的播客节目，探讨超级智能能否被控制，重点讨论AI安全和伦理考量。

这篇文章质疑，如果超级人工智能无法控制，它为何会满足人类的欲望，如治愈癌症或创造飞行汽车？

AI公司正在采用受《指环王》中博罗米尔启发的策略来应对AI控制问题，声称他们可以处理这种危险，尽管存在风险。

本文讨论了控制AI的替代方案，主张通过家庭纽带促进和平的人类与ASI关系，同时承认人类同理心以及将AI视为非人格的挑战。

Anthropic 发布了一篇论文和视频，揭示了其模型内部存在一个“J-Space”，它充当了推理时缓存的思维概念，并探讨了通过自上而下的训练来控制模型思维的可能性。