real-time-adaptation

本文介绍了In-Place Test-Time Training，这是一个在推理过程中实时更新MLP权重的框架，使大语言模型能够动态适应并处理长达128k个令牌的长上下文。

讨论了未经证实的说法，即伊利亚·苏茨克维尔的新公司通过构建一个能实时学习和自我重连的模型，实现了人工智能的范式转变，可能推动AGI的发展。