标签
该论文评估了动态评估（对正在读取的文本执行梯度更新）在 softmax 注意力、混合线性注意力和掩码扩散语言模型中的效果，发现下一词元损失降低了 5–20%，但表明这种适应捕捉的是风格和词汇，而非事实检索能力；与此同时，对模型自身结论进行低秩蒸馏，可达到上下文学习的性能，且不会降低 GSM8K 上的表现。
论文提出 Test-Time Memory Evolution（TTME，测试时记忆演化），一种即插即用的测试时适应方法，通过持续更新外部记忆来指导科学发现，而无需更新模型权重。实验表明，TTME 在五个数学任务上全面优于测试时训练（TTT），同时将浮点运算量（FLOPs）降低 82.8–84.6%，运行时间缩短 47.7–58.4%。
论文提出了测试时记忆演化（TTME），一种通过持续更新外部记忆而非模型权重来实现测试时自适应的方法。该方法在五个数学任务上的表现优于测试时训练（TTT），同时将浮点运算量（FLOPs）降低了 82.8-84.6%，将运行时间缩短了 47.7-58.4%。
Titan-Llama 提出一种后训练方法，通过分层记忆架构和测试时参数更新，将预训练注意力模型改造为具备外部神经记忆模块的长上下文高效推理模型，在 QuALITY 和 LongHealth 上显著提升准确率并降低推理延迟与显存占用。
论文提出 Latent Compaction，通过测试时训练将 KV 缓存压缩为紧凑的文档特定表示，在冻结模型权重的前提下实现 32 倍压缩下 96.7% 的 RULER 准确率，显著优于 KVZip+ 等基线，并可跨模型规模与系列迁移。
NandakishorM 开源了基于物理的类型化决策模型 Vega（800M 及 4B 参数版本），采用 Test-Time Training 引擎 + 适配器架构，支持 73k 上下文和图像输入，通过在隐藏层构建"结果山谷"并用带摩擦的小球物理模拟来判定输出意图，单次推理超越多项 JEV 基准。
本文指出，模型在推理过程中基于自身生成的文本进行自适应时，在长达 128K token 的时间尺度上会出现不稳定现象。为此，作者提出了一种因果分解方法，以及一种名为「Settlement」的验证机制：先在独立文本上测试候选更新，确认有效后再将其保留。该机制在大幅减轻损害的同时，仍保留了真正的自适应能力。
本文提出 ASCENT，一种在线智能体测试时训练方法，允许 LLM 智能体通过将已验证的执行轨迹自蒸馏为持久的 LoRA 更新，在跨任务过程中改进自身权重，并在 ALFWorld、WebShop 和 AppWorld 上进行评估。
JEPA-TTT 在测试时通过自监督密集重放（dense replay）对预训练 JEPA 世界模型的潜空间动力学预测器进行适应，在四个连续控制环境中，相比冻结模型，潜空间预测误差降低 83%，规划性能提升 153%，从而改善了动力学偏移下的规划表现。
该论文提出了 SMART，一个用于长篇字幕翻译的自演化多智能体系统。该系统采用测试时训练机制，结合动态路由器、Mixture-of-Agents 层以及 judge-refiner 循环，在不重新训练底层 LLM 的前提下构建剧集级记忆并自适应地调整智能体提示词。论文还推出了 SubtitleArena 基准测试（涵盖 14 个类型、15 个目标语言区域）以及 SubMQM 评估框架，相比同类智能体系统实现了平均 6.9% 的 MQM 惩罚分数降低，并在 MuSC 基准测试上取得了最佳结果。
本文介绍了Embed-TTT，一种两步式测试时训练协议，通过首先微调任务嵌入，然后微调骨干网络，来改进类ARC任务中的规则归纳，从而更好地与底层规则对齐，并在ARC-AGI-1和ConceptARC等基准测试上提升性能。
本文讨论了Test Time Training作为AI开发中潜在的新扩展轴，分析了一篇将其定位为线性注意力形式的论文，并探讨了其对模型训练和持续学习的影响。
本文介绍了In-Place Test-Time Training，这是一个在推理过程中实时更新MLP权重的框架，使大语言模型能够动态适应并处理长达128k个令牌的长上下文。
TTPO引入了一种无标签的测试时训练方法，用于数学推理，通过非对称处理一致和不一致的运行轨迹，达到了与监督学习相当的性能。
本文解释了测试时训练，即AI模型在推理过程中适应以提高个性化并减少内存使用，但代价是增加每用户计算量。文章讨论了对大规模服务模型的影响，以及在长上下文和用户并发之间的平衡。
TTT-Discover 是一个框架，它在测试时使用强化学习对单个问题训练大型语言模型，在GPU内核工程中创下新纪录，并改进了数学界限。
本文介绍了模块化TTT，这是一个将测试时训练的内部学习器表示为有向无环图的框架，能够对组件进行系统的消融和组合。作者在1000亿个token上训练了4.1亿和14.5亿参数规模的模型，取得了与GatedDeltaNet相当的性能。
RoboTTT将视觉运动上下文扩展到机器人策略的8K时间步长，实现了从人类视频演示中一次模仿、即时策略改进以及对扰动的鲁棒性。它比基线提高了87%，并完成了一个五分钟、十阶段的组装任务，而基线无法完成。
李飞飞强调了一种新的用于机器人学习的测试时训练方法，该方法由Stanford SVL和NVIDIA Robotics合作开发，可将机器人模型上下文扩展到8000个时间步长，且推理成本恒定。
提出了自引导测试时训练（S-TTT）方法，模型在长上下文中识别相关证据片段进行自适应，在长上下文推理基准上实现了高达15%的相对改进。