论文页面 - 测试时记忆演化能否在科学发现中超越测试时训练？

来源：https://huggingface.co/papers/2610.32046

摘要

测试时记忆演化通过更新外部记忆而不改变模型权重，以比测试时训练更高效的方式引导科学发现。

近期的测试时训练 (https://huggingface.co/papers?q=test-time%20training)（TTT）框架使开放权重的大语言模型（LLM）能够在科学发现任务上超越由前沿模型驱动的纯推理框架。然而，TTT 在发现过程中需要在线更新权重，因此会引入额外的计算成本，使计算效率成为扩展到更大模型时的重要考量。这促使我们探索一种用于科学发现的高效测试时适应 (https://huggingface.co/papers?q=test-time%20adaptation)方法。我们提出测试时记忆演化 (https://huggingface.co/papers?q=Test-Time%20Memory%20Evolution)（TTME），这是一种即插即用的测试时适应 (https://huggingface.co/papers?q=test-time%20adaptation)方法，可替代 TTT。TTME 通过提炼经验持续更新外部记忆 (https://huggingface.co/papers?q=external%20memory)，以引导后续发现，而无需更新模型权重 (https://huggingface.co/papers?q=model%20weights)。为进行公平的比较，我们在相同的发现框架下评估 TTME 和 TTT，仅替换测试时适应 (https://huggingface.co/papers?q=test-time%20adaptation)方法。评估表明，TTME 在全部五项数学任务上均优于 TTT，同时将以 FLOPs (https://huggingface.co/papers?q=FLOPs) 衡量的计算成本降低了 82.8 至 84.6%，运行时间缩短了 47.7 至 58.4%。这些结果表明，在所评估的科学发现场景中，TTME 是一种有效且计算效率高的 TTT 替代方案。

查看 arXiv 页面 (https://arxiv.org/abs/2610.32046)查看 PDF (https://arxiv.org/pdf/2610.32046)GitHub1 (https://github.com/yepengliu/TTME)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.32046)

引用此论文的模型0

没有关联此论文的模型

在模型的 README.md 中引用 arxiv.org/abs/2610.32046，即可从此页面链接到该模型。

引用此论文的数据集0

没有关联此论文的数据集

在数据集的 README.md 中引用 arxiv.org/abs/2610.32046，即可从此页面链接到该数据集。

引用此论文的 Space0

没有关联此论文的 Space

在 Space 的 README.md 中引用 arxiv.org/abs/2610.32046，即可从此页面链接到该 Space。

包含此论文的合集0

没有包含此论文的合集

将此论文添加到合集 (https://huggingface.co/new-collection)，即可从此页面链接到该合集。