inverse-scaling

这篇论文提供了系统性的证据，表明视觉-语言模型在子任务层面会出现逆向扩展现象，即在空间推理、视觉感知和 STEM 问题等任务上，更大的模型反而表现不如更小的模型，这表明模型选择应当根据具体任务来决定。

本文区分了LLM智能体中的工具使用与工具发现，将发现分解为好奇心、识别和效率。介绍了Lomekwi框架，并在组合游戏中展示了识别能力随模型大小的逆缩放。

这篇学术论文挑战了长上下文缩放在时间序列预测中的有效性，证明基于检索的方法优于 PatchTST 等标准架构以及 Chronos 和 Moirai 等基础模型。