adaptive-compute

LEV 是一种通过循环重跑层而非生成文本来实现可变推理深度的决策模型，在相同权重下随深度提升准确率，并通过按需深度机制节省 15%-24% 计算量，在低延迟下显著优于同等规模的稠密模型。

RecurTrace 引入了循环时间记忆和自适应停止机制，以改善语言模型中的潜在推理，在 MathQA 上实现了更高的准确性，并且与固定循环方法相比优化了计算量。

CAPS 引入了一个级联自适应选择框架，用于高效并行推理，在多个大语言模型基准测试中，将验证器计算成本降低了 75% 以上，同时性能优于现有的成对验证方法。

GridProbe 是一种无需训练的长视频 VLM 推理范式，它通过后验探测自适应地选择相关帧，在几乎不损失准确率的情况下实现了低于二次方的注意力计算成本。