adaptive-compute

CAPS 引入了一个级联自适应选择框架，用于高效并行推理，在多个大语言模型基准测试中，将验证器计算成本降低了 75% 以上，同时性能优于现有的成对验证方法。

GridProbe 是一种无需训练的长视频 VLM 推理范式，它通过后验探测自适应地选择相关帧，在几乎不损失准确率的情况下实现了低于二次方的注意力计算成本。