@rohanpaul_ai: 如果你能支付一次推理成本，然后将模型所学用于未来的任务？新的微软论文…

X AI KOLs Following 论文
ai-research reasoning distillation cost-efficiency agent-benchmarks microsoft arxiv

摘要

微软的一篇论文提出了一种方法，用过去代理运行中蒸馏的技能来替代昂贵的测试时推理，在某些基准测试中表现出竞争力，同时减少了输出令牌的使用。

如果你能支付一次推理成本，然后将模型所学用于未来的任务？ 新的微软论文发现，一些昂贵的测试时推理可以用从先前代理运行中学习到的一小组规则来替代。 论文测试了一种更便宜的替代方案：收集35–50条过去的轨迹，让编码代理提取重复出现的故障模式，然后将这些模式转换为一个小型的markdown技能，添加到非推理模型的系统提示中。 对于GPT-5.4-mini，这些技能在4个代理基准测试中恢复了非推理和推理模式之间差距的55%–100%+，同时使用的输出令牌比推理少2.9–4.5倍。 在ALFWorld和τ²-retail上，有技能的非推理模型实际上击败了推理模式。 有用的部分是蒸馏器不需要推理轨迹：仅从廉价的非推理运行中构建的技能在所有4个领域中都具有竞争力。 限制同样有用：在电信和SpreadsheetBench上，推理仍然获胜，因为每个任务包含更多特定于实例的依赖关系，这些是固定技能无法捕获的。 因此，实际的划分是：一次蒸馏重复过程，然后将昂贵的测试时推理保留给真正需要新搜索的任务。 – arxiv. org/abs/2608.07885 标题："Reason Wide, Not Deep: Amortizing the Reasoning Premium into Distilled Skills"
查看原文
查看缓存全文

缓存时间: 2026/08/17 08:20

如果你只需支付一次推理成本，就能在未来的任务中复用模型学到的东西呢？

微软的新论文发现，一些昂贵的实时推理可以被一组从先前智能体运行中学习到的简短规则所替代。

论文测试了一种更经济的替代方案：收集35-50条过去的轨迹，让代码智能体提取反复出现的失败模式，然后将这些模式转化为一个小型markdown技能文件，添加到非推理模型的系统提示中。

对于GPT-5.4-mini，在4个智能体基准测试中，这些技能恢复了非推理模式与推理模式之间55%至100%以上的差距，同时使用的输出token比推理模式少2.9至4.5倍。

在ALFWorld和τ2-retail上，装备了该技能的非推理模型甚至超越了推理模式。

最有价值的一点是，蒸馏过程并不需要推理轨迹：仅基于低成本非推理运行构建的技能，在所有4个领域都具有竞争力。

其局限性同样有用：在电信和SpreadsheetBench任务上，推理模式仍然获胜，因为这些任务包含更多固定技能无法捕捉的、特定于实例的依赖关系。

因此，实际的划分方案是：将重复流程蒸馏一次，然后将昂贵的实时推理保留给那些真正需要全新搜索的任务。

– arxiv.org/abs/2608.07885

标题：《广泛推理，而非深度推理：将推理溢价摊入蒸馏技能》

相似文章