论文页面 - 我应该选择什么推理力度？关于 LLM Agent 推理力度的经济学分析

来源：https://huggingface.co/papers/2610.34491

摘要

生成模型中的推理力度属于一种信赖品——更高的算力投入并不保证在单个任务上获得更好的结果；而采用从低力度起步、逐步升级的策略则能提高成本效率。

生成模型越来越多地暴露推理力度设置，让用户可以调节推理时算力，以更高的成本换取可能的性能提升。用户必须在不知道额外推理是否会带来帮助的情况下选择力度等级，即使一次运行成功了，也无法判断所购买的推理力度是否必要。因此，推理力度是一种信赖品：买家可以看到结果，却无法评估他们所付费计算的边际价值。在这项工作中，我们在四个基准上测量了力度等级对专有模型和开放权重模型的反事实效应，涵盖单次调用推理和长程智能体任务。研究发现，力度并不总能稳定地完成低力度可以解决的任务，可能会过度消耗算力，还会改变轨迹行为。首先，我们发现尽管更高的力度在总体上可以提高准确率，但它经常在低力度已经解决的任务上失败。其次，在所有力度等级都能解决的简单任务子集上，更高的力度通常成本更高，最高力度等级的成本可达最低等级的 42 倍。最后，力度不仅改变了使用的 token 数量，还改变了智能体解决问题的方式：在更高力度下，智能体会更频繁地验证自己的工作，也更多地搜索现成方案而不是直接推理解题，这两种行为都会延长轨迹，却不一定会改变最终结果。这些发现表明，简单地选择最高等级不仅成本效率低下，也无法保证在单个任务上获得最佳表现。一个简单的替代方案是：从最低力度开始，仅在经过验证的失败之后才升级力度。该方案在所有模型和基准上都能匹配甚至超越固定使用最高力度的效果，且对大多数专有模型来说成本更低。

查看 arXiv 页面 (https://arxiv.org/abs/2610.34491) 查看 PDF (https://arxiv.org/pdf/2610.34491) GitHub34 (https://github.com/KaiserWhoLearns/ReasoningEffortLLM) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2610.34491)

在你的 agent 中获取此论文：

hf papers read 2610.34491

还没有最新版 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

暂无模型链接到此论文

在模型 README.md 中引用 arxiv.org/abs/2610.34491 即可将此论文从本页面链接。

引用此论文的数据集 0

暂无数据集链接到此论文

在数据集 README.md 中引用 arxiv.org/abs/2610.34491 即可将此论文从本页面链接。

引用此论文的 Space 0

暂无 Space 链接到此论文

在 Space README.md 中引用 arxiv.org/abs/2610.34491 即可将此论文从本页面链接。

包含此论文的合集 0

暂无合集包含此论文

将此论文添加到合集以从本页面链接。