标签
本文提出一种方法,基于部署过程中遇到的实际问题动态设置AI模型的推理深度,以提高计算效率。
RecurTrace 引入了循环时间记忆和自适应停止机制,以改善语言模型中的潜在推理,在 MathQA 上实现了更高的准确性,并且与固定循环方法相比优化了计算量。