scaffolds

本文从理论和实证角度解释了为何推理时框架（脚手架）优于蒸馏出的学生模型：即使从平凡的 AC0 基础组件出发，框架也能计算 NL-完全问题的闭包，而在标准复杂性假设下，任何固定深度的前向传播都无法复制这种表示能力。作者验证了通过扩大模型规模、简化任务或延长思维链可以缩小这一差距，包括在竞赛数学和智能体框架上的表现。

本文介绍了代码引导推理（CGR），一种评估协议，用于衡量可执行推理脚手架如何提升小型语言模型在多项选择问答任务上的表现，结果显示其准确率相较于直接回答有显著提升。