structured-thoughts

本文介绍了结构化思维（Structured Thoughts），这是一个将大语言模型推理过程组织成交替的<try>和<outcome>块的框架，实现了上下文剪枝，并在推理基准测试上将性能提升高达8.08%，同时节省了85%的内存。