SwiReasoning有什么陷阱?

Reddit r/LocalLLaMA 论文

摘要

SwiReasoning是一种推理技术,能提高答案准确度并减少token使用量,尽管每秒token数较低,但推理感觉更快。该技术已有9个月历史,但未得到充分利用,已有开源实现可用。

我刚刚听说SwiReasoning,并在Qwen 3.6 27b上试用了一下,有点惊讶。它的答案更准确,解题速度也快得多。虽然t/s稍慢,但所需的token数量少得多,感觉更快。有人试过吗?有什么陷阱?这项技术已经存在9个月了,为什么没有普及?来源: - https://github.com/sdc17/SwiReasoning - https://github.com/Antonbe1b/swireasoning-llamacpp
查看原文

相似文章

提示微调:数据越少,推理能力越强

arXiv cs.CL

本文提出了一种名为“提示微调”(Hint Tuning)的数据高效方法,该方法根据问题难度校准推理深度,从而减少推理模型中的标记使用量。在仅需1K个自标注样本的情况下,该方法在 Qwen3-Thinking 和 DeepSeek-R1-Distill 等模型上实现了显著的标记减少(24%-66%)。