semantic-redundancy

本文介绍 PUMA，一个即插即用框架，通过检测思维链推理中的语义冗余实现提前退出，在多个模型和基准测试中平均减少 26.2% 的 Token，同时保持准确性和推理质量。