标签
一篇“你应该知道”(YSK)帖子揭露,Strata/PolyStrata 通过一项名为“answer_room”的功能,悄悄将模型的思考量限制在 max_tokens 的 75%,并以模型自身的口吻注入一条催促收尾的提示,却不向客户端返回任何错误、标记或结束原因。
作者分享了一套在 8GB RTX 4060 上跑 35B-MoE Qwen3.6 的可用 llama-server 配置,重点提示因内部推理无限制而耗尽 max_tokens 的陷阱,并给出用 per-request thinking_budget_tokens 的解决方案。