😱震撼！增强版 Qwen3.8-27B 堪比 Opus 5.5、GPT-6 Astra！

仅 27B 参数，却经过 390 万行代码的专项后训练，思考长度削减近半，LiveCodeBench mini 集从 83 提升至 90。

核心亮点： 🔹 与 Opus 5.5 / GPT-6 Astra / Grok 4.7 / DS V4 Pro 做蒸馏对齐 🔹 EfficientThink 压缩无效推理，专治“已有答案还在写到 94K“的问题 🔹 SFT + RLOO + MTP 三重训练，搭配 DFlash2 投机解码 🔹 作者同协议自测：GPQA 89.9%、MMLU 90%、LCB 90%，中位推理 token 下降 44%–53% 🔹 Apache-2.0，GGUF Q4 约 18GB，24GB 显卡即可运行

四步快速部署： 1️⃣ 拉取权重：http://huggingface.co/nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2…

2️⃣ llama.cpp：llama-server -m Q4LynnStyle-MTP.gguf -c 409600 -ngl 99 –jinja –spec-type draft-mtp –spec-draft-n-max 4

3️⃣ 需要视觉能力时，加上 –mmproj mmproj-Qwen3.8-27B-Q8_0.gguf

4️⃣ 追求极致速度，使用 SGLang + DFlash2（二选一，MTP 或 DFlash2）

模型：https://huggingface.co/nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2…

基座：https://github.com/QwenLM/Qwen3.8

#Qwen3 #Qwen38 #Coder390 #本地大模型 #开源LLM #AICoding #Opus #GPT6

nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 · Hugging Face

来源：https://huggingface.co/nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 Coder390 FP8 对比原始 FP8 (https://huggingface.co/nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2/blob/main/assets/header-fp8-vs-base-en.png)

NVFP4 · INT8 · NInfer (https://huggingface.co/nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2/blob/main/assets/coder390-nvfp4-int8-ninfer-en.png)

GGUF (https://huggingface.co/nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2/blob/main/assets/coder390-gguf-en.png)

Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2

基于 Qwen3.8-27B-EfficientThink-SFT-SimPO-DFlash2 (https://huggingface.co/nerkyor/Qwen3.8-27B-EfficientThink-Uncensored-K3-Opus5-Grok4.6-GPT5.6Sol-SFT-SimPO-DFlash2) 进行了多轮 SFT 和 RLOO 后训练，而后者本身是在官方 Qwen3.8-27B (https://huggingface.co/Qwen/Qwen3.8-27B) 上经过 SFT 和 SimPO 后训练得到的。该模型旨在修复原始模型“无法停止“的问题：明明已经有了答案，却不断重复推导直到触及 94K 上限仍未给出最终答案。本仓库提供五种 safetensors 精度层级：BF16、静态 FP8 Block128、NVFP4 W4A16、NVFP4 W4A4 以及 NVFP4 W4A4-W8A8（混合精度），全部支持完整多模态（文本 + 图像/视频）并内置官方 BF16 MTP 头；所有层级均可在 SGLang 中无需补丁直接加载，FP8 包也已在 vLLM 上通过冒烟测试。此外还有 NInfer W4A4 / W4A4-W8A8（NVFP4\-NInfer/）、INT8 W8A8（INT8/W8A8/，文本 + 图像）、INT4 W4A16（INT4/W4A16/，文本 + 图像，vLLM）以及 GGUF Q2 / Q3 / Q4 LynnStyle（附 Q8 MTP 版本）、Q6_K 和 Q8_0（GGUF/、GGUF\-NInfer/，内置 MTP）。

• 94K 截断大幅减少：同一协议下，GPQA 从 4 降至 1，LCB 从 13 降至 3。
• 所有基准无回退：GPQA 178/198、MMLU 450/500、LCB 90/100（静态 FP8），对比原始 FP8 的 177 / 444 / 83。
• 无损量化：BF16、动态 FP8 和静态 FP8 的 GPQA 和 LCB 得分完全一致。
• 两种投机解码选项（互斥）：DFlash2 约 180 tok/s，MTP 约 91 tok/s，对比无投机解码约 46 tok/s。

相关仓库

• GGUF / GGUF-NInfer（llama.cpp、NInfer、内置 MTP）：Hugging Face (https://huggingface.co/nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-GGUF-NInfer) · ModelScope (https://modelscope.cn/models/Merkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-GGUF-NInfer)
• NVFP4-NInfer：Hugging Face (https://huggingface.co/nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-NVFP4-NInfer) · ModelScope (https://modelscope.cn/models/Merkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-NVFP4-NInfer)

训练方法

谱系：原始 Qwen3.8 27B（FP8；177 / 444 / 83）→ 我们的 SFT + SimPO110 最终版，即 EfficientThink 基座 (https://huggingface.co/nerkyor/Qwen3.8-27B-EfficientThink-Uncensored-K3-Opus5-Grok4.6-GPT5.6Sol-SFT-SimPO-DFlash2)（171 / 442 / 89）→ K3 续训 SFT → 第二周 SFT（week2dose，update-225）→ 第一轮 RLOO（182 组）→ 另一轮 SFT（merge-sft-100），得到 sft-base-rloo（177 / 448 / 90）→ 第二轮 RLOO（172 组）→ Coder390（178 / 445 / 90，动态 FP8）。数字为 GPQA / MMLU / LCB，均为同一 100K 协议下的完整套件。

训练基座：本模型从我们自己的 EfficientThink SFT + SimPO 模型（SimPO110 最终版）出发，经过多轮 SFT 和 RLOO，而后者本身就是官方 Qwen3.8-27B 的后训练版本：Qwen3.8-27B-EfficientThink-SFT-SimPO-DFlash2 (https://huggingface.co/nerkyor/Qwen3.8-27B-EfficientThink-Uncensored-K3-Opus5-Grok4.6-GPT5.6Sol-SFT-SimPO-DFlash2)。

问题：模型在已经有了局部答案之后，会不断用 Wait / Actually 重复相同的推导，直到上下文填满，而最终答案为空。在大多数情况下模型其实能解出题目，只是停不下来。

RLOO 数据：每个题目采样 8 条轨迹；仅保留同时包含正确和错误轨迹的组（全对的组被丢弃）。正确轨迹数为 0 或 1 的组补入一条经过审核的简短教师轨迹，替换该组中最短的错误轨迹（27 组）。最终数据集：172 组、1,376 条轨迹：859 条正确、517 条错误，其中 68 条为空答案。

奖励：惩罚仅施加于错误轨迹；长而正确的推理仍获得正奖励，因此必要的长推理不会被压制。

结果：同一协议下，与原始 Qwen3.8 27B（FP8）相比，GPQA 上 94K 截断从 4 降至 1，LCB 上从 13 降至 3（FP8），且三项分数均未低于原始模型（均为 FP8 数据；NVFP4 分数见下文）。

得分

协议：使用相同的 Coder390 合并权重；两块 RTX PRO 6000，每卡 C8，100K 上下文，94,208 token 生成上限，无客户端超时，DFlash2 草稿，SGLang；完整 GPQA 198、MMLU 500、LCB 100。空答案计为错误，截断但答对计为正确，每个失败样本保留在分母中。

GPQA 和 LCB 在三种精度下完全一致。MMLU 在 445 到 450 之间波动，属于采样噪声而非精度效应。动态 FP8 指推理时在线将 BF16 权重进行 FP8 量化，不作为独立包发布。

全部精度层级：得分、推理长度、94K 截断和空答案

推理长度为 usage\.reasoning\_tokens；94K 截断意味着输出触及生成上限。LCB 空答案指无法从中提取可运行代码的题目数。原始、BF16、动态 FP8 和静态 FP8 行使用两块 RTX PRO 6000，每卡 C8；三个 NVFP4 层级使用单块 RTX PRO 6000，C8；其余协议相同。

粗体表示优于原始 Qwen3.8 27B（FP8）的值：得分更高，或 P50 / P70 / P90、94K 截断数、空答案数更低；等于或差于原始值的不加粗。

LCB 改善最为显著：原始模型的 13 次 94K 截断全部以空代码告终（13 次截断，13 次空答案），Coder390 各层级将其降至 2–4。W4A4 的 3 次空答案对应题目 0、53 和 96（得分文件中的题目 ID），同样截断且无代码；W4A16 的 4 次中，题目 6、7 和 54 无代码，题目 53 有 20 个字符的代码但错误；W4A4-W8A8 的 2 次中，题目 11 无代码，题目 6 有 2,338 个字符的代码但错误。在 GPQA 上原始模型有 4 次触及 94K 上限的截断，各层级为 1–2 次；在 MMLU 上原始模型有 1 次，各层级为 0–2 次，无明显变化。

六种精度的详细数据（按推理长度分桶）

分桶格式为“正确 / 该桶中的题目数“，按推理长度划分，左闭右开。

NVFP4 层级

协议：单块 RTX PRO 6000，C8，100K 上下文，94,208 token 生成上限，无客户端超时，DFlash2 草稿，SGLang；完整 GPQA 198、MMLU 500、LCB 100。

三个 NVFP4 层级的推理长度、94K 截断和空答案见上方“全部精度层级“表。LCB 正确性由每道题的 pass 字段判定。原始记录：evaluation/SCORES_NVFP4_W4A16\.json、evaluation/SCORES_NVFP4_W4A4\.json 和 evaluation/SCORES_NVFP4_MIXED\.json（W4A4-W8A8 层级）。

NInfer 层级：得分、推理长度、94K 截断和空答案

协议：分数沿用 2026-10-05 在相同 NInfer 文本路径上运行的官方三套件；单块 RTX PRO 6000，官方 NInfer 引擎（Neroued/ninfer），C8，100K 上下文，94,208 生成上限，客户端未超时，无投机解码；完整 GPQA 198 / MMLU 500 / LCB 100；空答案计为错误，截断但答对计为正确，每个失败样本保留在分母中。现在上传的包在此文本路径基础上增加了 Q8 MTP 头、DFlash2 草稿模型和提议头；文本路径未改动，完整三套件未重新运行。仅 NInfer 引擎可以加载 .ninfer；SGLang / vLLM / llama.cpp / transformers 无法加载。

推理长度为 usage\.reasoning\_tokens（即 completion\_tokens\_details\.reasoning\_tokens）；94K 截断意味着触及生成上限。LCB 空答案指无法从中提取可运行代码的题目数。粗体表示优于原始 Qwen3.8 27B（FP8）。

对于 NInfer W4A4，2 次 LCB 空答案对应题目 11 和 15，均截断且无代码；2 次 GPQA 空答案对应题目 79 和 127，均截断且预测为空。MMLU 无截断、无空答案。对于 NInfer W4A4-W8A8，3 次 LCB 空答案对应题目 17、53 和 54（题目 17 正常停止但无代码；53 和 54 截断且无代码）；2 次 GPQA 空答案对应题目 79 和 127，均截断且预测为空。MMLU 无截断、无空答案。