标签
ISTA DASLab 发布了 DeepSeek-V4.1-Flash-1017 的 Coder 版本，这是一个 763B 稀疏 MoE 模型，通过 GSQ 量化和基于 RCO 的专家剪枝（384 个专家中保留 192 个）压缩到每个 transformer 参数约 1 bit，在 72.1 GB 的 GGUF 中保留了 LiveCodeBench v6 98.7% 和 SWE-bench Verified 94.8% 的性能。
autotrust 发布的 GLM5.3-Flash-E224-DGX-Spark 模型仓库，是基于 zai-org/GLM-5.3-Flash 的图像-文本到文本（image-text-to-text）量化版本，支持 NVFP4/8-bit 量化，可在 DGX Spark (GB10/Blackwell) 上通过 vLLM 运行。
ISTA-DASLab 发布了 Qwen3.8-Flash-Next 的能力目标压缩版本，该版本剪掉一半路由专家，并以 3.5 bpw 存储剩余权重，将 354 GB 的模型压缩至 29.6 GB，使一个 176.9B 参数的模型能够放入单个 32 GB 加速器中，同时在 LiveCodeBench v6 上保留 98.7%、在 SWE-bench Verified 上保留 91.3% 的得分。
本文描述了向WMT26模型压缩共享任务提交的六个作品，使用路由感知的专家剪枝和MXFP4量化将GPT-OSS-20B压缩成更小的翻译模型，参数范围从4.186B到7.770B。
本文提出在轻量级微调（如 LoRA）下利用路由器权重灵敏度来识别并剪枝混合专家模型中的专家，从而在最小化精度损失的同时显著降低内存和延迟。
本文介绍了LorExperts和BTExperts，这两种面向混合专家大语言模型的保留路由器压缩方法，通过聚类专家并将非主导成员表示为低秩修正，相较于D2-MoE等先前方法提升了压缩质量。
jabbatheduck 发布了 REAP 专家剪枝后的 DeepSeek-V4-Flash 检查点的 GGUF 量化版本，为消费级 GPU 上的内存受限推理进行了大幅压缩，同时保留了路由器和注意力的精度。
这是一个高度实验性的 GGUF 版本，基于 2.8T 参数的 Kimi K3 MoE 模型，剪枝了 55% 的专家并量化至约 2.15 bpw（319 GiB）。运行它需要特定的 llama.cpp PR 和自定义补丁，并包含详细的使用说明。
SHAPE提出了一种面向稀疏MoE大语言模型的联盟感知专家剪枝框架，该框架利用路由轨迹上的Shapley式归因来识别关键专家，在20-40%剪枝率下实现了有竞争力的准确率，并降低了GPU内存占用。
ConMoE提出了一种无需训练的混合专家模型压缩框架，通过选择一部分专家作为可重用原型，并确定性地将原始专家调用重新映射到这些原型，从而在不更新权重或微调的情况下减少内存占用。