小米悄然发布MiMo-V2.5-DFlash — 官方DFlash权重现已上线Hugging Face

https://huggingface.co/XiaomiMiMo/MiMo-V2.5-DFlash 小米似乎已悄然将MiMo-V2.5-DFlash上传至Hugging Face：有一个专门的dflash目录包含Dflash模型，有人愿意将其GGUF化并尝试吗？我本可以，但今天不行。这个模型我认为相当不错（300B+参数），在2x24GB显卡加显存卸载（96/128GB DDR5）上运行速度约为8-10 tk/s，dflash可能使速度翻倍，从而非常有趣。编辑：它之所以有趣，主要是因为MTP头部已经共享，但在llama.cpp中尚无法工作。我推测（双关语）Dflash反而可以工作。编辑2：非常酷！他们还分享了单独的MTP模型。Llama无法工作的原因是它难以识别MTP层。一个单独的MTP模型可能也行。