@Darkolorin: 今天我们发布了Uzu中的推测解码实现。这是自实验室成立以来最大的发布。Init…

X AI KOLs Timeline 工具
speculative-decoding inference-optimization qwen-models ai-release uzu

摘要

发布Uzu中的推测解码实现，初步支持Qwen3.6 27B，并即将支持Qwen3.8 27B和Muse Glimmer。

今天我们发布了Uzu中的推测解码实现。这是自实验室成立以来最大的发布。 初步针对Qwen3.6 27B，即将支持Qwen3.8 27B和Muse Glimmer。https://t.co/Wu9r8fFPCW
查看原文
查看缓存全文

缓存时间: 2026/09/04 04:19

今天我们正式发布了Uzu中的推测解码实现。这是我们自成立以来最重要的版本更新。

当前首先支持Qwen3.6 27B模型，Qwen3.8 27B与Muse Glimmer支持也将很快推出。https://t.co/Wu9r8fFPCW

相似文章

针对 Qwen 的最快推测解码

Reddit r/LocalLLaMA

一种针对 Qwen 模型的最快推测解码的新实现已可用，通过 Hugging Face 分支在 sglang 中得到支持，后续将在 uzu 引擎中获得支持。