eagle

EAGLE-4 发布，作为投机解码加速组件在 Qwen3.8-27B 上达到 961.6 tokens/s，单请求下比 DFlash 2 快 1.28 倍、比 DSpark 快 1.40 倍，通过“草拟并验证”循环实现约 3 倍加速且输出完全一致。

EAGLE-4 发布：新一代投机解码草稿模型与 eagle-harness 工具包，可跨批量大小、硬件和工作负载自适应加速 LLM 推理，速度超过 DFlash2 与 DSpark，支持 SGLang、vLLM 和 TokenSpeed 引擎。

Cohere Labs发布North-Mini-Code-1.0-eagle，这是一个用于推测解码的草稿模型，以加速代码生成。它采用三个密集transformer层，带有滑动窗口注意力机制，并兼容fp8/w4a4目标模型。

现在有了适用于 llama.cpp 的 MiniMax M3 EAGLE 草稿模型的 GGUF 转换，可在兼容硬件上实现推测解码加速。

EAGLE 3.1通过后归一化架构提升了推测解码的鲁棒性，在长上下文工作负载中实现了长达2倍的接受长度，并获得了TorchSpec的训练支持及集成到vLLM中。

讨论了推测解码的多种风格，并尝试为社区制作一个Qwen-3.6-27b EAGLE-3草稿模型。