diffusion-drafter

标签

Cards List
#diffusion-drafter

用于推测解码的并行草稿的上下文校正

arXiv cs.CL ↗ · 2026-10-12 缓存

提出DCOCO(DFlash上下文校正器),一种轻量级机制,在保持并行草稿生成的同时恢复块内上下文依赖,在四个验证器骨干和十个基准上实现最高达6.6倍的推理加速,并在并发服务场景下显著优于现有方法。

0 人收藏 0 人点赞
#diffusion-drafter

Jeeves:推理改进类Jev决策模型

Hacker News Top ↗ · 2026-09-29 缓存

Jeeves是一个9B参数的推理增强类Jev决策模型,采用扩散起草器,与先前的模型如Kev和Jev相比,在域外基准测试上实现了更高的准确性。

0 人收藏 0 人点赞
#diffusion-drafter

@pupposandro: 兴奋地宣布 Lucebox 引擎现在可以在单张 AMD Radeon AI PRO R9700 (32 GB, RDNA4) 上运行 Qwen3.8-27B 模型,...

X AI KOLs Timeline ↗ · 2026-08-26 缓存

Lucebox 引擎现在支持在单张 AMD Radeon AI PRO R9700 GPU 上运行 Qwen3.8-27B 模型,使用 DFlash2 drafter 进行无损验证,在代码任务上最高可达 227 tok/s。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈