drafting

标签

Cards List
#drafting

DeLS-Spec: 解耦的长短上下文用于并行推测性草拟

arXiv cs.CL · 2026-07-09 缓存

DeLS-Spec通过在DFlash上添加轻量级局部头,将推测性解码中的长上下文和短上下文建模解耦,无需完全重新训练即可实现一致的加速。它仅需要对局部头进行标准的下一个词元预测训练,并在Qwen3基准测试中提高了接受长度。

0 人收藏 0 人点赞
#drafting

Grok by SpaceXAI for Word

Product Hunt · 2026-06-18

Grok by SpaceXAI 是一个微软 Word 插件,帮助用户直接在 Word 面板中起草、重组和精简措辞。

0 人收藏 0 人点赞
#drafting

推测性流水线解码:通过流水线并行实现更高准确度和零泡沫推测

arXiv cs.CL · 2026-06-01 缓存

本文提出推测性流水线解码(SPD),一种在单个LLM内部利用流水线并行实现并行令牌推测的框架,避免了传统推测解码中多令牌预测的延迟泡沫和准确度下降问题。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈