@Hikari_07_jp: 进展报告!DFlash 骨干网络和马尔可夫头的训练已完成,使得 DSpark 可在 27B 上使用。我们将…
摘要
DSpark 的进展更新:DFlash 骨干网络和马尔可夫头的训练已完成,可在 27B 上使用。接下来将训练置信度头以实现自适应草稿生成,预计比 DFlash 加速 8-14%。
查看缓存全文
缓存时间: 2026/06/29 06:23
进展报告!
DFlash 的骨干网络和马尔可夫头的训练已完成,使得 DSpark 能够在 27B 参数规模上使用。接下来我们将训练置信度头。
置信度头是一个关键组件,用于决定在任意时刻需要提前预测多少个 token。我们预计相比 DFlash,这将带来 8% 到 14% 的速度提升。欢迎您就此项目提出问题、意见和反馈!
更多信息请查看项目树。
相似文章
@danielhanchen: DeepSeek刚刚发布了用于V4 Flash和Pro的DSpark,一种新的投机解码方法,将吞吐量提升51%至400%!…
DeepSeek发布了DSpark,一种投机解码方法,可将V4 Flash和Pro的吞吐量提升51%至400%,同时还开源了DeepSpec代码库,用于训练和评估草稿模型。
@no_stp_on_snek: 提醒一下,自8月30日起已在Atlas主线测试DFlash2。:) https://github.com/Avarok-Cybersecurity/atlas-re…
文章宣布了DFlash2在Atlas上的测试,并详细介绍了atlasctl,这是一个用于在NVIDIA DGX Spark系统上部署和运行LLM推理模型的命令行工具。
@mgoin_: GLM 5.2 DSpark 预览来了!https://huggingface.co/RedHatAI/GLM-5.2-speculator.dspark-preview… 这是第一个 DS…
RedHatAI 发布了 GLM-5.2-FP8 的预览版 DSpark speculator,这是首个为非 DeepSeek 前沿模型设计的 DSpark draft 模型,在 4×B300 上使用 vLLM nightly 实现了约 1.5 倍更快的解码速度。该检查点仍在完善中,提供了训练细节和接受率指标。
@dzhulgakov:来自 @deepseek_ai 的 DSpark 巧妙融合了多种投机解码思路,将吞吐量提升 1.5 到 5 倍…
来自 DeepSeek AI 的 DSpark 集成了投机解码思路,在生产系统中实现 1.5 到 5 倍的吞吐量提升。本推文从基础开始讲解了 10 个关键思路。
LFM2.5-DSpark使推理速度最高提升3.2倍
Liquid AI 发布了LFM2.5系列的DSpark草稿模型检查点,使推理速度在GPU和设备上最高提升3.2倍,质量损失极小,并在首日就支持llama.cpp和SGLang等开源工具。