@Hikari_07_jp: 进展报告！DFlash 骨干网络和马尔可夫头的训练已完成，使得 DSpark 可在 27B 上使用。我们将…

X AI KOLs Timeline 模型
speculative-decoding dflash dspark training confidence-head backbone

摘要

DSpark 的进展更新：DFlash 骨干网络和马尔可夫头的训练已完成，可在 27B 上使用。接下来将训练置信度头以实现自适应草稿生成，预计比 DFlash 加速 8-14%。

进展报告！ DFlash 骨干网络和马尔可夫头的训练已完成，使得 DSpark 可在 27B 上使用。我们现在将训练置信度头。 置信度头是一个关键组件，它决定在任何给定时刻应该提前生成多少个 token。我们预计这将比 DFlash 提速 8-14%。欢迎您就该项目提出问题、发表意见和反馈！ 参见树结构以获取关于该项目的更多信息。
查看原文
查看缓存全文

缓存时间: 2026/06/29 06:23

进展报告！

DFlash 的骨干网络和马尔可夫头的训练已完成，使得 DSpark 能够在 27B 参数规模上使用。接下来我们将训练置信度头。

置信度头是一个关键组件，用于决定在任意时刻需要提前预测多少个 token。我们预计相比 DFlash，这将带来 8% 到 14% 的速度提升。欢迎您就此项目提出问题、意见和反馈！

更多信息请查看项目树。

相似文章