Deepseek 发布 DeepEP V2 与 TileKernels
摘要
Deepseek 开源 DeepEP V2 与 TileKernels,两套全新的 GPU 内核库,用于加速 AI 工作负载。
相似文章
@Ryrenz:重磅消息:DeepSeek 开源了 DeepGEMM——他们用于训练模型的 GPU kernel 库,从同样的显卡中挤出更多算力……
DeepSeek 开源了其训练模型所用的 GPU kernel 库 DeepGEMM,将 FP8/FP4/BF16 GEMM、融合 MoE 通信重叠、MQA 打分等核心算子统一到单一 CUDA 代码库中,通过 DeepJIT 运行时编译,官方称性能可达 H800 上 1550 TFLOPS,并已推出昇腾(Ascend)版本。
deepseek-ai/DeepGEMM
# deepseek-ai/DeepGEMM 来源:[https://github.com/deepseek-ai/DeepGEMM](https://github.com/deepseek-ai/DeepGEMM) # DeepGEMM DeepGEMM 是一个统一的高性能张量核心内核库,整合了现代大语言模型的关键计算原语——GEMM(FP8、FP4、BF16)、带通信重叠的融合 MoE(Mega MoE)、闪电索引器的 MQA 评分、超连接(HC)等——形成一个统一的 CUDA 代码库。所有内核均在运行时编译
deepseek-ai/DeepSeek-V4-Pro-DSpark
DeepSeek 发布了其 V4 系列的预览版本,包括 DeepSeek-V4-Pro(1.6T 参数,49B 激活)和 DeepSeek-V4-Flash(284B 参数,13B 激活),两者均支持百万 Token 上下文,并采用混合注意力、流形约束超连接和 Muon 优化器。
DeepSeek R2 刚刚开源,在 12 项基准测试中有 9 项与 GPT-4o 持平——而 API 成本实际为零
DeepSeek R2 是一款全新的开源模型,在十二项基准测试中有九项与 GPT-4o 持平,且可在单块 A100 上完全本地运行,API 成本为零,这可能改变人工智能部署的经济格局。
Deepseek 又带来重大突破——DSpark。比 MTP 快太多了 [视频详解]
Deepseek 宣布了 DSpark,这是一项新的 AI 突破,速度显著快于 MTP,视频中有详细解释。