@Mnilax:中国又把世界搅翻了,DeepSeek 刚扔出一个杀手级库,最多可省 98% 的 token,你的 GPT、Astra 和 Opus 5.5…
摘要
DeepSeek 发布了 DeepGEMM,这是一个用于训练和运行其自家模型的开源 GPU 数学引擎,声称通过让现有 GPU 每秒吐出更多 token,最多可节省 98% 的 token 成本。
查看缓存全文
缓存时间: 2026/10/05 01:21
中国又一次让全世界震惊了
DeepSeek 刚刚发布了一个杀手级库,能在 GPT Astra 和 Opus 5.5 上最多省下 98% 的 token 成本。
它就是 DeepGEMM —— DeepSeek 用来训练和运行自家模型的引擎。
GPU 运算更快 → 每个 GPU 处理更多 token → token 成本更低
把 DeepSeek 使用的引擎直接接入你自己的模型 从你已经在付费的 GPU 上挤出更多 token / 秒 在速度上追平甚至超越专家调优的 GPU 库
你只需付 $1.6,而不是 $50。
它就放在一个公开仓库里,链接在下面。
相似文章
@Ryrenz:重磅消息:DeepSeek 开源了 DeepGEMM——他们用于训练模型的 GPU kernel 库,从同样的显卡中挤出更多算力……
DeepSeek 开源了其训练模型所用的 GPU kernel 库 DeepGEMM,将 FP8/FP4/BF16 GEMM、融合 MoE 通信重叠、MQA 打分等核心算子统一到单一 CUDA 代码库中,通过 DeepJIT 运行时编译,官方称性能可达 H800 上 1550 TFLOPS,并已推出昇腾(Ascend)版本。
@cyrilXBT:中国刚刚打造了一款AI模型,以极低成本与OpenAI和Anthropic正面竞争。而且有人刚刚发布了一门免费课程……
DeepSeek是一款由中国量化对冲基金开发的AI模型,据报道其训练成本仅为GPT-4的约5%,却能达到相当的性能水平,引发了市场剧烈震荡,导致NVIDIA单日市值蒸发6000亿美元。目前已有人发布了一门时长1小时50分钟的免费课程,教用户如何在本地及通过API使用DeepSeek V4。
deepseek-ai/DeepGEMM
# deepseek-ai/DeepGEMM 来源:[https://github.com/deepseek-ai/DeepGEMM](https://github.com/deepseek-ai/DeepGEMM) # DeepGEMM DeepGEMM 是一个统一的高性能张量核心内核库,整合了现代大语言模型的关键计算原语——GEMM(FP8、FP4、BF16)、带通信重叠的融合 MoE(Mega MoE)、闪电索引器的 MQA 评分、超连接(HC)等——形成一个统一的 CUDA 代码库。所有内核均在运行时编译
DeepSeek R2 刚刚开源,在 12 项基准测试中有 9 项与 GPT-4o 持平——而 API 成本实际为零
DeepSeek R2 是一款全新的开源模型,在十二项基准测试中有九项与 GPT-4o 持平,且可在单块 A100 上完全本地运行,API 成本为零,这可能改变人工智能部署的经济格局。
@seclink: 中国初创公司DeepSeek周五宣布,其DeepSeek-V4-Pro API的75%折扣优惠将永久生效,价格低至每百万缓存输入令牌0.003625美元,输出0.87美元——比OpenAI的GPT-5.5便宜约34倍。 这款拥有1.6万亿…
DeepSeek宣布其V4-Pro API永久降价75%,每百万缓存输入令牌仅0.003625美元,输出0.87美元,比OpenAI的GPT-5.5便宜约34倍。该模型拥有1.6万亿参数但仅需490亿活跃参数,支持100万令牌上下文,在编码和推理基准测试中表现领先。