@axiaisacat: Redis 作者 antirez 又扔了个硬核项目：ds4。 不是又一个 GGUF runner，而是专门为 DeepSeek V4 Flash 写的本地推理引擎： Metal / CUDA 2-bit 量化 1M context KV …

X AI KOLs Timeline 工具
redis antirez local-inference deepseek quantization metal cuda

摘要

Redis creator antirez released ds4, a local inference engine optimized for DeepSeek V4 Flash with 2-bit quantization and support for 1M context KV cache on Metal and CUDA.

Redis 作者 antirez 又扔了个硬核项目：ds4。 不是又一个 GGUF runner，而是专门为 DeepSeek V4 Flash 写的本地推理引擎： Metal / CUDA 2-bit 量化 1M context KV cache 可落盘 面向高配 Mac 和 DGX Spark 重点不是“能跑”，而是想把一个本地大模型做成完整可用的工程闭环。 本地 AI https://t.co/c2TFtHfQwX
查看原文
查看缓存全文

缓存时间: 2026/05/14 16:40

Redis 作者 antirez 又扔了个硬核项目：ds4。

不是又一个 GGUF runner，而是专门为 DeepSeek V4 Flash 写的本地推理引擎：

Metal / CUDA 2-bit 量化 1M context KV cache 可落盘 面向高配 Mac 和 DGX Spark 重点不是“能跑”，而是想把一个本地大模型做成完整可用的工程闭环。 本地 AI https://t.co/c2TFtHfQwX

相似文章

Redis 作者出品：用 ds4 在本地运行 LLM

Hacker News Top

Redis 作者 antirez 发布了 ds4（DwarfStar 4），这是一款针对高内存 Mac、CUDA 和 ROCm 机器的精简 C 语言本地推理引擎，支持 DeepSeek V4/V4.1、GLM 5.x 和 Qwen3.8 Flash Next，采用非对称 2-bit 量化、基于 SSD 的 KV 缓存，并提供 CLI/服务器/Agent 接口，采用 MIT 许可证。

antirez/deepseek-v4-gguf

Hugging Face Models Trending

Antirez发布了专门为DS4推理引擎优化的DeepSeek V4 Flash GGUF量化版本，针对不同内存大小提供了优化配置，使得这个大型MoE模型可以在本地运行。