Bartowski 已发布 DS4 GGUF

Reddit r/LocalLLaMA 模型
gguf deepseek quantization model-release open-source

摘要

Bartowski 发布了 DeepSeek-V4-Flash 的 GGUF 量化版本，并邀请用户与 Antirez 的版本进行对比。

期待与 Antirez 的 DS4 imamtrix 进行对比 https://huggingface.co/bartowski/DeepSeek-V4-Flash-GGUF
查看原文

相似文章

antirez/deepseek-v4-gguf

Hugging Face Models Trending

Antirez发布了专门为DS4推理引擎优化的DeepSeek V4 Flash GGUF量化版本，针对不同内存大小提供了优化配置，使得这个大型MoE模型可以在本地运行。

关于 DS4 的几句话

Hacker News Top

Antirez 宣布了 DwarfStar 4 (DS4)，这是一个本地AI工具，它采用非对称 2/8 位量化，在高端消费级硬件上运行 DeepSeek v4 Flash，实现接近前沿的性能。他谈到了该项目的迅速流行、未来的模型更新和分布式推理计划，以及本地AI对严肃任务的重要性。