@antirez：我刚刚推送了对 DS4 后端的大规模重构，新增了 CUDA 支持和单方向激活转向。Metal 路径……

X AI KOLs Timeline 工具
cuda metal activation-steering refactoring backend

摘要

antirez 推送了对 DS4 后端的一次重大重构，加入了 CUDA 支持和单方向激活转向，同时保留了 Metal 路径。目前仅支持 M3 和 DGX Spark 硬件。

我刚刚推送了对 DS4 后端的大规模重构，新增了 CUDA 支持和单方向激活转向。Metal 路径应该不会受到影响。注意：我只支持我拥有的（或能完全访问的）硬件：所以目前只支持 M3（暂无 M5 NE）和 DGX Spark。
查看原文

相似文章

关于 DS4 的几句话

Hacker News Top

Antirez 宣布了 DwarfStar 4 (DS4)，这是一个本地AI工具，它采用非对称 2/8 位量化，在高端消费级硬件上运行 DeepSeek v4 Flash，实现接近前沿的性能。他谈到了该项目的迅速流行、未来的模型更新和分布式推理计划，以及本地AI对严肃任务的重要性。

DS4

Reddit r/LocalLLaMA

Salvatore Sanfilippo 发布了 DS4 项目，使 DeepSeek V3（文中称为 V4）Flash 能够在 Mac Metal 硬件上运行 100 万（1M）上下文窗口，并有望支持 DGX 和 AMD 芯片。