ds4 webui

Reddit r/LocalLLaMA 工具
web-ui ds4 open-source inference apple-silicon local-llm

摘要

一款专为配备至少 128GB 内存的 Apple Silicon Mac 设计的 ds4 推理服务器的极简开源 Web UI 已发布。

大家好，我为 ds4.c 服务器（https://github.com/antirez/ds4）制作了一个极简的 Web UI。它是开源的，所以你也可以试试（如果条件允许的话！）。下面是运行在 M3 Ultra 256GB 内存上的效果，使用的是较小模型（q2）。未加速。1X 速度。相当快。 注意（重要提示）：你需要配备至少 128GB 内存的 Apple Silicon Mac。 * GitHub：[https://github.com/cocktailpeanut/ds4.pinokio](https://github.com/cocktailpeanut/ds4.pinokio) * 更多细节见 X：[https://x.com/cocktailpeanut/status/2053193902694256758?s=20](https://x.com/cocktailpeanut/status/2053193902694256758?s=20) 我尝试了许多提示词，效果出奇地好，包括我在视频中尝试的那一个！
查看原文

相似文章

DS4

Reddit r/LocalLLaMA

Salvatore Sanfilippo 发布了 DS4 项目，使 DeepSeek V3（文中称为 V4）Flash 能够在 Mac Metal 硬件上运行 100 万（1M）上下文窗口，并有望支持 DGX 和 AMD 芯片。

关于 DS4 的几句话

Hacker News Top

Antirez 宣布了 DwarfStar 4 (DS4)，这是一个本地AI工具，它采用非对称 2/8 位量化，在高端消费级硬件上运行 DeepSeek v4 Flash，实现接近前沿的性能。他谈到了该项目的迅速流行、未来的模型更新和分布式推理计划，以及本地AI对严肃任务的重要性。