标签
Project Zero 是一个从零构建的 C99 LLM推理引擎，可在 CPU 上运行 BitNet 与 Qwen Bonsai-27B，拥有零外部依赖，在 Xeon 上相比 bitnet.cpp 实现 1.8 倍加速。该项目诚邀社区为这两种模型提供基准测试结果。
位于中国深圳的LineShine超级计算机凭借2.198 Exaflops的持续FP64性能，荣登TOP500榜首，该计算机采用定制的Armv9 CPU，拥有1300万个核心。同时，它在HPCG基准测试中也领先于El Capitan。
一个完全离线、仅使用CPU的语音循环，用于本地大模型，采用Silero VAD、Parakeet STT和Supertonic TTS，通过一条命令整合安装。兼容Ollama、LM Studio以及多种代理框架。
作者发布了一个纯Rust、纯CPU的LFM2.5-8B-A1B模型推理实现（4-bit Q4KM量化），解码速度约37 tokens/s，内存占用~7GB，旨在让LLM在廉价VPS或旧机器上可运行。该实现已开源并发布为cargo crate。
开源 PDF 解析器 OpenDataLoader，每秒可转换 100 页为 Markdown，纯 CPU 运行，免费且开源，由 PDF 协会和 veraPDF 团队开发，在基准测试中排名第一。
Tsplat 是一款基于 Rust 的命令行工具，仅使用 CPU 即可直接在终端中渲染 3D 高斯泼溅场景，甚至支持通过 SSH 运行。它支持 Unicode 半角块和图形协议，并具有导航和自动旋转控制。
描述了PHI // DRIFT，一种认知架构，具有七个在会话之间漂移的稳态状态变量，记忆按情感显著性和时间衰减评分，以及一个荣格阴影模块，构建在仅使用CPU的迷你塔上，并作为预印本提交到SSRN。
SSRN上的一篇预印本介绍了PHI // DRIFT，这是一种用于AI伴侣的认知中间件架构，具有持久内部状态和显著性加权记忆检索，声称在消费级硬件上每个提示比仅余弦RAG多14.8%的上下文。
yapsnap 是一个命令行工具，用于将来自各种来源（YouTube、TikTok 等）的视频/音频转录为纯文本，仅使用 CPU，无需 GPU 或云。它利用 sherpa-onnx 和 yt-dlp 实现离线快速转录。