我的家庭数据中心

Reddit r/LocalLLaMA 新闻
home-lab gpu-setup machine-learning self-hosted hardware ai-training

摘要

用户描述了他们的家庭数据中心设置，包含多个用于机器学习实验、训练和智能体编程的高端系统。

系统1：Threadripper 3960x 24核 4块3090 ti 128GB DDR4 系统2：Xeon 8352 36核 4块5070 ti 128GB DDR4 系统3：Intel 14700k 24核 64GB DDR5 5090 系统4：Ryzen 5950x 16核 64GB DDR4 2块5070 ti 第一个系统使用两个电源来应对这些3090s接近2000W的满载功耗。起初有些担心，但已经稳定运行大约一个月了。Intel那台是工程样品，花了100美元。我主要用它来运行嵌入模型。我用它们进行各种机器学习实验、项目和一些智能体编程。目前，3090s正在用从更大模型中蒸馏出的数据训练一个TTS LoRA。5070s运行Qwen 27B用于编程，Nemotron流式STT和Moss TTS用于我正在构建的交互式智能体。最近的这些Qwen模型在编程上已经足够好了。有时我会让它们整夜在代码仓库上工作。主要是样板改进，但能在没有Token成本的情况下完成实际工作，这太不可思议了。除了这些硬件显而易见的成本之外。热爱这个社区 ❤️
查看原文

相似文章

数据中心移动到你的设备上（4分钟阅读）

TLDR AI

Perplexity在2026年台北国际电脑展上发布了一款混合本地-云端推理系统，该系统能智能地在设备端模型和云端模型之间路由查询，基于其早前的Personal Computer agent构建。

你可以在家里建个数据中心——但真正买单的是谁？

Reddit r/ArtificialInteligence

Nvidia 正在支持 Span 的一项计划，部署住宅微型数据中心，利用闲置的家庭电力运行分布式 AI 工作负载。该方案旨在通过将 GPU 节点部署在住宅附近来规避电网限制，尽管其在实际部署中仍缺乏充分验证。

2台配备 512GB 内存的 M3 Ultra Mac Studio

Reddit r/LocalLLaMA

硬件投入约 2.5 万美元。告诉我你们希望我在这两台设备上部署什么模型，我会协助测试。目前我已通过 Exo 后端跑通了 DeepSeek v3.2 Q8 版本；当前每台设备均在运行 GLM 5.1 Q4（正在排查为何 Exo 无法加载 Q8 版本）。静候社区完成 Kimi 2.6 针对 MLX/mmap 的优化适配。