@tom_doerr：最高可达384GB VRAM的个人AI计算机搭建指南 https://github.com/autonomous-ai/autonomous-computer…

个人 AI 计算机构建指南，显存最高可达 384GB https://github.com/autonomous-ai/autonomous-computer… — # autonomous-ai/autonomous-computer 来源: https://github.com/autonomous-ai/autonomous-computer # Autonomous Computer —— 打造你自己的个人 AI 计算机 https://github.com/user-attachments/assets/3e410e5d-83f4-4aed-a8b4-2426781f3ebd — 掌握你自己的智能。开源指南，教你构建一台运行开放模型的机器，硬件完全由你掌控，任何人都无法关闭——每个零件、每个支架、每项 BIOS 设置、每张组装照片都包含在内。根据你的预算和工作需求选择合适的大小。 — > 为什么做这个。 最优秀的模型都活在别人的云端，受制于别人的条款和别人的政府。你租用的模型随时可能被切断。而在你自己房子里运行的模型，没人能切断。一次构建，永久拥有。 ## 选择你的配置 一台个人 AI 计算机，三种配置——从家用级到本地部署商业集群。每一套都是完整、自包含的指南：物料清单、3D 打印/CNC 可用的外壳文件、布线、BIOS 和组装照片。 | 配置 | GPU | VRAM | 最佳适用场景 | 平台 | 指南 | |—|—|—|—|—|—| | 2× | 2× RTX 5090 | 64 GB | 家用——你的第一台本地设备，今晚就能运行真正的模型 | Intel Xeon W5 · ASUS W790 | → 2× 配置 | | 4× | 4× RTX PRO 6000 Blackwell | 384 GB | 团队——大型模型 + 全天候运行的智能体 | AMD EPYC 9124 · ASRock Rack | → 4× 配置 | | 8× | 8× RTX 4090 / 5090 | 192–256 GB | 本地部署商业——企业 AI 运行在自己的地盘上；IP 和数据永不离开 | 双 AMD EPYC 9004 (Genoa) | → 8× 配置 | ## 能运行什么 VRAM 是决定哪些开放模型可以使用的关键约束。大致的指引（精确适配取决于量化方式——模型的具体细节参见 /software）： | 构建方案 | VRAM | 可服务的开放模型（示例） | |—|—|—| | 2× RTX 5090 | 64 GB | Llama 70B / Qwen 72B（量化版），30B 级全精度，编码和智能体模型 | | 4× RTX PRO 6000 | 384 GB | DeepSeek-V3 / R1、Qwen 235B、Llama 405B（量化版）——前沿级开放权重模型 | | 8× RTX 4090/5090 | 192–256 GB | 同时运行多个大型模型，还有余量进行微调 | ## 快速开始 1. 选择一个配置——根据预算和你想要运行的模型，从上面选择。 2. 采购零件——按照所选配置的物料清单采购。 3. 制作外壳——打印该配置文件夹中的 STL 文件，或者 CNC 加工 STEP 文件。 4. 组装——按照配置配图分步组装指南操作。 5. 设置软件——驱动、BIOS，以及本地运行开放模型：/software。 6. 运行你的智能——将你的智能体指向 localhost，从此再无被切断的风险。 ## 各配置详情 - 2× — 家用 · 2× RTX 5090，64 GB - 4× — 团队 · 4× RTX PRO 6000 Blackwell，384 GB - 8× — 本地部署商业 · 8× RTX 4090/5090，192–256 GB ## 软件 让你的机器活起来——操作系统、NVIDIA 驱动、BIOS 调优、运行开放模型（Ollama / vLLM / llama.cpp），以及连接智能体：/software。 （目前已完成设置和测试文档；本地模型服务指南正在编写中。） ## 贡献 你构建了一台？改进了某个零件？找到了更好的组件？请查阅 CONTRIBUTING.md——并分享你的构建 (https://github.com/autonomous-ai/autonomous-computer/issues/new?template=share-your-build.md)。最好的社区构建将被展示。 ## 许可证 基于 MIT 许可证 开源。你可以 fork、修改、构建自己的版本并出售——我们只希望有人把它造出来。 — Autonomous —— AI 硬件公司。有问题？提交一个 issue。