@Merocle: M5 Max 集群,拥有 72 个 CPU 核心和 128 个 GPU 核心,512GB 统一内存。每台 MacBook 均通过雷雳接口与其他所有设备相连……
摘要
一名用户展示了一个由 M5 Max MacBook 组成的 DIY 集群,这些设备通过雷雳 5 连接,凸显了其聚合计算能力以及面临的连接挑战。
查看缓存全文
缓存时间: 2026/05/12 08:52
M5 Max 集群 72 个 CPU 核心和 128 个 GPU 核心,512GB 统一内存 每台 MacBook 都通过 Thunderbolt 5(120Gbit/s)与其他所有设备相连。 但我将使用 Wi-Fi 连接到集群 https://t.co/Y6JLmceurP
相似文章
@ai_xiaomu: Mac Studio M5 牛比的地方不是 512G, 这个配置 M3 就有了,区别在于: 内存带宽1.2TB/s 36核CPU+80核GPU,GPU核心带独立NPU 最高512GB统一内存 雷电5+RDMA,支持多台Mac分布式AI推理…
Mac Studio M5 的亮点在于其内存带宽、CPU/GPU核心数、独立NPU以及支持多台Mac分布式AI推理的能力,AI算力相比M3 Ultra提升4.3倍,适合本地模型工作站。
2台配备 512GB 内存的 M3 Ultra Mac Studio
硬件投入约 2.5 万美元。告诉我你们希望我在这两台设备上部署什么模型,我会协助测试。目前我已通过 Exo 后端跑通了 DeepSeek v3.2 Q8 版本;当前每台设备均在运行 GLM 5.1 Q4(正在排查为何 Exo 无法加载 Q8 版本)。静候社区完成 Kimi 2.6 针对 MLX/mmap 的优化适配。
Exo labs 声称通过 m5u Mac Studio 集群实现 4.8 TB/s 内存带宽
Exo labs 声称通过使用其 RDMA 解决方案对 Mac Studio 进行集群,实现了 4.8 TB/s 的内存带宽,这可能会显著提升 AI 推理性能。这篇 Reddit 讨论探讨了对考虑 AI 工作负载硬件配置的用户的影响。
Apple Mac Studio (M5 Ultra) 评测:近乎无穷的性能
《Wired》评测了搭载 M5 Ultra 芯片的 Apple Mac Studio,指出其最高配备 256GB 统一内存,可在本地运行前沿级别的 AI 语言模型,同时提醒该机型在性能上仍落后于 Nvidia GPU,且运行时发热较大。
@IOHK_Charles:Apple 在本地大语言模型领域领先程度让我震惊。全新的 Mac Studio M5 Ultra 将配备 512 GB 显存,售价约……
Charles Hoskinson 称 Apple 即将推出的 Mac Studio M5 Ultra 凭借 512GB 内存,可通过 Thunderbolt 5 串联运行拥有 2 万亿参数的前沿模型,本地运行成本仅约 10 万美元,远低于同等能力的 NVIDIA 方案。