@Merocle: M5 Max 集群,拥有 72 个 CPU 核心和 128 个 GPU 核心,512GB 统一内存。每台 MacBook 均通过雷雳接口与其他所有设备相连……
摘要
一名用户展示了一个由 M5 Max MacBook 组成的 DIY 集群,这些设备通过雷雳 5 连接,凸显了其聚合计算能力以及面临的连接挑战。
查看缓存全文
缓存时间: 2026/05/12 08:52
M5 Max 集群 72 个 CPU 核心和 128 个 GPU 核心,512GB 统一内存 每台 MacBook 都通过 Thunderbolt 5(120Gbit/s)与其他所有设备相连。 但我将使用 Wi-Fi 连接到集群 https://t.co/Y6JLmceurP
相似文章
@ai_xiaomu: Mac Studio M5 牛比的地方不是 512G, 这个配置 M3 就有了,区别在于: 内存带宽1.2TB/s 36核CPU+80核GPU,GPU核心带独立NPU 最高512GB统一内存 雷电5+RDMA,支持多台Mac分布式AI推理…
Mac Studio M5 的亮点在于其内存带宽、CPU/GPU核心数、独立NPU以及支持多台Mac分布式AI推理的能力,AI算力相比M3 Ultra提升4.3倍,适合本地模型工作站。
2台配备 512GB 内存的 M3 Ultra Mac Studio
硬件投入约 2.5 万美元。告诉我你们希望我在这两台设备上部署什么模型,我会协助测试。目前我已通过 Exo 后端跑通了 DeepSeek v3.2 Q8 版本;当前每台设备均在运行 GLM 5.1 Q4(正在排查为何 Exo 无法加载 Q8 版本)。静候社区完成 Kimi 2.6 针对 MLX/mmap 的优化适配。
Exo labs 声称通过 m5u Mac Studio 集群实现 4.8 TB/s 内存带宽
Exo labs 声称通过使用其 RDMA 解决方案对 Mac Studio 进行集群,实现了 4.8 TB/s 的内存带宽,这可能会显著提升 AI 推理性能。这篇 Reddit 讨论探讨了对考虑 AI 工作负载硬件配置的用户的影响。
Apple 发布新款 Mac Studio,配备 M5 Max 和 M5 Ultra - 统一内存高达 512GB
Apple 发布了新款 Mac Studio,搭载 M5 Max 和 M5 Ultra 芯片,提供高达 4.3 倍更快的 AI 性能和 512GB 统一内存,适用于设备端 AI 和专业工作流程。
@alexocheema:在两台 M5 Max MacBook Pro 上通过 Thunderbolt 5 RDMA 运行 Qwen3.6 35B(视觉版)。模型能描述图片并正确识别 Apple Park,但把 John Ternus 错认成 Jeff Williams。借助前缀缓存,响应几乎瞬间完成。
在两台 M5 Max MacBook Pro 上通过 Thunderbolt 5 RDMA 运行 Qwen3.6 35B(视觉版)。模型能描述图片并正确识别 Apple Park,但把 John Ternus 错认成 Jeff Williams。借助前缀缓存,响应几乎瞬间完成。