@Merocle: M5 Max 集群,拥有 72 个 CPU 核心和 128 个 GPU 核心,512GB 统一内存。每台 MacBook 均通过雷雳接口与其他所有设备相连……

X AI KOLs Timeline 新闻

摘要

一名用户展示了一个由 M5 Max MacBook 组成的 DIY 集群,这些设备通过雷雳 5 连接,凸显了其聚合计算能力以及面临的连接挑战。

M5 Max 集群 72 个 CPU 核心和 128 个 GPU 核心,512GB 统一内存 每台 MacBook 均通过雷雳 5 (120Gbit/s) 与其他所有设备相连。 但我必须使用 Wi-Fi 来连接该集群 https://t.co/Y6JLmceurP
查看原文 导出为 Word 导出为 PDF
查看缓存全文

缓存时间: 2026/05/12 08:52

M5 Max 集群 72 个 CPU 核心和 128 个 GPU 核心,512GB 统一内存 每台 MacBook 都通过 Thunderbolt 5(120Gbit/s)与其他所有设备相连。 但我将使用 Wi-Fi 连接到集群 https://t.co/Y6JLmceurP

相似文章

2台配备 512GB 内存的 M3 Ultra Mac Studio

Reddit r/LocalLLaMA

硬件投入约 2.5 万美元。告诉我你们希望我在这两台设备上部署什么模型,我会协助测试。目前我已通过 Exo 后端跑通了 DeepSeek v3.2 Q8 版本;当前每台设备均在运行 GLM 5.1 Q4(正在排查为何 Exo 无法加载 Q8 版本)。静候社区完成 Kimi 2.6 针对 MLX/mmap 的优化适配。

@alexocheema:在两台 M5 Max MacBook Pro 上通过 Thunderbolt 5 RDMA 运行 Qwen3.6 35B(视觉版)。模型能描述图片并正确识别 Apple Park,但把 John Ternus 错认成 Jeff Williams。借助前缀缓存,响应几乎瞬间完成。

X AI KOLs Timeline

在两台 M5 Max MacBook Pro 上通过 Thunderbolt 5 RDMA 运行 Qwen3.6 35B(视觉版)。模型能描述图片并正确识别 Apple Park,但把 John Ternus 错认成 Jeff Williams。借助前缀缓存,响应几乎瞬间完成。