@Merocle: M5 Max 集群,拥有 72 个 CPU 核心和 128 个 GPU 核心,512GB 统一内存。每台 MacBook 均通过雷雳接口与其他所有设备相连……
摘要
一名用户展示了一个由 M5 Max MacBook 组成的 DIY 集群,这些设备通过雷雳 5 连接,凸显了其聚合计算能力以及面临的连接挑战。
查看缓存全文
缓存时间: 2026/05/12 08:52
M5 Max 集群 72 个 CPU 核心和 128 个 GPU 核心,512GB 统一内存 每台 MacBook 都通过 Thunderbolt 5(120Gbit/s)与其他所有设备相连。 但我将使用 Wi-Fi 连接到集群 https://t.co/Y6JLmceurP
相似文章
2台配备 512GB 内存的 M3 Ultra Mac Studio
硬件投入约 2.5 万美元。告诉我你们希望我在这两台设备上部署什么模型,我会协助测试。目前我已通过 Exo 后端跑通了 DeepSeek v3.2 Q8 版本;当前每台设备均在运行 GLM 5.1 Q4(正在排查为何 Exo 无法加载 Q8 版本)。静候社区完成 Kimi 2.6 针对 MLX/mmap 的优化适配。
@alexocheema:在两台 M5 Max MacBook Pro 上通过 Thunderbolt 5 RDMA 运行 Qwen3.6 35B(视觉版)。模型能描述图片并正确识别 Apple Park,但把 John Ternus 错认成 Jeff Williams。借助前缀缓存,响应几乎瞬间完成。
在两台 M5 Max MacBook Pro 上通过 Thunderbolt 5 RDMA 运行 Qwen3.6 35B(视觉版)。模型能描述图片并正确识别 Apple Park,但把 John Ternus 错认成 Jeff Williams。借助前缀缓存,响应几乎瞬间完成。
@antirez: 怀着感激宣布,@audreyt刚刚赠送给我一台M5 Max 128GB MacBook Pro!这将让我能够开发DwarfStar4 (…
antirez宣布收到audreyt赠送的M5 Max 128GB MacBook Pro,用于开发DwarfStar4,并在M3 Max和M5 Max硬件上进行分布式推理实验。
@Prince_Canuma:我的 MLX 与研究家用计算平台:• M3 Ultra — 512GB(由社区与 @wai_protocol 赞助)• RTX PRO 6000 — 96GB…
一位研究人员分享了用于 MLX 和 AI 研究的家用计算配置,包含配备 512GB 的 M3 Ultra、配备 96GB 的 RTX PRO 6000,以及用于模型移植与压力测试的配备 96GB 的 M3 Max。
@zcbenz:MLX 在 macOS 上通过 Thunderbolt 实现的 RDMA(远程直接内存访问)现已作为独立库发布……
MLX 面向 macOS 的 RDMA-over-Thunderbolt 实现已独立成库,任何人都能用它组建高速 Mac 集群,在本地跑 AI 负载。