标签
用户讨论了一个已锁定的戴尔报价：以折扣价购买6块RTX PRO 6000 Max-Q GPU，用于搭建GLM 5.2推理集群，并在报价到期前向社区征求购买策略建议。
一份 478B 参数的量化 GLM-5.1 模型在 4 块 RTX Pro 6000 上用 SGLang 运行，支持 37 万 token 上下文，解码最高 45 tok/s，预填充 1340 tok/s，并现场演示操控 Figma。
一位研究人员分享了用于 MLX 和 AI 研究的家用计算配置，包含配备 512GB 的 M3 Ultra、配备 96GB 的 RTX PRO 6000，以及用于模型移植与压力测试的配备 96GB 的 M3 Max。