local-compute

NVIDIA PAIR 是一款测试版工具，允许用户通过连接本地设备（如 DGX Spark、RTX 系统和 Mac）来组建个人AI推理集群，以实现高效、私密的工作流路由。

一位拥有5090 GPU的用户讨论如何花费4000美元来增强其AI模型测试和编码能力，包括对媒体创作和额外本地计算能力的考量。

萨提亚·纳德拉发布了RTX Spark Dev Box，这是一款强大的AI开发工作站，配备20个CPU核心、128GB统一内存和petaflop级本地计算能力，用于运行大型模型。

一条热情澎湃的社媒帖子盛赞文章：个人只要用便宜的本地硬件跑起众多小模型，就能拥有 GPT 级能力。