Nvidia PAIR 对于拥有多台推理服务器的人来说似乎很不错

# NVIDIA PAIR — 您的个人AI集群 来源：https://www.nvidia.com/en-us/ai-on-rtx/personal-ai-router/ NVIDIA PAIR（测试版）可将AI应用与代理工作流连接至单一本地端点，实现跨NVIDIA DGX Spark™ (https://www.nvidia.com/en-us/products/workstations/dgx-spark/)、配备RTX™的Windows系统及macOS设备的推理路由。该方案帮助您在保持提示词、文件与代理上下文私密性的同时，最大化利用本地算力。 ## NVIDIA PAIR 功能解析 ### 个人AI集群 家庭算力升级 几分钟内即可整合局域网内现有的RTX、DGX™及Mac系统。NVIDIA PAIR能自动发现兼容的本地设备，无需专用线缆、机架或复杂集群配置，即可协助设备组成个人AI推理集群。 ### 代理工作负载路由 拓展思考空间 当任务堆积时，确保本地AI工作流持续运转。NVIDIA PAIR可在可用的本地节点间动态分配AI推理请求，无论节点操作系统如何，都能帮助繁忙的AI工作流调用闲置算力。 ### 支持Ollama与LM Studio 运用熟悉工具 在Windows、Linux和macOS上，NVIDIA PAIR可与熟悉的本地推理后端并行运行。发布初期即支持Ollama和LM Studio，为应用提供统一的接入端点，同时智能将请求代理至可用的本地计算资源。 ### 私有本地推理 数据本地化守护 在本地运行AI工作流，确保数据始终留在您的网络内。NVIDIA PAIR专为私有本地推理设计，助力安全使用提示词、文件及代理上下文，无需将数据传输至云端。 ## 如何开始使用NVIDIA PAIR NVIDIA PAIR无需专用线缆或机架，设置过程十分简便。 ### 将设备加入集群。 ### 运行AI应用与代理。 ## 下载NVIDIA PAIR ## 信息 Windows 11、DGX OS、Ubuntu 14.04、macOS Tahoe ## 系统要求 所有GeForce RTX显卡（20系列及更新型号）、DGX Spark/GB10、Mac M4或更新型号 建议配置：20GB及以上内存 运行无需特殊要求，下载模型需相应存储空间 ## PAIR常见问题解答 ## PAIR支持资源 ## PAIR支持资源 ### 下载NVIDIA个人AI路由器（PAIR）