@aijoey: 🚨 NVIDIA 静静地改变了“个人AI计算机”的含义。认识一下 NVIDIA PAIR:个人AI路由器。与其……

X AI KOLs Following 工具

摘要

NVIDIA PAIR 是一款免费开源的测试版软件,允许用户将多台本地计算机连接成一个个人AI推理集群,自动在RTX PC、DGX Spark和Mac等设备之间路由AI工作负载,实现私密、本地化的AI执行。

🚨 NVIDIA 静静地改变了“个人AI计算机”的含义。 认识一下 NVIDIA PAIR:个人AI路由器。 与其购买一台庞大的机器来运行本地AI,PAIR 让你连接已有的计算机,将它们变成一个个人AI推理集群。 你的RTX PC。 你的DGX Spark。 甚至支持的Mac。 全部协同工作。 PAIR 自动发现本地网络上的兼容机器,并将AI工作负载路由到有可用计算资源的设备。 可以把它想象成一个为在家中运行的AI代理提供的负载均衡器。 这就是事情变得有趣的地方: → 并行运行多个AI代理 → 在多个GPU/计算机之间路由推理 → 使用Ollama + LM Studio → 将提示、文件和代理上下文保留在自己的网络中 → 无需机架或复杂的集群设置 → 支持Windows、Linux和macOS 这里更大的理念不仅仅是PAIR。 而是NVIDIA认为AI计算将走向何方。 今天,我们有: 1用户 → 1计算机 → 1 AI模型 明天可能更像: 1用户 → 多个AI代理 → 一个完整的本地计算池 你的游戏PC可能运行一个代理。 你的工作站运行另一个。 DGX Spark处理重型模型。 而PAIR成为决定每个推理请求去向的路由器。 云并没有消失。 但个人AI基础设施开始看起来更像一个微型数据中心。 NVIDIA希望提供其下的操作层。 PAIR 目前处于测试版,NVIDIA已将其作为免费开源软件发布。 这个值得关注。 👀 https://nvidia.com/en-us/ai-on-rtx/personal-ai-router/…
查看原文
查看缓存全文

缓存时间: 2026/09/04 02:19

🚨 NVIDIA 刚刚悄然重新定义了“个人AI计算机“的内涵。

隆重推出 NVIDIA PAIR:个人AI路由器。

无需购置单一超大机器来运行本地AI,PAIR 让您能连接现有设备,将它们转变为个人AI推理集群。

您的RTX电脑。 您的 DGX Spark。 甚至包括受支持的Mac设备。 所有设备协同工作。 PAIR 会自动发现局域网内的兼容设备,并将AI工作负载智能分配给空闲算力。

这可以理解为家庭环境内AI代理的负载均衡器。

而真正令人兴奋的部分在于:

→ 并行运行多个AI代理 → 在多GPU/多电脑间分配推理任务 → 支持 Ollama + LM Studio → 所有提示词、文件及代理上下文仅在您本地网络流转 → 无需机架或复杂集群配置 → 兼容 Windows、Linux 与 macOS

这里蕴含的深层理念不仅限于 PAIR 本身。

更体现了 NVIDIA 对AI计算未来演进方向的判断: 现状: 1用户 → 1电脑 → 1个AI模型 未来可能呈现: 1用户 → 多个AI代理 → 本地算力池协同工作 您的游戏电脑可能运行某个代理。

工作站承载另一个代理。

DGX Spark 处理重型模型计算。

而 PAIR 将作为智能路由器,决定每个推理请求的调度路径。

云端服务不会消失。

但个人AI基础设施正日益呈现为微型数据中心的形态。

NVIDIA 希望为其提供底层操作系统层。

PAIR 目前处于公测阶段,NVIDIA 已将其作为免费开源软件发布。

这个项目值得重点关注。👀 https://nvidia.com/en-us/ai-on-rtx/personal-ai-router/…


NVIDIA PAIR — 您的个人AI集群

来源:https://www.nvidia.com/en-us/ai-on-rtx/personal-ai-router/

NVIDIA PAIR 公测版将AI应用和代理工作流连接至单个本地端点,实现跨NVIDIA DGX Spark™ (https://www.nvidia.com/en-us/products/workstations/dgx-spark/)、搭载 RTX™ 的Windows系统及 macOS 设备的推理任务调度。这有助于最大化本地算力利用效率,同时保持提示词、文件和代理上下文的隐私性。

NVIDIA PAIR 能做什么?

个人AI集群 为家庭赋能

在数分钟内汇集您现有网络中的RTX、DGX™和Mac系统。NVIDIA PAIR 自动发现兼容的本地设备,无需特殊线缆、机架或复杂集群配置,即可让它们协同工作,形成个人AI推理集群。

代理工作负载路由 拓展思考空间

当任务堆积时,确保本地AI工作流持续运行。NVIDIA PAIR 可跨可用本地节点调度AI推理请求,无论节点采用何种操作系统,都能帮助繁忙的AI工作流调用闲置算力。

Ollama 与 LM Studio 支持 使用熟悉工具

NVIDIA PAIR 可在 Windows、Linux 和 macOS 上与您熟悉的本地推理后端并行运行。发布时,PAIR 已支持 Ollama 和 LM Studio,为应用提供一致的单一端点,同时智能地将请求代理至可用本地算力。

私有本地推理 让数据留存在家中

在本地运行AI工作流,数据始终保留在您的网络中。NVIDIA PAIR 专为私有本地推理设计,确保提示词、文件和代理上下文无需上传至云端。

如何开始使用 NVIDIA PAIR

NVIDIA PAIR 无需特殊线缆或机架,设置过程极为简便。

将设备添加至集群。

运行您的AI应用和代理。

下载 NVIDIA PAIR

信息

Windows 11、DGX OS、Ubuntu 14.04、macOS Tahoe

系统要求

所有 GeForce RTX 显卡(20系列及更新型号)、DGX Spark/GB10、Mac M4 或更新型号

推荐配置:20 GB 或更高内存

无需特别配置即可运行 需用于下载模型

PAIR 常见问题

PAIR 支持资源

PAIR 支持资源

下载 NVIDIA 个人AI路由器(PAIR)

相似文章