标签
Aquaduck,一个崭露头角的推理平台,正在为其多人模型服务网络招募测试人员。该网络可将桌面设备转变为虚拟集群,具备模型分片等功能,并提供一个公共推理网络来利用闲置算力。
用户正在搭建一个16节点的DGX Spark集群,以便本地运行前沿开放模型,并讨论200与100 Gbit/s之间的网络权衡。