gpu-clustering

Hyperspace推出了一种点对点代理网络，用于跨消费设备进行分布式AI训练，实现高压缩且无需中央基础设施的协作模型训练。

一位用户成功在三个 GTX 1080 Ti GPU 上对 27B 参数的 Qwen 模型进行本地推理，通过 TurboQuant 优化达到了约 28-30 tokens/秒的速度。