scalable-compute

Agora支持利用通过互联网连接的异构、可抢占的消费级GPU进行集体化、无许可的互联网规模大型语言模型预训练，成功使用330个节点的Pluralis-8B训练运行证明了这一点。