@samsja19: 为我们的推理团队感到无比自豪,我们将大量内部工作负载迁移到了自家的 GLM5 快速端点,现在我们将其向所有人开放
摘要
Zhipu AI 的 GLM 团队表示已将大量内部工作负载迁移到自家的 GLM5 快速推理端点,如今向公众开放;同时 Prime Intellect 在为 RL 及专用部署提供数万亿 token 服务后,宣布推出 Prime Inference。
查看缓存全文
缓存时间: 2026/10/02 22:46
我们对推理团队感到非常自豪,我们已经将大量内部工作负载迁移到了我们自己的 glm5 fast 端点上,现在我们将它向所有人开放
Prime Intellect (@PrimeIntellect): 推出 Prime Inference:
我们已经为强化学习和专用客户部署提供了数万亿 token 的服务
要拥有你自己的智能,你需要拥有自己的推理
拆解我们的推理栈
相似文章
Prime Inference:为前沿开源模型提供快速、可靠的推理服务(18 分钟阅读)
Prime Intellect 今日发布 Prime Inference,提供面向前沿开源模型的低延迟、高可靠的推理服务,涵盖无服务器端点与预留容量,已在 NVIDIA Blackwell GPU 集群上为 GLM-5.3 等模型提供近乎零工具调用错误率和 100% 可用性的生产级部署。
GLM 5.2 与即将到来的人工智能利润率崩塌
来自Z.ai的GLM 5.2作为一款强大的开源权重模型,与Opus、GPT等前沿模型竞争,但真正的故事是随着成本降低和竞争加剧,人工智能推理领域即将到来的利润率崩塌。
@didier_lopes: 难以置信,Z. ai 竟然将其强化学习基础设施开源了。GLM-5.2 的整个 OPD 后训练只用了…
Z. ai 将其强化学习基础设施 slime 框架开源,该框架使 GLM-5.2 的 OPD 后训练在约两天内高效完成。slime 是一个用于强化学习扩展的 LLM 后训练框架,集成了 Megatron 和 SGLang,并已通过 GLM、Qwen、DeepSeek 和 Llama 等前沿模型的实战测试。
@runinfrai:我们整个九月都在重写 GLM 5.3 Flash 背后的内核。重大版本现已在 RunInfra 上线,在 Ver…上可达 670 tok/s
RunInfra 宣布 GLM 5.3 Flash 推出重大版本,采用重写的推理内核,在 FP8、厂商原生构建上可达 670 tok/s,现已同时支持 AMD 运行,定价具备竞争力,支持 100 万 token 上下文窗口。
@rohanpaul_ai: 据The Information报道,继DeepSeek之后,智谱AI也在探索定制ASIC,因其GLM-5.2的使用量据报道增长了27倍…
智谱AI正在继DeepSeek之后探索定制ASIC,因为GLM-5.2的使用量在一周内增长了27倍,凸显了中国AI行业向大规模推理专用硬件的转变。