production-runbook

标签

Cards List
#production-runbook

内部部署 LLM 推理在 Kubernetes 上的生产运行手册

Reddit r/LocalLLaMA · 2天前

作者分享了在其组织中构建基础设施的经验基础上,用于在 Kubernetes 上部署内部 LLM 推理的运行手册。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈