标签
SGLang 为 DeepSeek-V4 提供了首日支持,LMSys 与 NVIDIA 工程团队的合作在生产环境中实现了高达 5 倍的吞吐量提升,相关改进已在 SemiAnalysis InferenceX 仪表盘上展示。
分享与SGLang/RadixArk CTO朱邦华的深度访谈,涵盖其从清华到伯克利、创建NexusFlow后被英伟达收购、再次创业成立RadixArk的故事,涉及SGLang、强化学习、英伟达收购等话题。