@MaxForAI: http://Z.ai和清华这篇ZCube，做Infra的家人们值得看下。 很多人聊AI infra，第一反应还是GPU、显存、量化、推理框架。 但到长上下文和Prefill-Decode分离之后，网络已经不再是机房里的「配角」了。 每一…

http://Z.ai和清华这篇ZCube，做Infra的家人们值得看下。 很多人聊AI infra，第一反应还是GPU、显存、量化、推理框架。 但到长上下文和Prefill-Decode分离之后，网络已经不再是机房里的「配角」了。 每一次KV Cache跨节点传输，都会穿过GPU之间的网络。 如果拓扑不匹配真实流量，表面上总带宽够，局部链路照样会堵，最后反映到吞吐、TTFT和单token成本上。 ZCube在GLM-5.1 coding inference生产集群里，在GPU没换，软件栈没换，应用没改，只改网络架构的情况下。 拿到了交换机和光模块CapEx降低33%，平均GPU推理吞吐提升15%，TTFT P99下降40.6%的结果。 这篇解决的不是一个很花哨的问题，而是一个越来越现实的问题： 推理集群越大，长上下文越多，PD分离越普遍，KV Cache流量就越不规则。 传统ROFT/Fat-Tree这种架构，很容易在某些Leaf switch和链路上形成热点。 ZCube干的事，是把网络拓扑打平，用single-rail/multi-rail混合接入，把PD流量分散到更大的路径空间里，从源头减少拓扑导致的拥塞。 我觉得这类工作之后会越来越重要。 下一阶段的AI推理降本，肯定不只发生在模型本身，也会发生在数据中心的交换机、光模块、路由策略和通信库里。 最后大家卷的可能不是谁有更多GPU，而是谁能把同一批GPU榨出更多token。 还是那句话，Model本身比的不是什么算法balabala的，其实拼的就是各家Infra的水平。