network-aware

GORGO 提出了一种用于LLM推理的代理架构，该架构通过在新的合成数据集上使用进化策略调优，联合优化网络延迟、预填充成本和排队延迟，将p95 TTFT降低了6.9-15.5%，端到端延迟降低了14.3-30.9%。

NERVE提出了一种网络感知的双线性分词方法，用于基于掩码自编码器的脑功能连接矩阵自监督学习，改善跨发育队列的表征学习。