标签
一篇关于利用 Agent 舰队优化 LLM 推理的技术分析，基于 DeepSeek 4.1 Flash 优化达到 2300 tok/s 的经验，指出大部分收益来自配置/计算图而非新 kernel，质疑 megakernel 方法，并强调在自动化优化运行中验证和收敛的重要性。
本文提出了一种面向消费级设备混合CPU-GPU LLM推理的自动化张量调度方法。