coding-traces

标签

Cards List
#coding-traces

@SuJinYan123: NV72:每 4 个 GPU 一个 tray,每 tray 配 2 个 NVIDIA Grace(ARM Neoverse V2,72 核,共 144 核,3.39 GHz),单 CPU ~480 GB LPDDR5X,即 4 个 GPU…

X AI KOLs Timeline · 4天前 缓存

文章详细分析了NV72架构中每4个GPU配2个Grace CPU的tray设计,探讨了在coding负载下通过EP64、TP8等并行策略优化推理性能,以及KV cache管理和路由算法的复杂性。

0 人收藏 0 人点赞
#coding-traces

在Fable-5编码轨迹上微调了LiquidAI的LFM2.5-230M模型——结果比预期的要好

Reddit r/LocalLLaMA · 2026-06-27

在Fable-5编码轨迹上微调了LiquidAI的LFM2.5-230M模型,发现结果比预期的要好。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈