ssd-offloading

#ssd-offloading

@KVCache_AI: Mooncake现在支持KV缓存的SSD卸载。随着智能体工作负载成为常态，KV缓存的生存时间正在…

X AI KOLs Timeline ↗ · 2026-07-15 缓存

Mooncake宣布支持KV缓存的SSD卸载，能够经济高效地将KV缓存容量扩展到DRAM之外，适用于长时间运行的智能体工作负载。分析显示，双峰复用模式使得分层存储更加高效。

0 人收藏 0 人点赞