标签
PagedAttention将虚拟内存概念应用于语言模型中的KV cache,减少内存碎片化,并使推理引擎能够在每个GPU上服务2-4倍的用户。
一篇解释为什么 FreeBSD 看起来占用大量内存的文章,将其归因于磁盘缓存和虚拟内存管理,类似于 Linux 的“吃掉我的内存”现象。
介绍一本免费的小书《Virtual Memory From First Principles》,专注于讲解虚拟内存原理。
一篇全面、详尽的博客文章(堪比书籍),涵盖 Linux 中的虚拟内存概念,包括页表、TLB、按需分页、写时复制、内存映射 I/O 以及性能影响,通过进程与内核之间的对话呈现。