vram-management

Linux 7.3 合并了改进 VRAM 管理的内核补丁，通过优化内存淘汰和缓存机制，在物理 VRAM 不足时增强了游戏性能稳定性。

一位开发者制作了一个工具，将小型本地模型与大型编码模型串联，并在两者之间自动卸载显存以优化内存使用。

作者构建了Prompt-Chain，这是一个Streamlit应用，它将一个小型prompter模型和一个大型coder模型串联起来，并自动交换VRAM，从而在8GB GPU上实现高效的代码生成。