low-memory

一位开发者从头创建了一个250M参数的量化大语言模型，使用300亿个token进行训练，可在CPU上以60 MB部署，并采用了一种新颖的基于磁盘的长上下文系统，支持最多1亿个token。

TurboFieldfare 是一个开源的 Swift+Metal 运行时，通过从 SSD 流式加载专家权重，在 Apple Silicon Mac 上运行 Gemma 4 26B-A4B 模型，仅需约 2GB 内存，从而在 8GB 内存的机器上实现推理。

Slater 是一款低内存图数据库，专为读密集型工作负载设计。它使用固定的缓存预算从磁盘提供大型图服务，仅需几百 MB 的 RAM 即可查询数亿节点和数十亿边，同时兼容标准 Bolt 协议并支持实时写入。

将 Colibri 流式处理移植到 Hy3，使模型能够在低至 10GB 的 RAM/VRAM 上运行，而原本需要 25GB。

一种新模型可在Apple Silicon设备和iPhone上本地从单张图像生成3D模型，内存占用低于2GB，耗时不到20秒。

一款为8位微控制器和微型OLED屏幕手工打造的5×5像素字体，仅占用350字节。