efficient

本文介绍了δ-mem，一种轻量级在线记忆机制，它通过delta规则学习更新的紧凑型关联记忆状态来增强冻结的LLM，在记忆密集型基准测试中取得了显著改进，无需微调或上下文扩展。

OpenAI 发布 15 亿总参数的 MoE 模型，仅激活 5000 万参数，即可在万亿 token 数据集中过滤隐私信息，同时保持 128 k 上下文长度。

NVIDIA推出Nemotron OCR v2，一个使用合成数据生成技术构建的快速多语言OCR模型。该模型通过采用统一的基于FOTS的架构，在检测、识别和关系组件之间实现特征复用，在单个A100 GPU上达到34.7页/秒的性能。