标签
提出HiLS注意力机制，一种基于块的稀疏注意力方法，通过语言模型损失端到端学习块选择，性能可与全注意力媲美，同时支持超长上下文外推和更快的推理速度。
Prism ML 发布了 Bonsai-27B-gguf，这是一个拥有 270 亿参数的语言模型，采用二进制（1.125 位）权重，实现了约 14 倍的尺寸缩减，同时保留了约 90% 的 FP16 推理性能。它可以在消费级硬件上运行，并具有高吞吐量。
本文介绍了残差上下文扩散（RCD）模块，该模块通过回收扩散语言模型中丢弃的令牌表示来提高效率和准确性，在具有挑战性的推理任务上实现了5–10%的准确性提升，并将去噪步骤减少了多达4–5倍。
MosaicKV引入了用于长上下文LLM服务的动态二维KV缓存压缩，实现了高达16倍的注意力加速和3倍的内存减少，且精度损失极小。
OrbitQuant提出了一种数据无关的扩散Transformer量化方法，消除了跨时间步和模态进行重新校准的需求，在FLUX.1和CogVideoX等模型的低位宽设置下实现了最先进的后训练量化水平。
英伟达的Nemotron-3-Super-120B-A12B，一种混合Mamba和混合专家模型，仅使用四块RTX 3090 GPU就实现了在504K token下的完美大海捞针检索。
本文介绍了简化稀疏注意力（SSA），一种在持续预训练中使用Gist令牌的方法，能够在推理时无需架构更改即可实现高效的分块选择，取得了高压缩比，并在LongBench和检索增强生成等长上下文任务上优于基线。
Liquid AI 发布 LFM2.5-230M，这是一款轻量级基础模型，可在从云端 GPU 到 CPU 乃至 Raspberry Pi 的设备上运行，在工具使用和数据提取任务上表现出色。
本文介绍了 BitEmbed，一个用于基于 LLM 的文本嵌入的极低位宽框架，它将预训练的 LLM 骨干转换为具有三值权重和量化激活的 BitNet 风格编码器。该框架在显著降低编码和存储成本的同时，实现了与全精度模型相当的性能。
NVIDIA 发布了 Nemotron-Labs-3-Puzzle-75B-A9B，它是 Nemotron-3-Super 的压缩版本，推理效率更高，基准测试性能强劲。
作者绘制了Qwen3.6-35B-A3B和Gemma4-E2B QAT模型的KV缓存量化的KL散度图。
一位中国开发者发布了一个70B参数的大语言模型，该模型通过扁平内存和逐层加载，能够在极低硬件（4GB GPU）上本地运行，可能替代昂贵的订阅服务。
PerceptionDLM 提出了一种多模态扩散语言模型，通过结构化注意力掩码和高效提示实现并行区域感知，在不牺牲字幕质量的情况下实现更快的推理。实验表明，在多区域感知任务中，性能具有竞争力且速度大幅提升。
ImageWAM 提出在世界动作模型中用预训练图像编辑模型替代视频生成用于机器人控制，在将计算量降至视频方法的 1/6、延迟降至 1/4 的同时实现了更优性能。
GLM 5.2 作为一款753B参数的开源模型发布，拥有1M上下文长度，MIT许可证，在AIME 2026上达到99.2分，超越了GPT-5.5、Gemini 3.1 Pro和Claude Opus 4.8。
本文介绍了强制延迟攻击（FDA），一种对抗性图像攻击，通过操纵多模态LLM级联中的置信度分数，导致查询不必要地路由到更强（更昂贵）的模型，从而在不降低答案正确性的情况下将计算成本转移给提供商。
本文提出了llada.cpp，一种NPU感知推理框架，用于在智能手机上加速扩散大语言模型（dLLM）。它引入了三种技术——Multi-Block Speculative Decoding、Dual-Path Progressive Revision和Swap-Optimized Memory Runtime——以使dLLM推理与移动NPU特性对齐，实现了相比CPU基线17-42倍的延迟降低。
本文介绍SP³，一种使用球面编码器先验的即插即用图像恢复方法，在各项任务中实现与零样本扩散先验相当的感知质量，同时速度快3-630倍。
一条推文指出，经过 abliterated 处理、NVFP4 量化的 Gemma-4-12B 模型（7.7 GB）在实际任务中能够与 Qwen 3.6-35B 相媲美，同时在 Blackwell GPU 上运行快速，展现了显著的效率提升。
MiniMax M3是一款428B参数的MoE模型，活跃参数约23B，现已开源。它支持超长上下文（最高达1M）并提升了效率，提供了多种量化尺寸以及本地部署所需的VRAM要求。