标签
OpenAI 部署了 GPT-5.6 Sol，通过改进的 GPU 内核和推测解码，实现了 20% 的服务成本降低和 15% 以上的 token 生成效率提升。
Sol，ChatGPT Work 和 Codex 的 AI 助手，获得了提升，使其使用时间更长、效率更高，同时重置了使用限制并恢复了五小时限制。
提出神经形态掩码扩散语言模型（N-MDLMs），该模型将块扩散与基于尖峰的神经形态计算相结合，通过利用稀疏性和每次参数访问生成多个token来提高吞吐量和能效，并通过类屋顶线模型进行分析。
OpenAI发布了GPT-5.6模型系列，包括Sol、Terra和Luna，这些模型在显著提升效率和降低成本的同时实现了前沿智能，背后是推理和智能体框架的创新。
Sebastian Raschka提供了开放权重的Kimi K3模型架构概述，重点介绍了其从480亿到2.8万亿参数的扩展、新的LatentMoE和注意力残差组件、移除RoPE改用NoPE，以及原生多模态支持。该模型强调推理效率，并达到前沿性能水平。
Kimi Linear 提出了一种新的线性注意力架构，旨在增强Transformer模型的表达能力和效率，由 Moonshot AI 的 Kimi 团队贡献。
TriSP 提出了一种三信号重要性度量，结合权重幅度、激活范数和梯度敏感性，用于大语言模型的结构化剪枝，在 LLaMA-7B 上实现了最低困惑度和高吞吐量提升。
Charlie Marsh 问 Tibo 对 GPT-5.6 Sol 性能和效率提升的赞扬是否指的是他的小字符串优化工作。
OmniScope是一个面向全模态大语言模型的无训练令牌压缩框架，它使用查询作为共享锚点，分别评估音频和视频的相关性，实现了高达3.53倍的预填充加速和超过15%的GPU内存减少，且精度损失极小。
OmniDelta提出了一种无需训练、技能驱动的框架，用于在OmniLLM的音频和视频模态间分配令牌预算，在保留25%令牌时实现了GPU内存减少22%和1.64倍加速，改善了精度-效率权衡。
提出了RED-PIM，一种算法-架构协同设计，将内存体间的数据移动从O(N²)降低到O(N)，并缩小注意力矩阵，使Transformer模型的推理时间显著降低（16%到99.99%）。
Mage-VL 是一种高效的编解码原生流式多模态基础模型，通过自定义分词器将视觉标记消耗减少超过75%，在静态和视频任务上与现有模型持平或更优的同时，实现高达3.5倍的推理加速。
一位统计学家提出了一种工作流程，其中AI用于头脑风暴和演示文稿格式化，而人类专家则负责核心定量分析以保持准确性。
一篇新的NVIDIA论文提出，像Muon和SOAP这样的高阶优化器，可以作为大规模LLM预训练中AdamW的更高效替代方案。
一个由华为主导的联合体发布了基准测试，显示在Ascend芯片上对DeepSeek的V4模型进行高效后训练，但专家指出这仅涵盖后训练，并不能证明华为可以替代英伟达进行完整的预训练。
Suhail预测，对开放权重模型的限制将导致蒸馏研究增加10倍，以此戏弄政府，并可能使AI更高效。
一种名为 grug-27b 的新模型声称性能优于 qwen3.6 27B，同时将 token 使用量减少超过 90%，这可能使其在消费级硬件上运行更快。