标签
本文研究了扩散变换器（DiTs）中的文本模板令牌如何作为隐式语义寄存器，在去噪过程中因果地维持物体身份，并提出了一种无需训练的剪枝规则，该规则移除了20%的注意力FLOPs，且性能下降极小。
一位研究者制作了一个视频，讲述他们首次尝试对视觉语言模型进行修剪的机器学习研究，包含负面结果，并将论文提交至arXiv。
一个由爱好者组成的社区成功在15000美元的预算下，使用REAP剪枝和2位GGUF量化，以接近无损质量运行了753B参数的GLM-5.2混合专家模型，牺牲吞吐量以降低成本。
本文提出了一种面向N:M稀疏视觉Transformer推理的软硬件协同设计框架，通过一种新颖的CUDA内核（MD-SpMM）和部署感知的稀疏性搜索，在保持准确性的同时，在GPU上实现了超过2.2倍的延迟加速。
本文提出了一种针对具有适度非结构化稀疏性的大语言模型的高效GPU推理方法。引入了一种三层矩阵存储格式和一个联合利用稀疏张量核心与CUDA核心的SpMM内核，实现了相比SpInfer最高1.64倍的内核级加速，以及相比FlashLLM最高1.41倍的端到端加速。
Hermes Agent 新增了会话修剪和归档功能，支持多种过滤器，让用户清理会话数据库时不会丢失重要数据。
本文介绍了CineMobile，一种高效的设备端图像到视频生成方法，通过蒸馏引导剪枝、扩散蒸馏和混合量化，相较于教师模型实现了40倍加速，使得在移动设备上实现电影级摄影机运动效果成为可能。
提出了Generic TB-Coverage，一种覆盖感知的专家剪枝方法，用于稀疏Mixture-of-Experts语言模型，该方法仅使用通用文本语料库进行校准，并保留跨语料库专家覆盖，从而提高了准确率并减少了困惑度下降。
本文研究了在生物医学领域对混合专家（MoE）模型进行领域特定专家剪枝对效用和事实可靠性的影响。研究发现，适度剪枝能保持领域内效用且不会立即导致可靠性下降，但极端剪枝会增加幻觉风险，且跨领域设置下的泛化能力会迅速恶化。
Self-GC 为长时域 LLM 智能体引入了一种自管理上下文系统，将智能体历史视为带有折叠、掩码和剪枝操作的索引对象，从而在减少令牌使用的同时保留未来依赖关系。
FlexMoE提出了一种面向MoE语言模型的一体通用嵌套式专家内部剪枝方法，能够在单次训练中生成多个可部署的子网络，且性能损失极小。
本文介绍了CascadeFormer（一种深度渐缩的Transformer架构）和CascadeFlow剪枝方法，两者均受梯度扇入不对称（GFA）启发，该现象解释了为何深层贡献较小。这些方法通过降低延迟、提高吞吐量来提升效率，同时保持有竞争力的性能。
ReFreeKV引入了一种无阈值的KV缓存压缩方法，自适应分配预算，消除了对输入特定阈值的需求，同时在各种数据集和模型大小上保持全缓存性能。
作者在开发 Maka Agent 时发现，对 AI Agent 的 tool result 进行激进裁剪（只保留关键摘要）几乎不影响推理质量，并提出了三个解释，同时介绍了开源桌面 AI 工作台 Maka Agent。
本文研究了在大型语言模型（LLM）中剪枝注意力层对解释忠实性和置信度校准的影响，发现准确率通常保持较高，但可解释性和可靠性下降，凸显了模型置信度、可解释性与准确率之间的失调。
一篇新论文研究了是剪枝更大的LLM还是从头训练小LLM更好，发现剪枝不仅提供了良好的初始化。
提出了一种针对MoE模型的结构化剪枝框架，通过基于归因的近似方法最大化通道分数覆盖，在结合4比特量化时实现50%或25%的剪枝，并在Qwen3-30B-A3B上将内存占用降低5.27倍。
本文揭示了“基准幻觉”现象：经过剪枝的大语言模型在多项选择基准测试中表现良好，但在开放生成中却无法回答相同的问题，这表明压缩模型应针对生成任务进行测试，而不仅仅是识别任务。
本文提出了一种用于大语言模型逐层稀疏性的层间扰动吸收视角，表明不同层对剪枝扰动表现出异质性响应，并引入了一种吸收感知校正方法，通过降低困惑度和提升准确率来改进现有剪枝方法。