locality

标签

Cards List
#locality

面向大型语言模型的卷积

arXiv cs.CL ↗ · 2026-07-22 缓存

本技术报告探讨了在Transformer块中为大型语言模型的查询/键/值投影添加轻量级深度可分离卷积,提供局部归纳偏置,以极小的参数成本提高下游任务准确性。

0 人收藏 0 人点赞
#locality

缓存工作原理的具体解释

Hacker News Top ↗ · 2026-07-21 缓存

关于CPU缓存工作原理的详细技术说明,涵盖局部性原理、缓存组织方式、索引以及写操作处理。

0 人收藏 0 人点赞
#locality

论视觉推理中的局部性与长度泛化

Hugging Face Daily Papers ↗ · 2026-07-10 缓存

本文表明,最先进的视觉-语言模型在视觉推理中的长度泛化任务上因“全局捷径”而失败,并证明将局部中央凹感知与递归相结合能够实现鲁棒的分布外泛化。

0 人收藏 0 人点赞
#locality

局部性并不意味着可达性:块稀疏因果注意力中的边界修复

arXiv cs.LG ↗ · 2026-06-03 缓存

本文研究了固定块稀疏因果注意力中序列局部性与注意力图可达性之间的不匹配,形式化了边界伪影,并提出了诊断覆盖函数和一种名为边界桥注意力的最小修复方法。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈