vc-dimension

SMat-Attention 引入了具有可调 VC 维度的结构化因果掩码，在 softmax attention 与 linear attention 之间架起桥梁，实现了亚二次方的 prefill、常数时间的解码（缓存状态为 O(T^{1-1/d})），并在召回能力上优于 Mamba-2 和 Gated DeltaNet 等骨干网络。

本文引入自由推理维度，这是一个在元强化学习假设混合下，用于零碰撞导航的组合复杂性度量，并证明了其与VC维度及泛化界的关系。

本文探讨了重尾设计的受限特征值边界，表明高斯宽度定律失效，并引入阈值占用作为关键因素。在各向同性重尾分布下，推导了精确的样本复杂度结果。

本文研究了添加正确标注数据可能损害模型性能的场景，引入了插入稳定性概念，并探讨了维度理论在机器学习泛化中的局限性。