标签
本文引入了一个以平均核大小为基础的几何框架,为度量空间环境下的回归与分类推导出与模型无关的确定性经验误差与准确性界限,并揭示了准确性与稳定性之间的权衡关系,以及由数据歧义性导致的经验误差下限。
提出一个连续几何框架,将Transformer操作建模为语义纤维丛上的积分-微分方程,并在多种架构上进行了验证。
提出一个几何框架来识别“AI engrams”——深度神经网络中的记忆痕迹——将神经科学标准形式化为一个闭式估计器,使得从MLP到LLM的模型能够进行精确的记忆操作。
本文提出了一个几何框架来分析稀疏自编码器中特征组合的不稳定性,揭示了非线性导致棘轮效应,从而在超过临界密度时引发组合坍塌。