ultrametric

本文首次提出在具有p-adic参数的机器学习模型中，使用Berkovich仿射线进行连续梯度下降优化的方法，以实现如模算术等任务的有效学习。

本文为次优势（极小极大）超度量发展了一套 ℓ0 型稳定性理论，证明了稀疏编辑仅通过最小生成树传播，并导出了变更超度量条目的 Hamming-Lipschitz 界。在深度嵌入图和聚类任务上的实验表明，所得结构评分作为脆弱性诊断具有实用价值。

本文介绍了动态超度量注意力（Dynamic Ultrametric Attention），这是一个框架，其中Transformer在训练期间学习每头块稀疏路由拓扑，然后在推理时将这些拓扑卸载到自定义的Triton块稀疏内核上，与密集注意力相比，实现了高达28倍的加速和98.4%的内存减少。