标签
本文对参数梯度流的表示动力学完全由表示本身决定的情形进行了分类，证明了宽双因子矩阵表示下的初始化分类，并将通常的闭合性与解析和光滑情形下的不变层级度量分解联系起来。
GEM-KMeans 提出了一种谱归一化、高内存效率的 K-means 聚类非线性回归（NLR）公式，将更新融合进单次矩阵乘法的收尾阶段（epilogue），使 GPU 高带宽存储只需保留一个因子，同时在超大规模数据上保持聚类精度。
一个PyTorch驱动、GPU加速的聚类管道能够大规模优化金融投资组合分组，高效地为多达百万的金融工具提供硬标签、软因子负载和结构性断裂信号。
本文评估了Muon优化器在低秩矩阵分解上的表现，发现它并未持续优于AdamW，从而对早期关于其在大型深度学习中的优势说法提出质疑。
本文提出了一种鲁棒的子空间约束二次模型，用于从高维数据中学习低维结构，能够适应重尾噪声。我们开发了一种带有回溯线搜索的梯度算法，实验表明该方法在鲁棒性和重建精度上均有所提升。