标签
提出HDE-Net,一种流形约束的深度神经网络,利用双曲空间更好地建模表格数据中的规则型结构,在TALENT-tiny-core基准上取得最先进性能,同时保持高效。
提出了LieBN,一种面向李群的批量归一化框架,适用于SPD流形、旋转流形和相关流形,具有理论保证并经过大量实验验证。
提出了一种强化学习框架,利用局部线性嵌入捕捉环境动态,并通过注意力机制自适应融合动态特定特征和奖励特定特征,受神经科学原理启发,提高了学习效率。
本文提出了一种芬斯勒图神经网络,该网络在点云上估计芬斯勒拉普拉斯算子,证明了收敛性,并展示了其在通过热扩散恢复芬斯勒度量方面的应用。
本文重新思考结构性异常检测,将重点从决策边界转向低维正常数据流形上的投影算子,证明投影对齐方法优于现有的基于边界和基于重建的方法。
本文认为,对于足够大的模型,未经过滤的数据可以通过提供弱扰动来提高泛化能力,这与通常认为只有高质量过滤数据才有益的假设相反。作者提醒,有害的条件偏移仍可能损害模型,但过度筛选可能会去除有用的扰动。
本文介绍了MGAP,一种无需训练的解码方法,通过自适应地仅抑制语言先验中的有害部分,同时保留模型的语义流形,从而减少多模态大语言模型中的幻觉。该方法在POPE和CHAIR基准测试上优于先前的基线方法。
本文介绍了一种名为Branched Neural Rough Differential Equations的方法,该方法通过结合粗糙路径理论与神经网络来学习流形和Itô动力学,从而能够对复杂的随机和几何结构进行建模。
本文提出了一种李群嵌入动态神经网络(LieEDNN)及其基于梯度下降和光滑流形度量投影的学习算法,能够在SO(3)和SE(3)等李群上实现稳定动力学,用于机器人学和控制应用。
本文提出用于自然图像的几何感知流匹配方法,将图像视为超球面上的点,并提出了SOT-CFM和SFM方法,通过利用图像数据的球面结构来改进生成建模。
本文探讨了稀疏自动编码器(SAEs)如何捕捉弯曲的神经几何,揭示了SAE特征表示流形的三种不同方式,并提出了一个无监督流程来揭示神经表征中的几何结构。
本文将大语言模型中的推理视为一种内在的动力学过程,发现推理时的表征会自组织成低维流形。文章提出了一种基于内部动力学的无标签诊断方法,以评估推理质量,表明有效的推理受到几何和信息约束的支配。
神经网络表面会说英文,但内部在几何空间里组织信息(曲线、环、曲面、流形),理解“神经几何”可能是理解、调试和控制模型的关键。