manifold-learning

本文将大语言模型中的推理视为一种内在的动力学过程，发现推理时的表征会自组织成低维流形。文章提出了一种基于内部动力学的无标签诊断方法，以评估推理质量，表明有效的推理受到几何和信息约束的支配。

神经网络表面会说英文，但内部在几何空间里组织信息（曲线、环、曲面、流形），理解“神经几何”可能是理解、调试和控制模型的关键。