embedding-analysis

本文提出一种框架，用于分析语言关系在语言模型嵌入中的线性编码方式，并揭示了不同模型如GloVe、RoBERTa和ModernBERT以及关系类型之间的差异。

本文介绍了KODA（Kernel Optimization for Discrepancy Analysis，差异分析核优化），一种基于核的框架，用于比较和对齐视觉-语言模型表示，通过识别在CLIP、SigLIP和BLIP等模型中聚类方式不同的样本子集。该方法使用对比嵌入聚类和随机低维近似，能够扩展到大型数据集，同时提供表示之间可解释的结构差异。