标签
本文针对所有簇大小 M≥2 的过拟合高斯混合模型,证明了关于密度抵消阶数的 Ho–Nguyen 猜想,推导出精确的最大似然指数与局部极小极大收敛速率,并将该系数框架应用于混合专家模型中的可识别性问题。
本文提出语言模型中的非传递偏好源于多重潜在排序,并引入混合Bradley–Terry模型进行分析,在各种模型和任务上显示出更强的解释力。
本文提出了MoPLEx算法,用于学习Plackett-Luce模型的混合体以处理AI对齐中的异构偏好,相比基线方法展示了聚类和排序准确率的提升。
本文提出使用单位超球面上的von Mises-Fisher分布混合模型来建模CLIP潜在空间,比高斯假设更好地捕捉其方向性和多模态结构。该模型改善了长尾分布和分布外检测,并提供了CLIP嵌入的语义分解。
本文介绍了MMOT,一种基于最优传输理论的在线混合模型学习框架,通过动态质心更新和改进的类别相似性估计来应对分布漂移下的增量学习。该方法包含一种动态保持策略,用于缓解灾难性遗忘并在潜在空间中维持类别可分离性。