标签
该论文提出了"预测闭包"(predictive closure)这一集合层面的刻画方式,用于描述 JEPA 如何选择需要编码的特征。研究显示,特征的保留取决于特征集合内部各特征之间的关系,而非单个特征的可预测性。实验结果表明,当不可预测的特征有助于预测其他特征时,它们同样会被保留下来。