predictive-learning

本文提出SciJEPA，一种无需引用网络、利用文档内非对称预测学习构建科学文献表征的框架，并证明正则化可有效提升模型性能。

本文建立了概率联合嵌入预测学习（JEPA）与隐马尔可夫模型（HMM）之间的理论联系，提供了状态空间解释，并引入了马尔可夫链JEPA以增强一致性。

本文探索将JEPA风格的预测学习应用于JA4衍生的网络指纹，构建了一个基于Transformer的模型（JA4-JEPA），该模型在JA4、JA4H、JA4S和JA4X子字段上进行训练。该模型在协议族分类任务上取得了优异表现，表明JEPA目标可以用于紧凑的网络指纹表示。