mini-batch

本文提出SCISE，一个可扩展的无监督图聚类框架，通过社区感知采样和结构熵克服小批量训练中的结构孤立问题，在基准数据集上取得了最先进的结果。

本文推导了在幂律谱下素描线性回归的批量缩放定律，分析了单次和多次遍历的小批量SGD。它提供了明确的风险分解，展示了批量大小如何影响偏差、方差和波动项，并证明了无放回采样比有放回采样产生更低的噪声。