weibull-distribution

标签

#weibull-distribution

数据可预测性如何塑造Transformer训练中的Weibull权重尺度增长

arXiv cs.LG ↗ · 2026-08-26 缓存

本文揭示了Transformer训练中Weibull权重尺度的增长由数据可预测性决定，具体是通过双字母组合条件熵实现的，并建立了该增长的预测定律。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈