剩余AI训练数据中相当大一部分存储在仓库的磁带上

我一直在了解AI训练数据短缺的情况，有一个方面是没有人考虑到的：大量可用的潜在训练数据并非存储在数据库系统中，而是储存在几十年来一直保存在恒温存储柜中的旧磁带上。从80年代到2000年代，所有大型企业、政府机构、医院、电视台和实验室都将所有数据备份到磁带上。这些数据大多没有被数字化或正确索引。随着私有LLM的发展，事实证明公司拥有的最佳数据集就放在盒装的磁带上。根据我所看到的所有预测，基于互联网的训练数据的增长将在某个时候停止，大约在2026年。后续的训练数据可以通过对旧资料的归档来获取。