nano-gpt-comparison

一个拥有1.17亿参数的Silia模型在H100 GPU上使用8200万个token训练了5小时。该模型严重欠训练，但提供了与nanoGPT的对比。