sub-billion-parameters

本文通过使用自然叙事研究语言模型和人类中的实体跟踪能力，发现子十亿参数的模型已达到人类水平并超越人类，表明核心语言理解能力在比先前假设更小的规模上涌现。