l1-l2

Dango是一个18亿参数的大型语言模型，严格使用日语（L1）进行预训练，然后使用英语（L2）进行微调，以研究第二语言习得中的语言迁移效应。该模型从预训练语料库中过滤掉英语污染，并展现出类似人类的L2输出模式。