标签
本文测量了语言模型的上下文绑定能力，发现其召回能力按照幂律随参数规模扩展，并分析了预训练方案及干扰等因素的影响。
AI模型的参数翻倍，这标志着其计算规模和潜在能力的显著提升。
扩展推理和后训练是提升AI模型性能的关键技术，有推测认为像Qwen 4这样的未来模型能够在特定任务上匹配或超越大型参数模型。