标签
Kimi 的 CEO 杨植麟主张避免精巧架构,优先考虑规模化,例如 Moonshot 的 MuonClip 修复方案使得在 15.5 万亿 token 上稳定训练成为可能。
文章指出Kimi击败美国模型的关键技术可能源于其创始人杨植麟十年前的博士论文,提到了XLNet与Kimi K2的万亿参数MoE架构的联系。