@FinanceYF5: Kimi打赢美国模型的关键技术之一,源头或许是创始人杨植麟十年前写的博士论文。 他34岁,清华本科+CMU博士,读博期间在Meta AI和Google Brain都待过。那篇引超1万次的XLNet,脉络后来变成Kimi K2的万亿参数Mo…

X AI KOLs Following 新闻

摘要

文章指出Kimi击败美国模型的关键技术可能源于其创始人杨植麟十年前的博士论文,提到了XLNet与Kimi K2的万亿参数MoE架构的联系。

Kimi打赢美国模型的关键技术之一,源头或许是创始人杨植麟十年前写的博士论文。 他34岁,清华本科+CMU博士,读博期间在Meta AI和Google Brain都待过。那篇引超1万次的XLNet,脉络后来变成Kimi K2的万亿参数MoE架构。 https://t.co/QraSavtKQt
查看原文
查看缓存全文

缓存时间: 2026/07/21 18:48

Kimi打赢美国模型的关键技术之一,源头或许是创始人杨植麟十年前写的博士论文。

他34岁,清华本科+CMU博士,读博期间在Meta AI和Google Brain都待过。那篇引超1万次的XLNet,脉络后来变成Kimi K2的万亿参数MoE架构。 https://t.co/QraSavtKQt

相似文章

@berryxia: Moonshot AI创始人杨植麟最近放出了一个40分钟视频。 这位92年生、清华计算机本科第一、CMU博士、Transformer-XL和XLNet共同作者,前Google Brain和Meta研究员,坐在镜头前平静拆解了Kimi K2…

X AI KOLs Timeline

Moonshot AI创始人杨植麟发布40分钟视频,详细拆解Kimi K2模型训练过程,仅花费460万美元,并在8模型编程大战中击败GPT-5.5等夺得第一,展现小团队通过架构优化颠覆传统堆算力模式。

Implementing Kimi K3 from scratch in PyTorch [P]

Reddit r/MachineLearning

本文详细解析了Moonshot AI发布的Kimi K3模型(2.8万亿参数,100万token上下文)的架构,并展示了如何从零开始用PyTorch实现其七项核心创新,包括KDA循环注意力、门控MLA和稳定潜在MoE。