@DimitrisPapail：Looped Transformers 的共同发明者昨日通过了她的博士论文答辩，即将开启一段精彩的新旅程……
摘要
Looped Transformers 的共同发明者 Angeliki Giannou 已成功通过博士论文答辩，并即将开始新的职位。Dimitris Papailiopoulos 在社交媒体上送上了祝贺。
查看缓存全文
缓存时间: 2026/05/09 09:46
Looped Transformers 的共同发明者昨天通过了她的博士论文答辩，即将开启一段令人惊叹的新旅程 :) 恭喜 @AngelikiGiannou 🥳 🎉🎈 https://t.co/Sq2jo15Z5W
相似文章
循环 Loopie！
Loopie 是一种新型循环 Transformer 模型，通过新颖的后训练流程，在 2025 年国际数学奥林匹克竞赛（IMO）和国际物理奥林匹克竞赛（IPhO）中无需外部工具即获得金牌表现。在相同计算预算下，它优于普通 Transformer。
@yingfan_bot: 关于Looped Transformers的新论文！隐式推理速度快，但在大规模下难以达到CoT级别的准确性。能否lo…
一篇关于Looped Transformers的新论文发现，循环填充骨干网络为隐式推理提供了并行工作空间，使其能够像显式思维链（CoT）一样进行监督，并同时实现了速度和准确性。
@retr0sushi_: 循环transformer -> 超循环transformer -> 循环世界模型 ??
推测了从循环transformer到超循环transformer再到循环世界模型的演进，暗示了一个新的研究方向。
什么是 Looped Transformers？清晰解释（8分钟阅读）
Looped transformers 在多次传递中重复使用相同的层，以参数数量换取计算量，用更少的权重实现更好的推理。文章追溯了这一想法到 Universal Transformer (2018)，并解释了其最初因扩展定律和时机而失败的原因。
@askalphaxiv: 另一项关于循环Transformer的酷研究。他们提出一个问题：“我们能否直接在推理时循环一个冻结的、现成的检查点…
本研究介绍了一种技术，通过使用阻尼Runge-Kutta子步骤，在推理时循环冻结的、现成的Transformer检查点，将Transformer层视为残差ODE中的欧拉步骤。这无需微调、架构更改或新权重即可增加额外的潜在计算，在MMLU-Pro、GPQA和ARC等知识任务上显示出收益。