albert

一位爱沙尼亚发明家制造了一台名为Albert的爬墙机器人，利用AI在建筑物上喷涂壁画，每天可覆盖240平方米，比人工绘画快100倍。

本研究论文探讨了Transformer模型（特别是BERT）在学习过程中产生的捷径策略如何削弱其持续组合推理能力。研究将BERT与ALBERT进行对比，发现ALBERT的循环特性为持续学习任务提供了更好的归纳偏置。