epfl

This paper presents RRB-Trees, a data structure for efficient immutable vectors, enabling logarithmic time concatenation and slicing.

这篇博客文章介绍了幅度-方向（MD）解耦方法，该方法将神经网络权重矩阵分解为方向分量和幅度分量，并使用独立的学习率进行优化。实验表明，该方法在Adam和Muon优化器上均提升了性能，实现了跨模型宽度的自动学习率迁移，并在大规模混合专家模型中展现了缩放优势。

EPFL的研究人员开发了Synthegy，一个利用大型语言模型通过自然语言指令指导化学逆合成和反应机理分析的AI框架，显著提升了化学家的战略规划能力。