标签
这篇博客文章探讨了一种技术,利用LFortran、Enzyme和Tesseract使传统的Fortran模拟代码变得可微分,从而实现自动微分并与JAX集成,以用于机器学习流程。
介绍了用于压缩深度神经网络层的自动可微非线性张量网络(ADNTNs),通过小型核心张量实现高压缩比同时保持准确性。
本文探讨了 Neural Cellular Automata 作为一种计算模型,其灵感来源于生物形态发生和再生,展示了简单的局部规则如何导致复杂的全局行为。
本文提出了“加性原子森林”框架,利用导数代数和自扩展原子库,同时从数据中恢复函数及其反导数的符号形式。该方法在分类基准和费曼符号回归任务上表现优异,且结果具有可解释性。
This paper presents Block-Wise Differentiable Sinkhorn Attention, a method for efficient long-context balanced entropic optimal transport attention on TPU hardware. It introduces a tail-refinement surrogate for exact differentiation, proving an efficient backward pass schedule and demonstrating significant improvements in Pfam sequence alignment reconstruction.