attention-transformer

#attention-transformer

[R] 确定性注意力变换器在H100上的实测能效 (0.63 J/token)

Reddit r/LocalLLaMA ↗ · 2026-07-13

本文介绍了一个自定义的 Rust + CUDA 注意力变换器引擎，在H100上实现了0.63 J/token的能效，并具备位精确确定性，超越了典型模型。计划在专利授权后开源发布。

0 人收藏 0 人点赞