标签
一款基于浏览器的工具,完全在客户端运行 SmolLM2-135M(ONNX、int8),用于可视化下一个词元的概率和注意力权重,并演示注意力汇聚(attention sink)现象。它提供开源 GitHub 仓库和在线演示,甚至可以在移动设备上运行。
一款基于React的应用工具,利用Transformers.js可视化大型语言模型中的注意力机制,展示令牌如何影响生成过程,帮助理解LLM行为。
MiMo-V2.5-Pro-UltraSpeed 是一个用于可视化大模型注意力机制差异的工具,主打超快速度。