标签
提出一种“先加后乘”(散射累加)点积重构方法,通过将k位量化权重直接作为累加器寻址偏移,几乎完全移除逐元素乘法,仅在最后进行一次融合解码-乘法,从而降低低比特权重神经网络推理的硬件开销,并给出了SA-PE硬件设计与FPGA实现评估。
本文探讨了欧几里得空间中向量点积的分量定义与几何定义之间的等价性,提供了使用余弦定理的几何证明以及使用标准正交基的投影证明。