标签
OpenAI 和 Anthropic 声称,他们的人工智能系统已破解计算机科学领域一个悬而未决长达 27 年的问题,标志着人工智能驱动的数学发现取得重大里程碑式进展。
斯坦福 CS336(2026 春)第 6 讲的笔记,讲解如何通过减少 GPU 内存往返来优化内核:对比 softmax 多次遍历与融合行内核的内存流量,介绍 Triton 的块级编程模型,并强调先用 CUDA event 测量基线、再做内核融合与分块优化。
本文提出代数整数量化(AIQ)作为大语言模型推理的有损压缩格式,利用代数整数可实现无误差乘加运算的特性构建矩阵乘法引擎,在等比特预算下达到与业界标准 MX 格式竞争的精度。
Anthropic内部的Claude模型发现了首个真正次二次的3SUM算法(O(n^1.9992))与真正次三次的APSP算法(O(n^2.9995)),推翻了细粒度复杂性理论中长期悬而未决的3SUM与APSP猜想。这一成果由Josh Alman和Virginia Vassilevska Williams写成论文加以形式化,源自一种新的稀疏矩阵乘法算法,并已通过Lean 4完成验证。
本文研究了将Transformer层中的矩阵乘法替换为关联代数积,以在保留参数的同时降低计算成本,证明了其可行性,提高了吞吐量,但存在一些性能权衡。
此更新为llama.cpp引入了基于Vulkan的int8协作矩阵乘法实现,针对AMD RDNA3和RDNA4 GPU,提升这些硬件平台上的推理性能。
本文描述了关于 split-K 矩阵乘法的实验,揭示了答案的变异性取决于块布局和分割计数,在 B200 GPU 上的测试显示了不同条件下的输出变化。
本文提出利用现代技术和AlphaEvolve改进组合损失分析中的优化问题,从而得到矩阵乘法指数的改进上界。
通过矩阵乘法手动演练一个3层网络的反向传播,展示从梯度到权重更新的全部11个步骤。
在AMD Zen 3上对FP32矩阵乘法优化的系统性探索,使用AVX2/FMA内联指令实现了85.30 GFLOPS(理论峰值的63.5%),超越了朴素实现56.5倍,并达到了优化库的性能水平。
本文解释了脉动阵列如何处理AI芯片中超过95%的计算,详细介绍了它们的设计、工作模式以及为什么它们在矩阵乘法中高效。
本文分析了x86生态系统咨询小组提出的新ACE规范,该规范扩展了英特尔的AMX,用于AI矩阵乘法,具有固定块大小和外积指令,并与Arm的SME进行了比较。
Google的TPU采用源自1978年的脉动阵列架构,以更少的内存移动来加速矩阵乘法。该帖子分享了原始论文和TPU设计的链接,并建议在FPGA上构建一个小型版本。
x86生态系统咨询小组发布了AI计算扩展(ACE)规范,该规范定义了新的x86指令和寄存器状态,用于加速机器学习工作负载中的矩阵乘法和低精度数据格式。
作者详细介绍了在 Apple Silicon 上优化 Swift 自定义矩阵乘法内核以训练大语言模型的过程,旨在通过利用 CPU、SIMD、AMX 和 GPU 能力,实现超越 C 实现的性能。
关于在AMD Ryzen AI 7 350 NPU上实现峰值TOPS性能的技术深度剖析,与Xilinx AIE-ML v2 AI引擎进行比较,并解释用于矩阵乘法工作负载的硬件架构。