标签
Maxwell 是一种新模型,能在运行时动态重写 Whisper 和 LTX-2 等 AI 程序的二进制文件以加速其运行,并使用形式化验证来确认优化后的版本保持了正确性。
这是 Percona 三篇系列文章中的第二篇,介绍基于性能剖析的优化(PGO)的工作原理:插桩式两遍构建、控制流图中各条边的计数器数据收集,以及编译器如何利用这些数据来指导内联、分支布局、函数冷热拆分和指令缓存局部性优化。
本文介绍了一种量子启发式方法EP-HUBO,它将链式思维推理中的证据选择视为组合优化问题,通过允许少数但正确的假设覆盖嘈杂的多数,在MMLU-Pro法律和LEXam等法律推理基准测试中显著提升了性能。
一篇技术博客文章,演示了如何通过LLVM的配置文件引导优化(PGO)在标准-O3和LTO之外显著提升二进制性能,以SQLite作为基准测试。