标签
OpenAI 介绍了其 Performance Factory——一个基于 Codex 与自家模型的自主系统,用于自动调查并修复 ChatGPT 的性能回归;该回归工作流在三个多月内完成了 1,700 多次调查、根因定位 600 多个案例。
一条引用推文,反驳时间线上流行的“性能垃圾内容”,认为真正的性能工程意味着对 CPU、堆内存、磁盘和网络进行性能剖析,并缩短这些性能剖析图中最长的条形。
一个名为《Before GPU Engineering》的免费开源结构化数字笔记,包含 56 个章节,从零开始教授 GPU 架构和性能工程,涵盖 Warp、SIMT、内存层次结构、内核优化以及面向 AI/ML 工程师的性能分析等内容。
一本免费的开源书,题为《How to Make Your Model Fast》,从硬件到智能体提供了高效机器学习的系统视角,以帮助优化模型性能。
该推文推荐了Algorithmica的HPC系列中关于CPU缓存的部分,详细介绍了延迟、内存访问模式和理论延迟等概念,以帮助编写更快的软件。
本文介绍了在AI推理和性能工程背景下的GPU内核,解释了它们的定义、使用方法以及自定义内核在优化中的优势。
Brendan Hansknecht from Modular 解释说,他们的高性能源于将性能视为一个全栈问题,而不是依赖生产中的零散组件。
本文解构了 TigerBeetle,一个金融账本数据库的核心系统架构,重点介绍了如静态内存分配和自定义零拷贝接口等性能工程技术,以实现高吞吐量和可预测的延迟。
William Brandon(Anthropic 性能工程师)的 GPU 编程基础讲座摘要,强调理解 GPU 硬件的流式多处理器(SM)结构是预测性能的关键,而非仅从线程块/线程的软件抽象出发。
一条详细总结《大规模并行处理器编程》一书的推文串,重点介绍CUDA和GPU编程概念、优化技术以及并行模式。
文章介绍了《系统性能》书中关于延迟、吞吐量、缓存层级等核心概念,并引用了Jeff Dean等专家的延迟数字资源,强调动手实践对性能工程的重要性。
Anthropic工程师Tristan Hume探讨了为招聘性能工程师设计抗AI技术作业测试的挑战,并详细介绍了近期Claude模型如何开始超越人类候选人的表现。