@GergelyOrosz:turbopuffer 公开展示他们的新架构一开始比旧架构慢多达 128 倍……

X AI KOLs Following 新闻

摘要

Gergely Orosz 强调 turbopuffer 公开分享了他们迁移到 v3 架构的过程,新设计最初比旧架构慢多达 128 倍,而每一步优化(例如批量读取带来约 9 倍的性能提升)都被公开记录了下来。

turbopuffer 公开展示他们的新架构一开始比旧架构慢多达 128 倍……当然,这是在他们进行优化之前的状态。 而且他们正在逐项进行优化,并把每一项都写成博客分享出来 以前从没看到有人把这样一次架构迁移完整公开出来,太棒了
查看原文
查看缓存全文

缓存时间: 2026/10/03 10:55

turbopuffer 在展示他们新架构有多糟糕这方面真是出奇地坦诚:在进行任何优化之前,新架构比旧架构慢了高达 128 倍……

而且他们还在一边做优化、一边写博客分享每一次改进。

之前从没见过有团队这样公开分享迁移过程的,太喜欢这种做法了。

turbopuffer (@turbopuffer): 我们在 v3 全文搜索引擎中实现了批量读取,性能提升了约 9 倍。倒排索引(postings)是以列的形式存储的,而我们之前却是一行一行地读取的

有时候优化并不需要多聪明,只需要避免犯错就够了

相似文章

@GergelyOrosz: 这很少见:turbopuffer 喜欢写博客、做记录、画图表,展示他们如何重写底层引擎——从现在起,重写已经完成,但性能嘛……唉 Gergely Orosz 高度评价 turbopuffer 公开记录 tpuf 存储引擎 v3 重写进展的做法,在公开打磨查询计划,而不是等重写完成、速度起飞后才来庆祝

X AI KOLs Timeline

Gergely Orosz 高度评价 turbopuffer 公开记录 tpuf 存储引擎 v3 重写进展的做法,在公开打磨查询计划,而不是等重写完成、速度起飞后才来庆祝

@reprompting:今天阅读关于 NVIDIA Hopper 架构的内容 https://arxiv.org/pdf/2501.12084

X AI KOLs Timeline

这篇论文对 NVIDIA Hopper GPU 架构进行了多层级微基准测试分析,评估了 L2 分区缓存、第四代张量核心(FP8)、DPX 指令、分布式共享内存(DSM)和张量内存加速器(TMA)等新特性的性能表现,结果显示 TMA 异步编程可实现 1.5 倍矩阵乘法加速,FP8 性能接近 FP16 的两倍,DPX 指令可加速生物信息学算法至少 4.75 倍。