@antoine_chaffin: 无论你是GPU匮乏者还是GPU富裕者,今天发布的PyLate总有一款适合你!GPU追求者:MaxSim内核显著…
摘要
PyLate的发布引入了MaxSim内核,用于GPU加速训练,内存需求更低;以及TACHIOM,用于在CPU上实现快速多向量索引和搜索。
查看缓存全文
缓存时间: 2026/06/11 19:41
无论你是GPU资源紧张还是富足,今天发布的PyLate都能满足你的需求!
GPU发烧友:MaxSim内核可大幅加速训练,同时降低内存需求
CPU爱好者:TACHIOM让你直接在CPU上实现闪电般快速的多向量索引与搜索 https://t.co/GJ3HGtWZws
相似文章
在@huggingface上发布我的第一个内核:MaxSim后期交互检索(ColBERT / PyLate)的瓶颈在于材料……
在 Hugging Face 上发布了一个内核,通过使用分块评分和 SIMD 组矩阵运算(Metal 和 WMMA)来加速 MaxSim 后期交互检索,比朴素实现获得了 3–5 倍的加速。
@raphaelsrty:在GPU上计算最大相似度(ColBERT、ColPali的评分步骤)可以被优化,这正是@tonywu_71所做的。我……
Tony Wu发布了late-interaction-kernels (LIK):用于MaxSim的融合Triton内核,MaxSim是ColBERT和ColPali背后的评分步骤,已集成到PyLate和colpali-engine中,提供了内存效率和性能提升。
@cosimorulli1: 很高兴分享我们的最新工作 TACHIOM 已集成到 PyLate 生态系统!https://arxiv.org/pdf/2604.2814…
TACHIOM,一个具有词元感知聚类和分层索引的多向量检索系统,已集成到 PyLate 生态系统中。与现有最先进系统相比,它在保持相当效果的同时,实现了高达 247 倍的聚类加速和 9.8 倍的检索加速。
@PyTorch:直击 #PyTorchCon 2026,Chris Lattner @clattner_llvm(@Qualcomm)展示开发者如何用 MAX 扩展 PyTorch…
直击 PyTorchCon 2026,Qualcomm 的 Chris Lattner 展示了开发者如何用 MAX 和 Mojo 扩展 PyTorch,为跨多家厂商硬件运行代码提供共享基础。Mojo 将 Python 风格的代码与系统级速度相结合,而 MAX 则提供模型编写和面向多种硬件的图编译器。
@PyTorch:深入内核层级之下,榨取已自动调优至极限的 GPU 内核的额外性能
PyTorch Helion 现已将 NVIDIA CompileIQ 的高级控制文件(Advanced Control Files)集成到其自动调优器中,实现了内核配置与底层 ptxas 编译器控制参数的联合搜索,从而从已自动调优至极限的 GPU 内核中挖掘最后一段性能空间。