标签
本文提供了关于 Linux 内核中 Jump Labels 的全面指南，解释了其硬件背景、用法和实现细节，面向内核程序员。
Michael Stapelberg 详细介绍了他是如何移除 Debian Code Search 最后一个 cgo 依赖的：他利用 Go 新引入的 SIMD 支持重新实现了 TurboPFor 整数编解码器，并借助 AVX512 超越了参考实现的性能。
文章详细描述了将 Multi-Token Prediction (MTP) 支持合并至 ik_llama.cpp 的过程，这显著提升了 Qwen3.8-Flash-Next 模型的令牌生成速度，基准测试显示在高端硬件上速度最高可提升一倍。
研究表明，将AI模型蒸馏到与教师模型相似的架构中，相比蒸馏到差异很大的架构，能获得更好的性能。
一位Rustdoc团队成员通过一系列优化和错误修复，在Rustdoc中实现了33%的性能提升，解决了影响文档生成的递归限制问题。
RespanAI推出Respan，专为应对AI产品性能退化循环而设计，并附有一部宣传影片。
本文解释了CPU乐观地实现内存排序，并依赖回滚机制来处理竞争，同时澄清了关于强排序与弱排序架构的常见误解。
mold 是一个大规模并行链接器，通过在所有阶段应用数据并行性来减少链接时间，实现了比最先进的链接器如 lld 快 2.4 到 16.1 倍的性能。
一位用户修复了Ornith1.5 35B A3B模型的MTP头，使任务的实际时间减少了33%，显著加快了本地HAM无线电应用的速度。
Ornith 1.5 35B A3B模型的MTP张量似乎未被初始化，导致推测解码性能不佳。通过从Qwen3.6-35B-A3B移植训练好的头部，速度提升了29%。
Datadog使用名为gitretriever的自定义镜像重建了他们的Git服务基础设施，处理了20倍的CI流量，同时保持了低延迟并减少了CPU使用率。
本文将 SmoothQuant 集成到 PyTorch 的原生栈中，以在 Intel Xeon CPU 上高效进行小型 NLP 模型的 INT8 推理，实现了高达 5.8 倍的加速，且精度损失可忽略不计。
本文介绍了使用llama.cpp通过RPC在5070 Ti和1080 Ti GPU上运行AI模型的性能结果和优化技巧，重点讨论了预填充与token生成速度之间的权衡。
Linux 7.3 合并了改进 VRAM 管理的内核补丁，通过优化内存淘汰和缓存机制，在物理 VRAM 不足时增强了游戏性能稳定性。
Llama.cpp v0.1.0 是用于高效 LLM 和 VLM 推理的 C/C++ 实现，支持广泛的硬件，配置简单且性能卓越。
mlx-dspark v0.10.0 新增了对 Apple Silicon 上 Qwen3.8-27B 的支持，通过无损验证的推测解码提供高达3倍的速度提升。
NInfer 新增对 Qwen3.8-27B 模型的 Day-0 支持，在单张 RTX 5090 上使用推测解码可实现约 200 tok/s 的生成速度，并包含并发请求和内核优化等引擎改进。
AMD upstreamed optimizations to PyTorch/TorchTitan and TorchAO for FP8 training on AMD Instinct GPUs, achieving up to 13.4% throughput gains on Llama3-8B and recovering 89% of FP8 quantization overhead on DeepSeek-V3 via fused Triton kernels.
TokTier is a stateful tokenization service that cuts tokenization overhead in agentic LLM serving by reusing stable token boundaries and running exact CPU/GPU tokenization, reducing time-to-first-token by 16–34% under vLLM.