optimization

本文讨论了 Value Classes 作为 JDK 28 中的预览功能的集成，并分析了 JVM 中的优化机会和限制，着重强调了谨慎的编译器支持的必要性。

本文将提供一份逐步指南，介绍如何在16GB显存的笔记本电脑上运行Qwen3.8-27B人工智能模型，涵盖exllamav3和tabbyAPI等工具的安装、配置以及性能基准测试。

本文介绍了响应重整化，一种通过解决近奇异雅可比矩阵问题来提高深度平衡模型训练稳定性的反向传播框架，并在各种多物理场应用中进行了验证。

本文介绍了“Compression Trinity”框架，该框架联合应用稀疏性、量化与低秩近似来压缩大型语言模型，以提高效率和性能。

本文介绍了ExTS，这是一种针对LLM代理中预算受限代理搜索的树搜索策略，在提示优化和代码生成等任务中，相比标准基线平均提升5.5%。

vLLM引入了一个原生的分片权重传输引擎，使用Ray Direct Transport (RDT)来在大规模在线强化学习环境中进行高效的权重同步，从而提升像Kimi K2这样的模型的性能。

本文介绍了 sync heap，一种新颖的数据结构，它将删除操作与揭示被删除元素解耦，使得在有限检查下插入和删除操作具有常数摊销时间复杂度，并将一个教科书中的调度问题从 O(n log n) 改进到 O(n)。

作者讲述了一个因GPU使用不足而导致的代价高昂的错误，并强调了Viktor团队的AI监控代理如何实时防止此类低效率。

本文描述了如何在 Plush 解释器中将 Rust 枚举替换为 64 位字，通过减少内存使用并提高缓存效率，实现了 17% 的速度提升。

本教程演示了如何使用汇编代码和优化技术在Linux上创建最小的ELF可执行文件，以减小文件大小。

JetBrains 正式推出 Junie Local，这是一个本地 AI Coding Agent，通过优化本地模型如 Qwen3.6-27B，实现离线运行，并针对速度和稳定性进行调优。

本文提出推测性编程工具调用（sPTC），一种优化AI框架中工具调用的技术。它受CPU和大语言模型中推测执行的启发，通过重叠执行与令牌生成来降低延迟。

介绍 Speculative Programmatic Tool Calling (sPTC)，一种在代码生成期间推测工具调用的技术，以与令牌生成和执行时间重叠，提高 AI 框架中的效率。

本文介绍了RODE，一种将矩阵更新的径向和方向分量解耦的优化器，在语言建模和图像分类任务中表现出优于Muon变体的性能。

本文对Adam优化器在单维二次函数上的稳定性边缘现象进行了理论分析，证明了Adam表现出一种恢复机制，将尖锐度推向稳定性阈值。

GRAFT 引入了一个用于基于扩散语言模型的推测解码的草稿树构建框架，通过优化边选择和预算分配，实现了相对于自回归解码 2.13 倍至 6.36 倍的加速，同时开销很低。

本文提出DASO，一种针对生成式推荐的树感知后训练方法，通过分析rollout组并根据前缀匹配深度重新分配，解决GRPO中的难度不匹配问题，在公开基准测试中提升性能。

本文讨论了Stephen Boyd于2006年出版的数学教科书对凸优化的影响，该书被谷歌、Renaissance Technologies等公司使用，并推广了他免费提供的斯坦福大学课程EE364A，该课程可在YouTube上观看。

本文解释了 DevOps、MLOps 和 LLMOps 之间的关键区别，突出了每种方法在软件开发、机器学习和 LLM 应用中如何应对独特的挑战，并重点关注 LLMOps 中的监控和优化。

已创建一个 llama.cpp 的分支，并针对 AMD GFX906 GPU 进行了优化，提升了 Mi50、Mi60、Radeon VII 和 GCN HIP 上的性能，适用于机器学习和大语言模型应用。