标签
本文利用KL散度和Bregman几何，推导了信念空间动力学中允许的学习率步长的闭式上界，重点关注交叉熵分类任务。
作者分享了一种高性能的本地推理配置，使用支持 TurboQuant 的修改版 llama.cpp，在硬件受限（8GB 显存、32GB 内存）的情况下运行 Qwen3.6 35B A3B，实现了 ~37-51 tok/sec 的生成速度，并支持 ~190k 上下文。
本文提供了优化 Claude 的 SKILL.md 描述以确保正确触发激活的实用建议，强调具体关键词、负向约束和迭代测试的重要性，而非通用文档。
作者描述了将 3 GB 的 SQLite 数据库替换为 10 MB 的有限状态转换器（FST）二进制文件，以优化芬兰语-英语词典工具，在保持性能的同时将内存使用量减少了 300 倍。
研究人员提出了 DFlash 技术，这是一种利用块扩散模型（block diffusion models）进行投机解码的方法，可在不损失准确度的情况下，将大语言模型推理速度提升高达 8.5 倍。该技术已集成到 vLLM 和 SGLang 等主要框架中。
开发者通过将 MTP（多 Token 预测）与 TurboQuant 的无损 KV缓存压缩技术相结合，在单张 RTX 4090 上实现了 Qwen3.6-27B 模型在 262K 上下文下 80+ token/秒的推理速度，并分享了实现分支和技术细节。
jank 是一种 Clojure 方言，现已引入一种在 Clojure 语义层面设计的自定义中间表示，以实现更好的优化并与 JVM 竞争。
解释了llama.cpp中的-ncmoe标志如何通过将部分专家层卸载到CPU+内存，在有限显存（8-12GB）上提升MoE模型（如Qwen3.6 35B A3B）的性能，基准测试显示在RTX 3070Ti上可实现高达5倍的加速。
QBE 是一个紧凑的、爱好级别的编译器后端，仅用 10% 的代码即可实现工业级优化编译器 70% 的性能，支持 amd64、arm64 和 riscv64，并采用简单的基于 SSA 的中间语言。
Token AI发布了一篇研究论文，介绍STAM——一种新型自适应动量优化器，旨在提升训练稳定性并降低内存占用，相比AdamW等标准优化器效果更优。
本文提出了 LMO-IGT，这是一类新的随机优化方法，它利用隐式梯度传输来加速收敛，同时保持每次迭代仅计算一次梯度的结构。文中引入了一个统一的理论框架，并展示了相较于 Muon 等现有基于 LMO 的优化器，该方法具有更优的性能。
本文介绍了 MEMOA，这是一种针对大规模在线智能体的去中心化策略。该策略通过平均场纳什均衡实现最优性，在超越贪婪基线的同时，比中心化方法具有更好的扩展性。
本文介绍了 SPADE，这是一种用于药物发现的新颖算法，能够仅通过约 40 次测试便从稀疏数据中高效识别出高质量配体。与深度学习和贝叶斯优化方法相比，SPADE 展现了更优的样本效率和速度。
对 Qwen 3.6 27B MTP 在 4 张 RTX 3090 GPU 上的基准分析表明，基于 NVLink 的张量并行相较于 PCIe 配置可实现显著的吞吐量提升（最高达 +53%）。
FlashEvolve 是一个框架，它利用异步阶段编排和工件版本追踪来加速基于大语言模型（LLM）的智能体自我进化。与同步执行方法相比，它显著提高了吞吐量和 token 效率。
本文介绍了 PACEvolve++，这是一种强化学习框架，通过将假设生成与执行解耦，提高了进化搜索代理在测试时的策略适应能力。
Reddit 用户展示了 llamacpp 的投机解码功能将 Qwen-3.6-27B 的生成速度从 13.6 提升至 136.75 t/s，并分享了完整的命令参数和硬件配置。
提出混合策略蒸馏（HPD），一种统一的知识蒸馏方法，平衡前向与反向 KL 散度，结合离线数据与轻量级在线采样，在数学推理、对话与代码任务上全面提升大模型压缩效果。