optimization

作者认为，尽管LLMs使某些优化变得更廉价，但由于异步工作流中对延迟的容忍度增加以及其他实际约束，软件仍然可能变慢。

首尔的一项实验表明，删除AI记忆文件的68%，特别是形容词，提高了响应质量，使用OpenAI对Claude的记忆进行系统评估。

Bitcoin Core 拉取请求将索引大小从 68GB 减少到 26GB，优化了下次发布的性能。

一个新的名为FreeToken的开源项目已经发布，包含一篇研究论文和GitHub仓库，测试显示在消费级硬件上，其token处理速度可达约100个token每秒。

LLVM 23 在 -O3 构建中实现了编译时间减少 6.75%，这主要得益于 ADT 哈希映射、集合和其他组件的改进。

Kent C. Dodds 批评了 React 中不必要的性能优化，例如对浏览器可以轻松处理的布局使用虚拟化列表。

Sharp v22.1 模板将 Qwen 模型输出令牌减少 42% 而不损失速度，通过 C++ 修改集成到针对 5090 的 NInfer 分支中。

本文解释了如何通过提取函数的类型相关部分来减少C++模板膨胀，并使用Windows DispatcherQueueHandler的实践示例来去除代码模板化。

本文使用Kähler几何和信息流形探讨复数神经网络中的优化景观，为下降路径提供理论保证，并分析Calabi-Yau度量的影响。

本文实证性地表征了混合量子预测模型的学习几何，通过使用 Neural Tangent Kernel 动态和其他指标将其与经典基线进行比较，表明相似的泛化能力可以从不同的优化轨迹中涌现。

本文介绍了最佳前缀选择（BPS），这是一种用于LLM智能体最优技能选择的算法，它提供了可证明的双标准保证，并在任务成功率上优于现有方法，同时减少了令牌使用量。

本文介绍了一种优化LLM评审小组的方法，通过将评委分类为副本、补充或专家，并使用基于角色的分配策略，根据验证增益阈值高效地路由和停止评估。

本文介绍了一种基于学习的方法，通过预测早期到最终解的一致性来加速混合整数线性规划求解器，在Gurobi上实现了显著的性能提升，并零样本迁移到SCIP。

Axon是一种用于形状安全和框架无关的LLM架构的领域特定语言，实现了'一次编写，到处运行'的范式，基准测试显示其在现有框架上实现了显著的加速。

本文引入了一个主观性系数来解决基于准确率评估LLM社会模拟的局限性，提出了适应主观性的软标签训练（SALT）进行优化，并构建了SubjSim基准测试以针对完整响应分布进行评估。

本文探讨了苏联经济规划与现代数据科学实践之间的相似之处，重点关注资源分配和基于历史书籍的简化假设等问题。

本文提出了一种计算高效的两步超参数迁移框架，用于预测大型 Mixture-of-Experts 模型的最优学习率，从而无需昂贵的超参数搜索即可实现高效预训练。

本草案拉取请求引入了 AVX2 优化，旨在加速 llama.cpp 中 IQ 模型的大批量提示处理。llama.cpp 是一款用于高效 LLM 推理的开源工具。

本文介绍了一种优化方法，用于在 C# 中使用 AVX-512 SIMD 指令解析 IPv4 地址，通过利用 .NET 10 的掩码加载功能，在 UTF-16 字符串中实现高性能。

本文重新审视了深度学习优化中的稳定性边缘现象，提出了一种基于方向海森矩阵和梯度对齐分数的新表述，以实现更准确的预测和诊断工具。