标签
本文介绍了一种低精度(NVFP4)强化学习训练的方法,平衡了吞吐量和稳定性,解决了前向和后向传播量化误差的问题。
Bun,这个JavaScript运行时和工具链,正在从Zig重写为Rust,以提高内存安全性和稳定性,解决一系列use-after-free和内存泄漏错误。
Odin编程语言宣布将于2027年1月发布1.0版本(Odin 2027),并公布了完整规范、内联汇编、新标准库等路线图。
本文研究了大型语言模型在多选题问答(MCQA)任务中角色驱动生成的不稳定性,提出了三个衡量指标来评估模型族、模型规模和问题域的性能、结果和正确性稳定性。研究发现,不稳定性的变化具有一致性,数学和常识问题表现出更大的不稳定性,并且任务提示格式比其他超参数(如温度)引入了更多的不稳定性。
损失平滑在自适应过程中在源目标和目标目标之间进行插值,在保留有用特征的同时实现专门化。在监督偏移、强化学习和语言模型微调中的实验显示一致的改进。
循环Transformer通过直接在架构中设计递归来实现内部推理,避免思维链必须通过生成离散token来模拟迭代的低效性,最新研究表明它在多跳推理上表现出色,并可通过稳定技术和自适应递归进一步提升。
BV-Blend是一种无评论家的强化学习框架,它将提示本地在线策略统计与来自语义聚类的历史矩相结合,以稳定优势估计,从而提高使用可验证奖励对齐大型语言模型的训练稳定性和性能。
本文建模了多智能体LLM系统中延迟验证的影响,揭示了延迟校正会破坏共识稳定并引发振荡。它推导出闭式稳定性阈值,并提供了一种用于最优校正器放置的贪心近似算法,在五个开放模型上的实验验证了该结果。
来自Qwen背后的阿里巴巴团队的GEOALIGN指出,LLM强化学习中的不稳定性通常源于少数不良的rollout导致更新方向冲突,并提出了一种基于方向一致性来筛选rollout的轻量级方法,从而提升训练稳定性和性能。
本文系统研究了常见变异来源下,大型语言模型评估中提示排名的稳定性,发现表现最佳的提示经常发生变化。为此,提出了一种基于下置信界的稳定性感知选择策略,以提高鲁棒性。
文章介绍了BeefAPI作为AI API中转服务的实际使用体验,强调了其稳定性、副模型一键配置、额度计算器等功能,并提及端午节优惠活动。
本文分析了循环(权重共享)变换器中的残差缩放问题,表明权重共享需要比标准残差网络更强的缩放(1/N),并推导出一种因式参数化方法,使得超参数可以在不同循环次数之间迁移,无需重新调参。
GHC团队概述了使GHC升级更简单的进展,重点关注Big Stability Goal和Base Package Goal,以将基础包从编译器发布中解耦。
本文提供了理论解释,说明为什么扩散模型可以在没有显式噪声水平条件的情况下生成干净的样本,将其归因于高维几何,并分析为什么某些模型参数化成功而其他模型崩溃。
该线程讨论了AI中的'Jagged Intelligence'概念,将其视为AI学习是一个不适定逆问题的结果,并认为像脚手架和验证这样的外部稳定器是必不可少的。
本文揭示了,即使在条件良好的设置下,使用非二次正则化项的 Mirror Descent 比 Gradient Descent 对初始化敏感得多(指数级),这对强化学习和LLM后训练中的可重复性具有重要意义。
OpenClaw 2026.6.5 引入了免费的内置 Parallel Search,并在渠道、提供商、状态管理和应用行为方面进行了大量稳定性修复。
文章基于AI Agent(Skill)的工程化方法,提出将确定性的任务固化为脚本,减少大模型运行时的新判断,从而提升稳定性和Token效率。以视频字幕处理为例,展示了四步工程化流程。
本文提出了一种李群嵌入动态神经网络(LieEDNN)及其基于梯度下降和光滑流形度量投影的学习算法,能够在SO(3)和SE(3)等李群上实现稳定动力学,用于机器人学和控制应用。