langevin-monte-carlo

标签

Cards List
#langevin-monte-carlo

状态依赖重尾噪声下的鲁棒朗之万采样及其在大语言模型微调中的应用

arXiv cs.LG ↗ · 2026-10-12 缓存

本文提出了稳健、自适应的朗之万蒙特卡洛方法(R-LMC、A-LMC、RA-LMC),能够处理广义光滑性和状态依赖的重尾噪声,在无需耗散性假设的情况下建立了费舍尔信息收敛保证,并展示了对大语言模型和视觉语言模型进行贝叶斯微调的有效性。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈