adaptive-mixing

介绍了AdaWeather，一个自适应框架，它利用机器学习和专家混合来组合多个概率天气预报，相比最佳的静态专家混合实现了对数遗憾，并在温度预报方面展示了实证改进。

本文提出了GAC，一种用于大型语言模型混合SFT-RL后训练的噪声感知自适应混合控制器。它推导出一个闭式混合权重，平衡梯度噪声与SFT-RL分歧，在多个基准测试中取得一致的改进，且额外开销极小。