monotonic-policy-improvement

标签

Cards List
#monotonic-policy-improvement

优化训练策略的幻象:单调推理策略作为LLM强化学习的真正目标

Hugging Face Daily Papers · 2026-06-28 缓存

我们介绍了MIPI(单调推理策略改进)及其实例化MIPU,这是一个用于LLM的两步RL框架,通过将优化与推理策略改进明确对齐来解决训练-推理不匹配问题。在FP8量化展开下,MIPU在Qwen3-1.7B和Qwen3-4B模型上实现了改进的推理性能和训练稳定性。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈