标签
本文介绍了KGPS，一种卡尔曼引导的提示选择方法，用于大语言模型的自适应强化学习微调。该方法将提示难度建模为动态状态，以提高准确率和采样效率。
提出数据-模型兼容性（DMC）指标，用于评估推理数据集在蒸馏过程中与学生模型的匹配程度。实验表明，DMC与蒸馏性能强相关，且基于DMC动态选择数据集可进一步提升推理能力。