标签
本文介绍了面向上下文强化学习的任务特化微调(TSFT),该框架利用一个简单的参数模型和整数线性规划高效分配微调预算,在任务覆盖方面显著超越基线方法。
本文回顾了从BERT到高级智能体系统的语言模型八年的演变,记录了能力-成本曲线的崩塌以及任务专用模型的出现,通过经验基准和可重复实验证明。