标签
本文解释了DSPy中的GEPA(基因-帕累托优化)如何用于高效的提示调优,特别是在微软AI的预训练数据筛选中应用,使研究人员能够用自动化的计算驱动优化取代手动提示工程。
来自 dspy 的 GEPA 优化的 LLM 判断器用于微软 MAI-Thinking-1 模型预训练流程中的数据过滤。
一条推文赞扬结合RLMs和GEPA的工作,并期待后续内容。
该帖子解释了强化学习因奖励稀疏而在长视界任务中遇到的困难,并介绍了 GEPA 这一方法。GEPA 利用轨迹层级的文本反思来保留更丰富的反馈信号,以优化学习过程。