标签
认为使用LangGraph风格的编排进行程序性代理任务,效果不如简单地将完整流程嵌入到系统提示中。
DuoMem 是一种双空间蒸馏框架,通过上下文空间蒸馏和参数空间蒸馏,将大型语言模型的过程性问题解决能力迁移至紧凑的学生模型,以极少的额外参数实现高性能并提升推理速度。该框架在 ALFWorld 上,将 4B 参数规模模型的任务成功率从 4.3% 提升至 77.9%。
本文证明,将代理工作流程序编译到小型微调模型的权重中,与上下文基线相比,实现了接近前沿的质量,成本降低128至462倍,解决了质量、成本和灵活性的感知障碍。
作者质疑许多所谓的AI智能体是否更适合被称为工作流程,并认为对于可重复的浏览器任务,定义好的工作流程可能比每次重新解释步骤的智能体更可靠。