标签
AutoMem 是一个文本梯度递归自我改进框架,用于LLM代理中的自动化记忆架构搜索,它发现任务自适应架构,这些架构在准确性和效率上超越了人类设计的基线。
本文提出了一种用于搜索4专家异构Mixture-of-Experts架构的自动化流水线,探索了理论组合空间的4.8%,并识别出高产和低产专家家族。该工作发布了分析工件和一个修正后的生成器,作为开源NNGPT项目的一部分。