标签
TROPT是一个开源框架,统一了离散文本触发优化,标准化了在LLM越狱和模型可解释性等领域中的开发与执行。它包含超过15种优化器和30个配方,降低了采用和推进的门槛。
本文认为,文本优化——修改提示、上下文、记忆和检索——应被视为与权重优化并列的合法学习机制,突出了其样本效率和通过更新时计算进行扩展的能力。
作者认为,文本优化(提示、上下文、记忆)是一种合理且样本高效的学习机制,机器学习社区应更认真地对待它,从而开启一个更新时计算的新扩展维度。