标签
这篇文章描述了一种实用方法，通过使用令牌概率来微调大语言模型，将其作为校准分类器，从而以最小的计算资源实现具有成本效益的分类任务。
ProbPlug 引入了一个轻量级框架，用于基于内部标记特征估计LLM二分类的置信度，在不修改基础模型的情况下提高了文本和多模态任务中的可靠性。
TRACER是一种工具，通过从LLM痕迹中学习，用轻量级传统机器学习替代多达90%的LLM分类调用，降低成本同时保持准确性。