标签
本文提出使用线性探针和RFM概念向量，从LLM内部激活中测量文本的概念内容，并将其应用于ESG分类。最佳线性探针在无需任务特定微调的情况下接近微调分类器的准确率，且优于模型自身输出，表明激活携带了响应之外的概念内容。
本文研究金融披露文本中的细粒度不一致分类，在合成基准（SBID-FD）上比较了包括微调编码器和大型语言模型在内的多种模型，使用黄金证据片段达到了高达65.3%的准确率。