标签
介绍PoolBench，一个在仅解码器LLM概念表示中隔离池化策略的基准，跨17个概念和3个模型评估19种策略，为比较池化选择提供标准化协议。
本文通过组合语义学的视角研究句子编码器中概念表征的原则，确定了四个关键原则：微调重新校准潜在几何结构，语义信号集中在最后一层，困难负样本提高区分性但不提高排序，监督有效性取决于组合类型。