通过潜在视角评估LLMs中的多元性

# 通过潜在视角评估LLM中的多元性
来源: https://arxiv.org/html/2606.13254
###### 摘要

日益增长的多元视角表达需求，使得对多元LLM生成的兴趣持续升温。虽然难以操作化，但识别文本中表达的视角能为多元对齐提供明确指引，并更清晰地揭示LLM生成中的多元差距。尽管已有研究表明模型会降低训练数据的多样性并生成同质化内容，但这主要是在多项选择题问卷中或使用自由文本的高层次特征来证明的。本文介绍并实现了一个领域无关的多层框架，用于无监督提取视角，适用于识别LLM生成文本中的多元差距。我们在高度主观且代表多元视角的书评数据集上评估该框架，并比较了多种提示和模型。结果表明，尽管某些模型和提示技术接近覆盖广泛的视角，但罕见视角仍然不成比例地被低估，导致其分布与人类文本存在差异。

机器学习, ICML

## 1 引言

随着大规模语言模型的规模化，它们在编程、数学和复杂推理等广泛任务上的能力也在提升(Jimenezet al.,2024 (https://arxiv.org/html/2606.13254#bib.bib8); Phanet al.,2025 (https://arxiv.org/html/2606.13254#bib.bib9))。然而，在结果可客观验证的任务上的表现，并不一定等同于其与人类视角固有多样性的对齐——在那些“正确性”由特定文化、社会或个人框架定义而非普遍事实的主观任务中尤其如此(Frendaet al.,2025 (https://arxiv.org/html/2606.13254#bib.bib29); Fleisiget al.,2024 (https://arxiv.org/html/2606.13254#bib.bib27))。为了对开放式主观任务提供细致入微且平衡的观点，语言模型应该进行多元对齐(Sorensenet al.,2024 (https://arxiv.org/html/2606.13254#bib.bib1))，即它们应被优化，以在其生成的回答中充分代表目标人群的视角多样性。令人担忧的是，当前经验证据表明前沿模型距离这一理想尚有差距：语言模型表现出较低的语言多样性(Russoet al.,2025 (https://arxiv.org/html/2606.13254#bib.bib5))，其生成文本呈现出高度同质化——这一现象被称为生成性单一文化(Wuet al.,2025 (https://arxiv.org/html/2606.13254#bib.bib3))。总体而言，模型既会产生内部同质化也会产生外部同质化输出，生成重复的文本，且不同模型家族之间也高度相似(Jianget al.,2025 (https://arxiv.org/html/2606.13254#bib.bib10))。

参见图注图1: 提出的多元评估框架，用于提取视角并评估其人类和LLM生成数据中的多样性。我们首先从文本中识别方面 (1)，对其进行聚类 (2)，生成视角表示 (3)，再次聚类以识别集体视角 (4)。在各个层面，我们评估方面层面的覆盖度 (A)、视角表示的特征 (B) 以及视角覆盖度 (C)。评估模型所代表的多元程度的一种方法是分析其生成输出中呈现的视角多样性。在最抽象的意义上，视角被定义为“考虑某事的特定方式”(Cambridge University Press,n.d. (https://arxiv.org/html/2606.13254#bib.bib30))，它嵌入于每一个交流行为中(Basileet al.,2022 (https://arxiv.org/html/2606.13254#bib.bib26))。在NLP中，视角通常用作主观语言的统称，被视为多元对齐的一个方面(Sorensenet al.,2024 (https://arxiv.org/html/2606.13254#bib.bib1))。尽管视角难以操作化，但它是在情感、观点和主张等显性表现背后的潜在驱动因素，通过将这些原本离散的构念统一为整体性视角，为评估模型多元性提供了一个强有力的框架。

之前评估LLM模拟人类视角的能力，主要使用多项选择问卷(Santurkaret al.,2023 (https://arxiv.org/html/2606.13254#bib.bib38))和李克特量表(Meisteret al.,2025 (https://arxiv.org/html/2606.13254#bib.bib37))。在考虑自由文本时，同质化是通过聚合的高层次特征来衡量的(Wuet al.,2025 (https://arxiv.org/html/2606.13254#bib.bib3))，而很少关注人类文本中所表达视角的范围。通过将视角简化为聚合标签，先前的方法未能模拟其本应测量的复杂性，最终掩盖了模型生成中多元差距的程度。

为解决这些局限性，我们引入了一个领域无关的框架，将潜在视角形式化为从文本中提取的方面的复合体，为表面层面的同质化度量提供了一种细粒度的替代方案。通过使用方面作为构建块来刻画自由文本中表达的集体视角，我们的方法能够高分辨率地比较不同文本集合之间的视角分布差异，尤其适用于人类和LLM生成的内容。图̃1 (https://arxiv.org/html/2606.13254#S1.F1) 展示了该框架的可视化。我们在一个多样化、主观性强且主题清晰的语料库——源自Goodreads平台的书评数据集(Wan and McAuley,2018 (https://arxiv.org/html/2606.13254#bib.bib4))——上测试了该框架的适用性。我们在开源模型(Llama 3 8B、OLMo2 1B 和 8B)以及专有模型(GPT 4.1 和 Gemini 2.5)上评估了多元性。为了在LLM输出中引发更高的视角覆盖度，我们使用了高温度设置以及人物角色提示(Geet al.,2025 (https://arxiv.org/html/2606.13254#bib.bib15))，这是一种在人群模拟中被大量使用的技术。我们将框架应用于LLM生成的评论，并使用多种定量分布度量(包括散度和覆盖度)评估其多元性，同时进行定性分析以识别LLM文本中代表性不足的主题。

我们的框架能够对长格式LLM输出中呈现的视角多元性进行统一观察，并与人类文本进行比较。我们的结果证实了之前关于LLM输出表面同质化的发现，并表明当在视角语境中评估多元性时，模型在基线和提示敏感性方面存在显著差异。我们发现，虽然某些模型和配置可能接近涵盖广泛多样的方面(Overton多元性)，但更罕见的方面仍然不成比例地被低估(分布多元性)，导致多数视角呈现同质化。我们的贡献可总结如下：(i) 我们提出了一个多层框架，用于比较两个文本来源中表达的潜在视角，适用于分析模型多元性；(ii) 我们在书评这一主观数据集上，跨不同LLM和旨在引发生成多样性的提示方法实现了该框架；(iii) 我们分析了不同抽象层次上的视角差距以及不同模型和提示技术之间的差异。

## 2 相关工作

大型语言模型倾向于通过收敛到更均匀的特征和语义分布来削弱人类视角的多样性，这一趋势被多个术语研究过，包括人工蜂群思维(Jianget al.,2025 (https://arxiv.org/html/2606.13254#bib.bib10))、生成性单一文化(Wuet al.,2025 (https://arxiv.org/html/2606.13254#bib.bib3))以及分布差距(Peeperkornet al.,2025 (https://arxiv.org/html/2606.13254#bib.bib7))，并被建设性地重新表述为追求更高的模型多元性。Sorensenet al.(2024 (https://arxiv.org/html/2606.13254#bib.bib1))提出了三种多元对齐模式：Overton模式，表示可能答案的集合；分布模式，表示可能答案的分布；可引导模式，表示输出类似于所选群体以进行引导。先前工作中对这些模式的评估主要是离散的：意见对齐通过多项选择问卷或李克特评分进行操作化(Santurkaret al.,2023 (https://arxiv.org/html/2606.13254#bib.bib38); Durmuset al.,2024 (https://arxiv.org/html/2606.13254#bib.bib17); Meisteret al.,2025 (https://arxiv.org/html/2606.13254#bib.bib37))，或简化为对属性轮廓和偏好排名的分类准确性(Adamset al.,2025 (https://arxiv.org/html/2606.13254#bib.bib18); Chenet al.,2025 (https://arxiv.org/html/2606.13254#bib.bib20))。这些方法有一个共同的局限性：报告群体上的聚合统计量，丢弃了关于意见如何被框架化以及哪些方面是关键的细粒度信息。

较少的工作直接研究自由文本特征上的输出同质化，而非投射的标签。Wuet al.(2025 (https://arxiv.org/html/2606.13254#bib.bib3))通过提取属性(二元情感和粗略主题标签)测量多样性，展示了书评中的生成性单一文化；而Peeperkornet al.(2025 (https://arxiv.org/html/2606.13254#bib.bib7))通过Vendi分数等聚合标量分数测量叙事生成中的多样性差距。虽然两者都论证了在匹配任务和主题上，LLM生成的文本相比人类文本呈现出更窄的特征分布，但其度量方法将生成文本的分布结构压缩为单一的多样性分数，使得难以识别哪些视角被系统性地缺失。需要进行更深入、结构化的评估，一个能够考虑视角多方面属性的评估。

对自由文本的有限评估很大程度上反映了处理它的困难。即使在透视主义(Frendaet al.,2025 (https://arxiv.org/html/2606.13254#bib.bib29))——一种强调在NLP任务中保留多元视角的范式——中，视角通常也被操作化为分配给实例的特定任务标签。这些标签随后可以支持各种建模和分析方法，例如使用聚类创建标注者轮廓(Vitsakiset al.,2024 (https://arxiv.org/html/2606.13254#bib.bib22))，但视角仍然有效地锚定在标签空间中，自由表达的细微之处基本上未得到处理。聚类已被用作在多种主观任务中识别共同元素的方法，无论是论证(Reimerset al.,2019 (https://arxiv.org/html/2606.13254#bib.bib25))还是框架化(Ajjouret al.,2019 (https://arxiv.org/html/2606.13254#bib.bib23))，但尚未用于测量和比较LLM的同质化，本文填补了这一空白。

## 3 视角分析框架

### 3.1 动机

文本中的视角是通过固有的主观语言表达的，受到个人解释、强调和语境的影响。自动提取视角的前提是将其操作化，这很困难，因为精确定义和适当的粒度水平对语境敏感。这导致了两个核心挑战：(1) 如何在给定主题上构建有意义的多元视角表示，以及(2) 如何比较不同数据源(例如人类和LLM生成的文本)的视角分布。

为了应对这些挑战，我们提出了一个两层框架，用于识别文本集合中展现的视角并评估其多样性。第一层在方面层面操作，在此层面，来自文本的单个话语单元的表示被隔离和分组，以捕捉重复出现的语义模式。第二层在视角层面操作，使用前一层产生的方面组的粗略标签来刻画视角，包括潜在的以及在文本中被言语化的视角。我们的框架基于集体视角的概念，识别跨个体表达的重复模式，这些模式既代表多数观点也代表少数观点，而不对其形式或内容施加约束。

所提出的框架能够对自由文本中的视角进行粗粒度分析，以及在第一层对基础方面进行细粒度比较。该框架的具体实现需要操作化其核心组件：第一层的方面分割和集体方面识别；第二层，其中视角由方面构建并被分组；以及定义比较不同来源视角多样性的度量。在下一节中，我们提供框架的形式定义(§3.2 (https://arxiv.org/html/2606.13254#S3.SS2))，随后是具体实现(§3.3 (https://arxiv.org/html/2606.13254#S3.SS3))，然后我们将其应用于书评语料库(§5 (https://arxiv.org/html/2606.13254#S5))，最后严格验证其组件的有效性(§6 (https://arxiv.org/html/2606.13254#S6))。

### 3.2 定义

设 \(D=\{d_1,d_2,\ldots,d_n\}\) 为一个共享共同主题(例如同一本书的评论)的文本数据集。

##### 方面。

每个文本 \(d_i\) 可以分解为 \(m_i\) 个方面实例的序列：

\[
d_i=[a^i_1,a^i_2,\ldots,a^i_{m_i}] \tag{1}
\]

其中每个 \(a^i_j\) 表示在文本 \(i\) 的单元 \(j\) 中表达的方面。然后应在整个 \(D\) 上对常见方面进行分组，产生一组 \(k\) 个方面簇 \(\mathcal{C}=\{C_1,\ldots,C_k\}\)。每个方面实例 \(a^i_j\) 被分配到一个且仅一个簇 \(C_l\in\mathcal{C}\)，或指定为离群点并被排除：

\[
a^i_j \mapsto \begin{cases} C_l & \text{if } a^i_j \text{ 属于一个被识别的簇} \\ \varnothing & \text{if } a^i_j \text{ 是离群点} \end{cases} \tag{2}
\]

##### 视角。

我们将文本 \(d_i\) 的视角定义为由其非离群方面实例在簇上诱导的分布。设 \(n^i_l\) 表示 \(d_i\) 中分配给簇 \(C_l\) 的方面实例数量，并设 \(N_i=\sum_{l=1}^k n^i_l\) 为总非离群方面实例数量。我们将 \(d_i\) 的视角定义为向量：

\[
\mathbf{p}_i = \left( \frac{n^i_1}{N_i}, \frac{n^i_2}{N_i}, \ldots, \frac{n^i_k}{N_i} \right) \in \Delta^{k-1} \tag{3}
\]

其中 \(\Delta^{k-1}\) 表示 \((k-1)\) 维概率单纯形。

### 3.3 框架的实现

#### 3.3.1 方面层面

在本文中，我们选择句子作为表示方面的话语单元目标，并使用句子嵌入作为其在该框架内的语义表示。我们不构建方面的一种结构化表示，这样保持了方法对上下文的独立性。我们提供了一个更结构化的分析(§6.1 (https://arxiv.org/html/2606.13254#S6.SS1))并验证了这种表示的质量(§6.2 (https://arxiv.org/html/2606.13254#S6.SS2))，具体如下。