提示复杂性：大型语言模型中文本与行为的最短提示

# 提示复杂性：大型语言模型中文本与行为的最短提示

来源：https://arxiv.org/html/2607.06145

###### 摘要

本文定义了**提示复杂性**这一概念：对于固定的指令微调语言模型，能通过确定性解码产生目标文本的最短合理提示是什么？这是资源受限的柯尔莫哥洛夫复杂度的一个类似物，但基于语言模型：提示是程序，模型接口是解释器，提示中缺失的信息由模型的权重、训练分布、分词器、模板和解码规则提供。与经典的柯尔莫哥洛夫复杂度不同，这一度量是有意非普适的。在有限上下文设定下，它可以通过枚举计算，但不存在与模型无关的不变性定理；同一文本对某个模型可能是廉价的，而对另一个模型则可能无法访问或代价高昂。为了将搜索空间与提示工程对齐，我们将程序限制为合理的可读文本，而非任意标记字符串。我们将精确定义扩展到**软提示复杂性**（针对近似输出），从而得到模型相关文本压缩的有损概念，以及提示优化的正式目标。我们还通过比较最短生成提示定义了**提示距离**，以及针对达到任意满足规范输出的**行为提示复杂性**。基于这些形式化，我们定义了一个研究议程，用于实证研究在固定 LM 接口下，哪些文本和行为可以通过短的合理提示访问。

## 1 引言

语言模型（LM）使提示工程成为自然语言计算的常规接口。用户不直接编程模型的权重、分词器、解码规则或训练分布；相反，他们编写一段短文本，希望在固定模型下能产生期望的补全。这引出一个更基础的理论问题：给定目标文本，能导致固定语言模型生成该文本的最短合理提示是什么？此外，还存在目标文本与用户无关，但模型的行为相关的场景：给定目标行为类别，能导致固定语言模型展现该行为的短合理提示是什么？我们分别将这些形式化问题定义为**提示复杂性**和**行为提示复杂性**。直观上，提示复杂性衡量用户必须向模型提供多少信息才能引发期望的输出。这在实践中很常见，如下例所示。

**直观理解。** Alice 和 Bob 都依赖同一语言模型进行邮件通信。Alice 写下几条简要笔记，要求模型将其扩展为一封措辞得体的邮件，然后发送长邮件。Bob 随后回复，写下自己的简要笔记，并让同一模型扩展。长邮件主要是一种接口约定：相对于共享的模型，有用信息由短笔记和模型的生成能力决定。提示复杂性问的是，对于目标文本，这样的笔记可以有多短。在此场景中，模型学到的扩展规则是一种压缩形式：用户提供短提示，模型填充剩余内容。

参见图注
图 1: 本文发展的提示复杂性概念图示。
（左上）提示复杂性 \(\Psi_f(t)\) 是导致模型 \(f\) 输出 \(t\) 的最短合理提示 \(p \rightarrowtail t\) 的长度。
（右上）软提示复杂性 \(\Psi_f^{\varepsilon,d}(t)\) 是其输出与 \(t\) 相距 \(\varepsilon\) 以内的最短提示的长度。
（左下）提示距离 \(d_\Psi(t_1,t_2)\) 通过比较它们的最短松弛提示来比较两个文本。
（右下）行为提示复杂性 \(\Psi_f(B)\) 是其输出属于行为类别 \(B\) 的最短提示的长度。

我们将这些问题作为模型相关的算法压缩形式进行研究[23]。在确定性解码下，提示就像是由固定的预训练指令微调 LM 执行的程序。生成文本不仅仅是提示的延续，而是将模型的学习规律、记忆事实、指令遵循行为、分词器模板和解码规则应用于该提示的结果。从这个角度看，能引出长输出的短提示，就是相对于模型而言对该输出的压缩描述。缺失的信息由模型本身提供。这种视角接近柯尔莫哥洛夫复杂度，即字符串的复杂度是生成它的最短程序的长度[23]。这个类比很有用，但在对语言模型至关重要的方面并不完美。我们处理的不是任意二进制字符串和理想的通用机器，而是有限上下文、可计算、黑盒的文本生成器，其输入和输出都是标记序列，其提示模板区分系统指令、用户输入、推理轨迹和最终答案，其有用输入是合理的可读文本，而非所有可能字符串。因此，相关压缩概念并非普适：它依赖于模型、其训练数据、其分词器及其解码过程。图1总结了本文发展的主要概念。我们在以下段落中简要描述每个概念。

#### 合理文本（第2节）。

我们区分了可能文本和合理文本。如果允许每个标记序列，提示搜索将包含不可理解的字符串、类似故障的提示以及对抗性伪影，这些都不是实践者在编写提示时通常寻找的对象。因此，我们将域限制为模型相关的合理文本集合 \(\mathcal{P}_K\)（长度最多为 \(K\)），这一动机来自核采样下的约束生成[13]。这一限制使我们能够将提示工程形式化为对可解释原因（而非任意比特串）的搜索。

#### 提示复杂性（第4节）。

我们的主要定义是文本 \(t\) 相对于固定预训练指令微调 LM \(f\) 的提示复杂性 \(\Psi_f(t)\)：最短合理提示 \(p\) 的长度，使得从 \(p\) 开始的确定性解码产生 \(t\)。由于 LM 具有有限上下文且总是停止，该量原则上可以通过穷举枚举计算，尽管实践中不可行。与柯尔莫哥洛夫复杂度的经典计数论证类似，只有一小部分长文本可以被高度提示压缩。与经典柯尔莫哥洛夫复杂度的最重要区别在于，不存在与模型无关的不变性定理。两个语言模型可以为同一文本分配非常不同的提示复杂性：一个模型记忆或强烈表示的文本可能通过短的标识符式提示引出，而另一个模型可能需要更长的描述或根本无法产生。因此，提示复杂性是相对于特定模型的信息度量，而非文本的绝对属性。

#### 软提示复杂性（第5节）。

精确再现对于大多数提示工程任务来说过于严格。用户通常需要某个标准下足够好的响应。因此，我们定义了一个松弛版本的提示复杂性：其输出与目标距离在 \(\varepsilon\) 以内的最短提示的长度。这个松弛量将提示复杂性与有损压缩和率失真联系起来[42]，并自然地将实际的提示优化框架视为对短提示（在简洁性和输出保真度之间权衡）的搜索。

#### 提示距离（第5.1节）。

软提示复杂性还允许我们基于最可能的原因定义文本之间的距离：我们不仅可以比较输出，还可以比较近似生成它们的最短提示。这种提示距离明确揭示了相似输出何时有不同原因、不同输出何时有接近原因，以及微小的提示变化必须产生巨大的输出变化。

#### 行为复杂性（第6节）。

许多有用的提示工程问题完全不是关于单一目标字符串。提示可能成功，如果它通过单元测试、获得正面评分、遵循安全政策、拒绝请求或输出任何属于不良类别的成员。因此，我们引入行为规范 \(B \subseteq \mathcal{P}_K\)，并将行为提示复杂性 \(\Psi_f(B)\) 定义为其解码输出属于 \(B\) 的最短合理提示的长度。由此产生的框架为一些看似无关的现象提供了语言：提示优化、合成数据生成、记忆、模型反演、越狱抵抗、行为评估以及文本间的语义相似性。本文通过定义合理文本、将预训练指令微调 LM 形式化为有界文本生成器、引入精确、松弛和行为提示复杂性来发展这些想法。我们在第7节中对这些概念进行了讨论。

### 1.1 研究议程

这些定义的目的是定义一个研究议程，用于研究哪些文本和行为可以通过固定的语言模型接口访问。这些形式化定义了若干实证研究问题，应在未来的工作中回答。我们在此强调其中几个问题：

1. \(\mathfrak{R}_1\)：如何通过实用的黑盒提示搜索来估计特定预训练 LM 的提示复杂性？
2. \(\mathfrak{R}_2\)：提示复杂性如何与模型的指令遵循能力相关？
3. \(\mathfrak{R}_3\)：何时提示距离比语义距离更能提供文本间的有用比较？
4. \(\mathfrak{R}_4\)：合成生成数据集的提示复杂性与下游模型性能之间有何关系？
5. \(\mathfrak{R}_5\)：行为提示复杂性对由提示判断模型定义的行为规范有多敏感？
6. \(\mathfrak{R}_6\)：如何增加某些不良行为（例如越狱）的行为复杂性？

### 1.2 从算法压缩到提示

经典算法信息论通过对象最短有效描述的长度来衡量其信息内容。在柯尔莫哥洛夫复杂度中，描述是二进制程序，解释器是固定的通用机器。二进制字符串 \(\omega\) 的柯尔莫哥洛夫复杂度是输出 \(\omega\) 的最短程序的长度：
\[
K(\omega) := \min_{p \in \{0,1\}^*} \{|p| : \mathcal{U}(p) = \omega\}.
\]
(1)
资源受限的柯尔莫哥洛夫复杂度还要求程序在有限计算步数内产生 \(\omega\)：
\[
K^t(\omega) := \min_{p \in \{0,1\}^*} \{|p| : \mathcal{U}(p, 1^t) = \omega\}.
\]
(2)
这里 \(\mathcal{U}(p, 1^t)\) 表示在通用机器 \(\mathcal{U}\) 上运行程序 \(p\) 共 \(t = t(|p|)\) 步。这种有界形式更接近语言模型的类比，因为 LM 具有有限的上下文窗口、固定参数、固定精度运算和有限的解码过程。

提示复杂性保留了相同的压缩问题，但改变了类比的两端：解释器是特定的语言模型而非通用机器，被最小化的描述是合理提示而非任意程序。为了使这一类比精确，我们首先需要 LM 接口暴露的输入和输出空间。提示不是输入给理想机器的无界二进制字符串。它是一个放入聊天或指令模板的标记序列，输出是在结束序列标记或上下文限制之前解码出的助手文本。对于文本生成，二进制字符串被标记序列取代。令 \(\mathcal{V}\) 为预训练分词器的词汇表，\(|\mathcal{V}| = T\)，令 \(K\) 为最大上下文长度。遵循[54]的有限序列形式，LM 操作在 \(\mathcal{V}_K\)（长度最多为 \(K\) 的标记字符串集合）上。我们进一步将注意力限制在合理文本 \(\mathcal{P}_K \subseteq \mathcal{V}_K\) 上，使得提示和输出都是可读对象。在确定性解码下，模型被视为有界映射 \(f: \mathcal{P}_K \rightarrow \mathcal{P}_K\)。该映射将输入提示与生成的补充分开。我们写作 \(f(p) = t\)，表示在固定提示模板和确定性解码下，提示 \(p\) 导致模型输出文本 \(t\)。补全仅考虑直到结束序列标记或最大序列长度。它不必比提示长，尽管当 \(|p| \ll |t|\) 时压缩最为有趣。

指令微调模型通常使用特殊标记来分隔系统提示、用户消息、助手响应，有时还有推理轨迹[50,12,15]。我们将这些分隔符视为分词器模板的一部分。在此意义上，合理提示和输出是自定界的：接口标记了用户控制输入结束的位置，以及生成的助手文本开始和结束的位置。推理轨迹（如果存在）被视为内部计算：它们可能影响最终答案，但我们测量复杂度的对象是最终输出文本。由于所有文本标记都可以以二进制格式编码，\(\mathcal{P}_K \subset \mathcal{B}^*\)，其中 \(\mathcal{B}^* = \{0,1\}^*\)：合理文本只是所有可能二进制字符串的一个受限子集。然而，\(\mathcal{P}_K\) 仅是 \(\{0,1\}^*\) 中一个小的、结构化的、模型相关的子集。因此，提示复杂性继承了柯尔莫哥洛夫复杂度的压缩直觉，同时将通用机器替换为特定 LM，并将任意程序替换为合理的自然语言提示。

## 2 合理文本

一般来说，设计一个能压缩每一个二进制字符串的压缩算法，比仅压缩结构化的、有偏的子集更容易。对于任意字符串，人们可以简单枚举所有可能性；对于人类编写的文本，压缩器必须利用语言的分布结构。大型语言模型目前是此类文本的最强压缩器之一[7]。因此，仅考虑合理文本需要特殊处理。我们假设 LM 被训练来建模来自某个领域（例如英语）的文本语料。为了操作**合理**文本，而非所有**可能**标记字符串，我们将生成限制为在处理中具有高概率的字符串。