探索Pangram 3.3.2的内部表示

# 窥见Pangram空间 来源：https://www.pangram.com/pangram-space 探索Pangram 3.3.2 的内部表征 作者：Elyas Masrour、Katherine Thai、Bradley Emi 2026年6月 图1. 每个点代表一份人类或AI文档。动画展示了在Pangram各层中，AI文档与人类文档逐步分离的过程。 01## 引言 自2022年ChatGPT问世以来，AI辅助写作以前所未有的速度扩张。由于AI生成的文本如今遍布我们阅读的众多内容，显而易见，某些形式的写作在由机器完成时会丧失其价值。在学术界，论文旨在培养学生的推理能力；在市场中，产品评价之所以有价值，是因为它们反映了真实用户的体验。 Pangram是一家研究公司，致力于为此问题构建最先进的AI检测模型。我们的旗舰产品是一款AI文本检测模型，具备行业领先的低误报率、多语言能力，并能区分AI生成与AI辅助的内容。 自2024年发布首份白皮书以来，我们一直处于独特的位置，见证了AI一轮又一轮的进步。我们的研究人员曾与过于严格的内容过滤器博弈，经历过多次模式崩溃1，并躲过了一波波的长破折号和“delve”一词。 我们的旗舰模型是一个针对该序列分类任务进行微调的LLM。我们不使用困惑度或突发性等定制指标，也不进行任何手动特征提取。我们确实有一个面向客户的产品叫AI Phrases，用于向用户提供在AI文本中更频繁出现的短语信息，但这些并不直接用作模型的特征。久而久之，人们不禁好奇：模型究竟看到了什么？ 作为研究人员，这个问题对我们至关重要。我们有强烈动力去防止走捷径、修复意外的模型行为，并深入理解这个问题。在这篇文章中，我们将概述我们使用文档级分析进行的初步可解释性工作。 02## 数据 我们从生产训练集中保留了域内样本，构建了一个可解释性数据集。本页的交互式探索器使用了一个平衡的5000文档子集，人类与AI各半，涵盖20个偶数层。AI样本涵盖以下用于分类器探针的六类模型族中的多种模型变体。 #### 模型 - Claude 3.7 Sonnet - Claude Sonnet 4 - Claude Sonnet 4.5 - Claude Opus 4 - Claude Opus 4.1 - Claude Opus 4.5 - GPT-3.5 Turbo（2023年11月） - GPT-3.5 Turbo（2024年1月） - GPT-4（2023年3月） - GPT-4（2023年6月） - GPT-4o - GPT-5 - GPT-5.1 - GPT-5.2 - o1 - Gemini 2.0 Flash - Gemini 2.5 Flash - Gemini 2.5 Pro - Gemini 3 Pro - DeepSeek R1 - DeepSeek V3 - Qwen 2.5 7B - Qwen 2.5 72B - Qwen 3 235B - Llama 3.1 8B - Llama 3.1 70B #### 源领域 - 新闻 - 科学摘要 - 产品评价 - 商业评价 - Reddit创意写作 - Reddit ELI5 - 图书（自出版） - 图书（古登堡计划） - 维基百科（英文） - 维基百科（多语言） - Lang-8（二语学习者） 03## Pangram 3.3.2 概览 Pangram 3.3.2是Pangram Labs于2026年发布的AI检测模型。它使用了与Pangram 3.3相同的基础模型，并通过后续的bug修复提升了性能。Pangram 3.3接替了Pangram 3.2，在较新LLM输出、人化文本和长篇幅AI生成内容上提升了召回率，同时降低了对非母语英语写作的误报率。 模型卡阅读Pangram 3.3模型卡查看Pangram 3.3.2的发布详情。阅读文章 (https://www.pangram.com/research/model-card/pangram-3-3) 可解释性工作正在进行中。在本文中，我们还将方法回溯应用于Pangram 3.2和Pangram 3.1。 04## 方法 ### 激活值 EditLens架构是一个基于桶的分类系统，最终汇聚为一个单一的`ai_assistance_score`分数。在本项目中，我们丢弃了模型的最终读出层，转而关注模型学到的内部表征。为了探知这些表征，我们通过完成给定输入文档的前向传播来收集激活值，并保存模型在多个内部层的隐藏表示。在本项目中，我们对每个文档、网络的每个偶数层都提取了激活值。 ### 降维 每个提取的激活向量维度为5120。为了更好地理解这些表征，我们采用了多种降维技术。 #### PCA 主成分分析（PCA）是最简单的线性投影方法：它寻找激活空间中方差最大的方向。在本项目中，我们发现网络末端的大部分方差集中在主成分1和2上，因此我们将它们相互绘制。 #### UMAP UMAP提供了一种非线性视图，旨在保持邻域结构。如果两个文档在模型内部空间中接近，UMAP会尽量使它们在二维空间中保持接近。不过，不应过度解读具体坐标轴和簇之间的距离。 #### t-SNE t-SNE是另一种非线性投影方法，擅长揭示局部簇。在本项目中，我们使用t-SNE来探讨有语义意义的分组（如模型族或人类/AI标签）是否随着网络加深而变得明显聚类。 ### 线性探针 我们使用线性探针来量化从降维方法中观察到的定性结果。对于每一层，我们询问一个简单的分类器是否能从该层的激活向量中恢复出目标标签。探针准确率高意味着相关区别已经在表征空间的一个线性可及方向上被编码。 05## AI检测任务 ### 二分类准确率 为了理解最终类别分离在整个网络中的实现过程，我们在每一层训练线性探针。我们在500个样本上训练，人类与AI各半，训练集/测试集分割为80:20。我们发现，即使在网络早期，性能已经相当强大：在第2层之后就直接达到了0.83的准确率。这符合我们的直觉，因为“词袋”模型往往是AI检测任务中可用的基线。在整个网络中，准确率逐步提升，在第24层达到1.0的峰值。 跨层的探针准确率图2. 保留数据集上人类/AI线性探针跨层准确率。 加载嵌入... 图3. 这种分离在所有三种降维方法中都清晰可见。 06## LLM分类 在t-SNE和UMAP图中，我们注意到文档似乎根据生成它们的模型进行聚类。这让我们感到惊讶。旧版本的Pangram有一个单独的LLM分类器头，但那个特定任务早已被弃用。在Pangram 3.3.2的训练过程中，模型没有获得任何与AI文档来源模型相对应的标签。 即便如此，聚类仍围绕原始模型族形成。更有趣的是，这些聚类似乎在网络的各层中逐步显现。 ## 模型簇的涌现 用模型族为相同的嵌入着色，以观察跨层出现的提供者级几何结构。 加载嵌入... 图4. 第2-40层嵌入按模型族着色。提供者级簇在后期层变得更为可见。 ### 探针 为了量化这一现象，我们在六个模型族（Anthropic、OpenAI、Google、Qwen、Llama、DeepSeek）上训练了一个分类器，每个模型族500个样本，总共3000个样本，训练集/测试集分割为80:20。我们发现，仅使用Pangram的激活值，确实可以训练出一个能够对特定文档的来源模型族进行分类的探针，最高top-1准确率达到91%。 跨层的模型分类器准确率图5. 跨层的模型族线性探针准确率。来源模型族从Pangram激活值中变得越来越可恢复。 ### 涌现并非必然 我们的初始可解释性实验包括对多个模型进行测试。出乎意料的是，“LLM分类”能力的涌现是本项目中少数在不同模型间表现差异显著的发现之一。 下图比较了Pangram 3.1、3.2和3.3.2的聚类行为。尽管该模型在内部签收评估中比3.1在人类-AI二分类任务上表现更好，但总体而言，Pangram 3.2上的模型簇比Pangram 3.1或3.3.2更加模糊。 Pangram 3.1、3.2和3.3.2在第40层的t-SNE比较图6. Pangram 3.1、3.2和3.3.2在第40层的t-SNE。模型族簇的几何结构随模型版本而变化。 为了进一步说明这种差异，我们比较了Pangram 3.1、3.2和3.3.2上的LLM分类器探针。三者都在早期层提高了top-1准确率，但Pangram 3.2的探针在第12层之后开始衰减，而Pangram 3.1和3.3.2则保持高位。 Pangram 3.1、3.2和3.3.2的探针准确率比较图7. Pangram 3.1、3.2和3.3.2跨层探针准确率比较。 07## 人化工具（Humanizers） 人化工具是一类对抗性工具，旨在修改AI生成的文本以逃避AI检测器。我们此前曾就此发表过一篇论文（https://arxiv.org/abs/2501.03437）。为了观察人化文本在激活空间中相对于人类文本和AI文本的位置，我们创建了一个独立的人化工具数据集，包含约1900个样本，大致平衡分布在三个生成模型（Claude Sonnet 4.5、Gemini 2.5 Pro和GPT-5）、十种不同的人化工具服务以及与我们原始可解释性数据集相同的源领域。由于对抗性风险，我们不会透露使用的具体服务。 ### 模型如何读出人化文本 某些来自人化工具数据集的样本确实对我们的模型检测构成挑战。在这里，我们使用与原始训练设置相同的人类/AI任务线性探针，但将人化文本标记为AI。我们看到，即使从第一层开始，人化文本始终被读出为比其直接AI对应文本更“人类”。 跨层的人化工具探针差值图8. 跨层直接AI样本与其人化对应样本之间P(AI)均值差异。 ### 人化文本在嵌入空间中的位置 然而，当我们观察最终读出层之下的表征时，我们发现人化文本的表征更加丰富。下面，我们将降维方法应用于人类、AI和人化文本。定性地，我们可以观察到人化文本倾向于占据激活空间中的不同部分，并在人类和AI区域之外形成聚类。 我们的假设是，尽管没有人化文本的标签，模型仍然能够区分人化文本、人类文本和AI文本。然而，在最终读出层中，模型被迫压缩该信号，并且压缩方式不一致。 使用t-SNE、PCA和UMAP在第40层的人化文本降维图9. 使用t-SNE、PCA和UMAP在第40层的人类、AI和人化文本。人化文本占据了与主要人类和AI簇分离的独特区域。 ### 探针 为了验证这一假设，我们训练了一个三路线性探针，标签为AI、人类和人化文本。该探针在网络早期就达到了较高的top-1准确率，最终稳定在98%。 人类、AI和人化文本的三路分类图10. 跨层三路分类探针准确率（人类/AI/人化文本）。 08## 结论 我们的工作表明，Pangram的内部表征包含了比最终二分类读出层所揭示的更多结构。跨层观察，我们看到人类和AI文档分离，模型族信息涌现，人化文本占据激活空间中的独立区域。这些发现尚属初步，但它们为我们理解模型在将所有信息压缩为一个检测分数之前所学到的内容提供了一个有用的地图。 这篇文章仅展示了我们可解释性工作的第一步，但在内部，我们对这一研究方向感到兴奋和兴趣。 我们对Pangram模型可解释性和可解释性的愿景是，它能够： - 提供对模型行为的更好内部理解。 - 为单个Pangram结果提供支持性证据和更清晰的解释。 如果您是对可解释性、AI检测研究或与本工作相关的任何内容感兴趣的研究人员，请联系[[email protected]](mailto:[email protected])。