Model Genome：判断 LLM 是从头训练还是派生而来的指纹识别（8 分钟阅读）

TLDR AI 2026/08/10 00:00 论文

model-fingerprinting llm-provenance architecture-analysis tokenizer-overlap embedding-cka model-verification

摘要

一篇技术博客文章，介绍了一个可复现的流程，通过架构、分词器和权重的比较，对 LLM 是从头训练还是从现有开放权重派生而来进行指纹识别。

Model Genome 是一个在架构、分词器和权重上对模型进行指纹识别，并将其组合成单一、一目了然的基因型的流程。它可用于帮助判断一个模型是否真正从零开始自主开发。基于开放权重进行构建是合法且普遍的做法，因此该工具仅报告模型的血统，而不判定其是否违规。

查看原文

查看缓存全文

缓存时间: 2026/08/10 13:43

模型基因组：指纹识别LLM是从零训练还是衍生而来

来源: https://huggingface.co/blog/mayafree/model-dna 返回文章列表 (https://huggingface.co/blog)

Proto_AGI 的头像 (https://huggingface.co/mayafree)

1. 核心问题 (https://huggingface.co/blog/mayafree/model-dna#1-the-question)
2. 轴1 —— 架构指纹（config\.json）(https://huggingface.co/blog/mayafree/model-dna#2-axis-1–architecture-fingerprint-configjson)
3. 轴2 —— 分词器指纹（亲子鉴定）(https://huggingface.co/blog/mayafree/model-dna#3-axis-2–tokenizer-fingerprint-a-paternity-test)
4. 轴3 —— 权重指纹（难点）(https://huggingface.co/blog/mayafree/model-dna#4-axis-3–weights-fingerprint-the-hard-one)
- 陷阱1 —— 逐行余弦相似度无用 (https://huggingface.co/blog/mayafree/model-dna#trap-1–row-wise-cosine-is-useless)
- 陷阱2 —— CKA有帮助，但还不够 (https://huggingface.co/blog/mayafree/model-dna#trap-2–cka-helps-but-not-enough)
5. 附加轴 —— 注意力多样性作为原创性代理指标 (https://huggingface.co/blog/mayafree/model-dna#5-bonus-axis–attention-diversity-as-an-originality-proxy)
6. 组合各轴 → 基因型 (https://huggingface.co/blog/mayafree/model-dna#6-combining-axes-%E2%86%92-the-genotype)
7. 结果 (https://huggingface.co/blog