论文页面 - The Geometric Canary：通过表征稳定性预测可操控性与检测漂移

来源：https://huggingface.co/papers/2604.17698

摘要

几何稳定性指标既能预测语言模型的可控性，也能检测其结构退化：有监督变体擅长操控预测，无监督变体擅长漂移检测。

可靠部署语言模型需要两项看似独立却共享几何基础的能力：预判模型能否接受目标行为控制，以及及时发现其内部结构是否退化。我们发现，几何稳定性（表征的成对距离结构一致性）可同时解决这两个问题。
有监督 Shesha 变体通过测量任务对齐的几何稳定性，在 35–69 个嵌入模型、三大 NLP 任务上，以近乎完美的准确率（ρ=0.89–0.97）预测线性可操控性，且能捕捉到类别可分性之外的独特方差（偏 ρ=0.62–0.76）。
关键分离现象出现：无监督稳定性在真实任务操控上完全失效（ρ≈0.10），表明任务对齐对可控性预测至关重要；然而，无监督稳定性在漂移检测中表现卓越，在后训练对齐阶段测得的几何变化几乎是 CKA 的 2 倍（Llama 上高达 5.23 倍），在 73% 的模型中提供更早预警，且误报率比 Procrustes 低 6 倍。
有监督与无监督稳定性共同构成 LLM 部署生命周期的互补诊断工具：前者用于部署前可控性评估，后者用于部署后监控。

查看 arXiv 页面 (https://arxiv.org/abs/2604.17698)
查看 PDF (https://arxiv.org/pdf/2604.17698)
GitHub0 (https://github.com/prashantcraju/geometric-canary)
添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2604.17698)

在智能体中获取本文：

hf papers read 2604.17698

CLI 不是最新版？
curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型 1

pcr2120/shesha-geometry Other • 约 5 小时前更新 (https://huggingface.co/pcr2120/shesha-geometry)

引用该论文的数据集 0

暂无数据集链接
在数据集 README.md 中引用 arxiv.org/abs/2604.17698 即可在此显示。

引用该论文的 Spaces 0

暂无 Space 链接
在 Space README.md 中引用 arxiv.org/abs/2604.17698 即可在此显示。

收录该论文的合集 0

暂无合集收录
将该论文加入新建合集即可在此显示。