标签
该论文提出 Stability-Aware Generalization Objective（SAGO）框架，主张 LLM 的泛化应评估为稳定性而非准确率，通过生成一致性、内部激活、置信度和响应镜像等多维度变异测量，揭示了现有模型普遍存在且与排名相关的泛化不稳定问题。
DeepSeek 发表了一篇论文，介绍了 mHC（流形约束超连接，Manifold-Constrained Hyper-Connections），这是一种对 Transformer 架构的根本性重写，通过用数学约束的多流路径替换标准残差连接，来稳定大型模型。