@no_stp_on_snek: 这是我本周所写内容的机制性版本：微调小模型关乎性格，而非……
摘要
讨论了Anthropic的一篇论文，该论文关于语言模型中形成全局工作空间的可言语化表示，并联系到微调小模型揭示的是性格而非能力的观点。
查看缓存全文
缓存时间: 2026/07/09 17:48
这是我这周写的内容的机理版本：微调小型模型关乎的是性格，而非能力。他们可以直接从残差流中读取性格。我只能从压力下的行为来推断它。同样的赌注，更好的显微镜。
Tom Turney (@no_stp_on_snek): Anthropic今天发布了这篇论文，“Verbalizable Representations Form a Global Workspace in Language Models，” 它与我一直在场外下的一个赌注异常吻合。
他们的发现，简而言之：模型保留了一小部分特权内部
相似文章
@no_stp_on_snek: 让所有微调模型的人害怕的部分：你可以通过所有表面评估，但仍然携带着…
讨论了微调模型中的危险性，即隐藏的倾向可以逃过表面评估，只有在对抗性提示下才会显现，引用Anthropic关于LLM中可言语化表示的论文。
@no_stp_on_snek: 微调实战笔记文章：简而言之：重点不在于让它变得更聪明，而是让它有了支撑骨架……
一位从业者分享了微调一个小型开源模型后令人意外的发现——模型在实际使用中变得更好用了，而不只是基准测试成绩提升。
@no_stp_on_snek：微调小型开放模型时真正让我惊讶的事情。注意，我在这方面还算新手，所以有些内容可能看起来很显而易见……
一位开发者分享了微调小型开放模型时令人惊讶的经验教训，包括基础模型往往已经在预期改进点上达到极限，真正的弱点在于行为（屈服），而微调需要仔细的衡量和平衡。
@no_stp_on_snek: 微调现场笔记：模型的构建方式决定了你甚至能更改什么。有些模型你可以自由调整…
一条关于微调现场笔记的推文系列，解释了模型架构（如高度量化或混合专家模型）如何限制可调整的部分，并敦促从业者在规划工作前检查模型的可访问性。
@no_stp_on_snek: https://x.com/no_stp_on_snek/status/2074471505128305095
一位微调实践者讲述，他发现一个小型开源模型的弱点并非智力不足，而是一种讨好型人格的“骨架”，导致它在压力下屈服；而纠正这一点时，又意外破坏了其格式化能力，需要通过加法而非减法来平衡调整。