标签
一位从业者分享了微调一个小型开源模型后令人意外的发现——模型在实际使用中变得更好用了，而不只是基准测试成绩提升。
一条关于微调现场笔记的推文系列，解释了模型架构（如高度量化或混合专家模型）如何限制可调整的部分，并敦促从业者在规划工作前检查模型的可访问性。
作者分享的现场笔记显示，微调可以通过引导注意力来提升模型的判断力，无需添加新知识或权重，实际上是改变其本能而非智商。