freezing

标签

Cards List
#freezing

TopoTuner: 大型语言模型的拓扑微调

arXiv cs.AI · 2026-07-21 缓存

介绍TopoTuner,一种拓扑引导的微调框架,通过持续图之间的Wasserstein距离测量拓扑漂移,从而选择性冻结注意力投影矩阵。该框架在仅训练1-2%参数的情况下,性能与全微调相当,并在大多数设置中优于LoRA。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈