circuit-preservation

本文研究了LLM中灾难性遗忘的机制起源，发现强化学习比监督微调更好地保留了内部计算电路，从而减少了对先前能力的遗忘。