interactions

本文提出了一种基于博弈论交互的统一方法，用于解释大型语言模型中的知识蒸馏，发现蒸馏会稀疏化交互，并引入了一种损失函数CIP来提升性能。