language-switching

Type Switch 3.0 for macOS 让多语言 Mac 用户能够即时切换语言。

本文识别了在80亿参数语言模型中语言切换后门的底层电路，其中三个词的拉丁触发器通过注意力头和正交潜在子空间将英语输出重定向为法语，最后一层的MLP将潜在信号转换为法语logits。