标签
一种名为PSSA的新AI架构在文本生成任务中超越了参数匹配的Transformer，并且在CPU上速度快12倍，其实现细节和代码可在GitHub上获取。
一项在令牌级别比较Olmo Hybrid和Olmo 3 Transformer的研究显示，混合模型能更好地预测有意义的令牌（如名词/动词），而Transformer模型则擅长从输入中复制令牌。