cross-layer-transcoders

标签

Cards List
#cross-layer-transcoders

规划还是即兴?在开放模型和开放跨层转码器上对诗歌规划位点进行压力测试

arXiv cs.CL ↗ · 2026-09-17 缓存

本研究在开放模型和跨层转码器上对语言模型中韵律规划的可泛化性进行压力测试,发现有效规划位置是发射相邻的,而非之前报道的换行符驻留。

0 人收藏 0 人点赞
#cross-layer-transcoders

剪枝、解释与评估:一种基于特征归因的跨层转码器原生高效电路发现框架

arXiv cs.CL ↗ · 2026-04-21 缓存

研究人员推出了 PIE,这是一种面向跨层转码器(CLT)的原生框架,通过基于特征归因的剪枝技术实现高效的电路发现。该方法在特征选择上实现了约 40 倍的压缩,同时成功保持了 IOI 和 Doc-String 任务的行为保真度。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈