@_akhaliq: Code2LoRA 软件演化下代码语言模型的超网络生成适配器
摘要
本文介绍了Code2LoRA,一种基于超网络的方法,用于生成代码语言模型的适配器,以应对软件演化中的挑战。
Code2LoRA
软件演化下代码语言模型的超网络生成适配器 https://t.co/e4vq1C83mY
查看缓存全文
缓存时间: 2026/06/05 17:19
Code2LoRA
超网络生成的适配器,用于软件演化下的代码语言模型 https://t.co/e4vq1C83mY
相似文章
Code2LoRA:超网络生成的适配器,用于软件演进中的代码语言模型
Code2LoRA 引入了一个超网络,该超网络能够从代码仓库中一次性前向传播生成 LoRA 适配器,使得冻结的代码大语言模型无需额外 token 即可适应仓库上下文,并高效支持不断演进的代码库。此外,它还提供了 RepoPeftBench,一个用于仓库条件代码建模的基准测试。
Compliance2LoRA:通过超网络生成的LoRA适配器在任意策略子集上实现按需安全对齐
Compliance2LoRA提出了一种基于超网络的框架,可为大型推理模型按需生成符合策略的LoRA适配器,从而在无需重新训练单独模型的情况下,实现跨任意策略子集的可调安全对齐。
Doc2LoRA 提供科学思想的可解码表征
该论文提出了 Doc2LoRA,一个将科学论文映射为 LoRA 适配器的超网络,使每一个嵌入点——包括论文的混合表示——都成为可被问答的大语言模型,从而既能实现新思想的可解释性生成,又能在 APS 论文上取得有竞争力的检索性能。
智能体通过将切换LoRA适配器作为工具(SLAaaT)解锁新能力
本文介绍了SLAaaT,这是一种使AI智能体在轨迹中动态切换专用LoRA适配器的方法,提高了能力的组合性,并在合成编码任务上超越了基线。
JumpLoRA:大语言模型持续学习的稀疏适配器
JumpLoRA 引入了一个新颖的稀疏适配器框架,用于大语言模型的持续学习。该方法使用 JumpReLU 门控来动态隔离任务参数并防止灾难性遗忘。它增强了基于 LoRA 的方法,并超越了 ELLA 等最先进的持续学习方法。