@_akhaliq: Code2LoRA 软件演化下代码语言模型的超网络生成适配器

X AI KOLs Following 论文

摘要

本文介绍了Code2LoRA,一种基于超网络的方法,用于生成代码语言模型的适配器,以应对软件演化中的挑战。

Code2LoRA 软件演化下代码语言模型的超网络生成适配器 https://t.co/e4vq1C83mY
查看原文
查看缓存全文

缓存时间: 2026/06/05 17:19

Code2LoRA

超网络生成的适配器,用于软件演化下的代码语言模型 https://t.co/e4vq1C83mY

相似文章

Code2LoRA:超网络生成的适配器,用于软件演进中的代码语言模型

Hugging Face Daily Papers

Code2LoRA 引入了一个超网络,该超网络能够从代码仓库中一次性前向传播生成 LoRA 适配器,使得冻结的代码大语言模型无需额外 token 即可适应仓库上下文,并高效支持不断演进的代码库。此外,它还提供了 RepoPeftBench,一个用于仓库条件代码建模的基准测试。

Doc2LoRA 提供科学思想的可解码表征

arXiv cs.CL

该论文提出了 Doc2LoRA,一个将科学论文映射为 LoRA 适配器的超网络,使每一个嵌入点——包括论文的混合表示——都成为可被问答的大语言模型,从而既能实现新思想的可解释性生成,又能在 APS 论文上取得有竞争力的检索性能。

JumpLoRA:大语言模型持续学习的稀疏适配器

arXiv cs.CL

JumpLoRA 引入了一个新颖的稀疏适配器框架,用于大语言模型的持续学习。该方法使用 JumpReLU 门控来动态隔离任务参数并防止灾难性遗忘。它增强了基于 LoRA 的方法,并超越了 ELLA 等最先进的持续学习方法。