adapters

标签

Cards List
#adapters

ACE:MoE大语言模型参数高效微调的跨专家适配器整合

arXiv cs.LG · 6天前 缓存

ACE提出了一种方法,用于整合MoE大语言模型中跨专家的冗余适配器,以实现更高效的参数高效微调,训练速度提升最高可达1.48倍,且不增加峰值内存。

0 人收藏 0 人点赞
#adapters

LatentPress: 上下文压缩超越文本和视觉

Hugging Face Daily Papers · 2026-09-01 缓存

LatentPress介绍了一种将对话和文档上下文压缩为连续记忆令牌的方法,使冻结解码器无需文本重建即可直接读取,实现更高的压缩比并在长上下文任务上提升性能。

0 人收藏 0 人点赞
#adapters

PSK 在 WMT 2026 MIST:用于多语言摘要和问答的任务专用 QLoRA 适配器

arXiv cs.CL · 2026-08-24 缓存

论文描述了提交给 WMT 2026 MIST 共享任务的内容,使用 Tiny Aya Global 模型以及为多语言摘要和问答任务专门设计的 QLoRA 适配器。

0 人收藏 0 人点赞
#adapters

我为AI智能体构建了一个开源互操作层

Reddit r/AI_Agents · 2026-08-20

作者构建了两个开源项目:A2A Adapter 和 Hybro,以实现不同AI智能体之间的互操作性,使它们能够协作而不互相替代。

0 人收藏 0 人点赞
#adapters

@HuggingPapers:YOLO-PEFT 腾讯研究人员提出一种结构感知框架,将适配器放置转化为可审计的约束规划…

X AI KOLs Timeline · 2026-08-10 缓存

腾讯研究人员提出YOLO-PEFT,一种结构感知框架,将适配器放置视为约束规划,在YOLO检测器上优于全量微调,同时使用的可训练参数显著更少。

0 人收藏 0 人点赞
#adapters

Beyond Full-Model Rollback: AuroSFT for Adapter-State Multi-Task Fine-Tuning

arXiv cs.LG · 2026-08-07 缓存

AuroSFT introduces a parameter-efficient adapter-based framework for multi-task supervised fine-tuning that rolls back adapter checkpoints at task-wise peaks instead of full-model checkpoints, achieving higher average accuracy than mSFT.

0 人收藏 0 人点赞
#adapters

SemiAdapt-Instruct: Extensible Instruction Tuning via Latent Domain-Specialised Adapters

arXiv cs.CL · 2026-08-07 缓存

SemiAdapt-Instruct proposes a modular framework that discovers latent instruction domains, trains per-domain LoRA adapters in parallel, and routes among them without extra parameters, enabling extensible instruction tuning where new domains require only single-adapter updates instead of full retraining.

0 人收藏 0 人点赞
#adapters

LARA:残差流中的轻量级适配器,用于可组合的适应与对齐

arXiv cs.LG · 2026-08-03 缓存

LARA 是一种高效适应方法,它向冻结模型的残差流添加低秩修正,而不是修改权重,在匹配 LoRA 性能的同时实现可组合行为和推理时调控。

0 人收藏 0 人点赞
#adapters

SafeGene: 可复用的适配器实现可迁移的安全对齐

arXiv cs.AI · 2026-06-08 缓存

SafeGene 提出了一种可复用的安全适配器模块,将安全能力与任务特定更新解耦,从而通过少样本重校准,在下游微调后高效恢复开放权重大语言模型的安全对齐。

0 人收藏 0 人点赞
#adapters

@_akhaliq: Code2LoRA 软件演化下代码语言模型的超网络生成适配器

X AI KOLs Following · 2026-06-05 缓存

本文介绍了Code2LoRA,一种基于超网络的方法,用于生成代码语言模型的适配器,以应对软件演化中的挑战。

0 人收藏 0 人点赞
#adapters

关于PEFT的规模化:迈向万亿参数的百万个性化模型

Hugging Face Daily Papers · 2026-06-01 缓存

本文探索将参数高效微调(PEFT)用作持久化个性化模型的紧凑基底,研究了向上、向下和向外扩展,并介绍了用于管理适配器的MinT。

0 人收藏 0 人点赞
#adapters

@TanejaPriyal: 我想理解LoRA不仅仅是“适配器比全微调更便宜”。于是,我写了一个两部分的系列文章,并进行了…

X AI KOLs Timeline · 2026-05-26 缓存

作者使用vLLM在一张GPU上对服务1000个LoRA适配器进行了基准测试,发现活跃适配器数量和流量模式才是真正的瓶颈,并提供了调优max_loras的建议。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈