标签
Liquid AI 发布了基于 LFM2.5-24B 训练的 LoRA 适配器,可与 Pi 和 Claude Code 配合使用,从而提高智能体开发效率,在 Pi 上最多可减少 40% 的工具调用。
IBM 发布 Granite Switch 4.1.1,这是其模块化 Switch 架构的一次向后兼容的补丁更新,新增了更新的多语言 Granite Speech 自动语音识别(ASR)模型和改进的 Decision 适配器,无需重新训练基础模型。
本文在不修改权重的情况下,评估了拥有 3.05 亿参数的 Gemma 4/EmbeddingGemma 2 语音编码器在沙特及海湾阿拉伯语自动语音识别(ASR)任务上的表现,将冻结的 CTC 解码器和引入适配器的系统与 Cohere Transcribe Arabic 及其他基线系统进行比较,结果显示其字符错误率(CER)具有竞争力,且效率显著提升。代码和结果均已公开。
IBM 发布 Granite Switch 4.1 30B/8B,这是一个模块化 LLM,将基座模型、多个 aLoRA 适配器(决策、guardian)和语音编码器组合在一起,通过单个端点即可在聊天、通用/专业决策和语音转文本之间切换,采用 Apache 2.0 许可。
IBM 推出 Granite Switch 4.1(8B 与 30B),通过 aLoRA 适配器在同一端点上组合聊天、决策与语音转写能力,几乎不额外占用 VRAM。新增 Decision 与 Guardian aLoRA,并嵌入 OpenASR 榜单最快的 Granite-Speech-5.0-Turbo-CTC 模型。
CAFE提出将CKA特征蒸馏的梯度限制在英语旁路的语言路由适配器中,解决了多语言紧凑ASR中英语与非英语WER的权衡问题,在Open ASR Leaderboard上将平均WER从8.55%降至8.02%。
论文提出 MaRK(Markov-adapted Recurrent Kernels),一种将上下文向量直接映射为冻结 SSM 递归参数有界调制的动态算子条件化框架,用于将预训练 SSM 适配到迭代扩散生成任务,在 111M Hydra 骨干上仅需 6.3–11M 可训练参数,其中 Chebyshev 变体表现最佳。
作者正在讨论哪些来自AI时代之前的代码库设计技术仍然对AI代理有用,作为编写代码库设计课程的一部分。
ACE提出了一种方法,用于整合MoE大语言模型中跨专家的冗余适配器,以实现更高效的参数高效微调,训练速度提升最高可达1.48倍,且不增加峰值内存。
LatentPress介绍了一种将对话和文档上下文压缩为连续记忆令牌的方法,使冻结解码器无需文本重建即可直接读取,实现更高的压缩比并在长上下文任务上提升性能。
论文描述了提交给 WMT 2026 MIST 共享任务的内容,使用 Tiny Aya Global 模型以及为多语言摘要和问答任务专门设计的 QLoRA 适配器。
作者构建了两个开源项目:A2A Adapter 和 Hybro,以实现不同AI智能体之间的互操作性,使它们能够协作而不互相替代。
腾讯研究人员提出YOLO-PEFT,一种结构感知框架,将适配器放置视为约束规划,在YOLO检测器上优于全量微调,同时使用的可训练参数显著更少。
AuroSFT introduces a parameter-efficient adapter-based framework for multi-task supervised fine-tuning that rolls back adapter checkpoints at task-wise peaks instead of full-model checkpoints, achieving higher average accuracy than mSFT.
SemiAdapt-Instruct proposes a modular framework that discovers latent instruction domains, trains per-domain LoRA adapters in parallel, and routes among them without extra parameters, enabling extensible instruction tuning where new domains require only single-adapter updates instead of full retraining.
LARA 是一种高效适应方法,它向冻结模型的残差流添加低秩修正,而不是修改权重,在匹配 LoRA 性能的同时实现可组合行为和推理时调控。
SafeGene 提出了一种可复用的安全适配器模块,将安全能力与任务特定更新解耦,从而通过少样本重校准,在下游微调后高效恢复开放权重大语言模型的安全对齐。
本文介绍了Code2LoRA,一种基于超网络的方法,用于生成代码语言模型的适配器,以应对软件演化中的挑战。
本文探索将参数高效微调(PEFT)用作持久化个性化模型的紧凑基底,研究了向上、向下和向外扩展,并介绍了用于管理适配器的MinT。
作者使用vLLM在一张GPU上对服务1000个LoRA适配器进行了基准测试,发现活跃适配器数量和流量模式才是真正的瓶颈,并提供了调优max_loras的建议。