标签
推荐本地部署的换脸 LoRA「BFS-Best-Face-Swap」,支持面部、头部与身体替换并保留原图头发、肤质、光影,提供 ComfyUI 工作流、Draw Things 预设及 Python Diffusers 部署方式。
该论文介绍了 Saidzoda-Tajik-LFM-2.6B,这是基于 Liquid AI 的 LFM2.5-2.6B-Base 进行塔吉克语适配的模型,旨在配置较低的硬件上实现工具调用,采用 LoRA 持续预训练,随后进行监督微调。塔吉克语工具调用准确率从 20.69% 跃升至 64.14%,但作者表明,持续预训练(CPT)会使模型丧失原生工具调用格式,并导致英语 MMLU 得分下降(从 60.8 降至 52.5)。
BYOD 提出了一种仅使用 LoRA 的方案,可高效地将自回归语言模型转换为扩散语言模型,在冻结所有基础参数的情况下,仅需在单个 Colab GPU 上运行约 3–4 小时,即可完成 Gemma 2 9B、Llama 3.1 8B、Qwen2.5 7B 和 Ministral 8B 的转换。
该论文评估了多种基于大语言模型的策略,用于从学术摘要和全文中提取知识实体关系,发现经 LoRA 适配的 T5 模型取得了最高的宏平均 F1 分数,而混合使用小语言模型与大语言模型的策略进一步提升了性能。
本文提出了双向 KV 缓存修补方法,用于追踪微调所形成的行为如何在语言模型中实现。研究表明,通过复用 KV 缓存,可以在经 LoRA 微调的模型与其基础模型之间迁移用德语回答或涌现性失对齐等行为,其影响主要集中在系统提示和聊天模板位置等关键词元上。
HyperRepair 是一种框架,仅需推理成本即可恢复微调语言模型的通用能力,同时保留其领域专长。它利用超网络,根据激活指纹生成修复侧网络(Repairing Side Net)。该框架在两个模型家族、12 个 LoRA 适配数据集和 15 项通用基准上进行了评估,通用能力得分达到基础模型的 93.4%,同时保留了微调模型 99.5% 的领域性能。
提出 CLIK,一个上下文条件化的参数生成器,通过单次前向传播将上下文映射为 LoRA 参数,把知识内化到模型权重中,无需测试时梯度更新,在文档问答和多轮对话上优于现有超网络方法。
Liquid AI 发布了基于 LFM2.5-24B 训练的 LoRA 适配器,可与 Pi 和 Claude Code 配合使用,从而提高智能体开发效率,在 Pi 上最多可减少 40% 的工具调用。
Princeton 与 Meta 的新论文提出 Self-Direction 方法:让失败的 AI 智能体反思并将教训训练成约 0.02% 大小的 LoRA 适配器,由路由器在遇到相似任务时自动加载,从而显著减少重复错误。在 Qwen3.6-27B 上,GAIA 任务成功率从 38.8% 提升至 55.8%,且跨 185 个早期错误的修复持久性远超普通重试。
提出一种层级低秩重参数化方法,将PEFT方法的可训练参数重组为近似方阵并递归进行低秩分解,可在压缩约一个数量级参数的同时保持甚至提升LoRA/DoRA在常识推理与数学推理任务上的性能。
一篇新的 arXiv 论文提出了功能秩分配(FRA),这是一种无需标注的方法,通过功能秩失真前沿和共享秩预算下的适配器群级极小极大分配,压缩大规模 LoRA 适配器群。在来自三个公开适配器群的 78 个适配器上,该方法相较于均匀谱压缩,提升了最坏情况和尾部效用。
一个开箱即用的代码仓库,通过 EMA 教师模型实现自蒸馏,将 LoRA 适配器与 DeepSpeed ZeRO-3 相结合,可扩展至大型模型,同时避免分别保留完整教师模型和学生模型所带来的内存与延迟开销。已在 Qwen3.5 和 ToolAlpaca 上完成测试,包含适配器切换、EMA 检查点保存以及内存优化的 DeepSpeed 配置。
PrunaAI 发布了适用于 Qwen-Image-2.1 的 6 步 LoRA 适配器,将图像生成步数从 40 步减少到 6 步,其中一个变体完全移除了提示词扩写步骤,使端到端生成速度提升至约 5 倍。
该论文提出 Parametric Session State (PSS),一种将长对话交互编译为固定形状的 LoRA 会话记忆层,使 RAG 系统在无需重放历史的情况下恢复未明确表述的查询中的检索意图,并在受控与公开评测中验证其跨模型与检索后端的有效性。
一篇分析 LoRA 对学习率选择的敏感性并提出 Init[A²] 的论文。Init[A²] 是一种采用方差缩放的新初始化方案,可抑制初始化引入的噪声,稳定非对称 LoRA+ 训练,并拓宽大语言模型微调的稳定学习率范围。
Venus-DefakerOne2 是一种统一的视觉防伪基础模型,利用 Tide-Style-Tuning 和基于熵的测试时自适应,将检测范围扩展至不同伪造形式(数字篡改、物理欺骗)和媒体类型(图像、视频),并在多个取证基准测试中取得了最先进的成果。
该论文提出了 DIAL-S2ST,一种后训练方法,通过对前瞻预测进行自蒸馏并联合训练 LoRA 适配器,使同声语音到语音翻译模型学会在推理时控制延迟。该方法仅使用 10 小时的源语言语音,便在基于 Hibiki 的法语到英语翻译中展示了灵活的延迟控制能力。
Rollback 提出了一种利用世界模型回溯到过去的决策点、探索反事实动作并生成细粒度动作级监督的策略改进范式,同时通过真实机器人反馈持续优化世界模型动力学,在三项真实任务上显著提升了机器人策略成功率。
Licon VBVR 是一个针对 MiniMax-H3 的图像转视频 LoRA,基于重建的 VBVR 数据训练,可减少物体复制、裁剪与穿插问题,并提升角色动作逻辑与空间一致性。
这篇论文介绍了一种“类型化决策”的系统 1 接口:通过一次前向传播,直接从模型的 logits 或小型分类头输出固定选项的概率,用于替代昂贵的前沿大语言模型评判器。作者部署了一个自托管的秩为 16 的 LoRA 评判器,对 14.8 万条智能体编码会话记录进行分流,成本仅为前沿模型评判器的约 1%;并在 JevBench 上使用 350 亿参数的开源模型达到 79.3%,与商业参考系统(73.0%)无显著差异。