标签
该论文提出 Fiber Regulation Theory (FRT) 与 Fiber Acquisition Theory (FAT) 两个理论框架,刻画受保护的功能修复与可训练结构的形成/续期动力学,并在 Qwen2.5-32B 上通过受保护头修复与固定容量 LoRA 续期验证联合策略优于单独策略。
一位开发者为 llama.cpp 分享了自定义的通用与融合 LoRA 内核,在 Strix Halo 上运行 LoRA 适配器时,提示词处理吞吐量从约 300 t/s 恢复到约 1400 t/s,并邀请其他人协助将这些改动推入上游。
该论文提出一个多粒度评估框架,结合字符错误率、音节错误率和分词错误率,评估藏语语音识别在多方言与不同适配策略下的表现,发现低字符错误率并不总带来更优的高层级指标,且 LoRA 适配在测试范围内仍逊于全量微调。
该论文提出 MoPE-LoRA,一种基于音素类别(发音方式)而非口音身份组织低秩专家的参数高效适配框架,用于带口音的英语语音识别;在 L2-ARCTIC 上零样本口音评估中相对单 LoRA 提升 12.3%。
论文提出 LSA-PAST,一种面向组合式增量学习(composition-IL)的参数高效方法,通过在冻结的 ViT 中注入深度特化的 LoRA 适配器,并利用无需复习的仿射变换将旧原型映射到新的适配器空间,实现了在精度—遗忘权衡上的 state-of-the-art 表现。
SolarRenderer 将任意引擎的无纹理结构通道结合参考首帧,生成风格化完整视频,基于 MiniMax-H3 构建,通过控制 LoRA 与少步蒸馏 LoRA 实现实时逐帧结构一致的渲染,无需按游戏训练。
使用 Jev(基于 Qwen 3.8 27B 的 LoRA 决策模型)驱动的贪吃蛇游戏。 模型在每一步操作时,根据棋盘状态的文本描述进行决策,延迟约为 600ms,运行在 llama.cpp 环境中。
一个小型开放模型 `qwen3-4b-deslop`,是基于 `Qwen3-4B-Instruct` 微调而来的模型,在一台 MacBook Air 上训练完成,用于消除常见的 AI 写作惯用手法(如破折号、"不是 X,而是 Y"句式、三项并列列表等)。它将每千字的 AI 味评分从 121 降至 12.5,同时保持事实准确性,并可通过 Ollama 在本地运行。
一篇教育性帖子,详细拆解了5种大语言模型参数高效微调(PEFT)技术——LoRA、LoRA-FA、VeRA、Delta-LoRA和LoRA+,并配以可视化说明,展示每种技术如何通过低秩适配来降低显存和训练成本。
MOSS-Image Turbo LoRA(4 步)v2.0 已在 Hugging Face 上发布,现已原生支持 Euler 采样器,可在任意标准 LoRA 加载器中使用默认 flow-matching 采样器运行,无需 CFG 或自定义管线文件,即可实现快速、高保真的中英双语文字渲染。
Kromoss 是 MOSS-Image-Base 在 1024px 分辨率下的全量微调模型,附带两个 8 步加速 LoRA(DMD 与 DMD2 蒸馏版),并支持 diffusers 和 ComfyUI 即插即用,同时提供 int8 量化版本。
该论文提出使用参数高效微调(PEFT/低秩适配器)来适配超大多模态骨干网络进行脑编码,Brain LoRA 在 Algonauts 2025 挑战赛中取得最佳公开成绩,并通过 multi-LoRA kernel 支持 200+ 模型集成。
asmsense 是一个包含 228k 个去符号 x86-64 函数的数据集,带有源码感知标签,并配套一个 Qwen3-8B+LoRA 模型,用于对去符号二进制文件中的函数进行命名和描述;同时提供一份详细的缺失数据路线图,包括 ARM64/RISC-V 支持以及 GCC/ELF 构建等内容。
讨论使用 LoRA 适配器作为比 Heretic 等工具更便宜、更灵活的方案,从大语言模型中移除拒绝回答和内容审查,涉及 weightless 这个 GitHub 项目,以及类似的针对图像模型文本编码器的 LoRA。
一个拥有 6 亿参数的 d3-edge 模型,在数千个示例上通过 SFT + LoRA 进行微调后,在类型化决策任务上超越了拥有 270 亿参数的 d3 决策模型,并在 Banking77 上取得了几乎与之持平的表现,凸显了微调小型专用模型相较于使用大型通用模型的价值。
已在 Hugging Face 上发布 lodestones/MOSS-Image-SFT-8-steps-dmd,这是一个工作进展检查点,通过 data-space DMD 方法将 MOSS-Image-SFT(50 步、CFG 3)蒸馏为 8 步、无需 CFG 的版本,可作为 LoRA 在 ComfyUI 中使用。
本文表明,在设备端直接进行少样本 LoRA 个性化会降低五个意图分类基准上的范围外(OOS)拒识 AUROC,同时保持范围内准确率,并提出了一种无需训练的修正方法,通过基于马氏距离的拒识评分,在五个数据集中的三个上恢复了大部分损失的性能。
阿里巴巴 TaoLive AIGC 团队发布了 TaoMate-H3-FL2VA,据称是首个实时流式首尾帧控制的音频-视频生成(FL2VA)模型,基于 MiniMax H3 的三步 LoRA,支持低延迟分块生成与 480p/768p/1080p 分辨率。
AcrossVAM2.0 提出一种冲突感知的点对应监督方法,用于参数高效的视频扩散模型适配,通过置信度加权跟踪头、零初始化残差反馈和非对称 PCGrad,在保持预训练外观先验的同时提升对应一致性,但并不均匀改善视频质量。
提出「在前沿LLM上迭代开发行为,再蒸馏到小模型(SLM)上线」的两阶段方法:用LoRA微调的Qwen3-8B在家庭护理排班智能体的生产决策上达到0.913一致率,优于教师模型GPT-5.4-nano自身重跑时72.7%的自我一致性,且延迟降低约2.5倍、成本大幅下降。论文已被NeurIPS 2026第二届企业任务智能体基准与应用研讨会(AABA4ET)接收。