标签
本文提出了一种可解释的、领域无关的文本脱敏方法,该方法利用语言模型的指令调优,基于自然语言规则识别和脱敏敏感信息。
本文研究指令微调如何影响问答任务中的模型置信度与词汇多样性,发现指令微调会改变置信度并降低推理多样性,但并未改善校准性能。
NeuPAT 是一个轻量级、架构无关的框架,在多模态指令微调过程中分配神经元级别的更新约束,以保持多模态大语言模型(MLLM)的语言能力,可恢复普通微调所导致的语言退化中的 94.5%。
SemiAdapt-Instruct proposes a modular framework that discovers latent instruction domains, trains per-domain LoRA adapters in parallel, and routes among them without extra parameters, enabling extensible instruction tuning where new domains require only single-adapter updates instead of full retraining.
本文表明,知识蒸馏对小型语言模型中的偏见具有非对称影响:在无歧义任务上,它提升了上下文遵循能力,但在有歧义任务上却损害了拒答校准;并提出了PCCD,一种用于诊断聚合指标遗漏的逐项损害的协议。
HSS-Synth 首次提出了面向人文与社会科学的数据合成流水线,生成了 237k 个高质量的指令微调样本,在 Qwen3-8B 上超越了基线并取得了新的 SOTA。
本文研究了指令微调大型语言模型中的句法趋同现象,发现它们在对话上下文中重用人句法的频率超过人类自身,并且指令微调增加了对句法模式的依赖。
IKS-Instruct 是一个包含24,795个指令-响应对的多语言数据集,用于教导语言模型印度知识体系(Indian Knowledge Systems),涵盖七种印度语言和41种教学技术。评估表明,经过微调的7B模型在IKS特定任务上的表现与更大的通用模型具有竞争力。
SiGMA 提出了在训练阶段的符号引导自适应微调以及在推理阶段的符号引导合并,以减轻多模态持续指令微调中的负面干扰,在 UCIT 和 DCL 基准测试上取得了最先进的结果。
PlanE 提出了一种用于构建基于抽取的LLMs的元规划框架,通过数据-微调-推理规划器优化数据分解、指令微调和提示推理,以提高构建效率。
AMD发布Instella-MoE,一个完全开源的160亿参数混合专家语言模型,其中28亿参数被激活,从头使用AMD Instinct GPU训练,并发布了从预训练到强化学习的所有训练阶段。
本文介绍了 EoBench,这是一个基准测试,用于测试 LLMs 对以 19 种不同风格表述的虚假主张的接受程度,发现语气、确定性和语法形式显著影响模型响应,而更大的模型和经过指令调优的模型显示出更强的抵抗力。
本文研究了迭代指令微调中使用合成数据时的模型崩溃问题,揭示了崩溃表现为能力极化:强项被强化,弱项则进一步退化。提出了KITE,一个两阶段框架,结合失败引导的数据生成和边界感知的不确定性筛选,确保在多次迭代中稳定提升。
本文研究了多模态指令调优如何重新组织Transformer隐藏状态中身份指定提示的几何编码,发现指令调优后编码从基于方向转变为基于幅度。
一个从零开始在英文维基百科上训练、并经过指令微调以用于对话式AI的2.7亿参数语言模型,作为独立研究项目开发。
本文介绍了序列学习中基于李括号的迁移顺序预测方法,利用梯度场的交换子确定成对顺序,并可扩展到多个领域。实验表明,该方法在预测微调和指令调优的最优课程顺序方面具有高准确性。
本文提出NaviGen框架,通过双标识符和两阶段SFT+RL流水线将用户行为编码为可执行指令,实现个性化多模态内容生成,在商品、游戏和短视频领域提升了个性化效果。
本文研究指令调优LLMs(特别是Gemma-3-12B)中的一个对齐漏洞,通过展示预令牌隐藏状态偏移可以作为对齐策略遍历向量,从而可能绕过安全措施。
本文报告了一个观察结果:在回答问题前阅读一篇长而结构化的文本,会改变模型后续的回答方式。该现象在Claude上得到行为证据支持,并在开放权重的Gemma模型上进行了机制分析,结果显示,指令微调变体中的隐藏状态具有可分离性,且概率分布更加清晰。
文章报告了LLM中的一个潜在对齐漏洞:模型在处理一个结构化的段落之后,即使后续问题与段落内容完全无关,其回答也可能发生变化。来自Gemma-3-12B的机制证据显示了隐藏状态的分离。