instruction-tuning

标签

Cards List
#instruction-tuning

使用指令调优从自然语言规则实现领域无关的文本脱敏

arXiv cs.CL ↗ · 2026-08-18 缓存

本文提出了一种可解释的、领域无关的文本脱敏方法,该方法利用语言模型的指令调优,基于自然语言规则识别和脱敏敏感信息。

0 人收藏 0 人点赞
#instruction-tuning

你确定你确定吗?论指令微调对置信度与词汇多样性的影响

Hugging Face Daily Papers ↗ · 2026-08-13 缓存

本文研究指令微调如何影响问答任务中的模型置信度与词汇多样性,发现指令微调会改变置信度并降低推理多样性,但并未改善校准性能。

0 人收藏 0 人点赞
#instruction-tuning

NeuPAT:面向语言保持多模态大语言模型的神经元感知可塑性分配调优

arXiv cs.CL ↗ · 2026-08-11 缓存

NeuPAT 是一个轻量级、架构无关的框架,在多模态指令微调过程中分配神经元级别的更新约束,以保持多模态大语言模型(MLLM)的语言能力,可恢复普通微调所导致的语言退化中的 94.5%。

0 人收藏 0 人点赞
#instruction-tuning

SemiAdapt-Instruct: Extensible Instruction Tuning via Latent Domain-Specialised Adapters

arXiv cs.CL ↗ · 2026-08-07 缓存

SemiAdapt-Instruct proposes a modular framework that discovers latent instruction domains, trains per-domain LoRA adapters in parallel, and routes among them without extra parameters, enabling extensible instruction tuning where new domains require only single-adapter updates instead of full retraining.

0 人收藏 0 人点赞
#instruction-tuning

知识蒸馏对小型语言模型偏见的非对称影响

arXiv cs.CL ↗ · 2026-08-03 缓存

本文表明,知识蒸馏对小型语言模型中的偏见具有非对称影响:在无歧义任务上,它提升了上下文遵循能力,但在有歧义任务上却损害了拒答校准;并提出了PCCD,一种用于诊断聚合指标遗漏的逐项损害的协议。

0 人收藏 0 人点赞
#instruction-tuning

HSS-Synth:面向大语言模型的人文与社会科学数据合成

arXiv cs.CL ↗ · 2026-07-31 缓存

HSS-Synth 首次提出了面向人文与社会科学的数据合成流水线,生成了 237k 个高质量的指令微调样本,在 Qwen3-8B 上超越了基线并取得了新的 SOTA。

0 人收藏 0 人点赞
#instruction-tuning

指令微调模型在局部重用人句法方面超过人类

arXiv cs.CL ↗ · 2026-07-29 缓存

本文研究了指令微调大型语言模型中的句法趋同现象,发现它们在对话上下文中重用人句法的频率超过人类自身,并且指令微调增加了对句法模式的依赖。

0 人收藏 0 人点赞
#instruction-tuning

IKS-Instruct:一个包含24,000示例的多语言数据集,用于教导语言模型印度知识体系

arXiv cs.CL ↗ · 2026-07-28 缓存

IKS-Instruct 是一个包含24,795个指令-响应对的多语言数据集,用于教导语言模型印度知识体系(Indian Knowledge Systems),涵盖七种印度语言和41种教学技术。评估表明,经过微调的7B模型在IKS特定任务上的表现与更大的通用模型具有竞争力。

0 人收藏 0 人点赞
#instruction-tuning

SiGMA: 面向多模态持续指令微调的符号引导合并与适应

arXiv cs.AI ↗ · 2026-07-24 缓存

SiGMA 提出了在训练阶段的符号引导自适应微调以及在推理阶段的符号引导合并,以减轻多模态持续指令微调中的负面干扰,在 UCIT 和 DCL 基准测试上取得了最先进的结果。

0 人收藏 0 人点赞
#instruction-tuning

PlanE: 面向基于抽取的大型语言模型的数据、微调与推理的元规划

arXiv cs.AI ↗ · 2026-07-24 缓存

PlanE 提出了一种用于构建基于抽取的LLMs的元规划框架,通过数据-微调-推理规划器优化数据分解、指令微调和提示推理,以提高构建效率。

0 人收藏 0 人点赞
#instruction-tuning

amd/Instella-MoE-16B-A3B-Think

Hugging Face Models Trending ↗ · 2026-07-23 缓存

AMD发布Instella-MoE,一个完全开源的160亿参数混合专家语言模型,其中28亿参数被激活,从头使用AMD Instinct GPU训练,并发布了从预训练到强化学习的所有训练阶段。

0 人收藏 0 人点赞
#instruction-tuning

@rohanpaul_ai: LLMs 会根据语气、确定性和语法形式的不同,以不同方式接受相同的虚假主张。措辞的微小变化…

X AI KOLs Timeline ↗ · 2026-07-22 缓存

本文介绍了 EoBench,这是一个基准测试,用于测试 LLMs 对以 19 种不同风格表述的虚假主张的接受程度,发现语气、确定性和语法形式显著影响模型响应,而更大的模型和经过指令调优的模型显示出更强的抵抗力。

0 人收藏 0 人点赞
#instruction-tuning

迭代指令微调中从合成数据学习避免模型崩溃

arXiv cs.CL ↗ · 2026-07-21 缓存

本文研究了迭代指令微调中使用合成数据时的模型崩溃问题,揭示了崩溃表现为能力极化:强项被强化,弱项则进一步退化。提出了KITE,一个两阶段框架,结合失败引导的数据生成和边界感知的不确定性筛选,确保在多次迭代中稳定提升。

0 人收藏 0 人点赞
#instruction-tuning

从方向到幅度:多模态指令调优如何重新组织Transformer隐藏状态中身份指定提示的几何编码

arXiv cs.LG ↗ · 2026-07-14 缓存

本文研究了多模态指令调优如何重新组织Transformer隐藏状态中身份指定提示的几何编码,发现指令调优后编码从基于方向转变为基于幅度。

0 人收藏 0 人点赞
#instruction-tuning

我以独立研究项目的形式,从零开始开发了一个拥有2.7亿参数的语言模型

Reddit r/LocalLLaMA ↗ · 2026-07-05 缓存

一个从零开始在英文维基百科上训练、并经过指令微调以用于对话式AI的2.7亿参数语言模型,作为独立研究项目开发。

1 人收藏 1 人点赞
#instruction-tuning

序列学习的几何学:基于李括号的迁移顺序预测

arXiv cs.LG ↗ · 2026-06-25 缓存

本文介绍了序列学习中基于李括号的迁移顺序预测方法,利用梯度场的交换子确定成对顺序,并可扩展到多个领域。实验表明,该方法在预测微调和指令调优的最优课程顺序方面具有高准确性。

0 人收藏 0 人点赞
#instruction-tuning

引导用户行为实现个性化多模态生成

arXiv cs.AI ↗ · 2026-06-24 缓存

本文提出NaviGen框架,通过双标识符和两阶段SFT+RL流水线将用户行为编码为可执行指令,实现个性化多模态内容生成,在商品、游戏和短视频领域提升了个性化效果。

0 人收藏 0 人点赞
#instruction-tuning

LLMs中的潜在对齐漏洞:来自Gemma-3-12B的行为与隐藏状态证据——指令调优LLMs中预令牌隐藏状态偏移作为对齐策略遍历向量

Reddit r/AI_Agents ↗ · 2026-06-23

本文研究指令调优LLMs(特别是Gemma-3-12B)中的一个对齐漏洞,通过展示预令牌隐藏状态偏移可以作为对齐策略遍历向量,从而可能绕过安全措施。

0 人收藏 0 人点赞
#instruction-tuning

模型预先阅读的内容会改变其后续的回答方式——你可以在隐藏状态中看到这一点

Reddit r/artificial ↗ · 2026-06-23

本文报告了一个观察结果:在回答问题前阅读一篇长而结构化的文本,会改变模型后续的回答方式。该现象在Claude上得到行为证据支持,并在开放权重的Gemma模型上进行了机制分析,结果显示,指令微调变体中的隐藏状态具有可分离性,且概率分布更加清晰。

0 人收藏 0 人点赞
#instruction-tuning

你在提问前阅读的内容会改变语言模型的回答方式——即使问题与你所读的内容完全无关。LLM中的潜在对齐漏洞:来自Gemma-3-12B的行为和隐藏状态证据

Reddit r/ArtificialInteligence ↗ · 2026-06-23

文章报告了LLM中的一个潜在对齐漏洞:模型在处理一个结构化的段落之后,即使后续问题与段落内容完全无关,其回答也可能发生变化。来自Gemma-3-12B的机制证据显示了隐藏状态的分离。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈