instruction-tuning

标签

Cards List
#instruction-tuning

[全新发布] - Supra2.5-65M Base 和 Instruct - 我们下一代最先进的小模型系列 - 首款模型!

Reddit r/LocalLLaMA ↗ · 6天前

SupraLabs 宣布推出 Supra2.5-65M,这是一个全新的、达到业界领先水平的小型模型系列,包含 6500 万参数的基础版和指令微调版,使用 1000 亿个词元在本地历时 4 天训练而成,现已在 Hugging Face 上发布,并提供适用于 llama.cpp、Ollama 和 Unsloth 的 GGUF 量化版本。

0 人收藏 0 人点赞
#instruction-tuning

3, 7, 14, 17, 42:指令微调在语言模型中植入并强化数字选择启发式策略

arXiv cs.CL ↗ · 2026-10-28 缓存

该论文精确计算了语言模型在被要求随机选数时对每个整数的完整概率分布,发现指令调谐使分布更不均匀:安装了避免轮数的启发式并强化了避免端点值的倾向,但未产生跨模型共享的偏好整数。

0 人收藏 0 人点赞
#instruction-tuning

MMedAgent-Plus:跨模态、跨任务与跨工作流扩展多模态医疗智能体

arXiv cs.CL ↗ · 2026-10-21 缓存

MMedAgent-Plus 是一个多模态医疗工具使用智能体,将视觉-语言规划器与 18 个专科模型相结合,覆盖 12 项医疗任务和 8 种模态,能够编排多步临床工作流。其专科模型调用正确率达 90.6%,最终回答准确率为 0.98,远超最强基线(0.28)。

0 人收藏 0 人点赞
#instruction-tuning

适配沃洛夫语的工业级开放权重语言模型

arXiv cs.CL ↗ · 2026-10-16 缓存

Orange Research 推出了针对沃洛夫语适配的 Qwen 开放权重模型,参数规模从 6 亿到 140 亿不等,采用了指令微调、偏好对齐和模型合并技术。沃洛夫语的使用者约有 2300 万。这些模型在沃洛夫语任务上的表现可与规模大得多的商业系统媲美,目前正在客户服务场景中试点部署,相关数据和模型权重均已公开发布。

0 人收藏 0 人点赞
#instruction-tuning

通过免训练的权重编辑抵抗有害指令

Hugging Face Daily Papers ↗ · 2026-10-15 缓存

该论文提出一种训练无关的权重编辑方法,通过少量对比提示对直接修改模型权重,降低指令微调模型对有害指令(如说谎、性别歧视)的服从率,并在五个模型上验证了其优于激活引导等方法的鲁棒性。

0 人收藏 0 人点赞
#instruction-tuning

语言模型中的自我保护

arXiv cs.CL ↗ · 2026-10-12 缓存

纽约大学、谷歌研究院和康奈尔大学的一篇论文研究了语言模型能否在持续学习过程中,通过生成回放数据并选择要回放的先前任务来支持自身的自我保全。研究表明,基于任务库信息的自我回放能够减少 Qwen 模型对留出任务的遗忘。

0 人收藏 0 人点赞
#instruction-tuning

语言模型的自我保存

Hugging Face Daily Papers ↗ · 2026-10-08 缓存

该论文研究语言模型的自我保存能力,通过构建任务库(Task Banks)引导冻结模型生成回放数据,在Qwen系列模型上的实验表明,生成式回放能减少持续学习中的遗忘,且模型在部分场景下可自主选择回放目标以保护自身能力。

0 人收藏 0 人点赞
#instruction-tuning

通过多编程语言指令微调与集成方法提升生物医学命名实体识别

arXiv cs.CL ↗ · 2026-10-05 缓存

MITE 将生物医学命名实体识别重构为结构到结构的生成任务,使用多种编程语言格式(Python、C++、Java)来表示指令与实体输出,并在推理阶段通过实体级别投票来提升鲁棒性。在六个 BioNER 数据集上的实验表明,该方法优于基于 BERT 和 LLM 的基线方法,并展现出较强的跨数据集泛化能力。

0 人收藏 0 人点赞
#instruction-tuning

我仅用 86.5B tokens 从零训练了一个 3.87B 参数的 MoE 模型(激活参数 1.45B)

Reddit r/LocalLLaMA ↗ · 2026-10-04 缓存

YOON1v 发布了 Apex-2,一个从零训练的 decoder-only 混合专家(MoE)大语言模型,总参数 3.87B / 激活参数 1.45B,使用 86.5B tokens 进行预训练并做了 SFT 微调,完整的代码、架构详解和基准测试结果(HumanEval 43.9)已在 Hugging Face 和 GitHub 上公开。

0 人收藏 0 人点赞
#instruction-tuning

多轮图像编辑的在线自蒸馏

Hugging Face Daily Papers ↗ · 2026-09-28 缓存

本文提出MT-OPSD,一个非策略自蒸馏框架,以解决多轮图像编辑中的退化问题,并引入LME-Bench用于评估长期鲁棒性。

0 人收藏 0 人点赞
#instruction-tuning

重新布线还是门控?指令调优如何塑造LLM中的知识冲突回路

arXiv cs.LG ↗ · 2026-09-23 缓存

本文对指令调优下LLM中的知识冲突回路进行了机制性比较,发现调优是门控而非重新布线这些回路,跨越多个模型家族,对可解释性具有影响。

0 人收藏 0 人点赞
#instruction-tuning

‘作为语言模型...’:聊天模板切换LLM自指性语音,激活导向再现此现象

arXiv cs.LG ↗ · 2026-09-23 缓存

该研究揭示,聊天模板控制语言模型是否采用免责声明语音(例如,“我只是个AI”)或体验性语音(例如,“我感觉”),并识别出可引导此行为的激活方向,对AI安全研究产生影响。

0 人收藏 0 人点赞
#instruction-tuning

ImIR: 基于图像指令调优的一体化图像修复

Hugging Face Daily Papers ↗ · 2026-09-21 缓存

ImIR 通过使用源自图像的指令,适配预训练图像编辑模型以执行六种图像修复任务,实现高效且任务无关的修复。

0 人收藏 0 人点赞
#instruction-tuning

@AtriaASI:我们感谢OpenBMB通过UltraData-SFT-Agent-2609支持Atria Dawn Preview。该数据集的高质量…

X AI KOLs Timeline ↗ · 2026-09-16 缓存

OpenBMB发布了UltraData-SFT-Agent-2609,这是一个包含50万个样本的数据集,用于代理指令调优,并在MiniCPM5-2B模型的后训练中使用。

0 人收藏 0 人点赞
#instruction-tuning

SalamandraTA at WMT 2026 Terminology Shared Task: 困难样本是更好的教师

arXiv cs.CL ↗ · 2026-09-10 缓存

本文提出了一种用于术语感知翻译的数据选择方法,仅在模型输出与术语表相矛盾的困难样本上进行训练,从而提高了术语准确率,并描述了BSC系统在WMT26术语共享任务中的提交。

0 人收藏 0 人点赞
#instruction-tuning

大语言模型从规则中学得比从示例中更好

arXiv cs.CL ↗ · 2026-09-04 缓存

本文对比了大语言模型中基于规则与基于示例的上下文学习,发现规则在各类任务中通常能带来更可靠的学习效果,并探讨了模型特性与任务特性对此的影响。

0 人收藏 0 人点赞
#instruction-tuning

EmoStance: 通过表情符号弱监督实现响应侧情感取向控制的共情响应生成

arXiv cs.AI ↗ · 2026-09-03 缓存

EmoStance是一种用于共情响应生成的方法,它使用表情符号弱监督来建模响应侧的情感取向,从而提高对话中的上下文特异性和感知响应性。

0 人收藏 0 人点赞
#instruction-tuning

输出格式如何混淆指令调优中的数据质量与能力

arXiv cs.CL ↗ · 2026-09-03 缓存

本文表明,在指令调优中,输出格式混淆了数据质量指标和模型能力评估,导致显著的精度偏移,并使得当前方法在缺乏接口感知调整时失效。

0 人收藏 0 人点赞
#instruction-tuning

通过指令微调小型语言模型进行渐进式老年金融诈骗的增量风险评估

arXiv cs.AI ↗ · 2026-09-02 缓存

本文提出了一种基于累积回合的风险评估框架,利用微调的小型语言模型,在针对老年人的多轮对话中增量检测金融诈骗。

0 人收藏 0 人点赞
#instruction-tuning

从专业化到通用化:指令微调大语言模型用于健壮有害内容缓解

arXiv cs.CL ↗ · 2026-08-27 缓存

本文研究了通过指令微调通用大语言模型来实现健壮的有害内容缓解,特别是仇恨言论检测,使用了一个包含36个数据集的统一语料库,取得了最先进的性能,并增强了跨领域和跨语言的泛化能力。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈