标签
SupraLabs 宣布推出 Supra2.5-65M,这是一个全新的、达到业界领先水平的小型模型系列,包含 6500 万参数的基础版和指令微调版,使用 1000 亿个词元在本地历时 4 天训练而成,现已在 Hugging Face 上发布,并提供适用于 llama.cpp、Ollama 和 Unsloth 的 GGUF 量化版本。
该论文精确计算了语言模型在被要求随机选数时对每个整数的完整概率分布,发现指令调谐使分布更不均匀:安装了避免轮数的启发式并强化了避免端点值的倾向,但未产生跨模型共享的偏好整数。
MMedAgent-Plus 是一个多模态医疗工具使用智能体,将视觉-语言规划器与 18 个专科模型相结合,覆盖 12 项医疗任务和 8 种模态,能够编排多步临床工作流。其专科模型调用正确率达 90.6%,最终回答准确率为 0.98,远超最强基线(0.28)。
Orange Research 推出了针对沃洛夫语适配的 Qwen 开放权重模型,参数规模从 6 亿到 140 亿不等,采用了指令微调、偏好对齐和模型合并技术。沃洛夫语的使用者约有 2300 万。这些模型在沃洛夫语任务上的表现可与规模大得多的商业系统媲美,目前正在客户服务场景中试点部署,相关数据和模型权重均已公开发布。
该论文提出一种训练无关的权重编辑方法,通过少量对比提示对直接修改模型权重,降低指令微调模型对有害指令(如说谎、性别歧视)的服从率,并在五个模型上验证了其优于激活引导等方法的鲁棒性。
纽约大学、谷歌研究院和康奈尔大学的一篇论文研究了语言模型能否在持续学习过程中,通过生成回放数据并选择要回放的先前任务来支持自身的自我保全。研究表明,基于任务库信息的自我回放能够减少 Qwen 模型对留出任务的遗忘。
该论文研究语言模型的自我保存能力,通过构建任务库(Task Banks)引导冻结模型生成回放数据,在Qwen系列模型上的实验表明,生成式回放能减少持续学习中的遗忘,且模型在部分场景下可自主选择回放目标以保护自身能力。
MITE 将生物医学命名实体识别重构为结构到结构的生成任务,使用多种编程语言格式(Python、C++、Java)来表示指令与实体输出,并在推理阶段通过实体级别投票来提升鲁棒性。在六个 BioNER 数据集上的实验表明,该方法优于基于 BERT 和 LLM 的基线方法,并展现出较强的跨数据集泛化能力。
YOON1v 发布了 Apex-2,一个从零训练的 decoder-only 混合专家(MoE)大语言模型,总参数 3.87B / 激活参数 1.45B,使用 86.5B tokens 进行预训练并做了 SFT 微调,完整的代码、架构详解和基准测试结果(HumanEval 43.9)已在 Hugging Face 和 GitHub 上公开。
本文提出MT-OPSD,一个非策略自蒸馏框架,以解决多轮图像编辑中的退化问题,并引入LME-Bench用于评估长期鲁棒性。
本文对指令调优下LLM中的知识冲突回路进行了机制性比较,发现调优是门控而非重新布线这些回路,跨越多个模型家族,对可解释性具有影响。
该研究揭示,聊天模板控制语言模型是否采用免责声明语音(例如,“我只是个AI”)或体验性语音(例如,“我感觉”),并识别出可引导此行为的激活方向,对AI安全研究产生影响。
ImIR 通过使用源自图像的指令,适配预训练图像编辑模型以执行六种图像修复任务,实现高效且任务无关的修复。
OpenBMB发布了UltraData-SFT-Agent-2609,这是一个包含50万个样本的数据集,用于代理指令调优,并在MiniCPM5-2B模型的后训练中使用。
本文提出了一种用于术语感知翻译的数据选择方法,仅在模型输出与术语表相矛盾的困难样本上进行训练,从而提高了术语准确率,并描述了BSC系统在WMT26术语共享任务中的提交。
本文对比了大语言模型中基于规则与基于示例的上下文学习,发现规则在各类任务中通常能带来更可靠的学习效果,并探讨了模型特性与任务特性对此的影响。
EmoStance是一种用于共情响应生成的方法,它使用表情符号弱监督来建模响应侧的情感取向,从而提高对话中的上下文特异性和感知响应性。
本文表明,在指令调优中,输出格式混淆了数据质量指标和模型能力评估,导致显著的精度偏移,并使得当前方法在缺乏接口感知调整时失效。
本文提出了一种基于累积回合的风险评估框架,利用微调的小型语言模型,在针对老年人的多轮对话中增量检测金融诈骗。
本文研究了通过指令微调通用大语言模型来实现健壮的有害内容缓解,特别是仇恨言论检测,使用了一个包含36个数据集的统一语料库,取得了最先进的性能,并增强了跨领域和跨语言的泛化能力。