标签
本文研究微调后的LLM是否会出现Knobe效应（一种意图判断中的道德偏见），并采用层级补丁分析将该偏见定位到特定层，证明无需重新训练即可通过定向干预消除该效应。
本文介绍了Enlightenment，一种针对大规模模型的无需训练的后调整方法，它修改关键模块中的快捷连接而不更新权重，实现了突发的能力提升。通过注意力头混合和标量调制的残差连接，该方法在LLMs和VLMs上展示了有效性。
一个用于LTX-Video 2.3的概念验证型上下文LoRA适配器，能够通过固定词汇提示从新相机视角重新渲染视频场景，基于合成多视角数据训练而成。
本文介绍了对比解码差异法（CDD），该方法仅通过logits访问即可从LLM中恢复逐字微调数据，无需模型权重或激活。它在多个模型系列中展示了高水平的逐字恢复能力，并揭示了意外数据泄露，例如来自合成训练数据的反复出现的虚构角色'Dr. Elena Rodriguez'。
本文提出自我识别微调作为一种干预措施，用于预防和逆转大语言模型中的涌现性对齐失调，表明它稳定了模型的对齐特征，而非采用失调的角色。
提出了一种基于微调的硬件感知训练算法，以减轻ReRAM交叉阵列中的I-V非线性和保持误差，从而以最小开销实现鲁棒的DNN部署。在图像分类和问答任务上进行了评估，达到了接近基线的准确率。
Cleo 是 Qwen3.5-2B-Base 的微调版本，专为Text-to-SQL任务设计，使用统一的训练和推理框架，支持实时执行证据和安全检查。所有代码、模型和数据集均为开源。
本文介绍了Muon^p，一种新颖的优化器，采用分数谱幂更新在Muon和梯度下降之间进行插值，提供了理论证明并在十亿参数规模的微调任务上取得了实证收益。
本文提出了一种模块化方法，通过冻结嵌入并调整模型其余部分，将预训练语言模型适配到低资源语言，在苏格兰盖尔语、爱尔兰语和克丘亚语的NLU任务上展示了改进效果。
TRL 现在支持对来自各种来源（如 Claude Code、Codex、OpenClaw 和 Pi）的智能体轨迹进行模型微调，这正朝着训练智能体模型的标准化栈迈进。
本文介绍了GGT-100K，一个包含103,707对图像的真实图像修复数据集，通过使用如Nano-Banana-2等多模态基础模型，从低质量输入生成高质量目标。实验表明，该数据集提升了多种图像修复模型的泛化能力。