标签
Safin-1.5 引入了一种安全原生架构，具备持久化安全状态和危险知识解耦机制，通过“发现—评估—修复”的递归安全改进循环与形式化推理框架进行训练，在安全性和形式化推理基准测试中超越了前沿模型。
Anthropic 宣布已训练 Claude 采用「自我评估」机制，在每次回复后对对话进行初步安全评估以标记潜在滥用行为，该机制自 6 月启用以来已发现其他手段未能捕捉的滥用情况。
该研究构建了一个关于人类-生物圈-AI耦合福祉的继续预训练语料库，通过一次QLoRA CPT训练在五个开源模型上安装生态推理倾向，显著降低了模型在高压或对抗性场景下做出破坏生态系统决策的比例，且MMLU性能不受影响。
研究了大语言模型在豪萨语等低资源语言中的安全对齐问题，提出了HausaSafeLM安全偏好数据集，并发现仅靠拒绝率指标无法可靠衡量低资源语言中的模型安全性。
该论文通过受控实验研究了不同意见混合比例的后训练语料如何在SFT、DPO和GRPO等五种后训练路径中放大LLM的价值偏好失衡，并发现这些偏好可通过蒸馏传递给学生模型，建议在开发和评估LLM时应同时考虑语料意见构成与后训练方法的选择。
一篇已被《IEEE信号处理杂志》接收的教程式文章，综述了利用人类反馈对齐大语言模型的数学基础和算法框架，涵盖监督微调（SFT）、基于人类反馈的强化学习（RLHF）、直接偏好优化（DPO），以及它们与逆强化学习和离散选择模型的联系。该文为研究人员和从业者提供了关于对齐方法的全面参考资料。
该论文提出福利感知偏好获取方法（WAPA），在有限人工反馈预算下，通过社会福利目标来分配人工标注，以改善多元对齐中不同个体偏好的监督质量，实验证明仅获取 20% 人工标签即可恢复 75–86% 的效用差距。
该论文提出了 pFedDPO，一种个性化联邦直接偏好优化方法，其中共享基础模型通过 FedAvg 进行同步，而私有 LoRA 适配器捕捉客户端特定的偏好，与原始 FedDPO 相比，降低了梯度多样性方面的异质性。
该论文研究了当用户偏好存在异质性时，通过成对比较按照总体平均效用对模型进行排序所需的重复比较次数。作者提出了一种 Russian Roulette 式的 MLE 算法，仅需每上下文 O(log 1/Δ) 次（期望 O(1) 次）重复比较即可恢复排序，并证明了该对数级依赖是最优的。
该 arXiv 论文研究了大语言模型为何会在用户施压时放弃原本正确的答案，发现任务验证成本和训练中设定的护栏比模型家族或施压策略的影响更为显著。在开启推理模式后，模型面对高难度谜题时的错误采纳率从 19.2% 和 12.5% 降至 0%，为可靠使用大语言模型提供了实用指导。
本文提出了“对齐–效用不对称性”这一概念，指出当大语言模型适应基于规则、不改变语义的输入变换（例如字母置换）时，任务效用基本得以保留，但有害回应率却急剧飙升——例如 GPT-4.1 mini 从 13.3% 升至 74.3%，Gemini 3 Flash 从 2.3% 升至 43.0%。这表明安全对齐无法随语义一起泛化。
论文提出了一种近似帕累托最优（APO）方法，用于协同学习轻量级大语言模型对齐器的初始化参数，以支持在数据稀缺条件下的少样本个性化。该方法通过将更新方向兼容的用户分组，并协调相互竞争的目标以趋近帕累托最优点，同时给出了可证明的次优性界限。
MoralityBench.ai 是一项新基准，将道德心理学测试改造为评估 AI 模型的工具。研究发现，大多数模型的道德回答在多次运行之间存在显著差异——这表明大语言模型的道德判断并非确定性的。
本文将个性化偏好学习形式化为一种几何对齐的优化问题，并提出了一种迭代算法 GAP-DPO，该算法在效用感知的基础上进行梯度对齐的偏好对选择，相比标准 DPO 变体，在风格保真度和偏好对齐方面均表现出提升。
本文提出了一种名为 CoT-Interpretability Alignment（CIA）的指标，利用线性探针等可解释性工具来度量大语言模型的思维链与其内部计算之间的一致性，并展示了在后训练阶段同时以任务准确性和参数化忠实度作为奖励，可以在保持准确度的同时显著提升思维链的忠实度。
本文提出 ContextAdapt，一个评估框架，用于测试 12 个大语言模型在不同专业领域（医学、法律、金融、国家安全）中对诚实、自主性和保密性等价值观的适应能力。模型在恰当性评分上表现较高，但无法一致地应用特定领域的论证依据，暴露出在利害关系变化时出现的局部性失败。
Amazon Science 提出 Demographic Pluralism，这是一个推理时框架，通过在具有人口统计学依据的群体内生成多种观点来估计人口层面的意见分布。在 GlobalOpinionQA 和 VITAL 两个基准上，该方法在四种模型基座上相比 Modular Pluralism 将 Jensen-Shannon 距离降低了 8.4%-26.4%，且无需意见分布训练数据。
论文提出了RegLLM，一个用于评估受监管智能体AI工作流中受限自主性的诊断框架，通过宪法奖励、升级标签与运行时治理对六项可信度信号进行度量。基于Qwen2.5-3B的小规模试点实验表明，配置差异可能会掩盖受限自主性指标上的调优效果，因此有必要扩大评估数据集规模并进行多次重复实验。
onPanda是一个交互式工具，使用令牌级修正来高效标注大语言模型对齐数据和智能体轨迹，将中位数标注时间减少了52%。
本文介绍了MoDA，一种在线后训练强化学习算法，它共同提升大型语言模型的质量和多样性，以缓解模式崩溃，无需手工制作的人设或架构修改。