alignment-tax

MemSFT是一篇研究论文，提出通过使用外部参数化记忆来缓解大语言模型微调中的对齐税，该记忆将领域专业化与骨干网络参数更新解耦，从而能够跨不同规模的LLM重用，同时保持通用性能。

本文介绍了一种无需训练的编码策略——Confident Decoding，它利用熵引导搜索动态选择LLM中最可靠的中间层，从而缓解对齐损失，并在GPQA-Diamond、Omni-MATH等基准测试中提升了推理性能，且开销可忽略不计。

SDOF是一个将多智能体执行视为约束状态机的框架，通过在线RLHF专用意图路由器和状态感知调度器强制执行业务流程阶段约束，在支持6000多家企业的招聘系统中实现了86.5%的任务完成率。