标签
本文介绍了DiaLLM,一个将LLMs适应英语方言的框架,揭示了方言鲁棒性(理解)与生成(产生方言文本)之间的差距,并表明明确的变体目标对齐能改进生成,但不一定符合人类偏好。
越来越多的用户正从经过严格对齐的云端大语言模型(如ChatGPT、Claude和Gemini)转向本地或未审查的替代方案,原因包括频繁的拒绝回答、隐私担忧以及对更多控制权的渴望,尽管云端模型在速度和易用性上仍有优势。
GLM-5 引入了 DSA 以降低成本,采用异步强化学习实现对齐,并增强了编码能力,在基准测试和现实软件工程任务上取得了最先进的性能。
OpenAI 推出了 InstructGPT,这是一个 GPT-3 的变体,通过人类反馈强化学习 (RLHF) 进行微调,以更好地遵循指令并减少有害输出。一个 1.3B 的 InstructGPT 模型在人类评估者的偏好测试中超过了 175B 的 GPT-3 模型,现已成为 OpenAI API 的默认模型。