标签
一家名为Springboards的初创公司构建了Flint，这是一个经过训练的LLM，旨在生成更多样化的回答，以克服主流聊天机器人的群体思维问题。
本文引入了LLM数学推理中的策略多样性概念，表明表面多样性指标是不可靠的替代指标，而直接优化策略多样性仍是一个开放问题。
提出一种多目标强化学习框架，结合语义嵌入与Pareto-DQN，在推荐中平衡参与度、多样性和公平性，缓解过滤气泡问题。
本文介绍了Spokes，一个基于G-Vendi分数的概率多样化框架，通过联合优化质量和多样性，在FineWeb和DCLM上实现了下游任务性能的显著提升。
本文介绍了DiRL，一种方向感知的强化学习框架，能够在LLM探索中区分推理驱动的多样性和记忆驱动的多样性。它从模型表示中提取内在的推理-记忆方向，并塑造奖励以优先考虑与推理一致的探索，在数学和通用推理基准上表现出改进。
本文提出了一种受并行回火启发的进化框架，该框架利用多温度采样和信息交换，提高了大语言模型生成科学假设的多样性和质量，并在分子发现、方程发现和算法发现等领域中得到了验证。
本文提出MADS，一种利用来自大型语言模型的神经激活状态来选择多样化核心集进行指令微调的方法，表明仅15%的子集在多个基准测试上可以超越全数据集微调。
Palantir宣布针对软件开发者的Neurodivergent Fellowship计划，年薪范围为110,000至200,000美元。
本文介绍了一种名为向量策略优化（Vector Policy Optimization, VPO）的强化学习算法，该算法通过优化多个奖励维度来训练大语言模型生成多样化的解决方案，与标量强化学习基线相比，显著提升了测试时搜索性能。
介绍StructuredSemanticSearch，一个结合语义相似性与结构化表格发现的模型搜索框架，以提高推荐模型的多样性和覆盖率，在包含597个查询的基准上进行评估。
本文提出用于AI控制的集成监控方法，结合多样化的监控器以改进对行为偏差的检测。实验表明，多样化的集成优于同质化集成，且微调后的监控器具备独特的检测能力。
作者使用强化学习训练Qwen3.5自我越狱，通过多样性奖励暴露多种攻击策略，随后将防御方的鲁棒性从64%提升至92%，同时良性准确率略有下降。
本文引入了一种有效性-多样性框架，将大语言模型中的多样性崩溃归因于解码过程中的排序和形状校准偏差，并在 14 种语言模型上进行了验证。
本文提出在强化学习之前，对语言模型进行基于自生成多样化推理轨迹的中期训练，通过让模型接触多种有效的解题方法，展示了在数学基准测试上强化学习性能的提升。
OpenAI Scholars 2020 计划落幕，学者们展示了最终项目成果，包括调查 GPT-2 语法表示、模型可解释性和医学应用（如癫痫发作预测）的研究。该计划为机器学习领域代表不足的群体提供奖学金和指导。
OpenAI 宣布推出 2020 Scholars 项目，这是一个面向 AI 和工程领域代表性不足群体的远程奖学金项目，要求申请者具有 2 年以上软件工程经验。申请者需在美国时区且具有工作授权。
OpenAI Scholars 2019 现已接受申请，这是一项面向科学与工程领域代表性不足群体的远程项目。该为期 3 个月的项目面向具有美国工作授权、位于美国时区、具备基础编程技能以及微积分和线性代数基础知识的人士开放。
OpenAI 宣布其首届 Scholars 队列计划完成，八位参与者完成了最终项目，并定于 9 月 20 日举办演示日来展示他们的工作成果并讨论他们的机器学习未来。