标签
一位拥有二十年经验的女性工程师在技术大会上以 #YesAllMen 为题,讲述自己如何因男性同事与职场文化被一步步排挤出科技行业,并呼吁在场男性思考如何阻止这种现象。
Salesforce 和 Stony Brook 的研究人员训练了一个 8B 推理模型,采用集合级强化学习目标来生成多样、高质量的科学想法,在无数据污染的基准测试中,其创意实用性超过了 Claude Opus 4.8 和 GPT-6 Astra。
Amazon 与 UCF 的研究人员提出了 SatisDive,这是一种无需训练的推理时方法。该方法将文本到图像的生成建模为“满意化”(satisficing)问题——要求每个候选样本都达到一个奖励下限,同时整个批次还需满足一个多样性阈值。研究表明,通过调节奖励下限,可以描绘出最差候选样本奖励与批次多样性之间的 Pareto 前沿;并且在使用 FLUX.1-dev 和 SANA-1.6B 的 Pick-a-Pic 数据集上,SatisDive 在 Pareto 意义上优于 FK steering。
该论文提出使用生成流网络(GFlowNets)来生成多样化的合成专家对话,以用于大语言模型的后训练,从而避免在提示词生成和基于奖励的合成方法中常见的模式坍缩问题,并在辅导和情感支持对话的下游结果预测任务上取得了更强的表现。
Clément Delangue 幽默地表示,在科技领域中,他可能是一个多样性人选,并附有更多信息的链接。
本文通过比较生成输出与训练数据的熵来研究大型语言模型中的条件多样性差距,并提出一个信息论框架来度量和缓解这一差距。
本文提出了一种方法,利用大型语言模型自动生成多样化的用户角色,用于测试面试对话系统,以减少人工努力并增加模拟用户行为的多样性。
The paper introduces DIVE, a diversity-driven framework that enables frozen LLMs to self-improve by evolving persistent natural-language skills from task experience and verifier feedback, without parameter updates. It outperforms existing methods on math and logical reasoning tasks and transfers across model scales.
本文认为简单地扩展多模态环境并不总能改善智能体训练,并提出了能力感知环境选择(AES)和分层难度课程(HDC),以在多样性和难度维度上更好地构建环境分布。
提出了一种无需训练的语义感知核熵(SAKE)引导方法,用于文本扩散模型,利用核格拉姆矩阵上的二阶Rényi熵在采样过程中平衡保真度与多样性。实验表明,在推理密集型任务上,该方法改善了Pareto前沿和多样本性能。
针对仅用三个基础模型支撑数百万个人工智能代理是否能产生真正多元化的审议进行批判性反思,认为模型间的相关误差可能造成虚假的一致意见,并寻求从集成学习中得出的可操作指标来衡量真正的人类代表性多样性。
一篇题为'Verbalized Sampling: How to Mitigate Mode Collapse and Unlock LLM Diversity'的论文被ICML接收。该论文提出了一个简单的提示工程技巧,以实现更多样化的采样,引发了关于此类工作是否属于顶级机器学习会议的争论。
LEMUR 2引入了一个大规模数据集,包含超过14,000种神经网络架构和750,000条训练记录,涵盖多模态任务,支持NAS、AutoML和部署分析。
Flow-ERD是一个多智能体交通仿真器,结合了智能体类型感知流匹配与熵正则化蒸馏,以实现既真实又多样化的运动模式,在WOSAC测试基准上排名第一。
一家名为Springboards的初创公司构建了Flint,这是一个经过训练的LLM,旨在生成更多样化的回答,以克服主流聊天机器人的群体思维问题。
本文引入了LLM数学推理中的策略多样性概念,表明表面多样性指标是不可靠的替代指标,而直接优化策略多样性仍是一个开放问题。
提出一种多目标强化学习框架,结合语义嵌入与Pareto-DQN,在推荐中平衡参与度、多样性和公平性,缓解过滤气泡问题。