标签
本文将大模型推理蒸馏建模为一个约束强化学习问题:在约束推理轨迹每一步的最坏情况教师似然的前提下,最大化任务奖励。该方法既避免了纯 GRPO 存在的奖励作弊问题,也克服了基于 KL 的蒸馏导致任务性能被稀释的缺陷。在数学推理和代码生成任务上的实验表明,该方法显著扩展了准确率-保真度的帕累托前沿。
HARDEN 引入约束进化搜索,以生成更难且保留预期输出的语言模型评估案例,从而在多个基准测试中显著降低了准确性。
该论文提出了一种深度架构,利用可微最短路径搜索联合优化代价函数和路线排名模型,以实现可定制的路线规划,并在真实数据集上展示了比现有最优方法显著的性能提升。
LABELSENSE-Pilot 是一个用于交互式地图点特征标签放置的可复现原型,采用图上下文评分和约束优化来平衡几何有效性、稳定性和可访问性。实验表明,在各种压力因素下,它能够减少闪烁并保持高显示率,同时零冲突。
本文引入了一个框架,将复合逻辑答案选项分解为原子判断,并使用受算子约束的整数线性规划来改进大语言模型在 AND、OR 以及 NEITHER/NOR 算子上的推理能力。该框架在 LOGICAL-COMMONSENSEQA 和新的基准 LOGICAL-SATA 上取得了显著的 F1 提升。
本文介绍了人类效用因子(HUF),一种可计算的福利指标,它将人工智能治理重构为一个约束优化问题,并为自动化深度、再分配和就业覆盖率提供了可衡量的杠杆,并通过多智能体模拟进行了验证。
EXHOLD是一个两阶段框架,用于大规模网约车匹配中的实时保持控制,提升乘客与司机的体验及市场效率。该框架已在滴滴巴西市场部署,通过体验感知的配对评估和约束优化,降低取消率并提高行程完成率。
提出了LARA框架,用于安全的推理时对齐。该框架通过拉格朗日对偶化,从单独的奖励和成本模型中推导出增强奖励,从而在不重新训练的情况下改善有用性-无害性权衡。
这篇文章描述了一个实验,使用 Claude Code 自主开发一个带有约束优化的文件压缩算法,评估 AI 代理在无监督问题解决中的可行性。
PoseShield 在 SMPL 姿态空间中引入神经碰撞约束,用于解决人体姿态估计中的自碰撞问题,在新基准上实现了 95.8% 的成功率。
一篇博客文章,讨论针对受约束的分类概率分布的优化技术,使用softmax重参数化和log barrier方法,应用于蛋白质结合剂设计。
提出输出向量编辑,一种约束优化的权重编辑方法,通过修改MLP神经元的输出向量而不是将激活归零来缓解LLM中的记忆化,实现了高达87.9%的抑制效果,且局部性失败极少。
PSyGenTAB是一种隐私保护框架,使用约束优化生成合成临床表格数据,平衡隐私与实用性,同时保留临床关系和少数类模式。
本文提出了一种约束随机赌博机算法,用于在时变任务需求以及异构的准确性、延迟和成本配置下在线选择大型语言模型,并在遗憾和约束违反方面提供了理论保证。
本文证明Optuna的约束树形帕森估计器(TPE)是c-TPE算法的联合密度推广,展示了其对约束重复的不变性,而独立的c-TPE则会退化。作者概述了实际权衡以及未来研究方向。
本文将为长时域语言代理的记忆保留公式化为一个约束随机优化问题,提出了OSL-MR框架,该框架通过混合评分启发式强制实施可观测性安全学习。实验表明,在严格记忆预算下,该方法始终优于现有的启发式基线。
提出了CVT-RL,一种带有策略条件化反事实贡献估计和可验证奖励的约束策略梯度算法,提高了长程语言智能体的可靠性并减少了奖励篡改。
本文将LLM推理预算分配形式化为一个约束优化问题,提出CLEAR方法,将资源从低效用查询重新分配到接近涌现阈值的查询,在预算紧张的情况下实现了高达3倍的准确率提升。
介绍了约束流优化(CFO)框架,该框架通过微调生成流模型,在分子设计中最大化奖励的同时满足约束,具有理论保证和实验验证。
本文提出了一种分布式方法,用于约束多智能体强化学习,该方法采用状态增强策略学习和对偶变量上的邻居间一致性,以在满足全局资源约束的同时实现智能体数量线性扩展。在智能电网需求响应上的实验表明,一致性协调对可行性至关重要:与集中式训练方法不同,它能够扩展到数千个智能体。