标签
乔治城大学的语言学研究人员提出了 PropAlign,一种基于多篇摘要的命题显著性分级评估方法,并发布了 PropAlignBank 数据集,其中包含超过 3.5 万个命题的 13.8 万条对齐关系。他们的研究表明,从摘要中推导出的显著性指标比模型直接作出的判断更具一致性,而融合语言学特征的模型集成方法能够接近人工标注的质量。
提出 Weighted Ensemble (WE),一个无需训练的框架,通过在生成过程中自适应重新分配采样预算来提升语言模型中稀有事件概率估计的效率与可靠性,并在安全相关任务上验证了其有效性。
MARGIN提出了一种运行时置信度校准方法,无需重训练或预留校准集即可从观测结果中学习模型特定的置信度修正,用于异构基础模型的多智能体协调决策,在代码生成和问答任务上相比未校准的置信度加权提升了答案选择准确率。
MITE 将生物医学命名实体识别重构为结构到结构的生成任务,使用多种编程语言格式(Python、C++、Java)来表示指令与实体输出,并在推理阶段通过实体级别投票来提升鲁棒性。在六个 BioNER 数据集上的实验表明,该方法优于基于 BERT 和 LLM 的基线方法,并展现出较强的跨数据集泛化能力。
来自KAIST、国民大学(Kookmin University)和NYU的研究者提出了一种基于适当评分规则(proper scoring rule)的扩散模型框架,用于概率天气预报。该框架在以CRPS(连续分级概率评分)训练的模型上引入辅助条件去噪任务,能够在保持单次前向传播即可生成集合预报的同时,提升较长预报时效下的预报精度与校准效果。
一篇新论文提出了 CAGE 框架,将生成模型、对抗判别与共形预测相结合,用于为时间序列集成预测进行加权,在牛奶采集和猴痘数据集上表现出对离群值和噪声更强的鲁棒性。
论文提出了EnJoi,一种用于生成式数据同化的集成联合得分滤波器,能够学习历史状态与未来状态的联合分布,使改进的En4DVar方法得以在当前状态与新增观测之间进行置信度权衡。在流体与交通流仿真上的实验表明,该方法在稀疏、非均匀观测条件下能显著提升状态重构精度。
MIT研究者认为,AI中的算法单一文化可能并不总是有害的;其负面影响取决于细节,如领域和算法准确性,而集成方法可以缓解系统性排斥等问题。
CUSP 是一个无需训练的框架,通过语义意见池化来量化多智能体多模态系统中的集体不确定性,相比基线方法提高了可靠性和准确性。
本文提出了一种概率方法,用于端到端AI天气预报,通过增强Aardvark Weather模型,引入学习的观测噪声和Monte Carlo dropout,平均提高了4.2%的均值预报,并分离了偶然不确定性和认知不确定性。
介绍了一种用于预测回归的高效贝叶斯深度集成方法,该方法结合了低维集成表示、闭式贝叶斯聚合和独立集成训练,以在保持计算效率的同时获得校准的不确定性估计。
提出一种基于AdaBoost的文本提示提升(TPB)框架,通过顺序集成弱文本提示分类器来改进视觉-语言模型的少样本分类性能,并在跨模型迁移中保持增益。
本文研究了不同的推理时部署规则(展开策略)如何影响多期限波动率预测。结果表明,非默认的展开策略通常能提升性能,且基于验证的部署策略相比标准MIMO部署提供了低成本改进,强调了部署策略与模型架构同等重要。
本文揭示了多模型LLM系统的一个基本约束:准确率受制于所有模型在同一查询上同时出错的比率。在67个前沿模型中,常见指标显著低估了全错率,从而限制了投票、路由和集成策略的收益。
AgentCodec 是一个源代码可用的库,它将 28 种 LLM 可靠性技术(如重试、集成、生成器/判别器优化等)统一到单一兼容 OpenAI 的 API 下,并配备自适应路由器,在匹配质量的情况下可降低约 56% 的推理成本。该库采用通信理论框架,支持即插即用替代 OpenAI、Anthropic 和 Ollama 客户端。
本文介绍了CAGE,一种基于反事实图的多智能体LLM系统校准方法,在TriviaQA和MMLU-Pro等基准测试上进行了评估,涵盖了多种通信拓扑结构。该方法优于现有的事后校准和LLM引导校准方法。
本文揭示了LLM水印的一个基本漏洞:当用户能够访问多个模型时,对其输出分布进行平均会抵消水印扰动,从而规避检测。作者提出了WASH方法,并通过实验证明,对3-5个模型进行平均可将检测z分数抑制在阈值以下,同时提升文本质量。
本文对在严重类别不平衡条件下预测财务困境的经典方法、集成方法和神经网络方法进行了比较评估,使用SMOTE进行过采样,SHAP进行可解释性分析。
本文研究了增量决策树集成中的分歧漂移检测方法,发现在神经网络中有效的方法在树集成中表现不如基于损失的检测器,原因是模型塑性有限。
OpenAI提出了一种针对深度强化学习的新型探索策略,使用具有上置信界(UCB)的Q函数集合,在Atari基准上展现了显著的性能提升。