标签
本预印本对LLM评审团的聚合独立性指标提出质疑,表明验证信号仅在关键的“一票之差”查询上提升准确率,并提出一种按票数差距分层的调用缩减规则。
介绍了一种使用紧凑型HyperLogLog草图的模型端聚合接口,用于为长上下文语言模型维护基于集合的聚合状态,在基准测试任务上实现了99.2%的准确率,并消除了外部执行循环的需求。
本文介绍了一种面向多LLM预测聚合的不确定性感知信任估计方法,该方法改编自结构化专家判断,采用库克风格对数加权来惩罚过度自信的错误预测。在MMLU和MMLU-Pro上的评估表明,该方法在异构和受污染的专家面板下实现了优越的准确性与可靠性平衡。
本文研究了将多个LLM的概率估计进行聚合是否会产生群体智慧效应,发现学习型聚合器优于单个模型,并且训练截止期污染是此类评估中普遍存在的混淆因素。
本文研究使用音频、韵律和语言线索的多模态说话人验证如何显著降低说话人匿名化效果,仅用五个语音片段即可将等错误率降低超过15%。
本文提出使用模型合并技术,特别是Iso-C聚合,来改进DiLoCo分布式训练中的聚合步骤,从而产生一种名为IsoLoCo的新方法,该方法在语言模型预训练上优于DiLoCo。
PRA-RAG是一种用于检索增强生成的可证明鲁棒的聚合算法,旨在抵御对检索文本的投毒攻击。它利用嵌入空间中的几何结构来识别鲁棒子集,并提供攻击影响的理论界限,将攻击成功率降低至1%,同时保持准确率。
本文探究了大型语言模型是否能够通过模型内和模型间的聚合来近似群体智能效应,发现在八项估计任务中,平均绝对百分比误差(MAPE)显著降低高达37个百分点。
一位开发者讨论了 RAG 在文档集合聚合和计数查询方面的局限性,并寻求社区关于替代方案(如 text-to-SQL 和意图路由)的建议。
本文揭示,聚合多个LLM智能体的完整推理轨迹(而非仅其最终答案)即使在所有智能体一致同意的情况下也能纠正错误,引入了“聚合悖论”以及Self-Consistent Mixture of Agents方法。
这是一个GitHub上的开源项目,汇总了来自多个中文读书应用的电子书资源并分类整理,支持多种格式下载。
FreeLLMAPI 是一款开源工具,它将11家主流大语言模型提供商的免费套餐汇聚到一个兼容OpenAI的单一接口中,通过路由请求并管理速率限制,每月提供约10亿+token。它通过一台本地服务器简化了对多个免费模型的访问。