标签
这篇 arXiv 章节认为,不确定性、可解释性和人类责任是将基于人工智能的决策系统正当地融入教育领域的三项基本原则。
本文提出了一种基于标签保持扰动的输入歧义检测框架,先检测再消歧,包含黑盒规则库与白盒重要性引导两种检测器,在四类问答数据集上优于输出侧不确定性基线与LLM改写扰动基线。
论文提出 AskStream,首个覆盖视频与用户不确定性的流式视频理解多轮基准,重新定义主动交互为等待、提问、回答三类动作,并指出即使最强模型在 Ask-F1 指标上也仅有 52.18%,凸显主动信息获取的不足。
本文在内容审核任务上,将一个成本低廉、参数冻结的“系统一”分类模型与14个前沿大语言模型进行对比评估,发现其准确率具有竞争力,而成本远低于后者,并表明“置信度”混淆了两种不同的不确定性——人类意见分歧与决策风险——而这两者需要方向相反的升级处理信号。
这篇博文论证了让 LLM 自行生成置信度分数是不可靠的做法:置信度本质上应是基于信息的概率计算与校准结果,而 LLM 给出的数字缺乏可验证的依据,无法被信任。
该论文研究了不同训练策略与损失函数对长尾/不平衡数据上集值分类器(SVC)性能的影响,并改进了 odd-KK-out(OKO)损失,将其计算开销从3.2×降至1.36×,显著提升了多个SVC方法的宏平均准确率。
本文提出了一种用于潜空间世界模型规划的后验潜表征投影方法:通过拟合状态动力学矩阵来剪除噪声潜方向,并将ℓ2规划代价限制在不确定性最低的子空间中,在TwoRoom和PointMaze等二维导航任务上取得了最高达+54.7个百分点的成功率提升。
本文作者探讨了RAG评估应如何区分系统回答"我不知道"的三种不同原因——检索失败、证据缺失和来源冲突——并提出了一种评估方法,该方法标注的是期望的未解决状态,而不是简单地将答案判定为正确、错误或拒绝回答。
独立研究者 Lev Goukassian 介绍了他的三值逻辑(TL)与三值道德逻辑(TML)框架,主张AI系统在面临不确定性或风险时暂停的能力,必须成为一项架构原则,而非一句承诺。
该研究提出“加性分歧(AD)”指标,评估扰动预测模型在未见过的基因组合上的外推可靠性,发现专门的神经预测模型并未稳定优于简单加性基线,且偏离基线越大的预测误差越大,该信号可指导自动扰动筛选工作流。
论文推导了一个一阶公式,用于预测在掩码文本重建任务中,两个独立语料训练的预测器之间的期望分歧,并在 TinyStories、WikiText-103 和 CNN/DailyMail 上验证了该预测的准确性及其局限性。
该论文提出一种不确定性引导的渐进收缩框架,通过构建蒙特卡洛推理树评估过程级不确定性,并在SFT阶段进行在线路由,仅使用全量SFT约0.22%的优化预算(减少450倍以上的训练暴露)即可维持或提升LLM的推理能力。
ProbabilityBench 引入了一个具有精确已知的真实类别概率的基准,从而可以直接衡量模型(包括 Jev 和 Perplexity Decider 等决策模型)对真实概率的估计能力,并实现对校准指标和贝叶斯误差估计器的评估。
该论文研究了当音频、视频和文本三个通道的评分冲突时,策略如何在请求第三个来源与弃权之间做决策,提出阈值策略并在受控基准上评估其相对于多数投票和融合策略的效用表现。
该论文提出以“认知谦逊”(Epistemic Humility)评估 LLM 智能体在知识冲突下的表现,通过 Identify、Solve、Escalate 三个轨迹级维度进行衡量,发现高任务准确率并不意味着更高的认知谦逊,且模型级干预往往以牺牲准确率为代价。
该论文将'可行动不确定性'形式化地应用于 LLM 智能体——区分何时应采取行动、何时应请求澄清、以及何时应修复约束条件——并构建了一个基于求解器的基准,结果显示模型往往过度干预,在已有合理行动方案的情况下却未能采取行动。
本文提出 Soft Spatial Reasoning,一个针对大型视觉-语言模型(LVLM)空间任务的后训练框架,其引入自适应的"软思考"机制:在中间推理步骤中混合 token 嵌入,而非直接选定某个离散 token。AdaptSoft 控制器会根据隐藏状态与预测不确定性动态调整软化程度,在多个空间推理基准上超越了硬思考(hard)与固定软化程度的 CoT 基线。
介绍了 Sys1Cal-v1 数据集,用于评估 AI 模型的概率校准,表明像 Jev 这样的模型可能在二进制输出中抑制不确定性。
本文介绍了用于鲁棒平均奖励Markov决策过程的向量Bellman理论,通过有限模型可解性和近似移位的Halpern规划算法,实现了在转移不确定性下的最优性能。
RAND为美国提出了一项'Freedom of Action'策略,以应对通往人工超级智能的不确定之路,在证据决定选择之前保持重大选项开放。