uncertainty

标签

Cards List
#uncertainty

人工智能辅助的教育决策——不确定性、可解释性与人类责任

arXiv cs.AI ↗ · 13小时前 缓存

这篇 arXiv 章节认为,不确定性、可解释性和人类责任是将基于人工智能的决策系统正当地融入教育领域的三项基本原则。

0 人收藏 0 人点赞
#uncertainty

先检测,再消歧:基于扰动的大语言模型输入歧义检测

arXiv cs.CL ↗ · 2026-10-28 缓存

本文提出了一种基于标签保持扰动的输入歧义检测框架,先检测再消歧,包含黑盒规则库与白盒重要性引导两种检测器,在四类问答数据集上优于输出侧不确定性基线与LLM改写扰动基线。

0 人收藏 0 人点赞
#uncertainty

AskStream:流式视频理解中何时以及主动询问什么以应对不确定性

Hugging Face Daily Papers ↗ · 2026-10-28 缓存

论文提出 AskStream,首个覆盖视频与用户不确定性的流式视频理解多轮基准,重新定义主动交互为等待、提问、回答三类动作,并指出即使最强模型在 Ask-F1 指标上也仅有 52.18%,凸显主动信息获取的不足。

0 人收藏 0 人点赞
#uncertainty

两种不确定性并非一回事:低成本结构化内容审核中的分歧与决策风险

arXiv cs.CL ↗ · 2026-10-27 缓存

本文在内容审核任务上,将一个成本低廉、参数冻结的“系统一”分类模型与14个前沿大语言模型进行对比评估,发现其准确率具有竞争力,而成本远低于后者,并表明“置信度”混淆了两种不同的不确定性——人类意见分歧与决策风险——而这两者需要方向相反的升级处理信号。

0 人收藏 0 人点赞
#uncertainty

用 LLM 进行置信度评分是个坏主意

Hacker News Top ↗ · 2026-10-21 缓存

这篇博文论证了让 LLM 自行生成置信度分数是不可靠的做法:置信度本质上应是基于信息的概率计算与校准结果,而 LLM 给出的数字缺乏可验证的依据,无法被信任。

0 人收藏 0 人点赞
#uncertainty

利用集合学习改进长尾数据上的集值分类器

arXiv cs.LG ↗ · 2026-10-21 缓存

该论文研究了不同训练策略与损失函数对长尾/不平衡数据上集值分类器(SVC)性能的影响,并改进了 odd-KK-out(OKO)损失,将其计算开销从3.2×降至1.36×,显著提升了多个SVC方法的宏平均准确率。

0 人收藏 0 人点赞
#uncertainty

面向潜空间规划的潜表征投影方法

arXiv cs.LG ↗ · 2026-10-21 缓存

本文提出了一种用于潜空间世界模型规划的后验潜表征投影方法:通过拟合状态动力学矩阵来剪除噪声潜方向,并将ℓ2规划代价限制在不确定性最低的子空间中,在TwoRoom和PointMaze等二维导航任务上取得了最高达+54.7个百分点的成功率提升。

0 人收藏 0 人点赞
#uncertainty

一个未能回答的RAG问题,可能意味着三件截然不同的事

Reddit r/AI_Agents ↗ · 2026-10-19

本文作者探讨了RAG评估应如何区分系统回答"我不知道"的三种不同原因——检索失败、证据缺失和来源冲突——并提出了一种评估方法,该方法标注的是期望的未解决状态,而不是简单地将答案判定为正确、错误或拒绝回答。

0 人收藏 0 人点赞
#uncertainty

知晓的重负:AI为何必须学会暂停

Reddit r/ArtificialInteligence ↗ · 2026-10-18

独立研究者 Lev Goukassian 介绍了他的三值逻辑(TL)与三值道德逻辑(TML)框架,主张AI系统在面临不确定性或风险时暂停的能力,必须成为一项架构原则,而非一句承诺。

0 人收藏 0 人点赞
#uncertainty

扰动预测模型是否学会了基因相互作用?诊断智能体筛选中的外推能力

arXiv cs.LG ↗ · 2026-10-15 缓存

该研究提出“加性分歧(AD)”指标,评估扰动预测模型在未见过的基因组合上的外推可靠性,发现专门的神经预测模型并未稳定优于简单加性基线,且偏离基线越大的预测误差越大,该信号可指导自动扰动筛选工作流。

0 人收藏 0 人点赞
#uncertainty

预测掩码文本重建中的语料库采样分歧

arXiv cs.CL ↗ · 2026-10-12 缓存

论文推导了一个一阶公式,用于预测在掩码文本重建任务中,两个独立语料训练的预测器之间的期望分歧,并在 TinyStories、WikiText-103 和 CNN/DailyMail 上验证了该预测的准确性及其局限性。

0 人收藏 0 人点赞
#uncertainty

以更少训练学得更多:用于高效推理后训练的不确定性引导渐进式收缩

arXiv cs.AI ↗ · 2026-10-12 缓存

该论文提出一种不确定性引导的渐进收缩框架,通过构建蒙特卡洛推理树评估过程级不确定性,并在SFT阶段进行在线路由,仅使用全量SFT约0.22%的优化预算(减少450倍以上的训练暴露)即可维持或提升LLM的推理能力。

0 人收藏 0 人点赞
#uncertainty

ProbabilityBench:基于精确真实不确定性概率的模型评估与校准

Hugging Face Daily Papers ↗ · 2026-10-12 缓存

ProbabilityBench 引入了一个具有精确已知的真实类别概率的基准,从而可以直接衡量模型(包括 Jev 和 Perplexity Decider 等决策模型)对真实概率的估计能力,并实现对校准指标和贝叶斯误差估计器的评估。

0 人收藏 0 人点赞
#uncertainty

三通道评分冲突中的受控获取与弃权

arXiv cs.LG ↗ · 2026-10-09 缓存

该论文研究了当音频、视频和文本三个通道的评分冲突时,策略如何在请求第三个来源与弃权之间做决策,提出阈值策略并在受控基准上评估其相对于多数投票和融合策略的效用表现。

0 人收藏 0 人点赞
#uncertainty

准确但不谦逊:评估知识冲突下 LLM 智能体的认知谦逊

Hugging Face Daily Papers ↗ · 2026-10-08 缓存

该论文提出以“认知谦逊”(Epistemic Humility)评估 LLM 智能体在知识冲突下的表现,通过 Identify、Solve、Escalate 三个轨迹级维度进行衡量,发现高任务准确率并不意味着更高的认知谦逊,且模型级干预往往以牺牲准确率为代价。

0 人收藏 0 人点赞
#uncertainty

行动、询问还是干预?评估大语言模型偏好推理中的可行动不确定性

arXiv cs.CL ↗ · 2026-10-05 缓存

该论文将'可行动不确定性'形式化地应用于 LLM 智能体——区分何时应采取行动、何时应请求澄清、以及何时应修复约束条件——并构建了一个基于求解器的基准,结果显示模型往往过度干预,在已有合理行动方案的情况下却未能采取行动。

0 人收藏 0 人点赞
#uncertainty

软空间推理(Soft Spatial Reasoning)

Hugging Face Daily Papers ↗ · 2026-09-30 缓存

本文提出 Soft Spatial Reasoning,一个针对大型视觉-语言模型(LVLM)空间任务的后训练框架,其引入自适应的"软思考"机制:在中间推理步骤中混合 token 嵌入,而非直接选定某个离散 token。AdaptSoft 控制器会根据隐藏状态与预测不确定性动态调整软化程度,在多个空间推理基准上超越了硬思考(hard)与固定软化程度的 CoT 基线。

0 人收藏 0 人点赞
#uncertainty

Jev 思考 "我不知道",但未言明:介绍用于概率校准的 Sys1Cal-v1 数据集

Hugging Face Daily Papers ↗ · 2026-09-28 缓存

介绍了 Sys1Cal-v1 数据集,用于评估 AI 模型的概率校准,表明像 Jev 这样的模型可能在二进制输出中抑制不确定性。

0 人收藏 0 人点赞
#uncertainty

Multichain鲁棒平均奖励Markov决策过程的向量Bellman理论

arXiv cs.LG ↗ · 2026-09-25 缓存

本文介绍了用于鲁棒平均奖励Markov决策过程的向量Bellman理论,通过有限模型可解性和近似移位的Halpern规划算法,实现了在转移不确定性下的最优性能。

0 人收藏 0 人点赞
#uncertainty

RAND发布了一项美国策略,关于通往超级智能之路:在证据迫使做出选择之前,保持所有重大选项开放。

Reddit r/singularity ↗ · 2026-09-23 缓存

RAND为美国提出了一项'Freedom of Action'策略,以应对通往人工超级智能的不确定之路,在证据决定选择之前保持重大选项开放。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈