标签
文章讨论了如何构建一个能够识别并表达不确定性而非猜测的AI智能体，并探讨了在其决策过程中加入记忆所带来的影响。
Sam Altman 对在美国以外发布 GPT-5.6 表示不确定，引发了对地理可用性的质疑。
提出了两种互补方法，将预测不确定性融入化学语言模型的强化学习中，提高了鲁棒性，并在从头分子设计中将真实命中率提升了0.25。
本文探讨了为何AI系统在理解人类对话中的不确定性和歧义方面存在困难，并强调了自然语言理解领域持续面临的挑战。
本文提出了一种面向锂生产多目标决策的POMDP框架，处理地质、需求与定价不确定性，以优化矿山开采及提取方法选择。该方法通过信念状态规划动态适应价格机制变化，优于基于人类启发式的方法。
提出了一种不确定性感知的地质导向框架，该框架将用于概率地下解释的粒子滤波与用于序贯决策的强化学习相结合，并在工业模拟器上进行了评估。
本文引入结构不确定性框架，通过测量采样推理解中自偏好排名的稳定性来评估LLM推理一致性，补充了传统的答案离散度方法，用于识别不可靠的推理。
本文提出了用于治理委托AI系统的最小充分监督原则（MSO），推导了自主分配和信任校准的数学解，并引入了如水填充分配和掩蔽病理等概念。
一篇观点文章，质疑我们是否过度依赖自信的智能体推荐（无论是人类还是AI），而底层数据往往杂乱且不完整，建议智能体应表达不确定性。
本文识别了一种故障模式，其中预测器在未识别的反事实耦合上坍缩为一点，并提出了一个使用正半定耦合核来约束反事实的框架，表明预测无法表示跨世界耦合的不确定性，且施加核约束可产生可处理的边界。
本文介绍了一种推理时方法——探针条件化头部干预（PCHI），该方法通过在模型可能错误但保持高置信度时条件性地重新缩放注意力头输出，有选择地减少对错误答案的过度自信，同时不会显著降低对正确答案的置信度。
本文介绍了基于程序的后验训练（PPT），一种利用LLM生成的概率程序来创建分布目标，以微调归纳推理的方法，从而提高了在保留任务和人类对齐基准上的估计准确性和校准能力。
提出并比较了两种在不确定性下进行鲁棒微电网容量配置和功率调度的数学公式，采用局部缩减算法，在蒙特卡洛模拟中实现了高可行性率。
本文通过词元级不确定性信号，刻画了语言模型在推理中失败的两种不同过程——承诺性失败与持续性不确定性，并展示了其对自一致性及失败检测策略的启示。
本文指出了深度强化学习中传统不确定性估计的局限性，并提出基于百分位数的统计量和可视化方法，以更好地评估运行间性能变异。案例研究展示了该方法在PPO、SAC、TD-MPC、DQN和Rainbow算法上的应用。
一位从业者讨论了LLM代理中的校准与效用权衡，分享了基于验证器的流水线经验，该流水线将幻觉工具调用减少了约60%，但引入了延迟成本并丢失了简单的正确答案。
提出了一种目标导向的澄清框架，利用信息增益奖励训练LLM代理，在用户指令不明确的情况下提出有效的澄清问题，在仅增加少量交互开销的情况下，将任务成功率提升了3.7%。
本文提出ReMax，一种新的强化学习目标函数，通过基于多个样本的期望最大回报来评估策略，从而将探索作为涌现属性引入，无需显式的探索奖励。作者推导了策略梯度公式，并提出了RePPO，一种PPO变体，在MinAtar和Craftax基准测试上实现了高效探索。
作者反思了AI行业释放的混乱信号，指出高额投入并未带来相应的生产力提升，而Anthropic一边限制Claude Code的访问权限、一边大规模融资，让人怀疑AI革命性宣言的真实方向。