decision-theory

标签

Cards List
#decision-theory

何时更少的信息反而更有利?表征、收益与成本的精确有限图谱

arXiv cs.AI ↗ · 4天前 缓存

一篇预印本,穷尽列举了四状态世界中所有允许的表征和二元行动规则,生成了一份精确图谱,对比保留信息量(互信息)、任务收益和成本费率,揭示了信息量较低的表征何时能够优于信息量更高的表征,而这取决于保留了哪些区分。

0 人收藏 0 人点赞
#decision-theory

监控器准确率并非答案:评估 AI 智能体重启监控器的决策价值框架

arXiv cs.AI ↗ · 2026-10-28 缓存

这篇 arXiv 论文认为,分类准确率不足以评估 AI 智能体的失败/重启监测器,并提出了一个基于布莱克韦尔实验比较理论和无模型决策审计的决策价值框架。该框架应用于 SWE-bench Verified 的执行轨迹后发现,表面上的重启收益往往缺乏统计支持。

0 人收藏 0 人点赞
#decision-theory

不要选出赢家:知识冲突需要先验,而非规则

arXiv cs.AI ↗ · 2026-10-28 缓存

该论文提出知识冲突的解决不应依赖固定的启发式规则,而应引入对上下文可靠性的事先概率先验;在 GRACE 与 ClashEval 基准上,基于先验偏移的双声部选择器在各种上下文混合比例下显著优于现有基线。

0 人收藏 0 人点赞
#decision-theory

你能承受多大的误差,取决于行动本身,而非模型。

Reddit r/artificial ↗ · 2026-10-27

作者论述了在 AI 代理验证中,可承受的错误类型(误接受与误拒绝)应由动作本身的性质而非模型决定:不可逆或外部可见的操作需要正面证据,并默认隔离;可逆操作则应降低误拒绝成本。文章给出了基于 p(bad)、C_fa、C_fr 的接受准则,并强调记录两个方向的错误、分离提议与提交路径。

0 人收藏 0 人点赞
#decision-theory

动态不确定性下的风险量化:面向安全序列决策的基于信念的鲁棒性

arXiv cs.AI ↗ · 2026-08-19 缓存

本文提出RATTL,一个使用Wasserstein距离基于贝叶斯信念不确定性调整智能体谨慎程度的框架,用于安全序列决策,适用于基于LLM的系统。

0 人收藏 0 人点赞
#decision-theory

超越预测:预测市场代理中的信念到交易层

arXiv cs.AI ↗ · 2026-07-07 缓存

Raven-Agent 是首个面向预测市场的自主交易代理,具备明确的信念到交易层。它在受控回测中实现了正收益,弥合了校准预测与盈利交易之间的差距。

0 人收藏 0 人点赞
#decision-theory

无需先验的模型预测信息泄露盲检测

arXiv cs.LG ↗ · 2026-06-11 缓存

本文提出了一种决策理论框架,仅利用模型输出和结果来检测预测模型中的数据泄露,证明了某些泄露类型无需外部基准或训练代码即可识别。

0 人收藏 0 人点赞
#decision-theory

考虑语境:塑造道德信念以实现价值对齐

arXiv cs.AI ↗ · 2026-06-08 缓存

本文主张,在AI价值对齐中聚合道德评估时必须考虑语境因素,表明忽略语境可能导致违反弱帕累托原则,类似于辛普森悖论。

0 人收藏 0 人点赞
#decision-theory

# 监督学习中的贝叶斯充分表示

arXiv cs.LG ↗ · 2026-06-04 缓存

本文形式化了监督学习中贝叶斯充分表示(Bayes-sufficient representations)的概念,定义了在给定损失函数下,一个表示何时恰好保留了贝叶斯最优预测所需的信息。文章引入了贝叶斯商(Bayes quotient)作为依赖于损失函数的典范对象,并将该框架与性质激发(property elicitation)相关联,通过实验阐明了充分性、最小性与冗余保留信息之间的区别。

0 人收藏 0 人点赞
#decision-theory

多智能体人机交互中互补性的树结构形式化框架

arXiv cs.AI ↗ · 2026-06-04 缓存

本文提出了一种基于树结构的形式化框架,用于对多智能体人机交互中的互补性进行建模,并证明了在自然条件下,互补性在回归任务中可以实现,但在分类任务中受到阻碍——这些条件涉及局部聚合规则和损失函数。

0 人收藏 0 人点赞
#decision-theory

探究LLM风险决策中的结果层面相似性与机制层面一致性:来自圣彼得堡博弈的证据

Hugging Face Daily Papers ↗ · 2026-06-03

研究人员在圣彼得堡博弈中评估了28个LLM,以区分风险决策中的结果层面相似性与机制层面一致性,发现LLM通常产生类似人类的出价,但缺乏潜在的人类一致推理机制。该研究表明,行为对齐可能是表面的,敦促高风险评估应超越结果相似性。

0 人收藏 0 人点赞
#decision-theory

私有随机决策理论在线学习中的最优间隔依赖遗憾

arXiv cs.LG ↗ · 2026-05-29 缓存

本文通过为私有随机决策理论在线学习提供最优间隔依赖遗憾算法,解决了COLT开放问题,达到了阶 (log K)/Δ_min + (log K)/ε 的下界。

0 人收藏 0 人点赞
#decision-theory

Infra-Bayesian 强化学习智能体在最坏情况鲁棒性方面优于经典 RL

arXiv cs.LG ↗ · 2026-05-25 缓存

本文展示了首个 infra-Bayesian 强化学习智能体的实现,证明其在最坏情况遗憾上优于经典 RL,并能最优地处理纽科姆问题,为模型误设定下的鲁棒性迈出了一步。

0 人收藏 0 人点赞
#decision-theory

人机团队何时能超越个体?具有不可能性保证的紧密界限

arXiv cs.AI ↗ · 2026-05-12 缓存

本文推导了人机团队的紧密理论界限,证明了基于置信度的聚合何时能产生互补效应,并确立了在特定错误相关性下的不可能性结果。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈