bounded-autonomy

标签

Cards List
#bounded-autonomy

智能体AI赋能自动化的有限自主性与可验证安全性

arXiv cs.LG ↗ · 2026-10-08 缓存

该论文提出 BRaVeS(DNRS)框架,通过不变锚点、深度感知注意力与 Lyapunov 共识机制约束智能体推理的自主性,防止认知漂移,并在工业控制仿真中验证了有限步收敛与零安全违规。

0 人收藏 0 人点赞
#bounded-autonomy

受限自主性在受监管智能体AI中的评估:一个集成宪法奖励、升级标签与运行时治理的诊断框架

Hugging Face Daily Papers ↗ · 2026-09-28 缓存

论文提出了RegLLM,一个用于评估受监管智能体AI工作流中受限自主性的诊断框架,通过宪法奖励、升级标签与运行时治理对六项可信度信号进行度量。基于Qwen2.5-3B的小规模试点实验表明,配置差异可能会掩盖受限自主性指标上的调优效果,因此有必要扩大评估数据集规模并进行多次重复实验。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈