标签
作者向从业者提问：针对智能体操作设置的人工审批环节究竟有多有效——其中多少比例的审批是真正的拦截，多少只是机械盖章；信任感和疲劳感如何随时间变化；审批队列是否展示了支撑证据。文章指出，没有人真正阅读的审批环节可能只是徒增延迟，而非提升安全性。
本文讨论了一起事件，其中登山者被Gemini的建议误导，将其与OpenAI的GPT-6 Astra发布进行对比，并强调了随着AI能力提升，信任校准日益增长的挑战。
这篇研究文章回顾了关于构建LLM智能体框架的研究成果，强调确定性护栏、有效的多智能体层次结构和适当的记忆架构对性能和安全至关重要，同时指出了当前评估和认证中的空白。
EduPanel是一种基于评分标准、面向学习者的LLM评判器，它使用三个专门的智能体来评估教学视频质量，实现了与人类专家相当的可靠性，同时提高了评分准确性并保持对不可靠输出的可检测性。
本综述综合了人-AI智能体协作中情感动态的计算与交互机制，提出情感线索作为信任、委托和监督的协调层，而非内部情绪。
本文提出了用于治理委托AI系统的最小充分监督原则（MSO），推导了自主分配和信任校准的数学解，并引入了如水填充分配和掩蔽病理等概念。
本文将智能体工具使用中的信任校准形式化为一个偏好学习问题，利用高斯过程和贝叶斯优化来决定AI代理的行为何时应自主执行或需要人类批准。
本文研究了使用大语言模型生成多模态行为（语言、声音、手势、面部表情）以校准社交互动代理中的信任。研究发现，虽然大语言模型能够生成与预期可信赖特征一致的行为，但也会再现社会性别刻板印象。