我给我的智能体添加的最佳功能,就是教它说“我不确定

Reddit r/AI_Agents 新闻

摘要

一位开发者分享说,他们为日程安排智能体添加了一项提示:当置信度较低时,说出“我不确定”,并请用户在不同的理解之间做出选择。这让智能体的速度变慢了,却大幅提升了它的可信度,也引发了一场讨论:降低自主性是否能让 AI 智能体表现得更好。

几个月来,我的日程安排智能体一直靠猜。遇到含糊不清的邮件,它就选一种理解,然后照着做。通常没什么问题,偶尔却会安排一场早上7点、与另一个时区的人开的会议。现在,只要它把握不大,就会给我发一句话:“不确定是X还是Y,选哪个?”我回一个字母就行。我每天大概会收到3条这样的消息。这让智能体变慢了,却也可靠多了。有没有其他人也发现,真正有用的升级是减少自主性,而不是增加自主性?
查看原文

相似文章

教人工智能模型说“我不确定”

MIT News — Artificial Intelligence

MIT CSAIL 研究人员提出 RLCR 方法,在强化学习中引入布雷尔分数(Brier scores),训练 AI 模型输出经过校准的置信度估计,在显著降低过度自信的同时,不牺牲准确率。