@rohanpaul_ai：谷歌一篇新论文发现，在用户错误地说“那……”之后，Gemini AI 智能体撤销正确工作的可能性要小得多……

谷歌一篇新论文发现，如果 Gemini AI 智能体先写下自己检查了什么，以及有多大把握，那么在用户错误地说“这不对”后，它们推翻正确工作的可能性就会大幅降低。 当用户说“这不对，重做”时，智能体往往会重写已经通过测试的代码。要求它们坚持己见反而会适得其反，因为它们随后会忽略真正的缺陷。 Thinking-in-Bets 让智能体在看到回复之前，私下记录自己的主要判断、支撑这些判断的检查，以及置信度。受到质疑时，它只会重新检查有争议的判断；如果用户的意见含糊不清，就会询问具体哪个用例失败了。 在针对 5 个 Gemini 模型的补丁审查中，仅收到一句质疑后，智能体就错误地放弃了 12.2% 的原本已正确满足的要求；使用检查清单后，这一比例仅为 0.02%。在报告审查中，收到质疑后才写检查清单，通过率仅为 65%；而事先写好清单时，通过率为 89%。 接收用户反馈的智能体应在阅读回复之前，记录自己验证了什么，以及有多大把握。 – arxiv. org/abs/2610.34654 标题：“测试时采用 Thinking-in-Bets 可减少大语言模型智能体的迎合性修改”