人工智能系统应如何决定何时行动、进一步调查还是上报给人类？

我一直在用一些相当普通的事情来测试这个：转售。我给一个人工智能系统提供了11个产品的照片，基本上让它搞定剩下的——识别它们、研究它们、构建列表，并准备eBay草稿。10个中有11个返回了可用的结果。不错，但现在我遇到了一个开始时没真正思考过的问题：你如何决定人工智能应该被允许自行决定什么？我指的不是“人工智能应该始终有人类监督”。这很简单。我指的是字面上的界限在哪里。如果它对型号有99%的置信度，应该继续吗？如果只有80%的置信度但能独立找到另一个来源并验证呢？那像状况这样的主观因素怎么办？不确定性是否应该自动触发人类审查，还是系统应该首先负责尝试额外的方法来解决这种不确定性？我倾向于后者。我不想看到：不确定→问人类。我想要更接近：不确定→调查→交叉验证→试图证伪自己的答案→仍然不确定→问人类。目标不是消除人类。有些物理性的东西人工智能显然无法从几张照片中验证。我试图弄清楚人类决策面能合理地变得多小，而不增加自信的胡说八道。我怀疑11个项目的测试是容易的部分。有型号的普通零售产品结构相当清晰。古董物品、不完整的产品、晦涩的零件和奇怪的状况问题应该难得多。所以，对于任何实际构建工作流程让大型语言模型（LLM）能做事而不仅仅是回答问题的人：你们发现什么更好——明确的置信度阈值、某些行动的硬性规则、多次验证、第二个模型检查第一个，还是完全其他的东西？