你如何应对自动化中的 AI "幻觉"？

我最近的一个朋友为他的业务设置了一个 AI 自动化。这为他节省了大量时间，但时不时地它会做出错误的决定。目前还没有灾难性的后果，主要是些他及时抓住的小问题。但这让我们俩都开始思考，如果没能及时抓住会怎么样？我们都知道这其实不是一个可以解决的问题，大语言模型有时就是会出错。问题更多在于损害控制：你有没有设置什么机制来避免错误造成损失，还是等到错误发生时才去处理？一次关键的错误可能让他付出难以承受的代价。好奇在实际业务中运行自动化的人，哪些方法真的有效。