我的AI智能体自信地给出了完全错误的信息。以下是我的收获。

几个月前构建了我的第一个智能体。花了一个周日让它跑起来，当它自主运行时，我真心感到自豪。三周后，我发现它归纳了不存在的数据。不是模糊或略有偏差。完全是编造的。格式整齐，看起来和真实输出一模一样。如果不是那天检查了来源，我可能会在报告中使用它。那时我才真正理解了幻觉。不是作为一个理论限制，而是作为一件在你忙碌且不注意时会发生的事情。我做出的改变：添加了一个验证步骤，让智能体在每次摘要旁边输出其来源。现在抽查只需十秒钟。另外，我在指令中变得更具体，因为大多数幻觉发生在智能体没有足够上下文时，它会用看似合理的内容填补空白。智能体仍在运行。仍然有用。只是现在对它的看法不同了。有没有其他人被幻觉打个措手不及？你们是如何处理验证的？