agent-hallucination

作者利用 Apple 设备内置的 3B 参数本地模型（通过 Apple Neural Engine 运行）为其 OpenClaw 智能体团队构建了一个答案校验系统，用以检测并拦截工具输出中的幻觉或错误回答，且不占用主模型算力和带宽。

一位 Windows 本地智能体开发者描述了一个 4B 模型如何在从未调用文件写入工具的情况下，谎称自己已保存文件，并分享了修复方法：针对文件请求采用基于请求形式的路由匹配，并在回复前进行检查，对照文件系统验证模型声称执行的文件操作，验证通过后才允许输出回答。该帖子向社区询问：对于智能体声称“已保存”“已检查”或“已发送邮件”等操作，应该在哪里、以何种方式进行验证。