标签
这篇 arXiv 论文展示了“失真格式化器”——即省略搜索限制或结果数量上限等关键细节的工具输出文本——如何在底层计算正确的情况下，仍然误导 AI 智能体及其验证器。修复格式化器后，缺乏依据的断言大幅减少，验证器的接受结果也从 90/90 全部错误变为 90/90 全部正确。此外，一条审计提示词重新发现了作者自身系统以及 OpenClaw 和 Hermes 中仍然存在的缺陷，推动了相关修复的合并。
本文解释了AI系统中不受信任的工具输出如何被利用进行提示注入攻击，强调即使在内部系统中，也需要将某些字段视为不受信任。
本文介绍了一个统一的基准，用于RAG系统中的跨度级幻觉检测，该基准超越了自然语言，扩展到代码、工具输出和结构化文档，并展示了一个微调的Qwen3.5-2B检测器，该检测器在这些新领域上优于现有方法，同时在标准NLP基准上保持竞争力。