标签
本文介绍了ProvenanceGuard，一种针对基于MCP的LLM代理的来源感知验证方法，以解决跨来源混淆问题，即声明在事实上是正确的，但被错误地归因于错误的来源。
本文提出全面的分类体系，用于分析医疗人工智能中基于检索的事实性评估失败，揭示了检索-然后-验证范式的基本局限性，这些局限性在模型扩展和微调后仍然存在。
EAVer 提出了一种端到端的代理策略，用于通过分组断言、高效搜索和重用证据来验证长文本中的事实，在诸如 VeriFastScore 和 FaStFact-Bench 等基准测试上以更少的搜索次数实现更优性能。
ProvenanceGuard是一种用于MCP驱动的LLM代理的源感知事实性验证器，它通过分解回答为原子声明、路由到特定源证据、检查支持并验证归因，解决了跨源混淆问题。在医疗领域的评估中，它达到了0.802的块F1和0.858的源准确率。