verification-tool

本文介绍了ProvenanceGuard，一种针对基于MCP的LLM代理的来源感知验证方法，以解决跨来源混淆问题，即声明在事实上是正确的，但被错误地归因于错误的来源。

这篇文章解释了在语言模型中，缓存命中并不能证明计算工作被跳过，并介绍了 LLMTraceFX PR #74，它使用令牌粒度的合成控制和多重检查验证来验证缓存行为。

Hedgemony通过将命题与实际运行时环境进行核对，来检测AI生成代码何时提出虚假主张，并对错误如虚构和矛盾进行分类。

作者创建了OpenPitStop，一个独立检查和验证AI编码代理工作的开源工具，并在一个损坏的应用程序上进行了演示，同时邀请讨论如何信任AI的更改。