可验证的AI推理

# 可验证的 AI 推理 来源：https://blog.vrypan.net/2026/07/14/verifiable-ai-inference/ AI 智能体正越来越多地被用于审查代码、总结文档、分析合同以及回答问题。在许多情况下，结果本身的重要性不如其真实性。 假设 Alice 想与 Bob 分享一份 AI 生成的代码安全审查报告，Bob 想知道这份报告正是某个特定智能体针对特定输入生成的结果。 换句话说，Bob 需要证据证明： ``` output = Agent(input) ``` 针对特定的智能体、模型版本、配置和输入，**而无需重复运行相同的输入，消耗代币和时间**。 目前，还没有标准方法可以证明这一点。 ## 可信认证 最简单的解决方案是依赖可信权威。 推理服务——或独立审计方——运行智能体并对结果进行签名。 证书可能包含： ``` 智能体：OpenAI 代码安全审查 模型：GPT-5.5 智能体版本：v3 输入哈希：SHA256(...) 输出哈希：SHA256(...) 时间戳：... 签名：... ``` 任何拥有原始输入和输出的人都可以验证哈希和签名。如果匹配，则输出是真实的。 这并不能证明模型正确执行，而是证明可信权威认证该输出是由该输入产生的。 对于许多应用来说，这已经足够了。这与信任软件发行商的代码签名或网络上的证书颁发机构并无不同。 AI 提供商、代码托管平台或独立审计方都可以为 AI 生成的工件发布签名认证。 ## 超越信任 一个更强的目标是完全消除可信权威。 与其依赖签名，推理过程本身应生成一个密码学证明，证明该输出正是指定模型在指定输入上的评估结果。 验证将不再依赖于执行推理的服务。任何人都可以独立验证证明。 这是一个活跃的研究领域。零知识证明、zkVM 以及其他可验证计算技术正在取得进展，但为前沿 AI 模型生成证明仍然成本高昂。 ## 为什么这很重要 可验证推理将使 AI 输出更加有用。 代码审查可以附带证明，表明它是由特定的审查智能体生成的。法律分析可以被验证来自特定的模型版本。研究人员可以引用 AI 生成的分析，并确信读者看到的是原始输出。 可验证推理并不会让模型更准确或更可信，它只是保留了输出的来源。无论你对某个模型有多大信心——或多怀疑——这种信任或怀疑都可以一直延续到其输出上。 AI 生成的内容可能成为一类一流的、可验证的工件，就像今天的签名软件版本或数字签名文档一样。 随着 AI 成为基础设施，可验证推理可能变得像 HTTPS 或代码签名一样基础。