我们像工匠一样打造 AI 智能体，但在它们上岗之前，谁来认证它们？

在我上一篇文章中，我把 5000 年前文字的发明与 ChatGPT 的出现进行了对比。我的论点是，重大技术革命不仅仅创造新的能力，它们还会催生全新的职业、机构和经济需求。我一直在思考，这些新机构可能会是什么样子。如果下一个重大的 AI 产业不是关于构建智能体，而是关于认证智能体呢？ ## 1. 我们仍处于手工艺时代 看看今天的 AI 智能体是如何构建的：有人选择一个 LLM，编写提示词，连接工具，添加记忆模块，定义工作流程，运行几次测试，然后部署结果。这令人印象深刻，但它仍然像一个工匠在自己的车间里制造机器。每一次实现都不一样，测试方法各异，可靠性难以比较。我们有构建智能体的框架，但在部署智能体方面，还没有一个被普遍认可的专业资质认证体系的等价物。 ## 2. 人类已经解决了其中一部分问题 想想我们是如何让人类为职业责任做好准备的：我们教育他们，对他们进行考试，颁发文凭和职业资格证书；我们面试、录用他们，并给予试用期；我们评估他们的表现，监督他们的工作，有时还会吊销他们的执业许可。我们不会仅仅因为一个人能回答难题，就认为他具备了专业资质。 然而，我们却越来越多地构建这样的 AI 智能体——它们可能执行金融操作、分析法律文件、管理基础设施，或参与医疗工作流程。而我们对它们的评估，往往主要依赖基准测试和演示。聪明并不等同于具备专业资质。 ## 3. 如果 AI 智能体必须获得"适航认证"呢？ 想象一下，像对待准备投入商业运营的飞机一样对待一个 AI 智能体。在部署之前，该智能体需要在明确界定的运行范围内证明其胜任能力。它可以经历： - 基于真实人类能力标准的专业考试 - 模拟任务，包括异常和危险情况 - 在真实环境中的受监督试用期 - 独立的性能与安全评估 - 针对特定任务和自主等级的认证 - 持续监控，以及发生重大变更后的重新认证 一个有资质审核发票的智能体，不会自动获得执行支付的授权。而替换其底层模型、工具或配置，可能都需要重新测试。认证适用于完整的运行系统，而不仅仅是 LLM。 ## 4. 从手工艺到工业化 这引出了另一个想法。如今，智能体通常是定制化构建的。最终，我们或许可以像拼乐高一样，用标准化的、可互换的组件来组装它们。推理能力、领域知识、工具、记忆、安全、权限和监控都可以成为可复用的模块。 但仅认证单个组件是不够的。组装后的智能体仍然需要证明整个系统能够可靠地运行。成熟的工程学科正是这样运作的。 ## 5. 谁会成为 AI 领域的 Bureau Veritas？ 这就是经济问题变得有趣的地方。也许会出现一类新的机构：独立组织，负责审查、认证、检验和持续评估专业 AI 智能体。它们不一定是对模型进行构建的公司，也不一定是组装智能体的公司，而是其认证被雇主、保险公司乃至最终被监管机构认可的独立机构。 它们真正的产品不会是另一个 AI 模型，而是制度化的信任。它们最有价值的资产，可能是智能体专业能力、运行历史、事故记录和可靠性方面的累积证据。 当然，一张证书永远不能保证智能体不会失败。它所确立的是：测试了什么、在什么条件下测试、以及在什么限制范围内运行。 ## 6. 更宏大的经济变革 文字帮助催生了抄写员、会计、行政人员、审计师和法律制度。工业革命创造了全新的工程标准、检验和认证体系。或许，自主 AI 也会创造属于自己的对应物。 我们可能正在见证这样一种经济的开端：非人类工作者拥有资质证书、运行许可、绩效记录，并需要定期重新认证。 这就提出了一个耐人寻味的问题：下一个 AI 时代最有价值的公司，是那些构建人造劳动者的公司，还是那些让人造劳动者变得足够可靠、值得雇用的公司？ 如果你今天要创业，你会选择构建 AI 智能体——还是构建那套独立的认证基础设施，成千上万的智能体构建者最终都可能需要它？