反向信息悖论

在智能时代，企业如何保护其核心知识产权？

诺贝尔奖得主、经济学家肯尼斯·阿罗曾著名地描述了信息市场中的一个悖论：“买家在获得信息之前无法知道其价值，但一旦获得，实际上就等于免费获取了信息。“在阿罗的“信息悖论“中，卖家为了出售知识，面临着免费泄露知识的风险。

而人工智能制造了相反的问题。在AI时代，买家仅仅为了使用所购买的东西，就面临着泄露知识的风险。

你实际上为智能支付了两次代价：一次是用金钱，另一次是用更有价值的东西——为了让人工智能发挥作用而不得不透露的专有知识。你希望模型表现越好，就需要向其输入越多这样的知识！

随着时间的推移，信息不对称变得越来越严重。当你使用所购买的产品时，卖家对你了解得越来越多，而你却几乎无从得知卖家从中学习了什么。

这就是我所认为的“反向信息悖论“。

专利解决了阿罗悖论的一个方面——它让发明者能够公开创意而不至于直接免费送出去。反向信息悖论也需要自己的对应解决方案。

这需要的不仅仅是数据保护。模型从“数据尾气“中学习——用户撰写的提示词、智能体使用的工具，尤其是当模型出错时用户给出的修正。每一次修正都被提炼为机构的知识财富。这是一种竞争对手永远无法买到的知识，也是一种几乎难以察觉地泄露出去的知识：一次痕迹、一次修正、一次评估，逐渐累积。

在你消费智能的同时，你也在创造智能。而你所创造的东西应该属于你。这就是哈耶克意义上的你的特定智能：关于时间、地点和情境的知识，是其他任何人都无法拥有的。它知道你在想什么，你看重什么，以及你如何衡量成功。

虽然模型提供商需要拥有对公开数据的合理使用权来训练模型，这确实是伟大的创新，但我发现讽刺的是：现状却是反过来对知识蒸馏施加限制性条款，并保留从客户使用和交互数据中学习的权利。如果学习只朝一个方向流动，经济价值就会向学习基础设施的所有者集中，而不是向知识本身的创造者集中。因此，我们必须将学习基础设施分布到每一家企业，以便它们能够控制自己的学习循环。

正如亚历克斯·卡普所说：“技术客户想要的是控制自己的算力、模型、数据堆栈和竞争优势。他们希望知道自己拥有生产资料，而不是被转移给其他人。“目前的体制恰恰就是在进行卡普和企业所担心的这种转移。

这就是为什么企业需要为其人力资本和代币资本的复合增长建立一个真正的信任边界。在这个边界内，组织的数据、痕迹、评估、改编后的权重和记忆得以共同积累和改善。这是一个硬边界，未经同意，任何东西（甚至包括智能尾气）都不能跨越。企业将要求有权使用模型输出来微调和/或训练自己的模型。我认为这是每家企业有权使模型符合其企业责任义务的权利。

在云时代，企业积累的是数据。在AI时代，它们积累的是学习。信任边界必须随之演变——从保护信息转变为保护组织学习、适应和复合智能的机制。每家企业必须做到以下几点以确保这一点：

• 控制：创建你自己的私有评估体系，因为评估定义了组织内部什么是“好“。同时，保留对你组织记忆、痕迹、反馈、决策和机构背景的所有权，以及使用你自己任务和查询的模型输出的能力。

• 能力：在租户边界内构建你自己的专有学习环境，用于训练或微调模型，让模型在真实工作流程中学习而不暴露公司知识。

• 选择：确保编排层与任何单一模型解耦。问问自己：如果你正在使用的任何一个模型被移除，你是否仍能使用其他模型来运作并针对你的评估进行优化？即使某个“通才“模型被移除，你公司的“专才“能力是否仍能保留？

• 成本：通过解耦编排层，你还能够以最高效且最具成本效益的方式将上下文、模型和任务结合在一起，而不会牺牲质量。

• 复合：将以上四点结合起来，你就创建了自己的持续学习循环（即爬山算法），这将使你的AI投资能够复合增长企业的价值。

换句话说，一家公司应该能够使用模型，而不必放弃使其独特的知识。这就是我们需要面对的反向信息悖论。