组织的第二大脑：构建从专家学习的AI（15分钟阅读）

# 组织第二大脑：打造能向专家学习的AI 来源：https://engineering.fb.com/2026/09/02/ml-applications/organizational-second-brain-ai-learns-from-experts/ - 我们构建了一个AI智能体，作为特定领域的副级专家，使深奥的专业知识随时可用并得以保存，供组织内的任何人访问、分享和深化。 - 这并非典型的领域专用智能体。其新颖性在于融合了两个层次： - 一个结构化的、可审计的**知识架构**，将智能体“知道什么”与其“如何推理”分离开来。 - 一个**自我改进循环**，它将专家反馈编译成经过验证、经回归测试的更新，**无需重新训练模型**。 - 这两个层次共同作用，将一次性的专家纠正转化为永久的、不断积累的机构记忆，其设计模式旨在推广到其他由可检索文本（而非模型权重）主导的领域。 - 该系统正在为Meta的领域主题专家（SME）节省大量时间，使他们能够专注于其知识最至关重要的工作。 许多大型组织在专业知识管理上面临着相同的问题。尽管部分知识以模型、操作手册、清单和框架的形式被记录下来，但最宝贵的专业知识往往存在于专家的头脑中，很少被持久地捕获下来。例如，在合规领域，同类问题可能在数百次产品评审中反复出现，专家评估需要耗费数天的人工调研，而评估间的不一致性会带来真实的组织风险。 专家们花费大量时间回答常规问题，而非投入其判断力最能发挥价值的、真正新颖和模糊的工作，这并不少见。我们需要这样的系统：能够捕获组织专家的推理方式，并将这些知识提供给所有需要它的人，使专业知识更易分享、深化和保存。我们着手通过将机构智能编码到一个针对特定合规领域的AI智能体中来解决这一挑战。该智能体结合了一个充当组织“第二大脑”的知识系统、一个模拟领域专家实际思维过程的推理层，以及一个能永久积累专家成果的自动改进流水线。这些模式适用于任何拥有深厚专业知识的业务领域，无论是金融、安全还是工程。 ## 架构概览 现成的大语言模型提供了坚实的基础，但它们通常需要更深入的机构上下文，才能在专业领域充分发挥作用。没有这种根基，通用模型的价值有限，因为它无法区分组织“可以做什么”（对通用信息的总结）与“应该考虑做什么”（基于历史立场、公司方向、业务背景等）。在高风险领域，弥合这一差距需要向模型提供组织自身的知识和优先事项，使其分析能反映组织的真实推理方式。 我们设计的系统包含四个层次，每个层次解决一个特定问题： 这些层次相互依存。知识系统的文件结构使自动编辑成为可能。推理层的显式程序使故障归因变得可行。评估框架为每一次变更把关。而改进循环则同时反馈到知识和推理层。移除任何一层，其他层都会退化。 大型组织会积累成千上万的文档，这往往是专家工作的副产品。将这些文档视为组织知识是诱人的，但真正的知识是隐性的：专家如何推理、他们优先考虑什么、他们如何解决模糊性。在推理时检索文档块的智能体必须每次运行都从原始来源重新推导这些推理，这既缓慢、易错又不一致。 我们提前将这些隐性知识显性化。一个长期运行的离线进程会推理源文档，并将它们提炼成结构化的知识文件——这些精心策划的陈述阐明了组织如何解释其领域，其中的约束、边界和路由含义被转化为机器可读的格式。 最重要的是，这些知识随后构成了一个反馈循环的基础，允许智能体从人类专家的反馈中学习并加以实施，而无需重新训练底层模型。 业界已经汇聚于一个类似的想法。Andrej Karpathy的 LLM Wiki (https://l.facebook.com/l.php?u=https%3A%2F%2Fgist.github.com%2Fkarpathy%2F442a6bf555914893e9891c11519de94f&h=AUCFK9lNTF7CgPxu9GE4kppMNNk7LorBrI7LY3GzOa3kMgTySl8uAd5nSl4jVfG0COztV4O13lh9Hy12nLeS0AgFYo18TgK-eXNXGfh_dSx9aV20Z-4F06PknKgl0_C6eXuOeiEeWu48ys5p) 将智能体知识构建为可导航的文件图，而Google的 Open Knowledge Format (https://l.facebook.com/l.php?u=https%3A%2F%2Fcloud.google.com%2Fblog%2Fproducts%2Fdata-analytics%2Fhow-the-open-knowledge-format-can-improve-data-sharing&h=AUBMty2NM7KatAvutLJZPW0e0H4k0HLX6DBV7zD5kMh89ySEjle1BsVOkCmjjJAOkNSrUtBbT6we54TEY98iGZOWnGCCcLNz_zSRFtTvKjQccJnI2sRPsP7jLkwuqCLIR5-_Hncgljn43LXH) 则为此实现了跨智能体互操作的标准化。共同的见解是：知识应当被预先提取、显式结构化，并逐步披露，而不是在每次查询时重新推导。我们将这些原则扩展到一个系统中，在该系统中，引用保真度和机构一致性是不可妥协的，将200多个文件组织成一个严格的分类体系： - **立场文件**捕获权威的组织立场：组织如何解释一个特定的领域问题，及其约束、边界条件和机器可操作的路由含义（用于指示推理层何时应用它）。 - **分类和词汇文件**充当组织用于描述其领域的术语的权威词汇表，例如实体类型、活动类别和分类等级。每个文件都作为单一真实来源来维护，确保智能体和组织使用一致的语言。 - **路由索引**将输入特征映射到相关的立场和程序上，决定哪些文件适用，而不仅仅依赖嵌入相似度。这使得检索具有确定性且可审计。 - **网关文件**定义了智能体在进入一个分析领域之前必须通过的阈值测试，防止其在不相关的领域应用专业知识。 每个文件在YAML前置元数据中声明其依赖项（depends_on）和消费者（referenced_by），形成一个双向依赖图。当一个文件发生变更时，你可以精确追溯可能受影响的其他文件，这在自我改进循环提出自动编辑时至关重要。 知识系统示意图：文件组织为可导航的文件系统（左），每个文件的YAML前置元数据（右）声明其适用条件（触发场景）以及依赖项和消费者，形成一个智能体可以轻松遍历和维护的双向依赖图。 ## 按信息密度与使用频率组织知识 一个关键的架构决策是：如何在精心维护的维基和补充检索（RAG）之间分配知识。我们根据**信息密度和预期使用频率**进行划分。 **高密度、频繁引用的源**进入维基**：** 捕获组织推理方式的提炼文件，如立场、决策框架、边界示例和战略解释。智能体在几乎每一轮对话中都会查阅这些文件。由于它们编码了组织不断演进的思维，因此需要保持最新，而维基结构使其易于更新、版本控制和验证。 **低密度、情境相关的源**通过语义或词法搜索（RAG）提供：这些文档在适用时至关重要，但在大多数运行中不需要详细内容，例如详细参考资料、单个产品规格、历史决策记录和小众外部知识。将所有这些加载到维基中会使系统臃肿，并分散注意力。 结果是，智能体的核心推理始终基于最精炼、最新的组织知识，同时在场景需要时仍可调用支持性证据。这种结合产生了一个组织第二大脑，它编码了组织如何解释和应用信息，而不仅仅是信息的存放位置。 ## 通过可组合配方实现专家推理 仅有知识是不够的。领域专家并非简单地回忆事实，他们遵循结构化方法：金融分析师逐步进行估值模型分析，安全工程师遵循威胁建模流程。挑战在于以一种大语言模型能可靠执行的形式捕获这些方法论。 我们通过**我们称之为配方的可组合程序**来解决这个问题。如果说知识文件是声明式的，那么配方就是命令式的。每一个配方都规定了一个多步骤的分析工作流，指定了首先检查什么、在每一步加载哪些知识、遵循什么决策程序，以及什么构成完整的分析。 关键的设计选择是**将智能体“知道什么”与其“如何推理”分离**。配方引用知识文件但不包含领域事实；知识文件陈述立场但不规定程序。这意味着： - 添加一个组织立场意味着添加一个知识文件并更新路由索引。无需修改配方。 - 修复智能体方法论中的缺陷意味着编辑配方。无需更改知识文件。 - 故障可以清晰地归因到某一层。是知识错了，还是程序错了？ 配方组合成流水线，就像主厨的晚餐服务总配方委派给每个组件（酱汁、主菜、装饰）的子配方一样，而无需包含这些细节本身。我们的顶层路由配方检查输入，并选择调用哪些下游配方，每个配方处理一个分析阶段。 这也实现了**渐进式披露**。不是预先加载涵盖所有可能场景的庞大指令集，而是每个配方步骤只包含该阶段相关的指令和知识。早期版本使用单个扁平指令文件，并通过语义搜索加载所有源文件，在每次运行时将大量相关性混合的文件拉入上下文窗口。重构为配方驱动的阶段后，每个查询只涉及一个小而精准的子集，将每轮消耗的token减少了约80%。上下文窗口有限，注意力会随容量增加而下降，因此在正确的时间传递正确的指令直接提升了推理质量。 ## 保持人类的控制权 人类专家在整个系统中始终保持控制。智能体加速并结构化他们的工作；它不会取代他们的判断或对结果的权威。 我们通过两种机制来强制执行这一点： **检查点**是分析中的指定点，智能体会在这些点展示其中间推理过程供专家审阅，然后专家可以确认、纠正或重定向。 **升级**在智能体遇到真正的模糊性时触发，无论是由于输入不完整，还是证据支持多种合理的解读。它不会强行解决，而是将问题交给专家，由专家的选择决定分析的路径。 检查点和升级同时服务于三个目的： 1. **质量和方向控制：** 专家在错误在下游积累之前就将其捕获，并确保分析沿着他们认为最相关的路径进行。 2. **训练信号：** 每一次纠正和每一次升级都会成为自我改进循环的输入。 3. **信任校准：** 专家通过观察智能体的推理过程（而不仅仅是其最终输出），以及看到它标记不确定性（而非掩盖它），来逐步建立信心。 决策越重要，这些就越关键，这就是为什么我们建议在合规、金融风险评估、安全审查和工程安全等领域，默认让人类保持在循环中。 ## 自我改进飞轮 我们认为自我改进飞轮是这个系统最独特的部分。虽然结构化的知识系统和可组合的配方产生了一个对人类和智能体都可读、可测试且模块化的系统，但大量相互依赖的文件使得手动维护无法扩展。当领域专家向智能体提供反馈时，该反馈必须被转换为精确的文件编辑。这个过程可能需要数周时间，因为它需要理解完整的依赖图，验证没有其他东西被破坏，并确认修复确实有效。 已经有大量工作——从RAG记忆系统到模型权重知识编辑——致力于解决智能体如何存储、检索和更新知识的问题。但是，对于如何在文档型机构知识库随增长而专家立场演进时保持其**正确性**，关注却少得多。能够自动起草自身修复的智能体越来越常见；但我们尚未看到这种严谨的验证级别被应用于无需重新训练模型的结构化知识库。 我们将这种维护视为一个**编译问题**并对其进行自动化。每一次专家纠正都经历四个阶段： 1. 将专家反馈诊断为可操作的问题及其根本原因。 2. 将问题编译为经过最小验证的编辑。 3. 验证修复有效且没有回归问题。 4. 由领域专家进行审阅。 一旦循环完成，回归测试套件会包含刚刚修复的问题，以便未来的更新保留此行为。 自我改进循环。专家纠正被诊断出根本原因，编译成经过最小验证的编辑，并在被审阅和采纳前通过重放和回归测试进行评估。每个修复随后被合并回回归套件，使收益得以永久化。 ### 诊断：将每个纠正归因于根本原因 原始的专家反馈来自领域SME与智能体交互并提供纠正的对话追踪。诊断阶段从这些对话中提取结构化信号。 我们的第一个方法是根据对话形式对反馈进行分类。如果专家提供了信息，那一定是知识空白；如果他们重定向了智能体，那一定是程序问题。这个启发式方法失败了，因为对话形式是根本原因的拙劣代理。专家纠正一个结论可能是在暴露一个知识空白、一个配方缺陷，或是一个真正的模糊性。 可行的方法将提取与分类分开。首先，从专家反馈中提取每个实质性信号，同时附带智能体的完整知识清单（加载的每个文件、加载时间和使用方式）。其次，阅读实际的知识文件并应用一个统一的归因测试：智能体能否从其源材料中得出正确的结论？ - 如果材料包含了正确答案，但智能体仍然出错：配方问题。 - 如果材料不包含正确答案：知识空白。 - 如果专家自身对正确答案存在分歧：模糊性，标记供人类讨论。 ### 编译：精准的多智能体编辑 编译器将每个诊断出的问题转化为最小化的文件编辑。子智能体并行分析影响，检查交叉引用、与现有立场的冲突、token预算影响、测试覆盖率和重复风险。 两个设计选择使其值得信赖： **独立的对抗性审查。** 一个独立的智能体在全新上下文中运行...