通往人工超级智能之路

MIT Technology Review 新闻
artificial-intelligence multi-agent-systems internet-of-cognition semantic-layer open-source agent-coordination cisco

摘要

本文探讨了多智能体系统高效协作所需的语义协调层，并介绍了Outshift推出的“认知互联网”以及开源项目AGNTCY，这些被视为迈向分布式人工超级智能的步骤。

<p>设想一个由多个AI智能体组成的医疗系统：一个负责症状评估，一个负责预约调度，第三个处理保险事宜，第四个管理药房。</p> <p>每个智能体都在其领域内堪称专家。但它们各自拥有独特的知识和目标。如今，它们可以交换数据，但在没有人类决策的情况下，仍无法真正协调患者护理。</p> <figure class="wp-block-image size-full"><img decoding="async" width="2400" height="1350" src="https://wp.technologyreview.com/wp-content/uploads/2026/07/CREA-1571-MIT-tech-review-Misc-1200x675-option-2.png" alt="" class="wp-image-1140762" srcset="https://wp.technologyreview.com/wp-content/uploads/2026/07/CREA-1571-MIT-tech-review-Misc-1200x675-option-2.png 2400w, https://wp.technologyreview.com/wp-content/uploads/2026/07/CREA-1571-MIT-tech-review-Misc-1200x675-option-2.png?resize=300,169 300w, https://wp.technologyreview.com/wp-content/uploads/2026/07/CREA-1571-MIT-tech-review-Misc-1200x675-option-2.png?resize=768,432 768w, https://wp.technologyreview.com/wp-content/uploads/2026/07/CREA-1571-MIT-tech-review-Misc-1200x675-option-2.png?resize=1536,864 1536w, https://wp.technologyreview.com/wp-content/uploads/2026/07/CREA-1571-MIT-tech-review-Misc-1200x675-option-2.png?resize=2048,1152 2048w" sizes="(max-width: 2400px) 100vw, 2400px" /></figure> <p>“智能已经存在。缺失的是将四个陌生人变成一个团队的连接组织，”思科旗下Outshift高级副总裁兼总经理Vijoy Pandey解释道。</p> <p>这种“连接组织”来自于添加一个语义层——Outshift称之为“认知互联网”——它使跨领域的智能体能够协同工作，并且关键的是，通过共享意图、上下文和推理来共同“思考”。</p> <p>这个语义层依赖于其下的一个连接层，称为“智能体互联网”，它允许自主智能体相互发现、验证身份并在不同领域之间交换消息。</p> <p>当两者结合使用时，它们便开启了“通往分布式人工超级智能的下一步”，Pandey表示。</p> <h3 class="wp-block-heading">从孤立的硅基天才到“认知互联网”</h3> <p>多年来，AI行业一直专注于增长。垂直扩展带来了更大的模型，这些模型在更多数据上训练，使用更多算力。这产生了类似AI智能体“大脑”的推理能力，使它们能够在数字环境中感知、推理并采取行动。</p> <p>Pandey认为，虽然垂直扩展可以不断产生更强大的智能体，但要实现跨不同系统、公司和平台的智能体问题解决，下一个扩展轴必须是水平方向的。</p> <p>多智能体系统已经在软件工程、药物发现和科学模拟等领域得到探索，但迄今为止它们的表现并不理想。<a href="https://arxiv.org/pdf/2503.13657">一项研究</a>发现，在评估七个开源多智能体系统时，失败率在41%到约87%之间。</p> <p>“连接的智能体能很好地处理协调行动：接受一个它们见过的形状的任务，分工并传递，”Pandey解释说。“但它们在共同持有目标并推理出任何一个都未经训练解决的问题方面无能为力。”</p> <p>“差距在于架构层面，而不是提示问题，”Pandey补充道。“没有正确的协调层，简单的多智能体配置可能比单个智能体表现更差。关键变化在于，智能体团队能够自主地围绕一个新问题汇聚，无需人类缝合缝隙。”</p> <p>为了实现这一目标，Pandey表示Outshift构建了一个名为AGNTCY的连接层，这是一个现在归Linux Foundation管理的开源项目。AGNTCY允许跨不同系统、公司和平台的智能体通过开放、标准化的协议相互查找、验证身份并交换消息。</p> <p>而且，正如Pandey所解释的，这使认知互联网的论点更进一步。它创建了一个语义层，允许智能体对齐目标（共享意图）、汇集机构知识和复合记忆（共享上下文），并进行集体权衡（共享推理）。</p> <p>Pandey将这一进程比作人类的演变：“几十万年来，人类个体变得更加聪明，但每有一位智者去世，其成果便随之消亡，”他解释道。“大约7万年前，情况发生了变化，当时人类学会了共享意图、积累知识并集体推理。正是从那时起，分散的个体变成了文明。”</p> <p>“智能体正处于同样的门槛。我们建造了硅基天才，并赋予了它们自主性。但它们缺少的是让人类走向集体的那一层，”他说。</p> <h3 class="wp-block-heading">迈向分布式超级智能的第一步</h3> <p>让智能体集体工作依赖于技术栈中的三个支柱：</p> <p><strong>通过认知状态协议实现共享意图：</strong>认知状态协议是一种语义握手，允许智能体在行动前就目标达成一致，然后通过协商实现目标。Outshift创建了一个名为Mycelium的开源协调层，组织可以克隆并用于自己的智能体。</p> <p>“我们发现，在14个场景中，无组织的群体约有三分之一的情况能达成决策，”Pandey谈到内部测试时说。“一种协调协议，让智能体在行动前声明目标、揭示缺失信息并解决冲突，将这一比例提高到了93%。”</p> <p><strong>通过认知结构实现共享上下文：</strong>认知结构是一种共享的机构记忆和通信网格，允许智能体的洞察力随时间累积，而不是在每个会话中重置。这个受策略管理的上下文层解决了“组织失忆症”的问题，Pandey表示，确保系统的基线智能只会上升。</p> <p><strong>通过认知放大器与护栏技术实现共享推理：</strong>两种认知引擎可以结合使用以实现共享推理。认知放大器加速共享推理和建模，而护栏技术（GAT）创建安全、成本和合规框架。人类是这一层的积极贡献者，做出系统路由给他们的判断决策（而不是事后审查输出结果）。</p> <p>多智能体系统中的认知共享可能带来新的风险，包括非预期的委托、恶意提示注入或记忆中毒，或者权限过高的智能体，其访问权限和数据远超任务所需。因此需要针对环境的具体控制措施来防止意外行为或后果。</p> <p>“智能体具有类似人类的属性，但以机器速度和规模运行，”Pandey说。“我们二十年来构建的一切——访问控制、身份认证、合规——要么是为人类构建的，要么是为机器构建的，而不是同时为两者。”</p> <p>Continuous Agent Semantic Authorization（CASA）——Outshift开发的一个开源参考实现——是一种GAT，通过持续授权过程确保智能体的行动始终与用户的原始目标保持一致。它通过读取智能体试图完成的任务，然后对照该任务检查每个工具请求来实现这一点。</p> <p>以医疗系统为例，如果某个智能体被指示总结一份患者记录，它可能一开始就查询整个数据库。这可能导致CASA拒绝该调用，因为请求不再匹配它被授权的任务。</p> <p>“当前的控制范围限定于角色或会话，而不是任务，所以获得工具的智能体可以将其用于任何目的，”Pandey解释说。“大约90%的情况下，智能体无法确认自己是否甚至被允许执行被分配的任务。”
查看原文
查看缓存全文

缓存时间: 2026/07/27 13:40

# 通往人工智能超级智能之路 来源：https://www.technologyreview.com/2026/07/27/1140724/the-path-to-artificial-superintelligence 想象一个由多个AI代理组成的医疗系统：一个负责症状评估，另一个管理日程安排，第三个处理保险，第四个管理药房。 每个代理都是各自领域的专家，但它们各自拥有不同的知识和目标。如今，它们可以交换数据，但在没有人类做出决策的情况下，它们还无法真正协调患者的护理。 “智能已经存在。缺失的是将四个陌生人变成一支团队的组织连接，”思科Outshift部门高级副总裁兼总经理Vijoy Pandey解释道。 这种“组织连接”来自于添加一个语义层——Outshift称之为“认知互联网”——它使跨领域的代理能够协同工作，更重要的是，通过共享意图、上下文和推理来共同“思考”。 这一语义层依赖于其下的一个连接层，称为“代理互联网”，它允许自主代理相互发现、验证身份并在不同领域之间交换消息。 “当它们一起使用时，就能实现‘迈向分布式人工智能超级智能的下一步’，”Pandey说。 ### 从孤立的硅天才到“认知互联网” 多年来，AI行业一直专注于增长。垂直扩展带来了更大的模型，这些模型在更多数据上进行训练，使用了更多的计算资源。这产生了类似AI代理“大脑”的推理能力，使其能够在数字环境中感知、推理和行动。 Pandey表示，虽然垂直扩展可以持续产生更强的代理，但为了实现跨不同系统、公司和平台的代理式问题解决，下一个扩展轴必须是水平方向的。 多代理系统已经在软件工程、药物发现和科学模拟等领域得到探索，但它们目前的表现并不理想。一项研究（https://arxiv.org/pdf/2503.13657）发现，在评估七个开源多代理系统时，失败率在41%到大约87%之间。 “连接的代理能很好地处理协调行动；它们能处理已经见过的任务形状，将其分解并传递，”Pandey解释说。“但它们做不到的是，共同持有目标，并朝着一个它们中任何一个都未经训练去解决的问题进行推理。” “差距在于架构，而不是提示问题，”Pandey补充说。“没有正确的协调层，天真的多代理设置可能比单个代理表现更差。关键的变化在于，一个代理团队能够自行汇聚，应对一个全新问题，而无需人类缝合接缝。” 为实现这一目标，Pandey表示Outshift建立了一个名为AGNTCY的连接层，这是一个现在归Linux基金会管理的开源项目。AGNTCY允许来自不同系统、公司和平台的代理通过开放、标准化的协议相互发现、验证身份并交换消息。 而且，正如Pandey所解释的，这使认知互联网的理念更进一步。它创建了一个语义层，允许代理对齐目标（共享意图）、汇集机构知识和复合记忆（共享上下文），并做出集体权衡（共享推理）。 Pandey将这一进步比作人类的进步：“数十万年来，人类个体变得越来越聪明，但这些进步随着每个人而消亡，”他解释道。“大约7万年前，情况发生了变化，那时人类学会了分享意图、积累知识并集体推理。那是分散个体变为文明的时刻。 “代理正处在同样的门槛上。我们已经建立了硅天才，并赋予它们自主权。它们缺少的是让人类走向集体化的那一层，”他说。 ### 分布式超级智能的第一步 使代理集体工作依赖于技术栈中的三大支柱： **通过认知状态协议实现共享意图：** 认知状态协议是一种语义握手，允许代理在行动前就目标达成一致，然后朝着目标协商。Outshift创建了一个名为Mycelium的开源协调层，组织可以克隆并用于自己的代理。 “我们发现，在14个场景中，无结构的组在大约三分之一的情况下能够达成决策，”Pandey谈到内部测试时说。“一个要求代理在行动前声明目标、揭示缺失信息并解决冲突的协调协议，将这一比例提高到93%。” **通过认知结构实现共享上下文：** 认知结构是一种共享的机构记忆和通信网络，允许代理的洞见随时间积累，而不是每次会话重置。Pandey说，这种受策略约束的上下文层通过确保系统的基础智能只会上升，解决了“组织失忆”的问题。 **通过认知增强器和护栏技术实现共享推理：** 两种类型的认知引擎可以一起使用以实现共享推理。认知放大器加速共享推理和建模，而护栏技术（GAT）则创建了安全、成本和合规框架。人类是这一层的积极参与者，系统将判断调用路由给他们（而不是事后审查输出）。 多代理系统中的认知共享可能带来新的风险，包括意外委托、恶意提示注入或内存中毒，或者过度权限的代理拥有远超其任务所需的数据和权限。因此，需要环境特定的控制措施来防止意外行为或后果。 “代理具有类似人类的属性，但以机器的速度和规模运行，”Pandey说。“我们二十年建立的一切——访问控制、身份、合规——都是为人类或机器建立的，而不是两者兼顾。” 持续代理语义授权（CASA）——Outshift开发的一个开源参考实现——是一种GAT，它通过持续授权的流程确保代理的行为始终与用户的原始目标安全对齐。它通过读取代理试图完成的任务，然后针对该任务检查每个工具请求来实现这一点。 例如，在医疗系统中，一个被告知总结患者记录的代理可能首先查询整个数据库。这可能导致CASA拒绝该调用，因为请求与它被授权执行的任务不再匹配。 “当今的控制范围局限于角色或会话，而不是任务，因此一个被授予工具的代理可以将其用于任何目的，”Pandey解释说。“大约90%的情况下，代理无法确认自己是否已经被授权执行交给它的任务。” ### **跨领域创新的实验** 在企业的智能水平扩展中，Pandey建议企业应从一项跨越三到四个团队的跨职能工作流开始实验，并且目前需要人工授权交接。 “将其作为一个小的多代理系统，建立在开放、可互操作的基础设施上，并设置一个可测量的基线，”他说。“继续构建更大的模型，在其之上添加水平轴，并改变你的衡量标准。追踪一个代理的洞见如何让另一个代理变得更好——这就是水平轴正在发挥作用的信号。” 现在就开始尝试意图、上下文和推理层，组织就能抢占先机。“问题都是开放的，基础设施仍在构建中，”Pandey说。“现在是构建它的时刻。” 有关认知互联网的更多信息，请访问Outshift.com (https://outshift.cisco.com/internet-of-cognition?utm_campaign=fy26q4_outshift_ww_paid-media_outshift-mitarticle1_paid-display&utm_channel=paid-display&utm_source=mit)。 *该内容由 MIT Technology Review 的自定义内容部门 Insights 制作。它并非由 MIT Technology Review 的编辑人员撰写。它由人类作家、编辑、分析师和插画师研究、设计和撰写。这包括编写调查问卷和收集调查数据。可能使用过的 AI 工具仅限于经过彻底人工审查的辅助生产流程。*

相似文章

从AGI到ASI

Hugging Face Daily Papers

本文探讨了从通用人工智能到超级人工智能的潜在路径，包括规模扩展、范式转变、递归改进及多智能体集体，并强调需通过跨学科全球协作应对变革性社会影响。

从AGI到ASI

arXiv cs.AI

谷歌DeepMind的一份研究报告探讨了从人类级通用人工智能（AGI）到超级人工智能（ASI）的转变，讨论了扩展、范式转变、递归改进和多智能体集体等潜在路径，以及瓶颈和开放研究问题。

观点：Agentic AI系统是实现AGI的可预见路径

arXiv cs.AI

本文认为，单一模型的单体型扩展不足以实现AGI，并提出具有多智能体协作的Agentic AI是必要的范式，理论上证明了代理系统在泛化和样本效率上具有指数级优势。

为 AGI 及其未来做好准备

OpenAI Blog

OpenAI 阐述了为 AGI 做准备的战略，强调通过真实世界反馈循环进行渐进式部署，随着系统接近 AGI 能力而提高谨慎程度，以及开发更好的对齐技术以确保 AI 系统保持可控和安全。