ModCon 2026 彰显异构计算与开放AI基础设施的发展势头

在@Modular生态体系中，@Qualcomm、d-Matrix等众多企业正协同推动开放标准的发展，为CPU、GPU及XPU等各类硬件提供更多选择空间。

阅读更多：https://modular.com/blog/modcon-announcements…

#Qualcomm #AWS #Google #Modular #dMatrix #AI推理 #异构计算

ModCon 2026：开放源码、开放云平台、开放芯片架构

来源：https://www.modular.com/blog/modcon-announcements

四年半前，Modular公司做出了一个预判：AI不会永远仅依赖单一类型芯片运行，其软件栈需要为异构硬件环境与日益复杂的AI工作负载进行重构。

在今日举行的ModCon主题演讲中，我们展示了这一预判的演进成果。Modular平台现已具备生产就绪能力，每分钟处理数十亿token，并支持真实的企业级部署。我们正向生态系统开放更多平台功能，将其扩展至全新硬件类别，并携手重要行业合作伙伴共同推进。

具体而言，Modular与Qualcomm共同宣布：

• Mojo 1.0 现已完全开源（采用Apache 2.0许可证）
• Modular Cloud 已正式上线，为MiniMax等旗舰客户提供服务
• Modular平台现支持AWS Trainium、Google TPU及Qualcomm Cloud AI 100与Qualcomm Dragonfly加速器（同步支持CPU与GPU）。关于Qualcomm Dragonfly适配工作的详情，请参阅我们的技术博客
• Mojo将原生支持Windows系统，这是与Microsoft Windows团队深度合作的成果
• MAX许可证不再包含设备使用限制，且MAX将以源码开放形式配合开放联盟计划，使更广泛的生态系统能够与我们共同构建平台

异构计算时代已然到来，且拥有统一、开放的软件平台。

Mojo 🔥 正式开源

上周，我们宣布Mojo 1.0正式发布，为开发者提供长期稳定、生产就绪的开发基础。除了系列新功能，1.0版本最重要的特性是稳定性保障：您今日编写的代码将始终保持兼容性。

今日我们更进一步。整个Mojo语言现已基于无限制的Apache 2.0许可证完全开源，这意味着编译器及所有工具链均已开放。开发者可以扩展该语言、将其移植至新平台，并基于此构建各类应用程序。这延续了自2024年Mojo标准库、2025年MAX内核开源以来的渐进式开放路径。欲了解Mojo详情并参与贡献，请访问mojolang.org。

Mojo的Windows系统支持

Mojo多年以来一直支持macOS和Linux，Windows开发者此前可通过WSL使用。原生Windows支持始终是开发者呼声最高的需求之一。

数百万开发者每日基于Windows系统构建各类应用与工作负载。我们坚信Mojo能够对整个生态系统产生深远影响。将Mojo正确引入Windows平台需要深厚的系统专业知识，正因如此，我们很高兴Microsoft Windows团队看到了相同机遇，并与我们携手推进此事。

“我们很欣喜看到Mojo登陆Windows平台，这将为系统与AI领域的开发者创造新机遇。数百万开发者每天使用Windows进行开发，我们致力于帮助他们在选择的平台上获取所需工具与技术。”

—— Logan Iyer, Windows平台+开发者事业部首席副总裁

Modular Cloud正式推出

Modular Cloud是完整Modular栈以生产服务形式落地的平台。它让开发者直接访问Modular业界领先的推理性能，同时抽象了跨异构基础设施部署、优化与运维模型的复杂性。

Modular Cloud已通过console.modular.com全面开放服务，通过共享端点和专属部署两种模式，基于Modular栈提供流行开源模型服务。共享端点兼容OpenAI协议并按token计费；专属部署则运行于我们的计算资源或您自有基础设施，采用专用隔离实例。

过去几个月，Modular Cloud已悄然以ModelRun名义为OpenRouter提供流量服务，其端点在生产环境流量测试中持续保持延迟与吞吐量指标领先。独立基准测试机构Artificial Analysis的数据也印证了这一表现。

MiniMax案例

MiniMax是Modular Cloud的旗舰企业客户，在专属Modular部署上运行M3模型，为其生产环境提供每分钟数十亿token的推理服务。

大规模高效服务M3模型面临独特的系统挑战：需兼顾百万token上下文窗口、原生多模态处理能力以及MiniMax稀疏注意力机制（MSA）——这是一种创新的稀疏注意力架构，通过选择性关注相关KV块来降低随上下文规模增长的计算需求。

实现顶尖性能需要全栈优化：在MAX中原生实现M3、构建并调优专用MSA内核，并针对MiniMax实际流量模式进行部署优化。

超越GPU：Trainium、TPU与Dragonfly

Modular Cloud现已基于NVIDIA和AMD GPU提供生产工作负载服务。今日，我们将硬件支持扩展至GPU之外的定制AI加速器领域——这对平台的可移植性提出了更高要求。

我们新增了对AWS Trainium、Google TPU、Qualcomm Cloud AI 100 Ultra及Qualcomm Dragonfly的支持。所有硬件均通过统一的Modular Platform运行，采用相同的建模API、服务工作流、编程语言和核心抽象。开发者只需编写一次模型代码，即可将其部署至完全不同的硬件架构，无需围绕新硬件重建软件栈。

更重要的是，我们以远低于传统新硬件适配所需的工程投入完成了这些平台的适配工作——工程效率提升超过10倍。

未来数月，我们将逐步将这些新硬件平台投入生产环境，并通过Modular Cloud对外开放服务。

MAX：与生态共建的通用基础

AI硬件创新正在加速，但优质硬件的价值唯有在开发者能够充分使用时才能体现。当前过多创新仍受限于为单一架构编写的软件栈。行业需要通用的软件基础：编写一次模型即可触达所有加速器，基于性能与经济性而非软件栈支持情况选择硬件，让供应商通过芯片本身优势竞争。这正是Modular Platform的建设目标。

Qualcomm的加入进一步强化了这一愿景。Modular Platform将持续支持并优化各类硬件，包括与Qualcomm Technologies平台直接竞争的产品。生态系统面临的机遇远超任何单一供应商的发展路线图，基础平台只有在所有人都能参与共建时才能发挥价值。

为构建这一基础，我们启动两项重要计划：

开放MAX平台。 我们正在革新MAX的授权模式并扩展源码访问权限，使开发者、企业、硬件供应商与合作伙伴能够在平台上进行开发、扩展并贡献代码。

构建生态系统联盟计划。 我们正推动建立涵盖硬件供应商、模型提供商、云厂商及数据中心运营商的产业联盟。旨在让合作伙伴直接参与MAX集成、为其平台优化MAX，并共同规划Modular Platform的演进方向。

HTEC已展示了实践范例。其工程师团队仅用数月时间、投入少量工程师，便在Modular Platform上自主完成了Google TPU支持适配，我们仅提供支持性角色而非主导集成。这有力验证了我们的建设成果：一个生态系统可独立扩展的基础平台。

其他初创硬件厂商同样看到了市场需求。d-Matrix便是其中之一：

“d-Matrix与Modular对异构计算的共同承诺建立于对开放标准的相互支持之上。随着解耦式异构计算时代的到来，开放标准能够加速GPU、CPU与XPU协同部署，实现规模化效率提升，这也正是我们合作如此契合的原因。”

—— Sid Sheth, d-Matrix创始人兼CEO

立即体验

开源Mojo 1.0的全部资源现已通过mojolang.org开放。Modular Cloud已在console.modular.com正式上线。若您今日身处旧金山参加ModCon活动，下午的技术深度分享将涵盖上述所有内容的详细解析。

AI发展日新月异，企业难以持续为每个模型重建底层基础设施。模型规模不断扩大，服务日益分布式部署，硬件趋向异构化。开放的横向平台曾重塑多个行业——但唯有当生态系统共同参与构建时才能实现。无论您从事硬件研发、模型开发、基础设施建设还是应用创新，都邀请您与我们共建这一基础平台——请通过[email protected]联系我们。