Mistral Large 4 正式发布

Reddit r/artificial 模型

摘要

Mistral AI 发布了其最大模型 Mistral Large 4(代号 le Chonk):一个 1 万亿参数、490 亿激活参数的原生多模态开源权重模型,公开预览 API 已上线,完整权重将于月底开源,强调欧洲自主基础设施与 AI 主权。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/10/06 13:38

# 推出 Mistral Large 4 来源:https://mistral.ai/news/mistral-large-4/ ## Le Chonk 今天,我们正式发布 Mistral Large 4 的公开预览版(https://docs.mistral.ai/models/mistral-large-4)。它的非官方缩写是 ML4,官方昵称则是:*le Chonk*。ML4 将开源权重模型的性能推向了新的前沿。你现在就可以在 Mistral Studio(https://console.mistral.ai/)上体验预览版 API。权重将在本月底发布。 ## 前沿性能 ML4 是一个拥有 1 万亿参数、490 亿活跃参数的原生多模态模型。这是我们迄今为止最大、最强大的模型,并且随着我们持续优化,其性能还在快速提升。 该模型在代码编写、Agent 工作流和多模态理解方面表现出色。它已经达到了与全球最强开源模型相当的性能水平,同时显著超越了任何在美国或欧洲开发的开源权重模型。在网络安全、金融和法律等关键企业工作负载上,我们发现它是开源模型中的最先进水平。在视觉定位等某些领域,它表现更进一步,甚至超越了前沿闭源模型。 我们将在本月底发布权重。在此之前,我们正与网络安全领域的领军企业、经过审核的合作伙伴以及国家有关部门合作,在真实场景中对模型进行红队测试——他们将访问同一模型,并获得降低审核限制和扩展网络能力的访问权限。 ## 演示 ## 铸就于欧洲。为 AI 主权而生。 ML4 在 Mistral 自有位于欧洲的数据中心上,基于 3,800 块 NVIDIA Grace Blackwell GPU 从零开始训练而成。公开预览版也运行在同一基础设施之上。这是我们长期以来在基础设施、研究和产品开发方面投资的一个重要里程碑:通过开源权重,在关键垂直领域实现最先进性能,让客户掌控自己的 AI。 这在网络安全领域尤为重要。在那里,供应商级别的拒绝可能阻碍合法的漏洞研究和事件响应,而事件处理过程中能力的丧失本身就会成为严重安全隐患。ML4 将顶级网络安全性能与开源权重和自主部署相结合,让组织机构既具备能力、又拥有自主权,在自身政策下运行高级安全工作负载。 该模型将在全球多个区域提供服务,包括由 Mistral 独立于其他数字服务提供商、按照欧洲法律运营的端到端欧洲部署。一个有趣的数据:ML4 训练数据中有相当大比例是多语言数据,涵盖超过 160 种语言,包括欧盟所有官方语言。 我们与全球金融、工程、制造、物流、制药、科学、航运、公共部门等关键行业的领先企业紧密合作训练 ML4。实际上,该模型使用的是我们通过 Mistral Forge(https://mistral.ai/products/forge/)向客户提供的相同训练、定制和强化学习环境。 ## 今天就来体验 更多内容即将到来。随着我们推进权重发布工作,我们将分享关于模型架构、更多基准测试以及后训练方法的详细信息。 该模型也将成为新一代专用化和优化的 Mistral 模型的基础。在此期间,我们邀请你试用预览版 API(https://docs.mistral.ai/models/mistral-large-4-0),并在社交媒体上与我们分享你的反馈。 ## 能力深入解析 ### 网络安全 ML4 是全球最强大的网络安全 AI 模型之一。在 Artificial Analysis Cyber Index(一项独立评估 AI 模型在真实软件中发现和修复安全漏洞能力的基准测试)上,它排名全球前五,并大幅领先于中国以外开发的开源权重模型。在该指数的一项测试中——要求模型在开源软件中复现一个真实漏洞并进行修复——ML4 得分为 82%,在所有模型中最高。它还解决了 Cybench(一组来自安全竞赛的 40 个挑战任务)中 93% 的题目,这是开源权重模型报告的最高分数之一。 这一高分反映了实际优势。包括 Claude Opus 5.5 和 GPT-6 Astra 在内的多个领先闭源模型在同一测试中得分接近零,因为它们拒绝执行该任务。然而,防御软件往往从证明某个漏洞真实存在开始,而这正是闭源模型中的安全过滤可能阻止的工作类型。当威胁行为者日益越狱这些相同模型来支持网络攻击活动时,这一点更加重要:防御方需要能够匹配那些能力、同时不受相同拒绝限制的系统。ML4 可以胜任这项工作,而且它的能力还延伸到了明确训练目标之外:在内部测试中,它被证明可用于恶意软件分析、漏洞优先级排序以及编写检测规则。对于需要主权的、可审计的 AI 来进行安全运营的组织来说,它可以在私有云或本地环境中运行。 ##### ML4 对比其他模型:高效推理多种复杂挑战 ##### 恶意软件逆向工程:解决一个分布外的调查任务 ### 智能体编码 ML4 在软件工程、代码仓库理解和复杂终端工作流方面表现出色,在 DeepSWE v1.1 上得分 61.7%,在 SWE-Atlas-QnA 上得分 59.4%,在 Terminal-Bench 4 上得分 28.3%。其综合 Coding Agent Index 得分为 49.8%,领先于 DeepSeek V4 Pro 0813 和 Qwen3.8 Max。 \* DeepSWE、Terminal-Bench 4 和 SWE Atlas QnA 的分数使用 ArtificialAnalysis 编码指数报告的数据。Vibe Code Bench v1.1 使用 vals.ai(http://vals.ai/)报告的数据。 我们还与 Surge AI 合作进行了一项关于编码质量的盲评人工评估:专业标注人员在 1-5 分制上对模型输出进行评分,模型身份被隐藏。ML4 预览版在五个模型中排名第二(3.74),领先于 Kimi K3(3.59)、GLM-5.3(3.60)和 GLM-5.2(3.40),仅次于 Claude Opus 5(4.22)。 #### 智能体工作流 ML4 可以运行通用智能体,在复杂工作流中收集信息、使用工具并生成完整的交付物。在 AutomationBench——涵盖 Gmail、Google Sheets、Slack 和 Salesforce 等应用的 657 个业务工作流——上,它得分 59.9%,领先于 Kimi K3、MiMo-V2.6-Pro 和 DeepSeek V4 Pro。 在知识工作实际产出的专业交付物方面——电子表格、幻灯片和 PDF——它同样表现出色。在评估长时程知识工作的 AA-Briefcase 上,它达到 1,393 Elo,领先于 DeepSeek V4 Pro。 #### 多模态 ML4 在我们模型理解图像的能力上实现了质的飞跃。它可以在复杂文档、图表和自然图像之间进行强大的推理,并将视觉能力带入工程、制造和对地观测等感知至关重要的行业。 该模型还可以将视觉定位与智能体能力进一步结合:从检查千兆像素级的卫星图像——帮助灾害响应团队在分秒必争时采取行动——到分析工程图纸——放大、检查并验证直到答案精确无误。在上面的演示中,ML4 能够定位密集的自然场景,在技术图纸中验证机械零件,从 PDF 中检索证据,并在海量地理空间图像中搜索最难找到的目标。 特别是在视觉定位方面,我们发现 ML4 是我们测试过的最有能力的模型之一,例如在 Dense 200 上超越了 GPT-6-Astra(42% 对 41%)。 #### 科学与数学 ML4 具备强大的科学能力,通过将 AI 驱动的方法与我们研究人员在数学、物理和化学方面的专业知识相结合而构建。 它非常擅长面向科学任务的智能体编码,例如数据分析、建模和模拟物理现实,让研究人员可以专注于问题本身而非技术细节。在基准测试中,ML4 在开源权重模型中于 SciCode-Verified 上达到了最先进水平。在实践中,它可以一次性生成一个完整的 Hartree-Fock 模拟——这是一个由一系列高级例程组成的复杂多步骤化学任务。 ML4 的数学能力也更强,在形式推理和应用数学方面皆是如此。在我们的人工评估中,它比 GLM-5.3 的推理更精确、更有结构化,而且能够持续处理长时间的领域特定应用数学任务,包括与前沿理论物理相关的工作。 这些能力结合在一起,使 ML4 成为从第一个问题到最终结果的完整技术工作流中强大的研究助手。 *SciCode-Verified 测试模型在物理、数学、材料科学和生物学等领域以代码实现复杂科学工作流的能力。* *ML4 与 GLM5.3 在 STEM 任务(数学和物理)上的内部评估* ## 知识工作 ML4 是我们处理专业人员每天面对的真实世界任务方面最强大的模型。它可以创建、编辑和修复复杂的电子表格和文档,在法律和金融基准测试中均表现出示范性的性能。 值得注意的是,我们通过第三方评估机构 vals.ai(http://vals.ai/)在法律和金融任务的代表性场景中对 ML4 进行了评估,发现该模型在两种情况下均超过了 GPT-6-Astra。在 HarveyAI 的 Legal Agent 基准测试中,ML4 超越了所有开源模型。 *FinWorkBench 测试模型在真实金融和会计用例中创建/编辑电子表格的能力。* 金融分析需要精确性以及综合多来源信息的能力,而这一过程在当今许多金融机构中仍然耗时耗力。在此演示中,ML4 和 Mistral Medium 3.5 接受相同的多步骤企业金融挑战——搜索公开公司备案文件和财务报告,例如通过 EDGAR 或等效的欧洲数据库获取的数据。一张动态语义图追踪每个模型的求解过程,突出显示沿途检索到的每个文档。每条轨迹的位置反映了已收集的证据、计算结果以及尚未解决的问题。观众可以跟随调查的展开,比较每个模型在得出最终答案前所走的不同路径。 ## 模型安全 ML4 在抵御间接提示注入的鲁棒性方面已达到基准测试的饱和水平,使其处于 OSS 模型的前沿(与 GLM-5.2、GLM-5.3、Kimi-K2.6、Kimi-K3、DS-V4-Pro-0813 相比)。在 Lakera 的公开 B3 AI Security Benchmark(https://huggingface.co/datasets/Lakera/b3-agent-security-benchmark-weak)上,ML4 抵御了 93.3% 的攻击——我们在竞争对手中没有看到更高的分数。 ML4 在与用户的互动上也比我们以往的任何模型都更加负责任。我们特别突出在 KORA Benchmark(https://korabench.ai/)上的结果,ML4 在 OSS 模型中再次取得了我们测量到的最高分数(1.691,2 分为满分,标记为"*Exemplary*")。 尤其值得关注的是该模型对网络安全相关恶意请求的拒绝倾向。尽管在网络安全基准测试中表现出色,ML4 在 JailbreakBench(https://jailbreakbench.github.io/)、StrongREJECT(https://huggingface.co/datasets/walledai/StrongREJECT)和 AgentHarm(https://huggingface.co/datasets/ai-safety-institute/AgentHarm)中的网络安全提示上的平均拒绝率高于所有 OSS 模型。 ### 人工评估 我们进行了一项内部评估,由编码、计算机辅助设计(CAD)、金融、数学和物理领域的专家标注人员将 Mistral Large 4 与 GLM-5.3 进行比较。ML4 在 CAD 和 STEM 方面更受偏好,在金融和编码方面与 GLM-5.3 表现相当或接近。 ## 规模化强化学习 基础模型正在快速进步,我们的后训练必须跟上步伐。针对昨日模型调优的配方在面对今天的前沿模型时会浪费能力,因为曾经将模型推向极限的真值样本已经不再有效。我们使用强化学习(RL),因为它会随着模型一起演进:我们在模型自身尝试的结果上进行训练,并且随着模型变强,我们可以提升任务的难度和广度。 我们的强化学习库旨在使新环境的添加和大规模训练变得容易。一个共享的、可组合的接口允许单次训练运行将任务组合起来,范围从单轮对话和复杂科学问题求解到安全对齐、事实性和长时程工具使用。这些环境共享脚手架和资源,如代码沙盒、网页搜索和外部 API。同样的可组合性也延伸到验证环节,奖励模型、单元测试、LLM 裁判和静态检查可以按需组合用于每个任务。 在运行时,一组自动扩缩容的 actor 在模型训练异步进行的同时,并行生成数以万计的 rollout。生成和训练管道针对长轨迹进行了优化,支持跨越多次 compaction 的数百万 token 的 rollout 预算,同时保持低数据陈旧度。两个阶段中的新方法和优化将 on-policy 漂移降至最低,实现了长时程上的稳定强化学习。 在我们目前的规模(3000 块 GPU)下,单次训练运行每天产生约 **330 亿 token**,其中经过过滤和掩码后约有 **160 亿个可训练的补全 token**。我们可以直接在训练 rollout 中看到运行进展:在策略学会解决越来越复杂的任务时,多个代表性环境上的训练奖励都在上升。以下是一些例子。 这些改进并非仅限于我们训练所用的环境;它们可以迁移到下游评估中,而最终模型同时受益于两个后训练阶段(监督微调和强化学习),如图表所示。 ## 未来展望 这只是开始。ML4 是我们 30 亿欧元 D 轮融资所资助的路线图上的第一个里程碑——这是欧洲科技公司迄今募集的最大规模股权融资。这笔资金已经在发挥作用:我们正在自有欧洲数据中心大幅扩展算力,未来几个月还将有更多算力投入运行。 更多算力意味着更多训练。支撑本次预览版的强化学习运行仍在进行中,模型尚未显示出任何饱和迹象——前方还有大量提升空间。随着我们在扩展的基础设施上提升训练规模,我们预计在未来几周和几个月内将实现巨大而快速的改进。 我们将在本月底发布权重,同时提供关于模型架构、更多基准测试和后训练方法的更多细节。而 ML4 只是基础:它将成为新一代专用化和优化的 Mistral 模型的基座,为我们的客户最关心的行业和工作负载而构建。 此后的进展速度将会非常快。敬请期待。

相似文章

Mistral Large 4 预览版发布:Le chonk

Simon Willison's Blog

Mistral 发布了 Mistral Large 4 的预览版,这是一款拥有 1 万亿参数(490 亿激活参数)的模型,基于 3800 块 NVIDIA Grace Blackwell GPU 训练完成,开放权重将于本月晚些时候推出。该模型在 Artificial Analysis 上得分为 38 分,相比 Mistral Large 3 实现了巨大飞跃。

Mistral 表示 "Le Chonk" 能够挑战最强的 AI 模型

Ars Technica

Mistral 发布了拥有 1 万亿参数的新模型 Mistral Large 4(绰号 Le Chonk),声称可与美中顶尖 AI 模型竞争,是目前中国以外最强的开源权重模型,特别针对编码、网络防御及制造业、金融等垂直领域优化,现处于预览阶段。

Mistral Large 4

Hacker News Top

Mistral 发布 Mistral Large 4('Le Chonk'),一款原生多模态的 1T 参数模型,激活参数为 49B,声称在聚合基准测试中实现了最佳开源权重模型性能,并在网络安全防御、制造和金融等工作负载上取得最先进水平的结果。该模型完全在欧洲开发并可部署,现已通过 API 提供,开源权重预计于十月底发布。

Mistral 新的 1T 参数模型意在超越闭源与开源对手

TechCrunch AI

Mistral AI 已发布 Mistral Large 4(ML4),绰号 "Le Chonk",这是一款拥有 1 万亿参数的多模态模型,仅使用 4,000 块 NVIDIA GPU 训练而成,旨在与美国闭源模型及中国开源权重对手展开竞争,计划在安全测试完成后的三周内开放权重。