meta-models/Muse-Spark-Open-816B-A42B

Hugging Face Models Trending 模型

摘要

Meta 发布了 Muse-Spark-Open-816B-A42B 开源大模型(816B 总参数、42B 激活参数的 MoE 架构),并附带 Muse Model License,允许使用、微调、蒸馏和商用,但 Model-as-a-Service 年营收超 2000 万美元需与 Meta 另行签约。

任务:image-text-to-text 标签:transformers、safetensors、muse_spark、image-text-to-text、facebook、meta、pytorch、muse、muse-spark、对话式、en、license:other、endpoints_compatible、region:us
查看原文
查看缓存全文

缓存时间: 2026/10/16 00:48

meta-models/Muse-Spark-Open-816B-A42B · Hugging Face

来源: https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B

请务必提供您的法定全名、出生日期以及包含所有企业标识的完整机构名称。请避免使用缩写和特殊字符。若不遵守此说明,可能导致您无法访问此模型及 Hugging Face 上的其他模型。提交后您将无法编辑此表单,请确保所有信息准确无误。

您提供的信息将根据 Meta 隐私政策 (https://www.facebook.com/privacy/policy/) 进行收集、存储、处理和共享。

MUSE 模型许可协议

版本:Muse Spark Open

发布日期:2026年10月15日

版权所有 (c) 2026 Meta Platforms, Inc.

特此免费授予任何访问或获取本软件副本的人(下称“被许可方“)权限,本软件包括模型、代码、模型权重、参数、配置文件以及相关文档文件(下称“软件“),允许其不受限制地使用本软件,包括但不限于使用、复制、修改(包括微调)、创建衍生作品、蒸馏、合并、发布、分发、再许可和/或出售软件副本的权利;并允许获得本软件的人员进行上述行为,但均须遵守以下条件:

  1. 上述版权声明、本许可协议及使用政策须包含在软件及衍生作品(定义见下)的所有副本或实质性部分中。被许可方对软件的使用须遵守使用政策,该使用政策已通过引用并入本许可协议,并作为附件A附于本协议。

  2. 被许可方须在每个使用软件或任何衍生作品的产品或服务的用户界面中,或在随附文档、网站或设置菜单中,显著展示“Built with Muse Spark Open“。“衍生作品“指使用软件或其任何输出或结果所创建、训练、修改(包括微调)、蒸馏或以其他方式改进的任何 AI 模型。

  3. 如果被许可方或其任何关联方通过 API 或类似接口,以产品或服务的形式向第三方提供对人工智能模型的访问权限,使第三方获得此类模型的输出(下称“模型即服务“),且被许可方及其关联方在任何连续十二(12)个月期间的总营业收入超过二千万(2000万)美元(或其他货币等值金额),则被许可方必须在将软件或任何衍生作品作为该模型即服务业务的一部分提供之前通知 Meta 并与 Meta 签订单独的书面协议。本第3条不适用于(a)内部使用、研究或任何非模型即服务的商业活动,或(b)被许可方将软件作为组件用于驱动其自身产品或服务中不属于模型即服务的功能。

  4. Meta 不对软件生成的输出主张任何所有权。

  5. 软件、任何输出及其产生的任何结果均按“现状“提供,不附带任何形式的明示或默示保证,包括但不限于适销性、特定用途适用性和不侵权的保证。在任何情况下,Meta 及其关联方均不对因软件或其输出、或软件的使用或交易而引起、与之相关或以任何方式相关的任何索赔、损害或其他责任承担责任。Meta 及其关联方不对任何衍生作品承担责任,被许可方应独自负责其衍生作品的安全性、部署和使用。

“Meta“指 Meta Platforms Ireland Limited(如果您位于欧洲地区,或如果您是实体,您的主要营业地在欧洲地区)以及 Meta Platforms, Inc.(如果您位于欧洲地区以外)。

附件A - Muse Spark Open 使用政策

日期:2026年10月15日

Meta 致力于促进其工具和功能的安全与公平使用,包括 Muse Spark Open。本使用政策(下称“政策“)适用于您对 Muse Spark Open 及任何衍生作品的访问或使用。

禁止用途

我们希望每个人都能安全、负责任地使用 Muse Spark Open。确保模型向最终用户的任何部署都是安全的,是您的义务,您需考虑部署环境和用户群体。Muse Spark Open 不适用于18岁以下的个人。

您不应使用或允许他人使用 Muse Spark Open 来:

  1. 违反法律或他人权利,包括:
    1. 从事、推广、生成、促成、鼓励、策划、煽动或协助非法或违法活动或内容,例如:
      1. 暴力或恐怖主义
      2. 对儿童的剥削或伤害,包括招揽、创建、获取或传播儿童剥削内容,或未能举报儿童性虐待材料
      3. 人口贩运、剥削和性暴力
      4. 向未成年人非法分发信息或材料,包括淫秽材料,或未能对此类信息或材料采用法律要求的年龄限制措施
      5. 性招揽
      6. 任何其他犯罪活动
    2. 从事、推广、煽动或协助对个人或群体的骚扰、辱骂、威胁或霸凌
    3. 从事、推广、煽动或协助在就业、就业福利、信贷、住房、其他经济利益或其他基本商品和服务提供中的歧视或其他非法或有害行为
    4. 从事任何未经许可或无资质的专业执业,包括但不限于金融、法律、医疗/健康或相关专业实践
    5. 收集、处理、披露、生成或推断关于个人的私人或敏感信息,包括关于个人身份、健康或人口统计的信息,除非您已根据适用法律获得这样做的权利
    6. 从事或促成任何侵犯、盗用或以其他方式违反任何第三方权利的行为,或生成任何此类内容,包括使用 Muse Spark Open 的任何产品或服务的输出或结果
    7. 创建、生成或促成创建恶意代码、恶意软件、计算机病毒,或从事任何可能禁用、超负荷、干扰或损害网站或计算机系统正常运行、完整性、操作或外观的行为
    8. 从事或促成任何行为,故意规避或移除使用限制或其他安全措施,或启用 Meta 已禁用的功能
  2. 从事、推广、煽动、促成或协助策划或开发对个人造成死亡或人身伤害风险的活动,包括将 Muse Spark Open 用于以下相关用途:
    1. 军事、战争、核工业或应用、间谍活动,或用于受美国国务院《国际武器贸易条例》(ITAR)、美国《1989年生物武器反恐法》或《1997年化学武器公约实施法》管辖的材料或活动
    2. 枪支和非法武器(包括武器研发)
    3. 非法药物和受管制/受控制物质
    4. 关键基础设施、运输技术或重型机械的操作
    5. 自残或伤害他人,包括自杀、割腕和饮食失调
    6. 任何旨在煽动或促进暴力、辱骂或对个人施加人身伤害的内容
  3. 故意欺骗或误导他人,包括将 Muse Spark Open 用于以下相关用途:
    1. 生成、推广或助长欺诈,或创建和推广虚假信息
    2. 生成、推广或助长诽谤性内容,包括创建诽谤性声明、图像或其他内容
    3. 生成、推广或进一步分发垃圾信息
    4. 在未经同意、授权或法定权利的情况下冒充他人
    5. 声称对 Muse Spark Open 的使用或其输出是人类生成的
    6. 生成或促成虚假的在线互动,包括虚假评论及其他虚假在线互动手段
  4. 未能向最终用户适当披露您的人工智能系统的已知危险
  5. 与旨在生成非法内容或从事非法或有害行为的第三方工具、模型或软件进行交互,和/或声称此类工具、模型或软件的输出与 Meta 或 Muse Spark Open 有关联

登录 (https://huggingface.co/login?next=/meta-models/Muse-Spark-Open-816B-A42B) 或注册 (https://huggingface.co/join?next=/meta-models/Muse-Spark-Open-816B-A42B) 以查看条款并访问此模型内容。

https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B#muse-spark-open-model-card Muse Spark Open 模型卡

作者:Meta Superintelligence Labs **模型发布日期:**2026年10月 许可协议:Muse 模型许可协议 (https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B/blob/main/LICENSE.md)

Muse Spark Open 是一个总参数 816B、激活参数 42B 的开放权重模型,上下文窗口为 1M token。Muse Spark Open 专为编程和智能体(Agent)工作而构建,原生支持多模态。此开放权重版本经过了额外的安全后训练,使其在没有系统护栏的情况下作为独立模型运行时对滥用具有更强的鲁棒性。我们建议将 Muse Spark Open 作为更广泛 AI 系统的一部分进行部署,并配备适用于特定用例的额外护栏。

该模型可在多种用例中表现出色,包括:

  1. 多步推理 - 在长时程上进行推理链,在复杂、扩展的工作流中维持连贯的计划。
  2. 端到端智能体任务完成 - 多步规划、顺序工具调用、故障恢复和长时程任务执行,在脚手架内工作,编写和调试代码,并从头到尾解决多轮请求。
  3. 编程智能体 - 编写、调试和解决现实世界的软件工程任务。
  4. 工具使用 - 在扩展的多轮工作流中调用工具,诊断错误并在工具调用失败时重试。
  5. 多模态推理 - 结合对话内容解读截图、图表、文档、图像、音频和视频录制,适用于智能体和信息密集型环境。
  6. 合成数据生成 - 为下游模型开发生成高质量训练数据。
  7. LLM 即评委评估 - 作为其他模型输出的评估器。

https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B#muse-spark-open-model-overview Muse Spark Open 模型概览

项目内容
名称Muse Spark Open
模型提供方Meta Platforms, Inc. 或 Meta Platforms Ireland Limited
发布日期2026年10月15日
许可协议Muse 模型许可协议
参数量总计 816B / 激活 42B
类型混合专家(Mixture-of-Experts)Transformer,配备感知编码器(Perception Encoder)
上下文长度推理时为 1M
词表大小202,048
模态输入:文本 + 图像 + 视频 + 音频 / 输出:文本
语言多语言,在超过 100 种语言的数据上训练
推荐推理参数Temperature = 1.0,Top_p = 1.0,Top_k = 禁用。对于复杂问题求解、编程和智能体任务,建议使用 high 或 xhigh 的推理力度(Reasoning Effort)。

语言模型

  • 隐藏维度: 8192
  • Token 嵌入: 解绑的输入/输出嵌入,词表 × 维度 = 202,408 × 8192 ≈ ~1.66B
  • 输出层(反嵌入层): 词表 × 维度 = 202,048 × 8192 ≈ ~1.66B
  • 层数: 62
  • 门控注意力(Gated Attention): 是(注意力模块带输出门和输出归一化;启用 QK-norm)
    • 注意力头数:Q 为 128,KV 为 16(分组查询注意力 / grouped-query attention)
    • 头维度:64
  • 混合专家(Mixture of Experts): 是
    • 专家数量:256
    • 每 token 激活专家数:8(top-k 路由)

感知编码器(Perception Encoder)

  • 架构: 1.8B 参数,50 层,隐藏维度 1536,16 个注意力头,patch 大小 14x14,输出维度 4096。采用学习式绝对位置嵌入 + 2D RoPE,FFN 使用 LayerNorm + GELU。稀疏注意力因子为 4(每第 4 层 + 最后一层为全注意力)。

https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B#model-access-and-best-practices 模型访问与最佳实践

通过 API 访问 该模型可通过第三方推理提供方以 API 形式使用。

在您自己的系统上使用开放权重 权重可通过 Hugging Face 下载。模型提供 BF16 和 NVFP4 版本。在您自己的系统上运行该模型,NVFP4 需要至少 700GB 显存的 GPU,BF16 需要 2TB 显存。还需要推理部署框架——支持的框架包括 SGLang、vLLM、Hugging Face、TensorRT-LLM、Unsloth 和 Llama.cpp。该模型也针对两台配备 M5 Ultra 的 Mac Studio 使用 MLX 进行了优化。

有关如何部署和使用该模型的更多信息,请参阅开发者文档 (https://dev.meta.ai/resources/blog/build-with-muse-spark-open)。

推理参数 您可以自定义推理参数,以在您的用例中实现最佳性能。

  • 推理力度(Reasoning Effort): 推理力度控制模型在回答前思考的程度。通过 reasoning_effort 请求参数设置,或使用 chat_template_kwargs={“reasoning_effort”: …},可设为 low、medium、high 或 xhigh。默认值为 xhigh。对于复杂问题求解、编程和智能体任务,请使用 high 或 xhigh;对于更快、更简短的回答,请使用 low 或 medium。其他任何值都会返回错误。
  • 采样参数: 对于大多数部署,推荐以下设置:temperature = 1.0,top_p = 1.0,top_k = 禁用。

https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B#training-data 训练数据

训练数据包括文本、图像、音频和视频。数据来源包括公开来源、互联网爬取、第三方获取、Meta 产品和服务衍生数据,以及由外部供应商网络和 Meta 人员合成生成、策展和增强的数据。数据策展方法包括清洗、处理、修改、去重和过滤等。

https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B#benchmarks 基准测试

我们将 Muse Spark Open 与其他相似规模和架构的领先开放权重模型进行比较。对于 Muse Spark Open,我们在所有基准测试中使用 xhigh 推理力度、temperature = 1.0、top_p = 1.0、top_k = 禁用。

基准Muse Spark Open (xhigh)Inkling (xhigh)Nemotron 3 Ultra (thinking on)BeamMistral Large 4Qwen3.8-2.4T-A95B (xhigh)GLM 5.3 (max)Kimi K3 (max)
通用
Artificial Analysis Intelligence Index392623-38404544
智能体
JobBench61.831.127.2--52.761.454.3
MCP-Atlas89.276.063.178.7-84.584.282.3
GDPVal-AA v2140110791016-1424161316531537
OSWorld Verified80.440.1-----84.8
Toolathlon Verified72.845.534.3--72.573.076.5
知识与推理
HLE-Diamond(无工具)26.111.28.9--17.316.422.2
AA Omniscience252013-541420
SciCode58.547.040.349.754.254.159.059.5
HLE(使用工具)61.046.037.451.2-56.262.556.0
GPQA Diamond89.087.286.790.5-93.591.793.5
编程
DeepSWE 1.1首选脚手架60-4462576768
SWE-Atlas-QnA首选脚手架58-3559625966
Terminal-Bench 2.1Terminus 2 agent76.455.153.980.1-82.083.9
多模态
ZeroBench(使用工具)50.014.0-----41.0
BabyVision(使用工具)80.234.2-----85.7
SimpleVQA(使用工具)

相似文章

meta-models/Muse-Spark-Open-816B-A42B-NVFP4

Hugging Face Models Trending

Meta 在 Hugging Face 上以 Muse Model License 开源发布了 Muse-Spark-Open-816B-A42B-NVFP4。该许可证为开放权重许可证,允许使用、微调和创建衍生模型,但收入门槛为 2000 万美元,超过此门槛的模型即服务(Model-as-a-Service)产品需另行签署协议。

Unsloth Muse Spark Open 发布!

Reddit r/LocalLLaMA

Meta 发布了开源权重的 Muse Spark Open 模型,这是一个 816B 总参数 / 42B 激活参数的混合专家(MoE)模型,拥有 1M token 上下文窗口,原生支持多模态输入,面向编码与智能体任务,并由 Unsloth 提供运行支持。

Muse Spark Open

Hacker News Top

Meta 发布 Muse Spark Open,宣称是美国最强开源权重模型:总参数 816B(激活 42B)、1M token 上下文、原生多模态,面向编码与智能体任务,且首次可在两台 Apple M5 Ultra Mac Studio 桌面端本地运行。

Meta 推出可在 Mac 上运行的开放权重 AI 模型

TechCrunch AI

Meta 发布了号称美国最强的开源权重模型 Muse Spark Open,拥有 8160 亿参数和 100 万 token 上下文窗口,专为在 Mac 上本地运行设计(至少需 1TB 内存)。该模型原生多模态,面向复杂编码与智能体任务,并已通过 API 平台开放使用。