Muse Code 与 Muse Spark 1.2

# 介绍 Muse Code 与 Muse Spark 1.2 Source: https://research.meta.ai/blog/introducing-muse-code-and-muse-spark-1-2 我们很高兴发布 Muse Code（beta），这是一款由我们最新模型 Muse Spark 1.2 驱动的终端编程代理。这标志着我们向前沿迈出了又一步，更大、能力更强的模型已在路上。 ## 在 macOS 或 Linux 上安装 Muse Code： Muse Code 能够在大型代码仓库中处理复杂的软件工程任务：规划变更、编写代码、验证结果。它可以为每项任务协调多个持久的子代理，从而更快、更准确、更少干预地解决难题。 ## Muse Code ### 异步后台代理 Muse Code 采用简单的代理循环外加一组异步后台代理来增强主代理的能力。这些专门化的后台代理在整个会话期间保持活跃，而非为单个任务临时生成，从而避免了重复的信息收集。它们会自主执行后续步骤，并自行选择何时与主代理通信。这种持久性降低了延迟，也减少了在困难的多步骤任务中进行引导的必要性。 ### 运行时设计 Muse Code 使用本地事件日志，每次模型调用、工具运行、审批和编辑都会追加到日志中。这一单一事实来源使运行时可以精确重放并支持安全重启：崩溃后，代理可以从停止的位置精准恢复。这一能力使得 Muse Code 能够承担长时间运行的任务，而不会被故障打断。 ### 内置技能 Muse Code 附带多项默认技能。`/plan` 将任务转化为需审批的计划，`/grill` 对该计划进行压力测试直至其站得住脚，`/goal` 则朝着指定目标成功完成而推进。 用户将一段房屋漫游视频作为 mp4 文件输入到终端中。Muse Code 解读视频，并生成一个视觉丰富的度假屋营销与预订页面。 ## Muse Spark 1.2 Muse Spark 1.2 是 Muse Spark 1.1 的编码聚焦更新，在代码生成、复杂调试、代码库理解以及端到端开发者工作流方面均有改进。在 Muse Spark 1.2 中，我们大幅增加了编码任务的训练计算量，同时拓展了训练环境的多样性。该模型还在通用代理等其他关键领域保持了优势。 关于我们评估的更多细节，请参阅我们的报告（https://research.meta.ai/static/muse-spark-1-2-methodology）。 ### 与 Muse Code 联合训练 我们联合训练了 Muse Spark 1.2 与 Muse Code，以确保二者搭配使用时，模型能展现出最佳性能和编码可用性。训练内容包括拒绝采样的代理框架轨迹、针对目标、压缩和子代理的策略优化，以及集成 Muse Code 工具集以最大化代理框架兼容性。 ### 长时程任务 Muse Spark 1.2 在长时程编码任务上进行了大量训练，包括整仓库生成、大型端到端项目和自动研究。它利用规划来安排工作顺序，利用目标条件设定来保持方向，利用上下文压缩来保留维持进展所需的知识。 ### 自我改进 我们还使用 Muse Spark 1.1 来生成具有挑战性的编码环境和指令遵循模板。随后，模型根据候选解决方案对这些要求的满足程度进行评分，从而为 Muse Spark 1.2 生成可扩展的训练数据集。这种自我改进循环帮助 Muse Spark 1.2 比其前身更精确地遵循复杂指令。 ## 案例研究：内核优化 我们测试了该模型在 1000 多次工具调用（最长可达 24 小时）中迭代优化 GPU 内核的能力。借助 Muse Code 的代理式编码环境，模型能够相对于提供的基线实现，编写、编译、剖析并逐步提升内核性能。我们在 NVIDIA Hopper GPU 上对 KDA 和 MLA 内核进行了基准测试。该代理持续在提供的基线实现基础上实现显著改进。 图表比较了 Muse Spark 1.2 与其他模型在累计工具调用下相对于基线的 KDA 内核加速比。 基线是 KDA 的 FLA Triton 实现。模型被禁止直接导入诸如 FLA 之类的第三方内核库；相反，它们必须应用专门的内核优化知识，用 Triton 实现该算法，而不是包装现有实现。Muse Spark 1.2 将块并行预处理内核与顺序的块间扫描配对，将标准融合和分块与 KDA 特定优化（例如在块中点重新居中门控累积衰减）相结合。 ## 可用性 Muse Spark 1.2 今天已正式上线，可在 Muse Code 和 Meta Model API 中使用，并扩展了全球访问范围。我们还有大量即将推出的内容，包括新的代理框架功能和更强大的模型。期待看到你的作品！ 开始使用 Muse Code（https://dev.meta.ai/）