Meta 发布开源模型 Muse Spark Open：816B 参数、1M 上下文与 Agentic 能力全面升级
今天，Meta 正式发布了 Muse Spark Open，这是迄今为止最强大的美国开源权重模型。该模型现已在 Hugging Face 上线，采用 Muse Model License 授权，并针对 NVIDIA、AMD 及 Intel 硬件进行了深度优化，支持在 SGLang 和 vLLM 推理引擎上高效运行。
作为 8 月发布的 Muse Spark 的开源版本，Muse Spark Open 在原有基础上增加了安全后训练（safety post-training），使其在缺乏系统护栏的情况下更具鲁棒性，成为开源安全领域的顶级选择。
核心突破：架构与能力的双重飞跃
Muse Spark Open 的发布标志着 LLM 向更复杂任务迈进的关键一步，其核心特性包括：
1. 极致的上下文与代码优化
- 1M 上下文窗口：模型原生支持长达 100 万 token 的上下文，能够完整处理整个项目，包括复杂的依赖关系、遗留代码和数千个文件，无需将任务拆分。这对于大型代码库的理解和重构至关重要。
- 代码工作流原生训练：模型专门针对代理（Agent）编码工作流训练，在代码生成、调试及代码库理解方面表现卓越。它基于真实的开发者工作流（如多文件重构、长时间运行的调试会话）进行训练，显著提升了首次尝试的准确率。
2. 原生多模态与 Agentic 架构
- 原生多模态感知：Muse Spark Open 具备音频、音视频感知能力，以及图像和文档理解能力。作为推理模型，它能原生且可靠地处理图像、音频和文本输入。
- 真正的 Agentic 设计：该模型从底层构建为代理模型，能够规划步骤、执行操作、观察结果并自我纠正。它具备网页浏览（包括多模态浏览）能力，可生成独立的评论以阐明意图，并能在桌面、移动和浏览器之间统一协调子代理，处理长程、跨站点的复杂任务。
技术生态：PyTorch 原生性能与工具链
为了回馈开源社区，Meta 在 PyTorch 生态中引入了多项关键支持：
- Helion 内核集成：Muse Spark Open 集成了 Helion，这是 PyTorch 原生的高层 DSL，用于编写高性能内核。Helion 已成为 PyTorch 基金会成员。通过 Helion 实现的 RoPE、RMSNorm 等操作，在 NVIDIA GB300 上相比专用硬件语言（如 CUDA）实现了 1.03 至 3.95 倍 的速度提升，并在 AMD Mi350 上带来 3% 的整体端到端吞吐量提升。此外，SGLang 中的 Helion 巨核（megakernels）通过融合多个操作，显著降低了延迟。
- TorchTitan 微调支持：TorchTitan 现已支持 Muse Spark Open 的模型定义。开发者可以利用其原生的多轮监督微调（SFT）和 LoRA 功能，以及强化学习（TitanRL）能力，快速针对特定需求对模型进行微调。
开发者价值总结
Muse Spark Open 不仅是一个强大的模型，更是一套完整的解决方案。它消除了传统大模型在处理长文档和复杂代码时的碎片化问题，同时通过 PyTorch 生态的优化，降低了在异构硬件上部署高性能推理的成本。对于希望构建下一代 AI 代理应用的开发者而言，这是一个兼具安全性、能力和性能的理想基座。
开始构建： 访问 Hugging Face 获取模型权重，或使用 ExecuTorch 开始使用 Muse Glimmer 小模型。
注：本文编译基于 Meta 官方公告。
