缪斯火花开放
真正值得关注的不是这条新闻本身,而是它可能把「综合」的竞争焦点推向更大范围的连锁反应。
原文链接:https://research.meta.ai/blog/muse-spark-open
Muse Spark Open 现已推出,首次在 Apple M5 Ultra Mac Studio 上为您的桌面带来领先的代理功能。今天,我们发布了 Muse Spark Open 的重量,这是迄今为止功能最强大的美国开放重量模型。
Muse Spark Open 是一个原生多模态模型,具有 816B 总参数(42B 活动参数)和 1M 令牌上下文窗口。它专为编码和代理工作而构建,擅长长期任务、复杂的软件工程和多步骤推理。我们相信未来属于每个人,这包括在任何地方(包括在家里)自由运行先进模型。
Muse Spark Open 是同类产品中首款使用两台采用最新 MLX 框架的 Apple M5 Ultra Mac Studio 在桌面上运行的型号。
Muse Spark Open 现已通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 的 API 平台提供。模型权重可在 Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face 和 Microsoft Foundry Models 上下载。它在 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp 和 Unsloth 等领先推理引擎上运行,并针对 AMD、Apple、Intel 和 NVIDIA 芯片进行了优化。开发人员可以使用 PyTorch 框架轻松地进一步自定义模型。有关我们评估的更多详细信息,请参阅评估方法报告。
Muse Spark Open 利用最新版本的 MLX,经过优化,可以在 Mac Studio 和 M5 Ultra 上运行,它们一起是在您自己的桌面上运行强大模型的最佳方式。
Apple 的统一内存架构让 M5 Ultra 的集成 GPU 每个 Mac Studio 使用高达 512 GB 的内存,因此两台机器可以容纳整个模型。该芯片 1.2 TB/s 的内存带宽足以读取每个令牌所需的小片。结果是两台 Mac Studio 的行为就像一台具有 1 TB 统一内存的超级计算机。我们测试了一系列完全在设备上运行的代理工作流程,使用由 Muse Spark Open 提供支持的 Muse Code,包括将真正的 iOS 更改发送到 Ice Cubes(一个开源 Mastodon 客户端)——错误修复、新功能、完整构建——以及端到端驱动 DaVinci Resolve,模型逐帧审查素材以找到最强时刻并垂直裁剪它们。我们分享这项工作是因为我们希望每个人都能获得最好的模型。