跳到正文
Hugging Face Blog·· 16 天前精选AI 评分78

Meta 发布开源权重多模态 MoE 模型 Muse Spark Open

Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta

AI 导读

Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可接收文本、图像、音频和视频输入并输出文本。

推荐理由

原文给出 816B 总参数、42B 激活的 MoE 架构与多模态输入细节,并附 vLLM、SGLang、llama.cpp 部署和 TRL 微调配方。

来源:Hugging Face Blog · huggingface.co