Hugging Face Blog·· 16 天前精选AI 评分78
Meta 发布开源权重多模态 MoE 模型 Muse Spark Open
Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta
AI 导读
Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可接收文本、图像、音频和视频输入并输出文本。
推荐理由
原文给出 816B 总参数、42B 激活的 MoE 架构与多模态输入细节,并附 vLLM、SGLang、llama.cpp 部署和 TRL 微调配方。
来源:Hugging Face Blog · huggingface.co