跳到正文
10月16日周五
10月15日周四
  1. Hugging Face Blog78

    Meta 发布开源权重多模态 MoE 模型 Muse Spark Open

    Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可接收文本、图像、音频和视频输入并输出文本。

    推荐理由:原文给出 816B 总参数、42B 激活的 MoE 架构与多模态输入细节,并附 vLLM、SGLang、llama.cpp 部署和 TRL 微调配方。

10月13日周二