跳到正文
  1. Hugging Face Blog72

    Mistral Large 4(Le Chonk)在 Hugging Face 发布

    Mistral 发布多模态 MoE 模型 Mistral Large 4(Le Chonk),约 1T 总参数、49B 激活参数,上下文窗口 1M tokens,提供 FP8 与 NVFP4 两个官方版本,另有 Unsloth 和 llama.cpp 团队制作的 GGUF。

    推荐理由:文章给出 1T 总参数、49B 激活的 MoE 架构细节与网络安全基准成绩,可据此判断开源权重模型在防御性安全场景的可用性。

  1. Hugging Face Blog71

    NVIDIA 发布 Nemotron 3.5 Transcribe 与 Granary v2 数据管线

    NVIDIA 发布开源权重模型 Nemotron 3.5 Transcribe,将转写、说话人分离、翻译和音频问答整合到一个 checkpoint,支持 40 种语言转写、31 种语言与英语互译、13 种语言说话人标注,可处理最长 1 小时录音、最多 8 位说话人。

    推荐理由:原文给出多语言转写、说话人分离与提示词控制的具体能力,以及配套数据管线和微调配方,便于评估落地方式。

  1. Hugging Face Blog62

    PyTorch 2.15 为 MPS 后端带来 FP8 与更快的 LLM 解码

    PyTorch 2.15 在 MPS 后端加入 FP8 张量支持,并让 MoE 模型解码比 2.14 快 5–6.5 倍,Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 tokens/s 提升到 61.3 tokens/s。

    推荐理由:原文给出 MPS 后端在 FP8、MoE 解码和视频 VAE 显存上的具体数字,可据此判断 Mac 本地跑模型的实际变化。

  1. Hugging Face Blog78

    Reflection 在 Hugging Face 开源 501B 模型 Beam

    美国新实验室 Reflection 在 Hugging Face 发布首个开源模型 Beam,采用 501B 参数 MoE 架构、每 token 激活 23B,支持 1M token 上下文,Apache 2.0 许可,面向编码与智能体场景。

    推荐理由:原文给出 501B MoE 模型的架构细节、多精度基准与 vLLM、SGLang 部署配方,可据此判断自托管前沿模型的硬件门槛。

  1. Hugging Face Blog78

    Meta 发布开源权重多模态 MoE 模型 Muse Spark Open

    Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可接收文本、图像、音频和视频输入并输出文本。

    推荐理由:原文给出 816B 总参数、42B 激活的 MoE 架构与多模态输入细节,并附 vLLM、SGLang、llama.cpp 部署和 TRL 微调配方。

  2. Hugging Face Blog78

    Black Forest Labs 发布 FLUX.3 Image Klein,Diffusers 首日支持

    Black Forest Labs 发布 FLUX.3 Image Klein,一个模型同时支持文生图、多参考图生图和用边界框做布局控制,两个开放 checkpoint 已上线 Hugging Face。

    推荐理由:原文给出两个开放 checkpoint、布局控制用法和 H100 上的实测耗时,可据此判断接入成本与显存门槛。

  1. Hugging Face Blog71

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理智能体模型

    Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 参数、每 token 仅激活 2B 的推理模型,面向端侧运行私有智能体,会先思考再作答并调用工具。

    推荐理由:原文给出与更大 MoE 模型的逐项基准对比和端侧推理速度,可据此判断本地智能体的可行边界。

  1. Hugging Face Blog78

    作者用 ML-intern 在几天内训出六个模型,总花费约 103 美元

    作者在 HuggingChat 中开启 ML-intern,用提示词驱动它完成数据准备、训练、评测和发布,几天内做出六个模型,总计算花费约 103 美元。

    推荐理由:作者用六个真实项目拆解了给 ML-intern 写提示词的方法,包括基线、冒烟测试和预算上限的具体写法。

已经到底了