Meta 发布开源权重多模态 MoE 模型 Muse Spark Open
Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可接收文本、图像、音频和视频输入并输出文本。
推荐理由:原文给出 816B 总参数、42B 激活的 MoE 架构与多模态输入细节,并附 vLLM、SGLang、llama.cpp 部署和 TRL 微调配方。
Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可接收文本、图像、音频和视频输入并输出文本。
推荐理由:原文给出 816B 总参数、42B 激活的 MoE 架构与多模态输入细节,并附 vLLM、SGLang、llama.cpp 部署和 TRL 微调配方。
AWS 发布基于 Amazon Bedrock AgentCore 的多智能体文档处理方案,由 8 个专用智能体组成识别与训练两条工作流,可在不到 20 分钟内完成部署。
Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami,可自主调查 CNAPP 等来源的安全发现并评估修复安全性,在 90 天内将关键云暴露减少超 90%,且零生产事故。
Amazon SageMaker JumpStart 提供可复用 Python 脚本,从模型目录部署模型、用示例提示词测量延迟与单请求生成速率,并在测试后删除端点。2026 年该服务新增 Model Hub 浏览与预配置端点部署选项,并支持从 Hugging Face 一键跳转至 SageMaker AI 部署。示例中单次请求延迟 9.07 秒、输出约 153 词、生成速率 16.9 词/秒。
Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 参数、每 token 仅激活 2B 的推理模型,面向端侧运行私有智能体,会先思考再作答并调用工具。
推荐理由:原文给出与更大 MoE 模型的逐项基准对比和端侧推理速度,可据此判断本地智能体的可行边界。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,最高 128GB 统一内存和 1 petaflop AI 算力,生态伙伴同步推送本地 AI 软件更新。
推荐理由:原文列出 RTX Spark 上市前生态伙伴的软件更新清单,读者可据此了解本地智能体在 PC 上的落地形态。
GitHub 披露,平台上三分之一的 pull request 已涉及 AI 智能体,一年前这一比例不足十分之一。其与 Microsoft Applied Sciences 共建的微调分类器将 push protection 扩展到无结构密钥,可在不到 2 毫秒内评估整组候选密钥,有望使可拦截的密钥数量翻倍以上。
微软研究系统评估了移动操作机器人负载,发现把物理 AI 推理从机载 GPU 卸载到边缘或云端 GPU 可提升任务成功率、支持更大模型并延长续航。
Mistral 与 Cloudera 建立合作,将 Mistral 模型集成进 Cloudera 混合数据平台,企业可在私有云、公有云、本地及完全气隙环境中部署推理并保持完全控制。企业还可在受控环境中基于专有数据训练自有模型,数据与由此产生的智能均归企业所有。Cloudera 平台承载 30 exabytes 客户自管数据。
伯克利 Sky Lab 团队将 K-Search 进化式 kernel 搜索框架扩展出 MLX 后端,通过结构化 CUDA-to-MLX 翻译层把已有 CUDA kernel 作为知识库迁移到 Apple Silicon。