岩芯矩阵联合港科大、CMU开源EdgeRock-4B,KV Cache减少99.1%
岩山科技旗下岩芯矩阵联合港科大、CMU等高校发布并开源EdgeRock-4B,在256K上下文下KV Cache固定为72MiB,相比源模型Qwen3.5-4B减少99.1%。
推荐理由:原文给出固定内存机制与吞吐、基准数据,读者可据此判断长上下文推理的显存成本能压到什么程度。
技术方向
模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。
3 条精选近 30 天 3 条共收录 15 条
岩山科技旗下岩芯矩阵联合港科大、CMU等高校发布并开源EdgeRock-4B,在256K上下文下KV Cache固定为72MiB,相比源模型Qwen3.5-4B减少99.1%。
推荐理由:原文给出固定内存机制与吞吐、基准数据,读者可据此判断长上下文推理的显存成本能压到什么程度。
月之暗面发布 Kimi K3.1 Pro,这是一款多模态 MoE 模型,总参数 2.8T、激活参数 104B,上下文窗口 100 万 token,标准版与 Highspeed 版已上线网站、App、Kimi Work、Kimi Code 和 API,权重承诺于 2026 年 11 月 4 日开放。
推荐理由:材料把厂商宣称、独立评测与社区质疑分开呈现,读者可据此判断这款开源权重模型与闭源前沿的真实差距。
MiniMax 正式发布 M3.1 Flash,即此前在 OpenRouter 匿名屠榜的 Space Bunny(玉兔),Agents' Last Exam 得分 29.6%,位列国产模型第一,AA 榜单 43 分。
推荐理由:文章列出 M3.1 Flash 在 Agent、编码、网络安全等基准上的具体分数与定价,可据此比较国产 Flash 模型的能力与成本位置。