跳到正文
量子位· 量子位的朋友们·· 7 小时前AI 评分38

高通进博会展示端侧MoE智能体:终端侧AI从单点应用走向智能体体验

终端侧AI:从单点应用走向智能体体验

AI 导读

高通在第九届进博会联合阶跃星辰、Infris AI、江波龙展出端侧MoE智能体演示,围绕模型、推理、存储和芯片平台协同优化专家模块预测与预取。当前端侧主流只能运行20亿至30亿参数模型,MoE通过按任务调用部分专家模块降低实际计算量,为在内存和功耗受限的终端上运行更高智能水平模型提供路径。演示中的意图理解、任务编排、实时操作目标App等能力未来有望落地手机、汽车、PC等终端。

来源:量子位 · qbitai.com