站点图标 AI Siri-苹果智能资讯网

进博会高通展台端侧MoE智能体演示,折射终端侧AI变革节点

进博会高通展台端侧MoE智能体演示,折射终端侧AI变革节点

高通在进博会上展示了一项名为“端侧MoE智能体”的技术演示,这不仅是跑了个Demo,更揭示了一个行业判断:终端侧AI正在跨越从“单点工具”到“智能体系统”的临界点。

高通AI负责人万卫星的发言很实在:目前手机上的AI应用,无论是语音转文字、图片处理还是文本摘要,本质上都是解决一个个孤立任务的“单点功能”。真正的AI体验升级,是让手机具备意图理解、任务编排,甚至跨App实时操作的能力。这需要端侧模型变得更聪明。

关键信息是,高通并不想和云端争谁更强,而是提出“计算连续体”和“端侧优先”的架构。万卫星打了个比方:云端是“通用知识库”,擅长处理复杂算力任务;端侧则应成为用户的“私人秘书”,握有你的身份、位置、行为习惯等专业信息,以此实现主动式AI服务。

进博会高通展台端侧MoE智能体演示

那么,如何让手机这个小身板抗住更复杂的智能?答案是MoE(混合专家模型)。当前主流做法受限于功耗,端侧模型规模普遍在20-30亿参数,能完成任务但缺乏应变能力。MoE的思路是把参数拆成多个“专家”模块,只调用任务所需的部分,比如在20个专家里激活2-3个,从而极大降低实际推理参数量。

为了通俗理解,万卫星用了一家餐厅的比喻:Dense模型像是只聘一位厨师,会做所有菜但水平有限;MoE模型则像后厨有各路专才,粤菜点单就让粤菜师傅上。这种架构直接为手机、PC等内存受限设备打开了部署更高智能模型的空间。

此次进博会的演示并非一家之功,而是一场生态联合作战。参与者包括:阶跃星辰(提升模型智能)、Infris AI(负责预测并预取需要的专家模块)、江波龙(优化UFS到内存的数据加载效率),高通则围绕芯片和软件栈优化路由与缓存预测。万卫星强调,这展示的不只是模型,而是模型、推理、存储、芯片四环的系统性优化。

商业层面的信号很清晰:终端侧AI的竞争壁垒,已从单一模型或单颗芯片,升级为整条产业链的协作效率。谁能让模型厂商、终端厂商、开发者围绕一个底层底座转起来,谁就能掌控下一个计算入口。随着技术成熟,万卫星预计,现场展示的意图理解和任务编排能力,将迅速落位到手机、汽车、PC乃至智能眼镜上。

退出移动版