一、WAIC端侧暗线比主舞台更猛

1、拔网线机器狗与30万车端交付

WAIC 2026主舞台被万亿参数模型和人形机器人抢走聚光灯,但H1馆面壁智能的展台藏着更硬的信号:一只宇树Go2机器狗被现场拔掉网卡,依然能执行“跟随前面的人”指令,从室外进电梯再到地下车库全程不跟丢——全部推理跑在本地MiniCPM-RobotTrack上。 同台亮相的还有SuperMate座舱系统,已定点长安马自达EZ-60、吉利银河M9、上汽、广汽等车型,超30万台量产车交付,完整跑通“模型适配-硬件兼容-供应链-终端交付”全链路。 三年前端侧被笑“玩具”,2026年7月面壁上半年融资超50亿、估值破200亿,成了端侧智能公开估值最大的独角兽。

2、手机端侧备案开闸

7月15日网信办公布新一批生成式AI服务备案,Apple智能、三星“盖乐世AI”、华为小艺、OPPO AndesGPT、vivo蓝心、小米澎湃AI、努比亚豆包手机大模型共7款手机端侧产品同批过审;其中三星盖乐世AI的端侧能力由面壁MiniCPM系列提供,面壁是唯一以端侧模型身份参与备案的大模型公司。 端侧AI从“灰产变通配”变成“持证上岗”,合规闸门一开,消费电子的AI竞争主轴从云端API切到本地大脑。

二、为什么是2026年7月这个时间点

1、NPU算力跨过体验阈值

骁龙8 Elite Gen 5的Hexagon NPU在INT8下约100 TOPS,天玑9500的APU 890约80 TOPS,配合LiteRT-LM等框架,在骁龙8 Elite Gen 5上跑Gemma 3 1B首token 0.12秒、prefill破1.1万token/s、decode 100+token/s;跑Gemma 3n E2B级模型(INT4量化557MB)4K上下文应答压进125ms内。 这个数值意味着端侧对话延迟已接近云端API,手机不再需要“转圈圈”。56个主流端侧模型能在单NPU 5ms内完成单次前向,硬件侧第一次给了端侧Agent“实时反射”的物理基础。

2、原生多模态压缩到位

商汤SenseNova U1 Lite 8B在多项轻量多模态基准超部分闭源;腾讯混元HYDRA统一视觉Tokenizer,把图像切词和文本切词送进同一空间;Kimi K3虽是2.8万亿庞然大物,但其MXFP4量化思路倒逼端侧量化范式从INT8走向微缩放浮点。小模型不再“残废”——1.5B的MiniCPM-RobotManip在VLA基准挤进第一梯队,面壁MiniCPM-V 4.6保留通用多模态理解,证明端侧能看、能听、能说、能抓。

三、云端与端侧的分工重画

1、敏感留端,重活上云

病历摘要、工厂图纸、车内语音、人脸相册这些隐私敏感数据,2026年工程界共识是“不出设备”;长程规划、跨系统检索、多步工具调用交给云端。对比2024年“一切上云”的幼稚方案,物理实体容错率低——车间断网、车库弱网、车机无信号时,端侧小脑必须能独立避障、独立问答、独立执行反射动作。OpenAI Presence客服Agent能接75%英语来电,但金融、医疗、军工类场景必须在端侧前置过滤敏感字段再上云,否则合规过不了。

2、端云协同成默认架构

阶跃星辰Step AOS把任务拆成两档:设闹钟、找照片、开App这类百毫秒级任务端侧Step Edge直接干;旅行规划、长文撰写、多应用编排由云端Pro模型接手,端云通过统一语义层接力。 千问智能体眼镜把语音前处理、图像模糊检测放端侧,多意图理解放云端。 机器人、手机、车、眼镜共用同一套逻辑:端侧管反射,云端管认知,路由由模型自判而非硬编码规则。

四、端侧Agent的新形态

1、智能体手机与眼镜进场

阶跃星辰7月13日亮全球首款大模型原生智能体手机STEPX Neo,配Step AOS原生系统,智能体Amoo是“原住民”不是“访客”,跨App调度美团/支付宝/滴滴,用户说“找最近充电桩顺手点杯少糖奶茶到家”它自己排程。 千问智能体眼镜同台亮相,语音唤醒、图像预处理端侧完成,复杂问答上云。Agent不住浏览器插件里,住进设备本机,权限更细、隐私更好、断网不瘫。

2、端侧推理成本趋零

云端按token计费,端侧按电量计费——语法检查、代码补全、相册问答这些高频功能,本地跑的边际成本趋近于一块芯片的待机功耗。工厂不愿为每条巡检语音付云费用,车间Agent批量下沉边缘盒子;汽车座舱每天数万次语音交互,若全上云单车年费能买半块NPU,车厂自然选端侧前置。成本结构一变,Agent从“奢侈品”变“零部件”。

五、中国公司的端侧卡位与供应链底气

1、面壁、商汤、混元三线并进

面壁吃车端+机器人(SuperMate座舱、MiniCPM-Robot系列),商汤吃轻量多模态(SenseNova U1 Lite),腾讯混元吃Agent路由与统一Tokenizer(HYDRA)。国外Google Gemma 3n、Phi-4走开源端侧路线,但国内外在NPU适配层第一次站同一起跑线——因为端侧拼的不是数据量,是芯片适配、量化、系统调度这三项工程苦力。

2、供应链自主给的底气

国产NPU(寒武纪、昇腾、紫光展锐)、存储(长江存储)、传感器不全靠海外,端侧AI在中国第一次有“断供也不怕”的产业链底座。WAIC 2026整体意向合作162亿元,近三成落端侧方案(座舱、手机、机器人、边缘盒子)。 杭州立法、上海WAIC、北京智源把端侧从论文推到产线,2026年7月信号清晰:端侧不是云端的降级替代,而是AI进入物理世界的“神经末梢”——谁把模型塞进设备本机,谁握下一个十亿终端的入口。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐