过去几年聊AI,我们都是盯着GPU,但现在Agentic AI要把CPU重新拉回焦点,从GPU配套变成AI智能体的调度中枢。为什么这么说呢?先看三个熟悉的名词:Agentic AI/聊天式AI/AI智能体。

聊天式AI是一次性问答,就像搞咨询的,你问它答,聊完就结束,主要靠GPU/TPU跑推理。AI智能体(AI agent)是具体干活的实体,能规划步骤、调用工具、访问网站、写代码、做任务,像极了搞苦工的。

但Agentic AI像一个系统,让AI既当咨询又做苦工。所以它不再是拿一个提示词、返回一个答案,而是代理生成子代理、调用API、访问企业应用和数据、编写和运行代码,在长达几天、几周甚至几个月的会话中保持上下文,通常包含多个AI智能体苦工一起配合干活——所有这些都需要CPU,带来了市场对CPU的需求变化。

第一,CPU在整机里的配比上升。传统AI服务器常见配比是1:4到1:8,也就是一块CPU配四到八块GPU。Agentic AI起来后,比例可能要到1:1或者1:2,变成一块CPU只配一到两块GPU。

第二,出货量上升。2026年服务器CPU出货量同比增长31%,2027年由于Agentic AI渗透率提升,预计增速进一步扩大到40%以上,CPU交货周期也从常规16-20周拉长到25-30周。

第三,核数、内存带宽和状态保持能力成了硬指标。英特尔至强6+做到单路最高288个能效核,配合576MB末级缓存,现场演示中一颗处理器跑过1024个智能体并发,而按2核4GB或1核2GB的常规云配置部署时生产级密度约为400至500个。Arm首款自研AGI CPU最多136个Neoverse V3核心,每核专属2MB L2缓存,把内存与I/O集成在同一芯片上,12通道DDR5-8800 满配时总带宽约800GB/s量级,折合每核平均约6GB/s,同时可协调几千个AI智能体。英伟达Vera做到88个Olympus核心,LPDDR5X内存聚合带宽1.2TB/s,单核带宽14GB/s,一个机架绑定256颗Vera可以同时维持超过22500个AI智能体并发环境。

第四,隔离和安全从附加项变成必选项。隔离和安全以前是软件层或安全团队事后补的事,现在变成CPU必须原生扛起来的能力,而隔离本身要吃CPU资源,所以它直接推高了CPU需求。谷歌云的GKE Agent Sandbox基于gVisor隔离技术,支持每集群每秒启动300个沙箱。GKE Agent Sandbox在Axion处理器上运行时,性价比比其他超大规模云平台高出最多30%。微虚拟机和代理网关正在成为CPU侧的基础能力,而不是安全团队事后的补丁。

GPU时代,CPU的任务是别拖后腿。Agentic AI时代,CPU要做的是拆解目标、调度AI智能体、保持状态、隔离边界、衔接存储和网络。犹如一个调度中心,核心是编排调度,同时也要承担数据准备、语义搜索和向量数据库处理等具体工作。三家主要阵营瞄准的正是这个新角色。

英特尔用至强6+的288个能效核说话,首款Intel 18A数据中心CPU,目标是在固定功耗和机架空间里塞进尽可能多的并发AI智能体,把代理密度做成可量化指标。AMD更直接:核心密度和多线程能力让单台设备同时运行多个AI智能体,EPYC系列在AI智能体工作流场景里匹配的正是这种“数量多、每个不重”的并发结构。Arm阵营是变化最剧烈的一条线:AGI CPU是Arm成立以来首款自研量产芯片,专为AI智能体工具调用、工作流协调和规划推理设计。此外谷歌 Axion 和英伟达 Vera 则分别从主控 CPU 和状态保持切入。

不过对于我们边缘AI来说,真正值得注意的,是云端CPU的角色变化在边缘侧以同构的方式发生了。Agentic AI天然有下沉到边缘的动力:一个手机AI智能体要看见屏幕、点击按钮,一个机器人AI智能体要感知障碍、执行动作,这些环节如果绕道云端,在延迟和隐私上都无法接受。所以不是全部下沉,而是形成端云分工。端侧负责感知、执行与脱敏,云端负责意图规划与状态管理。这意味着边缘CPU不能只当算力配套,而要在本地承担感知接入、实时执行和隔离脱敏,成为智能体在本地运行的底座——这与云端CPU的调度中枢角色同构。

而这种端云分工的底层逻辑,不只是算力大小,而是延迟、隐私与安全边界:敏感信息理想的设计是从源头就不采集,而不是采下来再脱敏,AI智能体的一部分必须永远留在本地;端云分离也避免单点故障。

当然啦,同构不等于同量级。边缘CPU的约束比云端紧张得多,功耗从千瓦级降到瓦级,内存从TB级降到GB级,但“CPU负责让一堆AI智能体持续地、安全地、有条不紊地干活”这事没变。场景不同,职责也有别:在感知型和物理执行型Agent中,边缘CPU还要额外承担感知接入、实时执行和安全脱敏——它是AI智能体与物理世界之间的那道安全门;而在纯软件Agent(如数据分析、API编排)中,这道门不是必需,CPU更多是本地运行与隔离的基础保障。

一些公司的产品动态已经在对齐“边缘 CPU承载智能体”这个更宽的定位了:既有面向本地智能体承载的,也有面向物理执行场景的。此芯P1是一颗6nm、12核CPU的智能体SoC,原生支持64GB内存,可稳定支持13B—35B生产级AI智能体部署。AMD的Ryzen AI Max+系列统一内存覆盖128GB和192GB,分别面向200B和 300B参数模型的本地运行。英伟达Jetson AGX Thor则把Arm CPU、Blackwell GPU和128GB统一内存打包,面向需要持续感知、推理和行动的物理 AI 智能体场景。

端侧的安全隔离也在从软件层向硬件层走。AgenTEE 把AI智能体运行时、推理引擎和第三方应用放进独立认证的机密虚拟机,基于 Arm CCA在边缘设备上强制执行隔离。Tracekit Box让每个AI智能体任务运行在独立的Firecracker microVM里,没有网卡,唯一的出口是宿主机上经过签名和管控的通道。这和云端用microVM把几百个AI智能体隔开是同一套思路,只是尺度不同。

所以,Agentic AI带来的不是又一轮算力堆叠,而是CPU角色的重新估值。接下来CPU的竞争,也要从峰值算力转向并发密度、状态保持和隔离边界这些更接近调度的指标了吧。

说明:1.文章参考公开报道并借助AI工具进行整理和分析,如有不妥之处欢迎指正。2.部分市场数据基于行业估算、发布以及官方报道,具体精确数据请以权威机构为准。3.欢迎长期追踪边缘AI的朋友一起探讨。    

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐