以前做边缘AI项目,要么用昂贵的GPU,功耗高发热大;要么用性能不够的ARM板,跑个简单的模型都卡。现在好了,Intel 和 AMD 都推出了自带 NPU 的处理器,功耗只有几十瓦,算力却能达到几十 TOPS,特别适合边缘 AI 机器人。我们去年就出了一系列基于 NPU 处理器的工控机,市场反响特别好。

一、为什么边缘AI机器人先选择带NPU的工控机?

边缘 AI 机器人需要在本地完成 AI 推理,不能依赖云端,这对工控机的功耗和算力都提出了很高的要求。带 NPU 的工控机正好满足了这些需求:

1.低功耗:NPU 的能效比是 GPU 的 3-5 倍,很多型号可以做到无风扇被动散热;

2.高集成度:CPU+GPU+NPU 集成在一颗芯片上,体积小,可靠性高;

3.低延迟:本地 AI 推理,延迟只有几十毫秒,满足实时控制要求;

4..数据安全:敏感数据不需要上传云端,不会泄露;

5.成本低:比单独买 CPU+GPU 的方案便宜多了;

现在巡检机器人、安防机器人、服务机器人,基本都开始用带 NPU 的工控机了。

派勤HK800CA工控主板

二、低功耗 NPU 工业主机的核心选型标准

选 NPU 工控机,不能只看标称的算力,还要看这几个方面:

1. 软件生态最重要

NPU 的算力再强,如果没有好的软件支持也没用。一定要选支持 ONNX、TensorRT、OpenVINO 等主流推理框架的型号。最好厂家已经做了模型移植和优化,这样你拿过来就能用,不用自己折腾。

2. 算力要匹配需求

不是算力越高越好,够用就行。简单的目标检测,6TOPS 的算力就够了;复杂的语义分割,可能需要 16TOPS 以上的算力。算力太高会增加成本和功耗。

3. 接口要丰富

边缘 AI 机器人需要连接很多传感器,比如相机、激光雷达、超声波等。所以工控机要有足够的网口、USB 口和串口。最好能支持 PoE 供电,方便连接相机。

4. 散热设计要可靠

虽然 NPU 的功耗不高,但如果长时间满负载运行,还是会发热。优先选无风扇被动散热的型号,可靠性更高,不用维护。

三、2026 年值得入手的 NPU机器人工控机配置

2026年值得入手的NPU工控机的配置要满足哪些?

入门级:嵌入式工控主板配置

 ·  处理器:板载 AMD Ryzen AI 9 365 处理器,自带 16TOPS NPU

 ·  内存:2*DDR5 SO-DIMM,最大 64GB

 ·  接口:2 个千兆网口,2 个 Type-C,2 个 HDMI

 ·  存储:1 个 M.2 2280 NVMe SSD

 ·  功耗:整机功耗 < 30W

 ·  适合场景:简单的边缘 AI 应用,如人脸识别、人数统计

选择体积小点的,尽量在100x100mm左右,适合集成到机器人内部。

工控产品

进阶级的嵌入式工控主板配置

处理器:Intel Core Ultra5/Ultra7 处理器,自带 11TOPS NPU

内存:2*DDR5 SO-DIMM,最大 96GB

接口:2 个 Intel i226-V 千兆网口,2 个 COM 口,4 个 USB

系统:支持实时 Linux、Windows 11

功耗:整机功耗 < 40W

适合场景:巡检机器人、安防机器人、服务机器人

这个NPU工控机的配置还是不错的,Intel 的 NPU 软件生态最好,支持 OpenVINO,模型移植非常方便。

派勤UT100NU 嵌入式工控主板

高端级的工控主板ITX 主板配置:

处理器:Intel Core Ultra7/Ultra9 处理器,自带 16TOPS NPU

内存:2*DDR5 SO-DIMM,最大 96GB

接口:4 个 USB,1 个 VGA,1 个 HDMI,1 个千兆网口

扩展:1 个 PCIe x4 插槽,可扩展更多接口

适合场景:复杂的机器视觉应用,如缺陷检测、3D 视觉

四、NPU工控机在电力巡检机器人中的应用案例

这个是2025 年 1 月的来咨询项目,做电力巡检机器人的客户,有 8 个 220kV 变电站,原来都是靠人工进行日常巡检。人工巡检不仅效率低,而且非常危险,特别是在恶劣天气下。他们曾经尝试过某进口品牌的巡检机器人,但用的是云端推理方案,有两个很大的问题:

  1.延迟高,从拍摄到识别结果返回需要 500ms 以上,机器人经常错过缺陷;

  2.在信号不好的地方,比如山区和地下电缆沟,根本无法工作;

根据上述的情况给他们选型了一个工控机方案。每台巡检机器人安装一台。自带 11TOPS NPU,本地运行 YOLOv8 缺陷检测算法。我们还针对电力巡检的场景,对模型进行了量化和优化,在保证精度的前提下,把推理速度提升了 3 倍。同时,我们还增加了离线工作模式,即使完全断网,机器人也能正常完成巡检任务。

改造后的效果非常好:

  1.推理延迟从 500ms 降到了 50ms,缺陷识别的准确率大大提高;

  2.断网情况下仍能正常工作,覆盖了所有的巡检区域;

  3.缺陷识别准确率达到了 98%,比人工巡检还高;

  4.机器人的续航时间延长了 2 小时,因为 NPU 比 GPU 省电多了;

  5.巡检效率提高了 3 倍,原来需要 8 个巡检工,现在只需要 2 个;

现在这个项目已经在南方电网多个变电站推广应用,累计部署了超过 50 台巡检机器人。

最后说几句~~

NPU 是未来边缘 AI 的发展趋势,现在已经非常成熟了。对于大多数边缘 AI 机器人应用来说,带 NPU 的工控机完全能满足需求,而且比 GPU 方案更划算、更可靠。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐