博主之前已经有一篇博客有这方面的介绍,这段时间自己也熟悉了下树莓派(前面已有很多关于此的系列博客),所以这篇博客探讨的会更深入些,为后面的实战做准备。

用于跑深度学习的嵌入式硬件平台资料整理_竹叶青lvye的博客-CSDN博客本来想温习下数电,模电,单片机,电路设计,外围配套端口和设备方面的知识,往底层硬件方面去,鉴于精力有限,初衷点是想把算法和硬件相结合,考虑到这些年主要是算法方面(图像处理、3D点云处理、深度学习)的积累,为了更好的延续,还是选择从嵌入式的系统级别(应用层开发,嵌入式图像处理)入手吧(涉及shell, readline,make,交叉工具链的使用等)。先选择一款能够跑深度学习的硬件平台,下面就简单整理下几款合适的嵌入式硬件平台吧。1. Movidius的一些系列产品(2016年被Intel收购)代表产https://blog.csdn.net/jiugeshao/article/details/121046270

1.Ubuntu环境下连接树莓派,下载deb文件,安装deb文件方法见博客

Download VNC Viewer | VNC® Connect

完毕后,就可以像windows上连接树莓派那样去远程控制

2.后面打算在嵌入式平台上跑下轻量级的网络,如MobileNet,还有GhostNet,可以拿个摄像头实时去检测,看看FPS能达到多少。同时博主也会拿博客中性能比较那一节的几个例子放到嵌入式平台上跑一跑。如何评估深度学习的性能?英伟达提出7大挑战

3.https://github.com/tensorflow/models/tree/master/research/object_detection/models

里面有大量的tensorflow做目标检测的资源供参考,博主之前在博客中也提到要善于从官网获取第一手资料

models/tf2_detection_zoo.md at master · tensorflow/models · GitHub

 4.TensorFlow Lite的相关介绍

TensorFlow Lite

一头栽进了tensorflow lite的巨坑里_云水木石的博客-CSDN博客_tensorflowlite

TensorFlow Lite 入门样例,亲测有效_aslily1234的博客-CSDN博客_tensorflow tflite

5.tensorrt的相关介绍,博主之前已经有系列博客介绍了

6.openvino

Get Started with Sample and Demo Applications — OpenVINO™ documentation

OpenVINO基础知识_ve2102388688的博客-CSDN博客_openvino

OpenVINO使用说明 - 简书

OpenVino初体验 - 知乎

7.额外知道如下几个框架,不打算去进行实验和测试腾讯ncnn框架和阿里巴巴MNN框架(含使用教程链接)--工程化的曙光_笔尖微凉的博客-CSDN博客_ncnn框架

高通SNPE框架简介_sundaygeek的博客-CSDN博客_高通snpe

 商汤自研训练框架SenseParrots首次亮相,林达华全面解读 - 知乎

 上面提到的是深度学习框架,下面要说说深度学习常接触到的嵌入式平台

8.如下博客值得参考,博主后面也会在几个主流嵌入式树莓派平台上去实现下

https://blog.csdn.net/weixin_47479625/category_10445810.html?spm=1001.2014.3001.5482

9.博主目前所用的树莓派的硬件配置如下

 如下是英伟达树莓派4和英伟达JetSon系列开发板性能对比博客

 树莓派 4 与英伟达 Jetson Nano 性能大比拼,谁是最佳的嵌入式“电脑”?

树莓派4b和英伟达jetson nano哪个做ros机器人比较好? - 知乎

树莓派 4 与英伟达 Jetson Nano 性能大比拼,谁是最佳的嵌入式“电脑”?

Jetson TX2的计算能力_上过小学的人的博客-CSDN博客_tx2算力

树莓派4B,在机器深度学习领域也是性价比王者! - 知乎

 上面博客中做了很多性能比较实验(拿MobileNet v1 SSD、MobileNet v2 SSD)进行了测试

在如下平台做了测试

开发板                                                                                   速度等级(数字越小,越快)

Coral Dev Board                                                                      1

JetSon Nano(Tensorflow框架)                                                 5

JetSon Nano(Tensorflow + tensorrt)                                        2

树莓派3 +Coral USB(2.0)                                                        2

树莓派4+Coral USB(3.0)                                                         1

树莓派4+Movidus NCS                                                           4

树莓派+Intel NCS2                                                                  3

Raspberry pi3(TF Lite框架)                                                  5

Raspberry pi4(TF Lite框架)                                                  3

Raspberry pi3(Tensorflow框架)                                           7

Raspberry pi4(Tensorflow框架)                                           6

从上可以看出,直接用树莓派4跑tensorflow框架,速度相对耗时较长。使用树莓派搭配Coral USB3.0是值得尝试的


10.如下硬件平台知道下

高通骁龙820E高性能开发板 | 金亚太

Cortex-A57@2.1GHz

11.Google 的Coral开发板(Edge TPU开发板)也了解下

从云到端,进阶的谷歌AI芯片Edge TPU到底有多快? - 知乎

Google发布150美元TPU芯片开发板_Coral

十次方:Google更新AI平台Coral,发表迷你Coral开发板

对应了解下开发板上常用的相关芯片    TPU

CPU、GPU、DPU、TPU、NPU……傻傻分不清楚?实力扫盲——安排!

深度学习加速器

深度学习加速器入门(一)基础知识 - 知乎

12. Coral USB 加速器

Google Coral USB加速器介绍_点PY的博客-CSDN博客

基于Google Edge TPU的Coral USB加速棒体验_一颗小树x的博客-CSDN博客

 13.Movidus神经网络计算棒

初代 Movidus 神经网络计算棒_百度搜索

博主后面会先尝试树莓派4b(博主已经具备) + Coral USB3.0、英特尔神经计算棒这两种搭配来提速,同时熟悉下tensorlite框架,拿MobileNet v1 SSD、MobileNet v2 SSD来做下实验;后期有时间会去熟悉下JetSon TX2、Coral Dev Board (需要购入硬件),最后也会去看看opencv里现在增加了哪些新的资源库,再后面应该就乖乖的回归官网文档,读读paper, 看看实现算法,不想折腾了,把最重要的事干好。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐