当前位置: 首页 > 工具软件 > Tiny4py > 使用案例 >

树莓派4B+因特尔二代神经棒(NCS2)部署yolov3-tiny错误记录

曹振
2023-12-01

前言

耗费18天,才终于成功的把自己训练的yolov3-tiny.weights模型成功部署到树莓派上,并用神经棒进行推理,记录这十几天的艰难过程,为后来者新手减少一点阻力。


一、在树莓派上部署Openvino

如果可以的话。请尽量使用intel的官方教程(不需要科学上网),不过官方教程一般是最新版驱动的教程,其他版本的教程网上也有很多,根据需求选择即可。下面我贴出intel的官方教程地址,有需求的自取:
https://docs.openvino.ai/latest/openvino_docs_install_guides_installing_openvino_raspbian.html
https://docs.openvino.ai/latest/openvino_docs_install_guides_configurations_for_ncs2.html
安装包下载地址:
https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit/download.html
有其他树莓派Openvino版本需求的进这个地址(版本不全):
https://download.01.org/opencv/

注意:

树莓派版本所使用的Openvino是没有model optimizer的,就是说,你要转换自己的模型,只能去window或者linux下安装openvino进行转换,请保证树莓派和windows(linux)所使用的openvino版本一致,切记,不然即使你模型转换成功了移植到树莓派上也不能使用。我所使用的版本为2021.4.752.我所收集的部分驱动会在文末分享出来。

二、模型转换

1.weights模型转换为pb模型

因为现在Openvino不能直接使用darknet训练出来的weights模型,需要先转换为tensorflow的pb模型,再转换成神经棒的IR模型(xml+bin)才能使用。weights转换pb,官方推荐tensorflow-yolo-v3(我已实测可行),或Openvino-Yolov3,其他教程或多或少也讲过,这里就不多讲了,我所使用的也会放在文末,github上也能下载到。

2.pb模型转换为IR模型

其他教程也讲过,这里也不多讲了,官方教程为:
https://docs.openvino.ai/latest/openvino_docs_MO_DG_prepare_model_convert_model_tf_specific_Convert_YOLO_From_Tensorflow.html

三、模型推理

网上多使用object_detection_sample_ssd或官方使用hello_classification示例,前者是ssd网络,后者是squeezenet网络,如果要使用YOLO,请使用object_detection_demo或multi_channel_object_detection_demo_yolov3,这两个实例在make的时候连接的地址是open-model-zoo的demo,我所使用的open-model-zoo也放在文末
官方教程我放在下面:
https://docs.openvino.ai/2021.4/omz_demos_object_detection_demo_cpp.html
https://docs.openvino.ai/2021.4/omz_demos_multi_channel_object_detection_demo_yolov3_cpp.html

四、问题

[ ERROR ] Output item should have 7 as a last dimension

就是这个diao问题,浪费了我十天时间,当时我还以为实例只是一个名字,结果是ssd网络的实例名,适配ssd,不能使用YOLO,唉,还是学艺不精。请使用第三点我所说的其他两个实例。

[ ERROR ] stoi

转换模型所使用的openvino版本和树莓派版本不一致导致的,使用相同版本即可解决


总结

我所提到的和使用的,均放在下面这个链接,有需求的自取即可:
链接:https://pan.baidu.com/s/1MbIizpVI8TmEdasWNf-7og
提取码:AE86

建议以后遇到什么问题不要在百度这个搜索引擎一棵树上吊死,我是在第十天的时候使用bing查到了,这辈子baidu一生黑,如再遇到什么问题,可以去intel的社区注册一个账号,留言描述问题即可,1天左后会有官方人员回答。

有什么问题,也不要留言问我,99%我也不知道,我也只是个小白,只是希望这些能帮助到哪怕一个人就行了。

最后,记录下我自己使用的几条命令(weights转pb,pb转IR,模型运行,TXT文件装的是训练的类名),防止日后遗忘:

fizz@ubuntu:~/tensorflow-yolo-v3-master$ python3 convert_weights_pb.py --class_names coco1.names --data_format NHWC --weights_file yolov3-tiny_1/yolov3-tiny_1.weights --tiny

fizz@ubuntu:/opt/intel/openvino_2021/deployment_tools/model_optimizer$ sudo python3 mo_tf.py --batch 1 --reverse_input_channels --transformations_config=/home/fizz/OpenVINO-YoloV3-master/yolo_v3_tiny.json --input_model=/home/fizz/OpenVINO-YoloV3-master/yolov3-tiny_1.pb

fizz@ubuntu:~/inference_engine_demos_build$ sudo ./intel64/Release/object_detection_demo -m /home/fizz/OpenVINO-YoloV3-master/yolov3-tiny_1/yolov3-tiny_1.xml -d MYRIAD -i 0 --at=yolo --labels /home/fizz/tensorflow-yolo-v3-master/yolov3-tiny_1/yolov3-tiny.txt

pi@raspberrypi:~/build $ sudo ./armv7l/Release/object_detection_demo -m /home/pi/build/yolov3-tiny_1/yolov3-tiny_1.xml -d MYRIAD -i 0 --at=yolo --labels /home/pi/build/yolov3-tiny_1/yolov3-tiny.txt

 类似资料: