yolo系列的ONNX部署(C++)【适用于v4\v5\v5-6.1\v7】

简介: yolo系列的ONNX部署(C++)【适用于v4\v5\v5-6.1\v7】

前言


  首先感谢bubbliiiing博主提供的训练代码! 整个部署程序分为四步(C++):


  1. 下载bubbliiiing博主项目更改predict 为 export_onnx\


  1. 更改文件夹nets下的yolo.py代码\


  1. 生成onnx文件


  1. 下载此项目进行cmake&make 经测试,可以对(pytorch版本的)yolov4 -- yolov5 -- yolov5-6.1 yolov7 进行转换测试 由于bubbliiiing博主已经将网络结构和如何训练,我这边就不再过多的讲述如何训练。




如何使用?


  这里我以yolov7为例子向大家展示如何得到onnx以及运行onnx进行部署(bubbliiiing博主v4>>v5>>v5-6.1同理)



Step1:


git clone github.com/bubbliiiing…cd yolov7-pytorch

pip install -r requirements.txt

vim predict.py


line24: mode = "export_onnx" ## predict >> 'export_onnx'
复制代码




Step2:


cd /nets


vim yolo.py


line300 ----line316:
        #---------------------------------------------------#
        #   第三个特征层
        #   y3=(batch_size, 75, 80, 80)
        #---------------------------------------------------#
        out2 = self.yolo_head_P3(P3)
        #---------------------------------------------------#
        #   第二个特征层
        #   y2=(batch_size, 75, 40, 40)
        #---------------------------------------------------#
        out1 = self.yolo_head_P4(P4)
        #---------------------------------------------------#
        #   第一个特征层
        #   y1=(batch_size, 75, 20, 20)
        #---------------------------------------------------#
        out0 = self.yolo_head_P5(P5)
        return [out0, out1, out2]
复制代码


如下图为bubbliiiing博主源码生成的onnx输入输出信息截取

image.png


 bubbliiiing 这里的return[out0, out1, out2] 在经过"export_onnx"后并没有torch.cat,我们需要将输出的结果进行torch.cat操作, 在进行torch.cat操作之前需要将输出结果进行转换一下维度,详见如下代码:


out2 = self.yolo_head_P3(P3)
        bs, _, ny, nx = out2.shape  
        # 这里的 no = 85[类别数nc(80) + 目标坐标和置信度(4+1)]
        out2 = out2.view(bs, 3, 85, ny, nx).permute(0, 1, 3, 4, 2).contiguous() # no = 85
        out2 = out2.view(bs * 3 * ny * nx, 85, 1).contiguous() #  no = 85
        # ---------------------------------------------------#
        #   第二个特征层
        # ---------------------------------------------------#
        out1 = self.yolo_head_P4(P4)
        bs, _, ny, nx = out1.shape
        out1 = out1.view(bs, 3, 85, ny, nx).permute(0, 1, 3, 4, 2).contiguous() #  no = 85
        out1 = out1.view(bs * 3 * ny * nx, 85, 1).contiguous() #  no = 85
        # ---------------------------------------------------#
        #   第一个特征层
        # ---------------------------------------------------#
        out0 = self.yolo_head_P5(P5)
        bs, _, ny, nx = out0.shape
        out0 = out0.view(bs, 3, 85, ny, nx).permute(0, 1, 3, 4, 2).contiguous() #  no = 85
        out0 = out0.view(bs * 3 * ny * nx, 85, 1).contiguous() #  no = 85
        output = torch.cat((out2, out1, out0))
        output = output.permute(2, 0, 1)
        # return [out0, out1, out2]
        return output
复制代码


  使用上述的代码部分替代源代码的line300 至 line316: 更换后得到的信息下图所示


image.png


大家在更换自己的数据集进行训练得到的权重进行pth2onnx时需要注意:上述代码注释部分的更换85(coco数据集的类别数+5), 在这里需要更换为自己的数据集的类别数再加上5。例如自己的数据集是10个类别(nc=10),那么这里的no=10+5 ;也就是85需要更改为15(no = nc + 5)



Step3:


cd ..

python predict.py

这样我们就可以得到C++调用onnx需要的权重



step4:


git clone github.com/kivenyangmi…
cd yolo-bubbliiiing-onnx
mkdir build
cd build
cmake ..
cmake --build .    (或者:make)






相关文章
|
6月前
|
存储 计算机视觉 异构计算
使用python&C++对bubbliiiing的yolo系列进行opencv.dnn进行推理部署
使用python&C++对bubbliiiing的yolo系列进行opencv.dnn进行推理部署
88 0
|
6月前
|
缓存 并行计算 C++
实践教程|旋转目标检测模型-TensorRT 部署(C++)
实践教程|旋转目标检测模型-TensorRT 部署(C++)
165 0
|
6月前
|
人工智能 Shell 编译器
C/C++编译工具:makefile | AI工程化部署
Makefile是一种用于管理和组织源代码的工具,通常用于构建和编译软件项目。它由一系列规则组成,每个规则指定如何生成一个或多个目标文件。Makefile也包括变量和注释,使得用户能够灵活地配置和定制构建过程。【1月更文挑战第3天】
192 3
|
4月前
|
存储 C++ Cloud Native
云原生部署问题之C++ 中的 nullptr 和 NULL 区别如何解决
云原生部署问题之C++ 中的 nullptr 和 NULL 区别如何解决
58 0
|
4月前
|
程序员 编译器 C语言
云原生部署问题之C++中的nullptr相比C语言中的NULL优势如何解决
云原生部署问题之C++中的nullptr相比C语言中的NULL优势如何解决
54 10
|
6月前
|
运维 Serverless Go
Serverless 应用引擎产品使用之在阿里云函数计算中c++模板,将编译好的C++程序放进去部署如何解决
阿里云Serverless 应用引擎(SAE)提供了完整的微服务应用生命周期管理能力,包括应用部署、服务治理、开发运维、资源管理等功能,并通过扩展功能支持多环境管理、API Gateway、事件驱动等高级应用场景,帮助企业快速构建、部署、运维和扩展微服务架构,实现Serverless化的应用部署与运维模式。以下是对SAE产品使用合集的概述,包括应用管理、服务治理、开发运维、资源管理等方面。
|
6月前
|
存储 C++ Python
C++版本netCDF在Visual Studio中的部署
【2月更文挑战第20天】本文介绍在Windows电脑的Visual Studio软件中,配置C++语言最新版netCDF库的方法~
125 3
C++版本netCDF在Visual Studio中的部署
|
机器学习/深度学习 编解码 Go
YOLOv5-Face | 原理超精细讲解、训练步骤还原、C++边缘部署(就要这么学!!!)(一)
YOLOv5-Face | 原理超精细讲解、训练步骤还原、C++边缘部署(就要这么学!!!)(一)
687 0
|
6月前
|
文字识别 编译器 C++
win10 PaddleOCR c++ cpu部署
win10 PaddleOCR c++ cpu部署
382 0
|
6月前
|
人工智能 C++ 计算机视觉
C/C++编译工具:cmake | AI工程化部署
CMake 是一个跨平台的开源构建工具,用于管理软件构建流程。它使用一个名为 CMakeLists.txt 的文本文件来描述构建过程。【1月更文挑战第4天】
221 0