C++版PPyolo+部署记录-创新互联

PaddlePaddle 框架从18年就开始用了，最近因为工作要做目标检测，因此选择了PaddleDetection 使用了ppyoloe_plus_m 模型进行训练。训练完成后使用

创新互联坚持“要么做到，要么别承诺”的工作理念，服务领域包括：网站设计制作、成都网站制作、企业官网、英文网站、手机端网站、网站推广等服务，满足客户于互联网时代的张湾网站设计、移动媒体设计的需求，帮助企业找到有效的互联网解决方案。努力成为您成熟可靠的网络建设合作伙伴！

export_model.py -c configs/ppyoloe/ppyoloe_plus_crn_m_80e_coco.yml -o weights=/path/model_final.pdparams

导出模型。

在项目中，使用的是 PaddleDetection /deploy 中的python 版进行部署的。目前在项目中已经跑起来了。但考虑到以后和其他业务端对接，可能使用C++ 版的更方便，因此尝试打通C++版的推理预测，在这里记录下分别基于windows 和linux 下的模型部署流程。

一、 windows版

CPU 版

windows 版相对来说较容易一下，首先尝试不使用gpu 的版本。

按照说明文档中的记录，下载使用cpu 版的 paddle_inference , 版本要求是使用vs2017 ,但我使用vs 2019 进行编译是可以的。

然后需要下载opencv , 下载完成后，最好将 opencv\build\x64\vc15\bin 放到环境变量中。这个其实是用的opencv 3 .X 版本的，跟现在项目中的环境还是有些差别（项目中用到opencv 4.5）后续考虑编译一个opencv4.X 版本的。使用

cmake .
-G "Visual Studio 16 2019" -A x64 -T host=x64
-DWITH_GPU=OFF
-DWITH_MKL=ON
-DCMAKE_BUILD_TYPE=Release
-DPADDLE_DIR=D:\projects\packages\paddle_inference
-DPADDLE_LIB_NAME=paddle_inference
-DOPENCV_DIR=D:\projects\packages\opencv3_4_6
-DWITH_KEYPOINT=ON

在deploy/cpp 目录下生成 .sln ，然后使用vs 打开，生成后的代码文件如下：

使用生成->生成解决方案，生成main.exe

我在生成过程中遇到了有些 lib 库没有找到的情况，在main ->属性->链接器常规和输入中看看是否添加了该lib

以上window下基于CPU的模型应用程序基本上就编译好了。运行结果如下：

GPU版

当跑起来CPU 版之后，发现GPU 版的也没有那么难了。首先要确定下当前机器下GPU 环境

本机环境如下：
CUDA=11.6
cudnn=8.4.1
TensorRT=8.4.0.6

首先肯定是要下载好对应的软件版本，可以参考这个

对应好 cuda ，cudnn tensorRT 版本后编译能轻松点。然后下载对应版本下的paddle_inference, 这个也需要下载opencv，跟上面用到的一样就可以，使用cmake 进行编译

cmake . -G "Visual Studio 16 2019" -A x64 -T host=x64
-DWITH_GPU=OFF
-DWITH_MKL=ON
-DCMAKE_BUILD_TYPE=Release
-DCUDA_LIB="C:\Program Files\NVIDIA GPU ComputingToolkit\CUDA\v11.6\lib\x64"
-DCUDNN_LIB="C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\lib"
-DPADDLE_DIR=D:\work\Project\pro_cuda\paddle_inference
-DPADDLE_DIR=D:\projects\packages\paddle_inference
-DPADDLE_LIB_NAME=paddle_inference
-DOPENCV_DIR=D:\projects\packages\opencv3_4_6
-DWITH_KEYPOINT=ON

也是生成.sln 然后生成，产生main.exe 文件。运行结果如下：