TensorRT 8.6 C++开发环境配置与YOLOv8实例分割推理演示

硬件与软件版本信息

GPU3050ti Windows10 64 VS2017 Python3.8.5 CUDA11.3 + cuDNN8.3

TensorRT8.6版本下载

https://developer.nvidia.com/tensorrt

VS2017+TensorRT8.6开发环境配置

下载好TensorRT8.6之后解压缩到D盘D:TensorRT-8.6.0.12，目录结构如下：

打开VS2017，新建一个C++控制台空项目如下图：

点击【确定】会生成一个C++控制台项目。右键源文件添加cpp文件 main.cpp

修改项目为：

然后右键项目名称test_trt86, 从弹出菜单中选择属性，显示如下：

在包含目录中添加TensorRT的include目录与CUDA的include目录：

在库目录中添加TensorRT的lib目录与CUDA的lib目录：

从链接器-》输入中添加库目录下面所有包含的的*.lib文件依赖。

最后配置环境变量：

3跟4安装好CUDA会自动添加，不用管！添加好2即可。然后重启VS2017即完成开发环境搭建。

YOLOv8实例分割C++推理演示

对YOLOv8实例分割TensorRT 推理代码已经完成C++类封装，三行代码即可实现YOLOv8对象检测与实例分割模型推理，不需要改任何代码即可支持自定义数据训练部署推理，演示代码如下：

1intmain(intargc,char**argv){ 2std::vectorlabels=readClassNames(); 3std::stringenginefile="D:/TensorRT-8.6.0.12/bin/yolov8n-seg.engine"; 4cv::VideoCapturecap("D:/bird_test/hongyegu.mp4"); 5cv::Matframe; 6autodetector=std::make_shared(); 7detector->initConfig(enginefile,0.25,0.25); 8std::vectorresults; 9while(true){ 10boolret=cap.read(frame); 11if(frame.empty()){ 12break; 13} 14detector->detect(frame,results); 15for(DetectResultdr:results){ 16cv::Rectbox=dr.box; 17cv::putText(frame,labels[dr.classId],cv::Point(box.tl().x,box.tl().y-10),cv::FONT_HERSHEY_SIMPLEX,.5,cv::Scalar(0,0,0)); 18} 19cv::imshow("YOLOv8+TensorRT8.6实例分割演示",frame); 20charc=cv::waitKey(1); 21if(c==27){//ESC退出 22break; 23} 24//resetfornextframe 25results.clear(); 26} 27return0; 28} 运行结果如下：

YOLOv5与YOLOv8自定义对象检测 INT8量化推理运行结果：

视频课程最后一课时获取源码：

https://ke.qq.com/course/6011334

掌握TensorRT8.6 C++如何部署图像分类，对象检测，实例分割，语义分割主流模型，自定义脚本一键INT8量化模型，使用OpenCV CUDA加速图像预处理等各种工程化部署推理技巧，实现推理部署的工程化封装支持，客户端三行代码即可调用！全部解锁上述技能与源码获取，扫码下面视频课程加入即可获取：

审核编辑 ：李倩