Linux环境下使用 C++ 与 OpenCV 实现 ONNX 分类模型推理

实验环境：Ubuntu 20.0
推理模型：ONNX分类模型

1. 安装依赖项

首先是需要安装依赖库，如g++，cmake等，如果已经安装的话可以忽略

sudo apt install -y g++
sudo apt install -y cmake
sudo apt install -y make
sudo apt install -y wget unzip

安装一些opencv的依赖项（可不安装）

sudo apt-get install build-essential libgtk2.0-dev libgtk-3-dev libavcodec-dev libavformat-dev libjpeg-dev libswscale-dev libtiff5-dev

安装一些可选库（可不安装）

# streamer支持
sudo apt install libgstreamer-plugins-base1.0-dev libgstreamer1.0-dev
# 可选的依赖
sudo apt install libpng-dev libopenexr-dev libtiff-dev libwebp-dev

在这里插入图片描述

2. 下载并安装OpenCV

可以在官网下载相应版本的OpenCV，主要有Source和GitHub两种方式下载。

2.1 Source下载

Source：https://opencv.org/releases/

点击Source进行下载：
在这里插入图片描述

2.2 GitHub下载

这里推荐安装4.9.0版本。

# 安装4.9.0版本
wget -O opencv.zip https://github.com/opencv/opencv/archive/4.9.0.zip
# 安装最新版本
wget -O opencv.zip https://github.com/opencv/opencv/archive/master.zip

下载完成后解压，并将文件夹名字改为opencv

在这里插入图片描述

3. Cmake配置和编译OpenCV

进入到下载好的opencv目录中，新建并进入目录build：

cd opencv
mkdir build
cd build

使用cmake配置opencv：

cmake -D CMAKE_BUILD_TYPE=Release -D OPENCV_GENERATE_PKGCONFIG=YES ..

在这里插入图片描述

说明：
-D OPENCV_GENERATE_PKGCONFIG=YES OpenCV4以上默认不使用pkg-config，该编译选项开启生成opencv4.pc文件，支持pkg-config功能

随后使用make进行编译

make -j4

在这里插入图片描述

说明：
-j4中的4指同时使用4个进程，可以根据电脑的进程数调整此值

用make进行安装（可以不用sudo)

sudo make install

在这里插入图片描述

默认安装路径为：
/usr/local/bin - executable files
/usr/local/lib - libraries(.so)
/usr/local/cmake/opencv4 - cmake package
/usr/local/include/opencv4 - headers
/usr/local/share/opencv4 - other files (e.g. trained cascades in XML format)

4. 环境配置

4.1 配置pkg-config环境

opencv4.pc文件的默认路径：/usr/local/lib/pkgconfig/opencv4.pc
若此目录下没有，可以使用以下命令搜索：

sudo find / -iname opencv4.pc

可以看到在该目录下面：
在这里插入图片描述
将路径加入到PKG_CONFIG_PATH（用vim打开）：

sudo vim /etc/profile.d/pkgconfig.sh

在文件后面加入下面一行：

export PKG_CONFIG_PATH=/usr/local/lib/pkgconfig:$PKG_CONFIG_PATH

保存并退出后激活：
vim保存退出的方式：按ESC 输入:wq 然后回车

# 激活
source /etc/profile

用以下命令验证是否成功：

pkg-config --libs opencv4

输出结果如下则代表成功

在这里插入图片描述

4.2 配置动态库环境

打开文件（可能为空文件）：

sudo vim /etc/ld.so.conf.d/opencv4.conf

在该文件末尾加上OpenCV的lib路径，保存退出：

/usr/local/lib

使配置的路径生效：

sudo ldconfig

5. 测试OpenCV（CPU)

cd 到/opencv/samples/cpp/example_cmake目录下，然后打开opencv_example.cpp文件，替换为下面的代码，这个代码执行的便是 加载分类ONNX模型进行推理。

这里博主使用的是OpenCV中的dnn.hpp来加载ONNX模型，当然我们也可以选择使用ONNX Runtime

#include <opencv2/opencv.hpp>
#include <opencv2/dnn.hpp>
#include <iostream>
#include <vector>
#include <cmath>// Softmax 函数
void softmax(const float* data, float* output, int size) {float max_val = -INFINITY;for (int i = 0; i < size; ++i) {max_val = std::max(max_val, data[i]);}float sum_exp = 0.0f;for (int i = 0; i < size; ++i) {sum_exp += std::exp(data[i] - max_val);}for (int i = 0; i < size; ++i) {output[i] = std::exp(data[i] - max_val) / sum_exp;}
}int main() {// 加载模型std::string modelPath = "juan_cls.onnx";cv::dnn::Net net = cv::dnn::readNetFromONNX(modelPath);if (net.empty()) {std::cerr << "无法加载模型，请检查路径是否正确" << std::endl;return -1;}// 图像输入cv::Mat img = cv::imread("img.jpg");if (img.empty()) {std::cerr << "无法加载图像 img.jpg" << std::endl;return -1;}// 预处理int inputWidth = 640;int inputHeight = 640;cv::Mat blob = cv::dnn::blobFromImage(img, 1.0, cv::Size(inputWidth, inputHeight),cv::Scalar(), true, false);net.setInput(blob);// 推理cv::Mat out = net.forward();std::cout << "Inference Shape: " << out.size << std::endl;// 假设 out 是 [1 x C x H x W]int batchSize = out.size[0];   // 1int channels = out.size[1];    // 2int height = out.size[2];      // 640int width = out.size[3];       // 640std::vector<float> avgScores(channels, 0.0f);for (int c = 0; c < channels; ++c) {double sum = 0.0;float* ptr = out.ptr<float>(0, c);  // batch=0, channel=cfor (int h = 0; h < height; ++h) {for (int w = 0; w < width; ++w) {sum += ptr[h * width + w];}}avgScores[c] = static_cast<float>(sum / (height * width));}// Softmax 归一化float probs[2];softmax(avgScores.data(), probs, 2);// 输出结果std::cout.precision(4);std::cout << std::fixed;std::cout << "\n【Result】" << std::endl;std::cout << "Cls 0 Score: " << probs[0] << std::endl;std::cout << "Cls 1 Score: " << probs[1] << std::endl;std::cout << "Cls: " << (probs[0] > probs[1] ? 0 : 1) << std::endl;return 0;
}

随后，进行编译执行：

cmake .
make
./opencv_example

cmake .后，会生成下面这些文件，根据 CMakeLists.txt 生成编译规则（如 Makefile）
在这里插入图片描述

make根据 Makefile 编译出可执行文件

在这里插入图片描述

./opencv_example运行编译好的程序，执行结果如下：

在这里插入图片描述

至此，我们便已经完成了使用C++与OpenCV加载ONNX模型进行推理，接下来，我们将调用GPU来进行加速推理，敬请期待。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若转载，请注明出处：http://www.pswp.cn/news/912818.shtml
繁体地址，请注明出处：http://hk.pswp.cn/news/912818.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

AJAX 安装使用教程

AJAX 安装使用教程

一、AJAX 简介 AJAX&#xff08;Asynchronous JavaScript and XML&#xff09;是一种在无需重新加载整个网页的情况下&#xff0c;能够与服务器交换数据并更新部分网页内容的技术。它不是一种新语言&#xff0c;而是使用现有的标准组合&#xff1a;JavaScript XMLHttpRequest…
阅读更多...
【牛客算法】牛客网编程题解：小红拼图

【牛客算法】牛客网编程题解：小红拼图

一、题目介绍 1.1. 题目链接 &#xff1a;小红拼图 https://www.nowcoder.com/questionTerminal/08b54686f0d14bd784d9d148c68a268a 1.2 题目介绍 小红正在玩一个拼图游戏&#xff0c;她有一些完全相同的拼图组件&#xff1a; 小红准备用这些组件来拼成一些图案。这些组件可…
阅读更多...
买卖股票的最佳时机--js 算法

买卖股票的最佳时机--js 算法

一、买卖股票的最佳时机 给定一个数组 prices ，它的第 i 个元素 prices[i] 表示一支给定股票第 i 天的价格。你只能选择 某一天 买入这只股票，并选择在 未来的某一个不同的日子 卖出该股票。设计一个算法来计算你所能获取的最大利润。返回你可以从这笔交易中获取的最大利润。…
阅读更多...
C#基础（WndProc）

C#基础（WndProc）

WndProc 是操作系统与你的程序“对话”的通道​​。当用户点击鼠标、按下键盘&#xff0c;或系统事件&#xff08;如窗口移动&#xff09;发生时&#xff0c;Windows 会将这些事件打包成“消息”&#xff0c;发送给你的窗口&#xff0c;而 WndProc 就是接收和处理这些消息的函数…
阅读更多...
记录一个 Linux中脚本无法执行的问题

记录一个 Linux中脚本无法执行的问题

问题描述&#xff1a; 在本地的window系统传的云服务器上一个.sh结尾的安装Java环境的脚本 上传到云服务器后&#xff0c;使用命令赋予执行权限 chmod x 文件名然后看一下这个脚本变绿了就可以了 然后开始尝试执行 ./脚本名 然后就报错了 然后开始排查问题 1.检查并修复 She…
阅读更多...
Iceberg在图灵落地应用

Iceberg在图灵落地应用

导读 百度MEG上一代大数据产品存在平台分散、易用性差等问题&#xff0c;导致开发效率低下、学习成本高&#xff0c;业务需求响应迟缓。为了解决这些问题&#xff0c;百度MEG内部开发了图灵3.0生态系统&#xff0c;包括Turing Data Engine(TDE)计算&存储引擎、Turing Data…
阅读更多...
FPGA设计的用户约束

FPGA设计的用户约束

FPGA设计的用户约束 文章目录 FPGA设计的用户约束FPGA设计的用户约束综合约束管脚约束位置约束时序约束小总结 FPGA设计的用户约束 至此&#xff0c;HDL到门级网表的转化已经完成&#xff0c;对于编译器来说&#xff0c;下一步的任务就是要将门级网表转换并映射到具体的FPGA硬…
阅读更多...
Spring 生态创新应用：微服务架构设计与前沿技术融合实践

Spring 生态创新应用：微服务架构设计与前沿技术融合实践

在数字化转型的深水区&#xff0c;企业级应用正面临从 “单体架构” 向 “分布式智能架构” 的根本性跃迁。Spring 生态以其二十年技术沉淀形成的生态壁垒&#xff0c;已成为支撑这场变革的核心基础设施。从 2002 年 Rod Johnson 发布《Expert One-on-One J2EE Design and Deve…
阅读更多...
车牌识别与标注：基于百度OCR与OpenCV的实现（一）

车牌识别与标注：基于百度OCR与OpenCV的实现（一）

车牌识别与标注&#xff1a;基于百度OCR与OpenCV的实现 在计算机视觉领域&#xff0c;车牌识别是一项极具实用价值的技术&#xff0c;广泛应用于交通监控、智能停车场管理等领域。本文将介绍如何在macOS系统下&#xff0c;利用百度OCR API进行车牌识别&#xff0c;并结合OpenC…
阅读更多...
【系统分析师】2021年真题：论文及解题思路

【系统分析师】2021年真题：论文及解题思路

文章目录 试题一&#xff1a;论面向对象的信息系统分析方法试题二&#xff1a;论静态测试方法及其应用试题三&#xff1a;论富互联网应用的客户端开发技术试题四&#xff1a;论DevSecOps技术及其应用 试题一&#xff1a;论面向对象的信息系统分析方法 信息系统分析是信息系统生…
阅读更多...
OFA-PT：统一多模态预训练模型的Prompt微调

OFA-PT：统一多模态预训练模型的Prompt微调

摘要 Prompt微调已成为模型微调的新范式&#xff0c;并在自然语言预训练甚至视觉预训练中取得了成功。参数高效的Prompt微调方法通过优化soft embedding并保持预训练模型冻结&#xff0c;在计算成本低和几乎无性能损失方面展现出优势。在本研究中&#xff0c;我们探索了Prompt…
阅读更多...
【硬核数学】2.5 “价值标尺”-损失函数：信息论如何设计深度学习的损失函数《从零构建机器学习、深度学习到LLM的数学认知》

【硬核数学】2.5 “价值标尺”-损失函数：信息论如何设计深度学习的损失函数《从零构建机器学习、深度学习到LLM的数学认知》

欢迎来到本系列硬核数学之旅的第十篇&#xff0c;也是我们对经典数学领域进行深度学习“升级”的最后一站。我们已经拥有了强大的模型架构&#xff08;基于张量&#xff09;、高效的学习引擎&#xff08;反向传播&#xff09;和智能的优化策略&#xff08;Adam等&#xff09;。…
阅读更多...
雷卯针对灵眸科技EASY EAI nano RV1126 开发板防雷防静电方案

雷卯针对灵眸科技EASY EAI nano RV1126 开发板防雷防静电方案

一、应用场景 1. 人脸检测 2. 人脸识别 3. 安全帽检测 4. 人员检测 5. OCR文字识别 6. 人头检测 7. 表情神态识别 8. 人体骨骼点识别 9. 火焰检测 10. 人脸姿态估计 11. 人手检测 12. 车辆检测 13. 二维码识别 二、 功能概述 1 CPU 四核ARM Cortex-A71.5GHz 2 …
阅读更多...
【记录】Ubuntu｜Ubuntu服务器挂载新的硬盘的流程（开机自动挂载）

【记录】Ubuntu｜Ubuntu服务器挂载新的硬盘的流程（开机自动挂载）

简而言之&#xff0c;看这张图片就好&#xff08;可以存一下&#xff0c;注意挂载点/data可以自定义&#xff0c;挂载硬盘的位置/dev/sdb要改成步骤1中检查的时候查到的那个位置&#xff0c;不过这个图的自动挂载漏了UUID&#xff0c;可以通过blkid指令查找&#xff09;&#x…
阅读更多...
六、软件操作手册

六、软件操作手册

建议在飞书平台阅读此文。 我将沿着初来乍到的用户的浏览路径介绍“诤略参谋”应用。 目录 一、用户信息1.1 注册、登录、自动登录、忘记密码、修改用户名、修改密码、退出登录与个性化设置1.2 认识主界面与任务系统1.3 语义审查、Knowledge Cutoff 审查1.4 重要内容未保存提醒…
阅读更多...
电脑键盘不能打字了怎么解决 查看恢复方法

电脑键盘不能打字了怎么解决 查看恢复方法

电脑键盘打不了字&#xff0c;这是我们电脑使用过程中&#xff0c;偶尔会遇到的电脑故障问题。一般来说&#xff0c;电脑键盘打不出字&#xff0c;可能是硬件故障、驱动问题或系统设置错误等多种原因引起。本文将详细介绍一些常见的原因和解决方法&#xff0c;帮助用户恢复正常…
阅读更多...
基于STM32的土豆种植自动化灌溉系统设计与实现

基于STM32的土豆种植自动化灌溉系统设计与实现

📌 项目简介 随着农业现代化发展及水资源短缺问题日益突出，传统土豆种植方式在浇灌效率与用水科学性方面暴露出诸多问题。本文基于STM32F103C8T6微控制器，设计并实现了一种智能化的土豆种植自动灌溉系统，集成多种环境传感器（温湿度、土壤湿度、光照）、控制设备（水泵、…
阅读更多...
第8篇：Gin错误处理——让你的应用更健壮

第8篇：Gin错误处理——让你的应用更健壮

作者:GO兔 博客:https://luckxgo.cn 分享大家都看得懂的博客 引言 在Web应用开发中&#xff0c;错误处理是保证系统稳定性和用户体验的关键环节。Gin作为高性能的Go Web框架&#xff0c;提供了灵活的错误处理机制&#xff0c;但许多开发者在实际项目中仍会遇到错误处理混乱、异…
阅读更多...
【PyCharm】Python安装路径查找

【PyCharm】Python安装路径查找

PyCharm应用笔记 第一章 Python安装路径查找 文章目录 PyCharm应用笔记前言一、电脑设置查找二、资源管理器查找 前言 本文主要介绍几种Python安装路径查找的方法。 一、电脑设置查找 简述过程&#xff1a;设置》应用》安装的应用》搜索框输入Python。 注&#xff1a;电脑使用…
阅读更多...
数据结构：递归：汉诺塔问题（Tower of Hanoi）

数据结构：递归：汉诺塔问题（Tower of Hanoi）

目录 问题描述 第一性原理分析 代码实现 第一步&#xff1a;明确函数要干什么 第二步&#xff1a;写好递归的“结束条件” 第三步&#xff1a;写递归步骤 &#x1f333; 递归调用树 &#x1f50d;复杂度分析 时间复杂度&#xff1a;T(n) 2^n - 1 空间复杂度分析 问题描…
阅读更多...
最新文章

Copyright @ 2022~2023