OpenVINO使用教程--resnet分类模型部署
- 本节内容
- 模型准备
- 推理测试
- 分析&总结
本节内容
OpenVINO 根据AI技术类型将部署任务分成传统模型模型部署和生成式AI模型部署,传统模型指的是各种CNN小模型,这部分部署只需要OpenVINO包,具体安装教程可以参考之前的章节:OpenVINO环境配置–OpenVINO安装。通常为了效率(毕竟到了部署阶段,主要的工作都是开发),需要先将模型导出,然后使用OpenVINO加载导出的IR模型并进行推理。
下图是从官网上截取的部署流程图,流程图中分上下两部分,上面是模型导出流程,下面是推理流程。可以看到各种主流框架训练的模型都可以直接通过OpenVINO的工具(或者API)转成***IR(Intermediate Representation)***模型文件。
本节主要内容是传统分类模型ResNet的部署,ResNet模型作为经典分类模型,现在很多任务依然将其作为backbone来实现模型特征提取。
模型准备
将Pytor