盤點在使用openvino過程中遇到的一些問題,如何解決的-第4篇
OpenVINO是英特爾基于自身現(xiàn)有的硬件平臺開發(fā)的一種可以加快高性能計算機視覺和深度學習視覺應用開發(fā)速度工具套件,支持各種英特爾平臺的硬件加速器上進行深度學習,并且允許直接異構執(zhí)行。 支持在Windows與Linux系統(tǒng),Python/C++語言。
本文引用地址:http://2s4d.com/article/202205/434300.htm主要特點:
在Intel平臺上提升計算機視覺相關深度學習性能達19倍以上
解除CNN-based的網(wǎng)絡在邊緣設備的性能瓶頸
對OpenCV,OpenXV*視覺庫的傳統(tǒng)API實現(xiàn)加速與優(yōu)化
基于通用API接口在CPU、GPU、FPGA等設備上運行加上
OpenVINO工具包(ToolKit)主要包括兩個核心組件,模型優(yōu)化器(Model Optimizer)和(Model Optimizer)
在這里盤點一些在使用中遇到的問題及怎么解決的。這是第4篇,之前3篇請見:
盤點在使用openvino過程中遇到的一些問題,如何解決的-第1篇
http://2s4d.com/article/202203/432548.htm
盤點在使用openvino過程中遇到的一些問題,如何解決的-第2篇
http://2s4d.com/article/202204/432865.htm
盤點在使用openvino過程中遇到的一些問題,如何解決的-第3篇
http://2s4d.com/article/202204/433278.htm
1.問:我在安裝openvino2021.2的時候,測試的時候出現(xiàn)了錯誤。我查過了,這個文件是存在的,但是打不開。visual版本是2019,cmake版本是3.23,python版本是3.7.9,可以請教一下這個問題怎么解決嗎?
答: 中文換掉呢?
2.問:有做過openvino + OPENCV c++ 預測的大佬么?我在安裝配置好后,感覺速度沒有提升,是哪里出了問題呢?有可以幫忙配置openvino c+的朋友么?
答:說速度沒有提升,跟tfserving相比么
回復:cpu
答:這是編譯openvino? 沒搞過,只用openvino 轉換過模型, 利用ovms 來做推理
回復:不用,網(wǎng)上下載的,也配置了,但是編譯不過
答:編譯是費勁, 直接用ovms唄,docker鏡像
3.問:為什么這里沒有 r1i 的節(jié)點,我轉化的模型上明明有 r1i
答:openvino換2022試下,我之前也有個onnx節(jié)點不行 換2022就success了
回復:我查到我這個節(jié)點是動態(tài)節(jié)點,好像是這個原因
答:我vs用openvino也是和其他一樣 include頭文件+鏈接庫路徑+添加庫就行了。把2021卸了吧,2022他包的結構變化蠻大的,可以試下
4.問:哪位遇到過這個問題???包含這個文件后,編譯報錯
答:你vs里面是怎么報錯的呀
回復:看后面這張圖
答:我覺得這個error,好像也沾點版本的問題
回復:安裝過程沒問題,運行demo也運行起來了,按照教程弄的包含目錄和庫目錄,但是最后包含文件以后,就編譯不了。你是用的什么版本的vs
答:2019
回復:專業(yè)版?我用的15,我也是在擔心是不是版本的問題
答:就是免費的 社區(qū)版吧是,我意思是openvino的版本
回復:官網(wǎng)下的,官網(wǎng)主頁最低的版本2020.3吧,demo運行正確,py應該是沒有問題的,所以懷疑是vs的版本不對
5.問:定義的時候報內存錯誤,請問有遇到過的朋友么?
答:你檢查一下程序目錄是否有plugin.xml文件,我之前是因為缺少這個碰到過
回復:這個文件在哪里找呢?
答:建議try catch一下,看是否能獲取到有效的錯誤信息
回復:確實沒有
try {
}
// -*- error -*- //
catch (std::bad_alloc& e) {
std::cerr << "BAD ALLOC Exception : " << e.what() << std::endl;
return EXIT_FAILURE;
}
catch (const std::exception& e) {
std::cerr << "Error: " << e.what() << std::endl;
return EXIT_FAILURE;
}
catch (...) {
std::cerr << "unknown exception" << std::endl;
return EXIT_FAILURE;
}
答:安裝目錄那里應該有吧
回復:是這個原因,謝謝
6.問:執(zhí)行到這一行報錯,有朋友遇到過么?
答:環(huán)境配置問題或者模型格式和路徑問題
回復:有訓練好的模型么?可以傳一份確定可以加載的模型排除一下問題么?
問:為啥是onnx文件路徑,onnx文件不是應該轉換成bin和xml文件嗎
答:都可以
回復:onnx是可以的吧
答:release運行
回復:
答:那就是模型有問題
回復:用cv的dnn是可以加載的,有可以加載的模型么?
答:dnn和openvino用的格式不同,導出模型opset設置成10
回復:在轉換成onnx的代碼里面設置么?
6.問:openvino 支持哪些模型,可以在哪里查到,最好是官方發(fā)布的,百度上面的感覺不全面
答:可以參考這兩個列表:
https://docs.openvino.ai/latest/model_zoo.html
https://docs.openvino.ai/cn/latest/omz_models_group_public.html
文檔中也有關于這些模型支持任務的分類
7.問:樹莓派用python調用opencv打開攝像頭會報錯有沒有大佬能指點一下
答:500×700有點大,可以根據(jù)模型輸入大小調整下格式
8.問:這。。。。。按的算opencv還是openvino。。。。
答:現(xiàn)在openvino也支持arm了?,他們不應該主要支持X86架構嗎?
回復:arm是社區(qū)支持的 不是官方
9.問:有大神遇到這個報錯嗎
答:環(huán)境沒配好
答:你這個加載環(huán)境變量了嗎?官方demo可以跑成功嗎
10.問:openvino 能在集成顯卡上跑嗎
答:可以
回復:在集成顯卡上跑和cpu上跑差別大嗎
問:openvino 哪里設置集成顯卡跑
答:GPU
11.問:這個GNA 是集成顯卡嗎
答:不是,這個是Intel的神經(jīng)網(wǎng)絡加速棒
12.問:怎么用FP16做推理呢
這兩個地方改了不行,檢測的時候失敗了
是不是這個地方還要改呀,還是說模型需要轉換成FP16的
答:是的,你的模型要轉換為FP16格式?,F(xiàn)在模型是什么格式?FP32嗎?你用openvino的模型優(yōu)化器轉成fp16就可以啦
13.問:請問有沒有人將PB轉IR模型的時候,遇到這個問題
答:檢查一下安裝了模型優(yōu)化器的requirements.txt了嗎
14.問:運行Gpu加速識別的圖片時不時是這種花的是怎么回事呢
答:做訓練還是推理呢?什么模型應用呢?可以詳細描述一下嗎
回復:問題已經(jīng)解決了,是調用流程問題,圖片數(shù)據(jù)有錯亂
15.問:請教一下大家,CPU和核顯的速度差距大不大(電腦沒有核顯,YOLOv5s模型)
答:這個要看具體問題具體分析,不同代不同系列的cpu帶的核顯性能也不一樣
評論