新聞中心

EEPW首頁 > 嵌入式系統(tǒng) > 業(yè)界動態(tài) > 盤點在使用openvino過程中遇到的一些問題,如何解決的-第4篇

盤點在使用openvino過程中遇到的一些問題,如何解決的-第4篇

作者: 時間:2022-05-20 來源:EEPW 收藏

OpenVINO是英特爾基于自身現(xiàn)有的硬件平臺開發(fā)的一種可以加快高性能計算機視覺和深度學(xué)習(xí)視覺應(yīng)用開發(fā)速度工具套件,支持各種英特爾平臺的硬件加速器上進行深度學(xué)習(xí),并且允許直接異構(gòu)執(zhí)行。 支持在Windows與Linux系統(tǒng),Python/C++語言。

本文引用地址:http://www.butianyuan.cn/article/202205/434300.htm

主要特點:

平臺上提升計算機視覺相關(guān)深度學(xué)習(xí)性能達19倍以上

解除CNN-based的網(wǎng)絡(luò)在邊緣設(shè)備的性能瓶頸

對OpenCV,OpenXV*視覺庫的傳統(tǒng)API實現(xiàn)加速與優(yōu)化

基于通用API接口在CPU、GPU、FPGA等設(shè)備上運行加上

OpenVINO工具包(ToolKit)主要包括兩個核心組件,模型優(yōu)化器(Model Optimizer)和(Model Optimizer)


在這里盤點一些在使用中遇到的問題及怎么解決的。這是第4篇,之前3篇請見:

盤點在使用過程中遇到的一些問題,如何解決的-第1篇

http://www.butianyuan.cn/article/202203/432548.htm

盤點在使用過程中遇到的一些問題,如何解決的-第2篇

http://www.butianyuan.cn/article/202204/432865.htm

盤點在使用過程中遇到的一些問題,如何解決的-第3篇

http://www.butianyuan.cn/article/202204/433278.htm


1.問:我在安裝openvino2021.2的時候,測試的時候出現(xiàn)了錯誤。我查過了,這個文件是存在的,但是打不開。visual版本是2019,cmake版本是3.23,python版本是3.7.9,可以請教一下這個問題怎么解決嗎?

圖片.png

答: 中文換掉呢?

2.問:有做過openvino  + OPENCV  c++ 預(yù)測的大佬么?我在安裝配置好后,感覺速度沒有提升,是哪里出了問題呢?有可以幫忙配置openvino  c+的朋友么?

圖片.png

答:說速度沒有提升,跟tfserving相比么

回復(fù):cpu

答:這是編譯openvino? 沒搞過,只用openvino 轉(zhuǎn)換過模型, 利用ovms 來做推理

回復(fù):不用,網(wǎng)上下載的,也配置了,但是編譯不過

答:編譯是費勁, 直接用ovms唄,docker鏡像

3.問:為什么這里沒有 r1i 的節(jié)點,我轉(zhuǎn)化的模型上明明有 r1i

圖片.png

圖片.png

答:openvino換2022試下,我之前也有個onnx節(jié)點不行 換2022就success了

回復(fù):我查到我這個節(jié)點是動態(tài)節(jié)點,好像是這個原因

答:我vs用openvino也是和其他一樣 include頭文件+鏈接庫路徑+添加庫就行了。把2021卸了吧,2022他包的結(jié)構(gòu)變化蠻大的,可以試下

4.問:哪位遇到過這個問題???包含這個文件后,編譯報錯

圖片.png

圖片.png

答:你vs里面是怎么報錯的呀

回復(fù):看后面這張圖

圖片.png

圖片.png

答:我覺得這個error,好像也沾點版本的問題

回復(fù):安裝過程沒問題,運行demo也運行起來了,按照教程弄的包含目錄和庫目錄,但是最后包含文件以后,就編譯不了。你是用的什么版本的vs

答:2019

回復(fù):專業(yè)版?我用的15,我也是在擔心是不是版本的問題

答:就是免費的 社區(qū)版吧是,我意思是openvino的版本

回復(fù):官網(wǎng)下的,官網(wǎng)主頁最低的版本2020.3吧,demo運行正確,py應(yīng)該是沒有問題的,所以懷疑是vs的版本不對

5.問:定義的時候報內(nèi)存錯誤,請問有遇到過的朋友么?

圖片.png

答:你檢查一下程序目錄是否有plugin.xml文件,我之前是因為缺少這個碰到過

回復(fù):這個文件在哪里找呢?

答:建議try catch一下,看是否能獲取到有效的錯誤信息

回復(fù):確實沒有

    try {

    }
    // -*- error -*- //

    catch (std::bad_alloc& e) {
        std::cerr << "BAD ALLOC Exception : " << e.what() << std::endl;
        return EXIT_FAILURE;
    }

    catch (const std::exception& e) {
        std::cerr << "Error: " << e.what() << std::endl;
        return EXIT_FAILURE;
    }

    catch (...) {
        std::cerr << "unknown exception" << std::endl;
        return EXIT_FAILURE;
    }

答:安裝目錄那里應(yīng)該有吧

回復(fù):是這個原因,謝謝

6.問:執(zhí)行到這一行報錯,有朋友遇到過么?

圖片.png

圖片.png

答:環(huán)境配置問題或者模型格式和路徑問題

回復(fù):有訓(xùn)練好的模型么?可以傳一份確定可以加載的模型排除一下問題么?

問:為啥是onnx文件路徑,onnx文件不是應(yīng)該轉(zhuǎn)換成bin和xml文件嗎

答:都可以

回復(fù):onnx是可以的吧

答:release運行

回復(fù):

圖片.png

答:那就是模型有問題

回復(fù):用cv的dnn是可以加載的,有可以加載的模型么?

答:dnn和openvino用的格式不同,導(dǎo)出模型opset設(shè)置成10

回復(fù):在轉(zhuǎn)換成onnx的代碼里面設(shè)置么?

6.問:openvino 支持哪些模型,可以在哪里查到,最好是官方發(fā)布的,百度上面的感覺不全面

答:可以參考這兩個列表:

https://docs.openvino.ai/latest/model_zoo.html

https://docs.openvino.ai/cn/latest/omz_models_group_public.html
文檔中也有關(guān)于這些模型支持任務(wù)的分類

7.問:樹莓派用python調(diào)用opencv打開攝像頭會報錯有沒有大佬能指點一下

圖片.png

答:500×700有點大,可以根據(jù)模型輸入大小調(diào)整下格式

8.問:這。。。。。按的算opencv還是openvino。。。。

圖片.png

答:現(xiàn)在openvino也支持arm了?,他們不應(yīng)該主要支持X86架構(gòu)嗎?

回復(fù):arm是社區(qū)支持的 不是官方

9.問:有大神遇到這個報錯嗎

圖片.png

答:環(huán)境沒配好

答:你這個加載環(huán)境變量了嗎?官方demo可以跑成功嗎

10.問:openvino  能在集成顯卡上跑嗎

答:可以

回復(fù):在集成顯卡上跑和cpu上跑差別大嗎

問:openvino  哪里設(shè)置集成顯卡跑

答:GPU

11.問:這個GNA  是集成顯卡嗎

圖片.png

答:不是,這個是的神經(jīng)網(wǎng)絡(luò)加速棒

12.問:怎么用FP16做推理呢

圖片.png

這兩個地方改了不行,檢測的時候失敗了

圖片.png

是不是這個地方還要改呀,還是說模型需要轉(zhuǎn)換成FP16的

答:是的,你的模型要轉(zhuǎn)換為FP16格式?,F(xiàn)在模型是什么格式?FP32嗎?你用openvino的模型優(yōu)化器轉(zhuǎn)成fp16就可以啦

13.問:請問有沒有人將PB轉(zhuǎn)IR模型的時候,遇到這個問題

圖片.png

答:檢查一下安裝了模型優(yōu)化器的requirements.txt了嗎

14.問:運行Gpu加速識別的圖片時不時是這種花的是怎么回事呢

圖片.png

答:做訓(xùn)練還是推理呢?什么模型應(yīng)用呢?可以詳細描述一下嗎

回復(fù):問題已經(jīng)解決了,是調(diào)用流程問題,圖片數(shù)據(jù)有錯亂

15.問:請教一下大家,CPU和核顯的速度差距大不大(電腦沒有核顯,YOLOv5s模型)

圖片.png

答:這個要看具體問題具體分析,不同代不同系列的cpu帶的核顯性能也不一樣




關(guān)鍵詞: openvino Intel

評論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉