OpenVINO賦能智慧交通 架構(gòu)加速車牌識別推理

在智慧交通的整體體系中，車牌識別無疑是基礎性的應用之一。車牌識別應用要求將靜止或運動中的汽車牌照從復雜背景中提取并識別出來，通過車牌提取、圖像預處理、特征提取、車牌字符識別等技術(shù)，識別車輛牌號、顏色等信息。車牌識別是自動化交通控制的基礎應用，其識別成功率以及準確率會對交通運行效率、收費、違規(guī)行為處罰等帶來較大影響。

為了進一步提升車牌識別平臺的推理性能，加速面向海外車牌場景的算法訓練速度，搭載了第二代英特爾? 至強? 可擴展處理器與英特爾? OpenVINOTM 的組合解決方案，并使用了針對英特爾? 架構(gòu)進行優(yōu)化的 Caffe* 應用，實現(xiàn)了數(shù)十倍的性能提升。

挑戰(zhàn)：海外市場給車牌識別帶來嚴峻考驗

要對每個國家與地區(qū)的車牌識別算法進行針對性訓練，無疑需要本地化的數(shù)據(jù)作為支撐。如果通過傳統(tǒng)的車牌算法，將需要海量的車牌樣本，同時需要長達數(shù)月的交付周期，才能將車牌識別的準確率提升到可用的水平。而這一速度，顯然無法滿足快速的市場競爭需求，智芯原動希望能夠基于少量的車牌樣本完成快速的產(chǎn)品部署，這要求其對于算法進行不斷創(chuàng)新，同時也要部署更高效的基礎設施平臺與深度學習加速工具。

此外，車牌識別系統(tǒng)本身也對于深度學習性能帶來要求。根據(jù)智芯原動的工程師測算，目前單核處理器做一次車款識別需要40ms，按照停車高峰期每10秒一輛車計算，深云識車服務總共需要1000個4核處理器。一旦再提供公安警用服務的話，壓力更會成倍增加，因此需要實現(xiàn)更高效的深度學習計算能力。

面向海外市場的領先算法平臺

面向海外市場的車牌識別需求，智芯原動推出了海外車牌識別解決方案，在技術(shù)上，海外車牌算法的實現(xiàn)是通過車牌提取、字符分割和字符識別三個步驟來搭配完成，即從背景復雜的含有車牌的圖像中提取出車牌圖像，然后對提取圖像進行必要的預處理、分離出單個字符，接著提取字符的特征并與標準字符進行比對，輸出待識別車牌的車牌號碼。智芯原動針對不同的車牌類型會采用不同的車牌定位和字符分割算法，以確保識別的準確率。

方案最大的亮點即基于自研車牌算法框架，能夠在少量（＞1K）車牌樣本條件下快速迭代，僅需2-4周的交付周期即可實現(xiàn)新國家車牌的開發(fā)任務，且綜合準確率可高達90%-95%。目前，該方案已經(jīng)在全球二十幾個國家和地區(qū)實現(xiàn)了規(guī)?；逃谩４送?，方案還具備以下特點：

方案特點

支持二十多個國家與區(qū)域的車牌識別

適用卡口、出入口、停車位等場景

算法框架采用靈活模型匹配策略和模塊化設計，在少量樣本下能夠?qū)崿F(xiàn)新國家車牌的開發(fā)和實現(xiàn)

算法支持跨平臺設計，滿足前端相機、后端服務器不同方案需求

在該方案中，智芯原動使用了基于卷積神經(jīng)網(wǎng)絡深度學習的車款識別方法，并通過MobileNet*、GoogleNet* 等拓撲結(jié)構(gòu)來實現(xiàn)分類推理優(yōu)化。在智芯原動對車牌識別算法進行優(yōu)化之后，有助于在小樣本的前提下實現(xiàn)應用的快速開發(fā)及部署。

解決方案：基于英特爾? 架構(gòu)加速推理性能

在基礎設施架構(gòu)方面，智芯原動面向不同國家及地區(qū)的實際應用環(huán)境，推出了不同的參考方案，車牌識別的工作負載可以靈活的由云數(shù)據(jù)中心，或是邊緣設備來承載，可以滿足用戶對于延遲、部署成本、網(wǎng)絡等方面的不同要求。

在服務器端，智芯原動搭載了第二代英特爾? 至強? 可擴展處理器與英特爾? OpenVINOTM 的組合解決方案。第二代英特爾? 至強? 可擴展處理器采用矢量神經(jīng)網(wǎng)絡指令 (VNNI) 的全新英特爾? 深度學習加速功能，提高了人工智能推理的表現(xiàn)，與上一代產(chǎn)品相比，性能有了顯著提升，第二代英特爾? 至強? 可擴展處理器有助于在整個數(shù)據(jù)中心到邊緣之間實現(xiàn)充分的 AI 支持。

相較于智芯原動之前所使用的第一代英特爾? 至強? 可擴展處理器，第二代英特爾? 至強? 可擴展處理器進一步提升了性能表現(xiàn)，特別是其支持的 VNNI 等技術(shù)提高了將推理性能提升到新的層次。在具體的應用實例中，性能的提升將允許用戶部署更少的節(jié)點，同時支撐更多的推理負載，實現(xiàn)更低的總體擁有成本 (TCO)。

英特爾? OpenVINO? 工具套件分發(fā)版則支持開發(fā)人員使用行業(yè)標準人工智能框架、標準或自定義層，將深度學習推理輕松集成到應用中。通過在底層的英特爾? 至強? 可擴展處理器上運行，英特爾? OpenVINO? 工具套件分發(fā)版可實現(xiàn)具有競爭力的推理速度和極低的精度損失。同時，借助 AVX-512 和 MKL/MKL-DNN boost 庫的支持，這一解決方案還可實現(xiàn)卓越的計算性能。

效果：實現(xiàn)接近30倍的性能提升

為了驗證第二代英特爾? 至強? 可擴展處理器與英特爾? OpenVINOTM 在不同拓撲結(jié)構(gòu)中的推理性能，智芯原動搭建了測試平臺，測試平臺的配置如表1所示：

在視頻圖像分析推理性能的測試中，測試人員分別測試了在MobileNet、MobileNet-V2、GoogleNet、VGG-16等多個拓撲結(jié)構(gòu)中，使用公共版Caffe*、英特爾優(yōu)化版本Caffe，以及OpenVINOTM 的推理性能。測試數(shù)據(jù)如圖1所示，與英特爾優(yōu)化版本 Caffe 相比，使用OpenVINOTM 在 MobileNet 中實現(xiàn)了28.4倍的性能提升。

同時，在SSD、RPN 檢測推理優(yōu)化的測試中（測試數(shù)據(jù)如圖2所示），相比帶有 FP32 的英特爾優(yōu)化 Caffe，帶有 SSD-VGG、RPN-VGG 拓撲結(jié)構(gòu)且使用 Int8 量化的英特爾優(yōu)化 Caffe 可分別實現(xiàn) 2.58 倍和 2.09 倍的性能提升。

未來：為車輛識別應用負載提供靈活、高效的算力支持

除了車牌識別之外，基于人工智能與深度學習技術(shù)的檢測推理還廣泛應用于車輛識別的其它場景之中，并用于檢測車輛型號、顏色、大小、位置等用途。這些應用負載在依賴先進算法的同時，也對于平臺的算力提出了一定的要求。智芯原動的云端車款識別平臺可識別1600種左右車款，車款信息包括：品牌、型號、年代，識別準確率超過99％，該平臺同時也可應用于警用安防系統(tǒng)、高速公路收費等領域的車款識別。

通過與英特爾進行合作，智芯原動能夠為車輛識別深度學習應用提供更加靈活的基礎設施平臺，如在數(shù)據(jù)中心通過CPU、GPU、FPGA的組合實現(xiàn)深度學習異構(gòu)計算，或是在邊緣端部署統(tǒng)一的邊緣計算服務器，承載車輛、車牌的識別負載，滿足用戶對于檢測精度、速度等方面的需求，助力智慧交通的實現(xiàn)。

想要查看更多OpenVINO相關(guān)技術(shù)與資料，請戳>> http://butianyuan.cn/openvino