OpenVINO賦能智慧交通 架構(gòu)加速車牌識(shí)別推理

在智慧交通的整體體系中，車牌識(shí)別無(wú)疑是基礎(chǔ)性的應(yīng)用之一。車牌識(shí)別應(yīng)用要求將靜止或運(yùn)動(dòng)中的汽車牌照從復(fù)雜背景中提取并識(shí)別出來(lái)，通過(guò)車牌提取、圖像預(yù)處理、特征提取、車牌字符識(shí)別等技術(shù)，識(shí)別車輛牌號(hào)、顏色等信息。車牌識(shí)別是自動(dòng)化交通控制的基礎(chǔ)應(yīng)用，其識(shí)別成功率以及準(zhǔn)確率會(huì)對(duì)交通運(yùn)行效率、收費(fèi)、違規(guī)行為處罰等帶來(lái)較大影響。

為了進(jìn)一步提升車牌識(shí)別平臺(tái)的推理性能，加速面向海外車牌場(chǎng)景的算法訓(xùn)練速度，搭載了第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器與英特爾? OpenVINOTM 的組合解決方案，并使用了針對(duì)英特爾? 架構(gòu)進(jìn)行優(yōu)化的 Caffe* 應(yīng)用，實(shí)現(xiàn)了數(shù)十倍的性能提升。

挑戰(zhàn)：海外市場(chǎng)給車牌識(shí)別帶來(lái)嚴(yán)峻考驗(yàn)

要對(duì)每個(gè)國(guó)家與地區(qū)的車牌識(shí)別算法進(jìn)行針對(duì)性訓(xùn)練，無(wú)疑需要本地化的數(shù)據(jù)作為支撐。如果通過(guò)傳統(tǒng)的車牌算法，將需要海量的車牌樣本，同時(shí)需要長(zhǎng)達(dá)數(shù)月的交付周期，才能將車牌識(shí)別的準(zhǔn)確率提升到可用的水平。而這一速度，顯然無(wú)法滿足快速的市場(chǎng)競(jìng)爭(zhēng)需求，智芯原動(dòng)希望能夠基于少量的車牌樣本完成快速的產(chǎn)品部署，這要求其對(duì)于算法進(jìn)行不斷創(chuàng)新，同時(shí)也要部署更高效的基礎(chǔ)設(shè)施平臺(tái)與深度學(xué)習(xí)加速工具。

此外，車牌識(shí)別系統(tǒng)本身也對(duì)于深度學(xué)習(xí)性能帶來(lái)要求。根據(jù)智芯原動(dòng)的工程師測(cè)算，目前單核處理器做一次車款識(shí)別需要40ms，按照停車高峰期每10秒一輛車計(jì)算，深云識(shí)車服務(wù)總共需要1000個(gè)4核處理器。一旦再提供公安警用服務(wù)的話，壓力更會(huì)成倍增加，因此需要實(shí)現(xiàn)更高效的深度學(xué)習(xí)計(jì)算能力。

面向海外市場(chǎng)的領(lǐng)先算法平臺(tái)

面向海外市場(chǎng)的車牌識(shí)別需求，智芯原動(dòng)推出了海外車牌識(shí)別解決方案，在技術(shù)上，海外車牌算法的實(shí)現(xiàn)是通過(guò)車牌提取、字符分割和字符識(shí)別三個(gè)步驟來(lái)搭配完成，即從背景復(fù)雜的含有車牌的圖像中提取出車牌圖像，然后對(duì)提取圖像進(jìn)行必要的預(yù)處理、分離出單個(gè)字符，接著提取字符的特征并與標(biāo)準(zhǔn)字符進(jìn)行比對(duì)，輸出待識(shí)別車牌的車牌號(hào)碼。智芯原動(dòng)針對(duì)不同的車牌類型會(huì)采用不同的車牌定位和字符分割算法，以確保識(shí)別的準(zhǔn)確率。

方案最大的亮點(diǎn)即基于自研車牌算法框架，能夠在少量（＞1K）車牌樣本條件下快速迭代，僅需2-4周的交付周期即可實(shí)現(xiàn)新國(guó)家車牌的開發(fā)任務(wù)，且綜合準(zhǔn)確率可高達(dá)90%-95%。目前，該方案已經(jīng)在全球二十幾個(gè)國(guó)家和地區(qū)實(shí)現(xiàn)了規(guī)?；逃?。此外，方案還具備以下特點(diǎn)：

方案特點(diǎn)

支持二十多個(gè)國(guó)家與區(qū)域的車牌識(shí)別

適用卡口、出入口、停車位等場(chǎng)景

算法框架采用靈活模型匹配策略和模塊化設(shè)計(jì)，在少量樣本下能夠?qū)崿F(xiàn)新國(guó)家車牌的開發(fā)和實(shí)現(xiàn)

算法支持跨平臺(tái)設(shè)計(jì)，滿足前端相機(jī)、后端服務(wù)器不同方案需求

在該方案中，智芯原動(dòng)使用了基于卷積神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)的車款識(shí)別方法，并通過(guò)MobileNet*、GoogleNet* 等拓?fù)浣Y(jié)構(gòu)來(lái)實(shí)現(xiàn)分類推理優(yōu)化。在智芯原動(dòng)對(duì)車牌識(shí)別算法進(jìn)行優(yōu)化之后，有助于在小樣本的前提下實(shí)現(xiàn)應(yīng)用的快速開發(fā)及部署。

解決方案：基于英特爾? 架構(gòu)加速推理性能

在基礎(chǔ)設(shè)施架構(gòu)方面，智芯原動(dòng)面向不同國(guó)家及地區(qū)的實(shí)際應(yīng)用環(huán)境，推出了不同的參考方案，車牌識(shí)別的工作負(fù)載可以靈活的由云數(shù)據(jù)中心，或是邊緣設(shè)備來(lái)承載，可以滿足用戶對(duì)于延遲、部署成本、網(wǎng)絡(luò)等方面的不同要求。

在服務(wù)器端，智芯原動(dòng)搭載了第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器與英特爾? OpenVINOTM 的組合解決方案。第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器采用矢量神經(jīng)網(wǎng)絡(luò)指令 (VNNI) 的全新英特爾? 深度學(xué)習(xí)加速功能，提高了人工智能推理的表現(xiàn)，與上一代產(chǎn)品相比，性能有了顯著提升，第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器有助于在整個(gè)數(shù)據(jù)中心到邊緣之間實(shí)現(xiàn)充分的 AI 支持。

相較于智芯原動(dòng)之前所使用的第一代英特爾? 至強(qiáng)? 可擴(kuò)展處理器，第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器進(jìn)一步提升了性能表現(xiàn)，特別是其支持的 VNNI 等技術(shù)提高了將推理性能提升到新的層次。在具體的應(yīng)用實(shí)例中，性能的提升將允許用戶部署更少的節(jié)點(diǎn)，同時(shí)支撐更多的推理負(fù)載，實(shí)現(xiàn)更低的總體擁有成本 (TCO)。

英特爾? OpenVINO? 工具套件分發(fā)版則支持開發(fā)人員使用行業(yè)標(biāo)準(zhǔn)人工智能框架、標(biāo)準(zhǔn)或自定義層，將深度學(xué)習(xí)推理輕松集成到應(yīng)用中。通過(guò)在底層的英特爾? 至強(qiáng)? 可擴(kuò)展處理器上運(yùn)行，英特爾? OpenVINO? 工具套件分發(fā)版可實(shí)現(xiàn)具有競(jìng)爭(zhēng)力的推理速度和極低的精度損失。同時(shí)，借助 AVX-512 和 MKL/MKL-DNN boost 庫(kù)的支持，這一解決方案還可實(shí)現(xiàn)卓越的計(jì)算性能。

效果：實(shí)現(xiàn)接近30倍的性能提升

為了驗(yàn)證第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器與英特爾? OpenVINOTM 在不同拓?fù)浣Y(jié)構(gòu)中的推理性能，智芯原動(dòng)搭建了測(cè)試平臺(tái)，測(cè)試平臺(tái)的配置如表1所示：

在視頻圖像分析推理性能的測(cè)試中，測(cè)試人員分別測(cè)試了在MobileNet、MobileNet-V2、GoogleNet、VGG-16等多個(gè)拓?fù)浣Y(jié)構(gòu)中，使用公共版Caffe*、英特爾優(yōu)化版本Caffe，以及OpenVINOTM 的推理性能。測(cè)試數(shù)據(jù)如圖1所示，與英特爾優(yōu)化版本 Caffe 相比，使用OpenVINOTM 在 MobileNet 中實(shí)現(xiàn)了28.4倍的性能提升。

同時(shí)，在SSD、RPN 檢測(cè)推理優(yōu)化的測(cè)試中（測(cè)試數(shù)據(jù)如圖2所示），相比帶有 FP32 的英特爾優(yōu)化 Caffe，帶有 SSD-VGG、RPN-VGG 拓?fù)浣Y(jié)構(gòu)且使用 Int8 量化的英特爾優(yōu)化 Caffe 可分別實(shí)現(xiàn) 2.58 倍和 2.09 倍的性能提升。

未來(lái)：為車輛識(shí)別應(yīng)用負(fù)載提供靈活、高效的算力支持

除了車牌識(shí)別之外，基于人工智能與深度學(xué)習(xí)技術(shù)的檢測(cè)推理還廣泛應(yīng)用于車輛識(shí)別的其它場(chǎng)景之中，并用于檢測(cè)車輛型號(hào)、顏色、大小、位置等用途。這些應(yīng)用負(fù)載在依賴先進(jìn)算法的同時(shí)，也對(duì)于平臺(tái)的算力提出了一定的要求。智芯原動(dòng)的云端車款識(shí)別平臺(tái)可識(shí)別1600種左右車款，車款信息包括：品牌、型號(hào)、年代，識(shí)別準(zhǔn)確率超過(guò)99％，該平臺(tái)同時(shí)也可應(yīng)用于警用安防系統(tǒng)、高速公路收費(fèi)等領(lǐng)域的車款識(shí)別。

通過(guò)與英特爾進(jìn)行合作，智芯原動(dòng)能夠?yàn)檐囕v識(shí)別深度學(xué)習(xí)應(yīng)用提供更加靈活的基礎(chǔ)設(shè)施平臺(tái)，如在數(shù)據(jù)中心通過(guò)CPU、GPU、FPGA的組合實(shí)現(xiàn)深度學(xué)習(xí)異構(gòu)計(jì)算，或是在邊緣端部署統(tǒng)一的邊緣計(jì)算服務(wù)器，承載車輛、車牌的識(shí)別負(fù)載，滿足用戶對(duì)于檢測(cè)精度、速度等方面的需求，助力智慧交通的實(shí)現(xiàn)。

想要查看更多OpenVINO相關(guān)技術(shù)與資料，請(qǐng)戳>> http://2s4d.com/openvino