AI在邊緣設(shè)備上的發(fā)展機會

智能設(shè)備對語音技術(shù)和視覺技術(shù)的需求

　　今天，智能設(shè)備主要依賴于基于語音的用戶接口，但是我們將看到它們越來越多地引入視覺技術(shù)成分。同時，人們已經(jīng)意識到AI不只適用于高端產(chǎn)品，現(xiàn)在越來越多的中檔產(chǎn)品也在采用AI。因此，需要在性能與差異化之間發(fā)掘出合理的平衡，同時還要提供高效率。對于神經(jīng)網(wǎng)絡(luò)，存儲帶寬是一個關(guān)鍵問題，因此，中檔設(shè)備需要更加高效。而隨著消費者對AI走向低端產(chǎn)品的期待不斷高漲，我們也應(yīng)該給予更多關(guān)注。

　　我們現(xiàn)在正在看到更多具備AI功能的應(yīng)用在沖擊市場，如汽車、無人機、安防系統(tǒng)和增強現(xiàn)實/虛擬現(xiàn)實(AR/VR);以機頂盒和數(shù)字電視為例，諸如自動提供字幕、圖像增強以及用戶體驗提升等功能將被進一步挖掘。

　　視覺技術(shù)在智能設(shè)備上的應(yīng)用得到關(guān)注

　　智能設(shè)備主要依賴于基于語音的用戶接口，但是我們可以看到它們將開始越來越多地引入視覺技術(shù)成分。

　　從語音的角度來看，設(shè)備需要一直處于開啟狀態(tài)，因此需要一種低功耗的解決方案。而從視覺的角度來看，由于需要處理大量的數(shù)據(jù)，它的挑戰(zhàn)在于需要高性能。消費者期望無論是其智能手機還是冰箱，這些技術(shù)進步都應(yīng)該以標(biāo)準(zhǔn)的形式進入設(shè)備。因此，支撐AI需求的解決方案應(yīng)當(dāng)是高效的，從而引出了對專用硬件的需求。

　　PowerVR Series2NX神經(jīng)網(wǎng)絡(luò)加速器

　　我們設(shè)計了自己全新的PowerVR Series2NX神經(jīng)網(wǎng)絡(luò)加速器，在非常低的功耗和極小芯片面積占用的前提下提供高性能的神經(jīng)網(wǎng)絡(luò)計算，其高度可擴展的架構(gòu)可支撐它基于多樣化的、各種廣為采用的神經(jīng)網(wǎng)絡(luò)框架來承擔(dān)深度神經(jīng)網(wǎng)絡(luò)推算任務(wù)。隨著深度神經(jīng)網(wǎng)絡(luò)持續(xù)在很多行業(yè)中推動技術(shù)爆發(fā)式進步，神經(jīng)網(wǎng)絡(luò)加速器注定會成為一種基礎(chǔ)性的處理器種類，和CPU及GPU一樣極為重要。

嵌入式神經(jīng)引擎和專用智能處理器將AI引入前端設(shè)備

　　嵌入式神經(jīng)引擎和專用智能處理器將AI引入前端設(shè)備，消除了對云的依賴。前端處理的好處包括縮短延遲、全網(wǎng)覆蓋、提高隱私和安全性，并且減少與云的通信，從而降低成本。這些特性使得移動設(shè)備可以利用AI的力量去實現(xiàn)以往人們認(rèn)為是天方夜譚的功能。

　　前端處理的兩大挑戰(zhàn)

　　雖然前端處理的好處很明顯，但它也帶來諸多挑戰(zhàn)。首先是如何在細(xì)小的掌上型設(shè)備上執(zhí)行來在大型服務(wù)器上的數(shù)據(jù)分析(data-crunching)，還要考慮到這個掌上設(shè)備的電池也要應(yīng)對許多其他任務(wù)。因此，專用AI處理器對于成功的在前端實現(xiàn)AI是至關(guān)重要的。

　　另外，將現(xiàn)有的神經(jīng)網(wǎng)絡(luò)移植到嵌入式環(huán)境中，這可能需要大量的開發(fā)時間并且成本非常高。但是，自動工具可以實現(xiàn)一鍵式輕易轉(zhuǎn)換，針對嵌入式環(huán)境來分析和優(yōu)化網(wǎng)絡(luò)。對于這樣的工具來說，重要的是要覆蓋大量先進的網(wǎng)絡(luò)，以確保任何網(wǎng)絡(luò)都可以輕松優(yōu)化，以便在前端嵌入式設(shè)備上運行。

　　NeuPro AI處理器

　　CEVA公司的NeuPro AI處理器包含用于矩陣乘法、完全連接層、激活層和池化層的專用引擎。這款專用AI引擎與完全可編程的NeuPro VPU配合使用，后者可支持所有其他層類型和NN拓?fù)?。這些模塊之間的直接連接實現(xiàn)了無縫連接，無需寫入內(nèi)部存儲器。此外，DDR BW和DMA控制器可實現(xiàn)即時流水線處理，進一步提升速度，同時降低功耗。

支持廣泛神經(jīng)網(wǎng)絡(luò)架構(gòu)的VIP8000處理器

　　機器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)處理技術(shù)承載著嵌入式處理器下一個主要的市場機會。國際數(shù)據(jù)公司(IDC)預(yù)測，全球在AI和機器學(xué)習(xí)方面的支出將從2016年的80億美元增長到2020年的470億美元。AI爆發(fā)式增長的背后有三個主要的驅(qū)動力：算法的快速演進、強大的技術(shù)平臺以及大數(shù)據(jù)。AI日益無處不在，這就要求消費電子、汽車電子、工業(yè)4.0等終端產(chǎn)品具備實時神經(jīng)網(wǎng)絡(luò)推理、可靈活升級至最新、最優(yōu)算法，以及從持續(xù)學(xué)習(xí)中收集有用信息的能力。

　　作為芯片設(shè)計平臺及服務(wù)提供商，芯原為包含移動互聯(lián)設(shè)備、數(shù)據(jù)中心、IoT、汽車、工業(yè)和醫(yī)療設(shè)備在內(nèi)的廣泛終端市場提供全面的系統(tǒng)級芯片和系統(tǒng)級封裝解決方案。隨著最新的分級壓縮、適配的平鋪/緩存、裁剪、獲取、跳過以及圖像融合技術(shù)的引用，VIP8000為與其相關(guān)的處理器架構(gòu)進一步降低了內(nèi)存帶寬需求。

　　VIP8000處理器

　　VIP8000支持寬泛的神經(jīng)網(wǎng)絡(luò)架構(gòu)，如TensorFlow、Caffe、AndroidNN、RNN和LSTM等，此外，還提供大量軟件和硬件解決方案以幫助開發(fā)者創(chuàng)建高性能神經(jīng)網(wǎng)絡(luò)模型和基于機器學(xué)習(xí)的應(yīng)用。由于與Vivante GPU架構(gòu)相同，VIP8000繼承了其OpenCL可編程性，硬件直接存儲器存取和時序安排，以及多環(huán)境并行處理的長處。

　　對于終端設(shè)備來說，有些AI應(yīng)用并不是孤立的應(yīng)用，而是可以同時增強現(xiàn)有許多不同應(yīng)用。作為芯原Vivante IP產(chǎn)品系列的一部分，VIP8000處理器可以在兼顧芯片尺寸和功耗的情況下，輕松地與其他芯原處理器IP相集成。例如，基于共同的架構(gòu)，VIP8000神經(jīng)網(wǎng)絡(luò)引擎可以和任何Vivante GPU直接集成，以面向AR/VR等應(yīng)用;還可以與芯原的ZSP音頻DSP集成，以面向智能音箱的應(yīng)用;或是與ISP Nano集成，實現(xiàn)低延遲機器視覺攝像頭的設(shè)計;又或是與Hantro視屏編碼相結(jié)合，以實現(xiàn)更好的視頻內(nèi)容壓縮。

AI從云端擴到邊緣端，對話式平臺得到廣泛應(yīng)用

　　我們注意到AI有兩個顯著加速的趨勢：

　　1)AI的部署和應(yīng)用逐步從云端擴展至邊緣端，也就是直接部署運行在客戶端或IoT終端，滿足了一定的實時性和安全性等要求。例如：Apple的Face ID、Andriod離線版人臉識別等，這主要歸功于AI芯片(或神經(jīng)處理單元NPU)在手機上的深度整合及場景落地。它解決了性能和功耗的平衡問題，同時也強調(diào)了軟硬件結(jié)合來完成場景的落地。

　　2)對話式平臺的廣泛應(yīng)用。對話式平臺將改變?nèi)藗兣c技術(shù)進行交互的方式。用戶通過語音發(fā)出命令或者問題，對話式平臺進行響應(yīng)并執(zhí)行一系列相應(yīng)的功能。這其中包括語音識別、NLP等當(dāng)下熱門的AI技術(shù)，同時也體現(xiàn)了AI時代更加自然和人性化的交互方式。

　　AI在邊緣端的部署和應(yīng)用給終端CPU或者SoC帶來了特定任務(wù)，例如圖像識別等更大的計算壓力。這種壓力也導(dǎo)致了AI芯片產(chǎn)生，華為的麒麟 970芯片就是一個標(biāo)志性的事件。它搭載了寒武紀(jì)的一款NPU，這款NPU在特定任務(wù)計算時的能效是手機CPU的50倍。我們有理由相信，隨著更多AI場景的落地，AI架構(gòu)的芯片會逐漸成為主流。當(dāng)然，AI算法也會不斷地優(yōu)化，不斷在系統(tǒng)層面進行融入。如何將芯片、系統(tǒng)與算法高效地融合則是AI場景能否落地的一個關(guān)鍵因素。

　　對話式平臺的廣泛應(yīng)用開啟新的交互革命

　　隨著語音識別和NLP(自然語言處理)技術(shù)的大熱，聲紋識別技術(shù)也逐漸進入大眾的視野，它將與人臉識別等生物認(rèn)證技術(shù)一起在安全和個性化服務(wù)領(lǐng)域得到越來越多的普及。目前的語音識別和聲紋識別等語音技術(shù)受背景噪音、多人同時說話等環(huán)境因素影響，準(zhǔn)確度依然有很大的提升空間。

　　君林科技的麥克風(fēng)陣列技術(shù)(遠(yuǎn)場拾音技術(shù))、去噪聲和混響算法以及高精度、高魯棒性的聲紋識別算法從軟硬件結(jié)合方式優(yōu)化了整條鏈路，在一定程度上消除了環(huán)境因素的影響，大幅提高了聲紋識別的準(zhǔn)確度，從而加速了聲紋識別技術(shù)在智能硬件、銀行保險和公共安防等行業(yè)的場景落地。

　　參考文獻：

　　[1]胡郁.人工智能與語音識別技術(shù)[J].電子產(chǎn)品世界, 2016(4):23-25.

　　[2]王瑩.“CPU+”異構(gòu)計算時代，華夏芯通過HSA搶占高地[J].電子產(chǎn)品世界, 2016(9):15-17.

　　[3]王瑩.人工智能的進展及發(fā)展建議[J].電子產(chǎn)品世界, 2017(2-3):23-26.

　　[4]王瑩,王金旺.異構(gòu)計算帶來AI視覺新突破[J].電子產(chǎn)品世界, 2017(7):28-29.

　　[5]任澤坤.芯片廠商引領(lǐng)廣電的人工智能化[J].電子產(chǎn)品世界, 2017(10):23-24.

　　本文來源于《電子產(chǎn)品世界》2018年第5期第13頁，歡迎您寫論文時引用，并注明出處。