基于硬件加速的超低功耗邊緣智能，讓頭疼的“云端求助”走向本地自主化決策

知乎上有好事者對《西游記》的故事線做過統(tǒng)計，從保護唐僧遭遇各種艱難險阻到最終取得真經，神通廣大的孫悟空一路上遇到各種危險，共求助22次，觀音菩薩和天庭諸神不斷出面幫大圣搞定各種凡間險惡。每次惡斗不贏吃盡苦頭后，大圣總是會想法脫離妖魔圍困跳入云端，駕著跟斗云去尋求各路神仙，一番口舌糾纏之后，盡管總能及時出手相助化險為夷，但師傅唐僧和師弟八戒、沙僧難免要苦熬一陣，或遭遇一番皮肉之苦。

這像極了人工智能日益普及的今天，越來越多的終端設備依靠云端的“大神”（中心算力）實現(xiàn)各種智能功能，盡管看起來方便，但其實很多場景難免面臨各種問題和潛在隱患，甚至是各種事故風險?！斑吘壎嗽O備監(jiān)測的各種數(shù)據(jù)通過網絡傳輸?shù)皆贫耍粌H可能帶來很多應用場景下不能容忍的延遲問題，還可能因為隱私數(shù)據(jù)的泄露導致嚴重的數(shù)據(jù)安全?！?a class="contentlabel" href="http://butianyuan.cn/news/listbylabel/label/ADI">ADI公司資深業(yè)務經理李勇在最近的一次演講中表示。市場分析數(shù)據(jù)顯示，2020年中國邊緣計算市場規(guī)模為91億元，未來成長空間非常廣闊，預計到2030年中國邊緣計算市場規(guī)模將接近2500億元。

算力下沉，亟待邊緣智能賦能多類應用場景

根據(jù)Gartner預測，2025年將有75%的數(shù)據(jù)產生在數(shù)據(jù)中心和云之外并在邊緣側進行處理。邊緣計算在降低時延、帶寬需求、保護隱私數(shù)據(jù)等多方面的價值已經被廣泛認可，在產業(yè)數(shù)智化中的應用也不斷涌現(xiàn)。邊緣計算作為靠近數(shù)據(jù)源頭，融合了網絡、存儲、計算與應用能力的分布式計算平臺，可以對數(shù)據(jù)在本地進行實時分析處理，數(shù)據(jù)不必實時回傳至云端，縮短延時，減少網絡帶寬資源需求，確保應用安全高效運行。

“失火而取水于海，海水雖多，火必不滅矣，遠水不救近火也?！薄俄n非子·說林上》上這句話，簡單二十多字說明了一個樸素而重要的道理，即使在科技發(fā)展日新月異的今天依然有其現(xiàn)實意義。在智能應用中，因為時間敏感性而舍云端（遠）智能而用邊緣（近）智能的應用場景比比皆是。

例如森林火災監(jiān)測，公路、鐵路或者是大壩塌方監(jiān)測，這些地方都普遍比較偏僻，通常沒有很好的通信網絡，但快速決策和預警非常關鍵，因此必須進行邊緣端快速判定?！斑@種應用時間敏感性非常高，傳統(tǒng)的云端監(jiān)測，可能需要發(fā)送一組圖片到云端，對網絡流量要求比較高。通過監(jiān)測端自主智能識別，在狀況發(fā)生時只需要發(fā)短信息就可以快速實現(xiàn)安全告警，避免更嚴重的災害損失發(fā)生?！?李勇指出。

“這些應用除了需要邊緣端快速智能決策，對功耗敏感性也決定了需要進行邊緣端自主決策，任何一次更換電池的運維成本可能比設備本身更貴?！崩钣碌莱隽肆硗庖粋€關鍵點。邊緣智能決策的好處是避免頻繁的數(shù)據(jù)傳輸、數(shù)據(jù)采集導致的高功耗，因此這也讓這些應用場景對邊緣智能方案的低功耗特性提出更高的要求，當前市場通用的MCU或FPGA的智能解決方案，在電池供電的低功耗邊緣端智能應用中依然面臨挑戰(zhàn)，市場需要更具超低功耗特性的新一代解決方案。

今年3·15晚會暴露的“行走的追蹤器”——兒童智能手表被黑客入侵成為了竊聽器；2021年，某品牌攝像頭事件數(shù)萬條家庭偷拍視頻被傳播售賣；2021年家庭物聯(lián)網Pink事件，導致國內受控智能家居設備超過百萬......近年來，隨著具備音頻監(jiān)測和視頻監(jiān)測功能的智能設備的普及，類似的信息安全事故層出不窮?！斑@些智能設備需要將邊緣端監(jiān)測的數(shù)據(jù)傳到云端進行數(shù)據(jù)處理，沒有人希望家里有一個設備可能隨時通過畫面或語音監(jiān)測你家里活動情況，你不能確定這些音頻和圖像數(shù)據(jù)是否會被別有用心的人所利用?！崩钣轮赋?。

讓智能從云端走向邊緣，這四大核心能力不可或缺 

AI技術使機器能夠以之前完全不可能的方式來觀察、聆聽和感知世界。過去，將AI推理布置到邊緣意味著從傳感器、攝像機和麥克風收集數(shù)據(jù)，然后將數(shù)據(jù)發(fā)送到云端實現(xiàn)推理算法，再將結果送回到邊緣。由于延遲和能耗較大，這種架構對于邊緣智能的普及極具挑戰(zhàn)。作為替代方案，低功耗微控制器可用于實施簡單的神經網絡運算，但延遲會受到影響，且只能在邊緣執(zhí)行簡單任務，對于更加復雜的邊緣智能如何落地？ADI集成神經網絡加速器的MAX78000低功耗微控制器通過獨特的架構設計提供了新的選擇，在算力、功耗、延遲和集成度等方面實現(xiàn)了關鍵性能的平衡，為機器視覺、面部識別、目標檢測和分類、時序數(shù)據(jù)處理和音頻處理等應用提供了一個理想選擇。

邊緣智能的典型應用場景是聲音識別和圖像識別，而眾所周知，卷積神經網絡（CNN）是廣泛重視的一種高效識別方法。卷積神經網絡以其局部權值共享的特殊結構在模式識別方面有著獨特的優(yōu)越性，CNN算法在人工智能之機器學習、語音識別、文檔分析、語言檢測和圖像識別等領域等有著廣泛應用。MAX78000的核心即是神經網絡加速器，它是針對語音和圖像識別專門設計的運算加速硬件，可以最大限度地減少卷積神經網絡的功耗和延遲。

“我們看到市場上有很多邊緣智能處理器實際上只是支持軟件的算法，而不是硬件實現(xiàn)加速。MAX78000采用了64個CNN處理器，并行的處理器可以支持最多的卷積預算層數(shù)和通道數(shù)?！崩钣轮赋?，“MAX78000的CNN加速器完全是專有的，而且非常新穎，它的設計目標是最小化數(shù)據(jù)移動，這是眾所周知的對芯片功耗的一個重大負擔，尤其是在處理CNN中復雜的配置時?！?/p>

此外，MAX78000還集成了兩個MCU核心用于系統(tǒng)控制，即Arm Cortex-M4處理器和32位RISC-V處理器，其中Arm Cortex-M4F處理器以100MHz運行，客戶可以編寫任何系統(tǒng)管理代碼，RISC-V處理器的獨特功能是支持以低功耗將數(shù)據(jù)快速加載到神經網絡加速器，用戶可使用任何一種微控制器內核將數(shù)據(jù)輸入到卷積神經網絡的引擎中。而MAX78000具有432KB的權重存儲空間，與運行在低功耗微控制器上的軟件解決方案相比，在配置并加載了數(shù)據(jù)后，MAX78000運行AI推理的速度快了100倍，功耗還不到其1%。 

“低功耗是很多邊緣智能應用場景的關鍵要求，MAX78000除了基于CNN加速器和雙核處理器架構，還提供高效的片內電源管理，集成單電感多輸出 (SIMO) 開關模式電源，最大限度地延長電池供電的物聯(lián)網設備的續(xù)航時間?！崩钣卤硎?，“很多應用需要產品集成度高、體積小，基于MCU或GPU或FPGA的方案很可能放不進去，這些方案通常還需要片外存儲器、PMIC，方案無論成本、尺寸還是功耗都具有很大挑戰(zhàn)性?！?/p>

優(yōu)化聲音識別和圖像識別應用，聚焦邊緣智能主賽道

5G與物聯(lián)網的發(fā)展以及各行業(yè)的智能化轉型升級帶來了爆發(fā)式的數(shù)據(jù)增長，而海量的數(shù)據(jù)將在邊緣側積累，建立在邊緣的數(shù)據(jù)分析與處理將成為智能市場增長的主力。“基于云計算的邊緣智能可能只適合一些大企業(yè)的應用，例如幾萬個、幾十萬個客戶來支持一個服務器，能夠支撐云端的成本。很多基本的控制應用，邊緣端的自主智能更具成本效應，也符合隱私保護的考慮?！崩钣轮赋?。

隨著數(shù)據(jù)規(guī)模的不斷擴大，云計算在時效性、傳輸距離、安全性等方面的不足使得其在工業(yè)制造、自動駕駛、遠程醫(yī)療等場景下明顯力不從心，邊緣側的重要性日益顯現(xiàn)。更靠近數(shù)據(jù)源的邊緣計算不僅能提供低時延、高可靠服務，還能同時保證數(shù)據(jù)安全、處理實時性。IDC預測，未來超過50%的數(shù)據(jù)需要在邊緣側進行儲存、分析和計算，這就對邊緣側的硬件系統(tǒng)提出了更高的要求。

邊緣智能中，聲音智能識別和圖像智能識別是其中最主要的應用領域，僅智能音箱2021年市場出貨量就達3896萬臺，各種基于人臉識別的智能門禁、考勤機、閘機應用層出不窮?！盎谡Z音與人臉識別的邊緣智能是當前市場的重要領域，ADI的MAX78000針對這類應用從產品方案到工具優(yōu)化以及生態(tài)上提供了豐富的支持。”李勇表示，“智能識別數(shù)據(jù)的收集和數(shù)學模型的建立跟訓練很重要，為此ADI提供了聲音識別和face ID 識別demo程序供客戶下載和學習，在其基礎上進行修改。我們也有非常有經驗的第三方生態(tài)伙伴，提供數(shù)學模型的訓練與數(shù)據(jù)的收集。”

據(jù)悉，MAX78000目前已經在森林防火監(jiān)測、地質災害監(jiān)測以及智能家居等領域獲得廣泛應用?！昂芏囝愃频⒉簧婕暗焦舶踩膽靡残枰獙崿F(xiàn)本地快速智能決策，比如有用戶就針對摩托騎行愛好者希望在騎行中能對頭戴攝像頭實現(xiàn)隨時隨地的語音控制開發(fā)產品，類似的還有助聽器的語音控制、風力發(fā)電設備的安全監(jiān)測這樣的預測性維護等等。”李勇補充道，“這種基于超低功耗硬件算力，高集成度、小尺寸且低成本的邊緣智能解決方案的推出，正在為越來越多的應用領域提供真正可行的智能賦能方案，我們看到類似的各種創(chuàng)新應用正在層出不窮地推出?！?/p>