邊緣計(jì)算從概念到現(xiàn)實(shí)

一年前，當(dāng)我們提出有關(guān)邊緣計(jì)算的展望時(shí)，該領(lǐng)域才剛剛開始萌芽。去年，我們針對開源技術(shù)的迅速發(fā)展以及在邊緣部署機(jī)器學(xué)習(xí)（ML）所需的不同編程范例開展了演講。

除了數(shù)據(jù)科學(xué)家，很少有公司在其產(chǎn)品中積極深入地整合機(jī)器學(xué)習(xí)技術(shù)，因此，邊緣計(jì)算的優(yōu)勢只得到了定性認(rèn)可。

我們在這里提到的邊緣計(jì)算，其優(yōu)勢包括節(jié)能和減少延遲。因?yàn)閷?shù)據(jù)進(jìn)行云處理，云存儲的成本高昂，且許多情況下帶寬也受限，從而限制了將數(shù)據(jù)傳輸?shù)皆贫死萌斯ぶ悄荛_展決策。

此外，在邊緣節(jié)點(diǎn)利用人工智能做出快速?zèng)Q策，邊緣計(jì)算還可以帶來更好的用戶體驗(yàn)。用戶向云端發(fā)送和在云端存儲的數(shù)據(jù)通常會(huì)因?yàn)閷﹄[私和安全問題的擔(dān)憂而存在限制。

如今，在看到邊緣計(jì)算在實(shí)際系統(tǒng)上的部署并了解具體應(yīng)用要求后，我們可以切身定量地感受到這些好處。

對每一單位電能“斤斤計(jì)較”

體會(huì)邊緣計(jì)算的好處，能耗和性能是最常用的評估指標(biāo)。與將數(shù)據(jù)傳輸?shù)皆贫说某杀鞠啾?，更多工作能夠使用既有的能量在本地的邊緣?jié)點(diǎn)完成。

我們以MobileNet為例（有關(guān)MobileNet的更多內(nèi)容在稍后做詳細(xì)介紹），這是一種用于對象分類的熱門神經(jīng)網(wǎng)絡(luò)（為了避免長達(dá)數(shù)頁的分析，這里進(jìn)行了高度簡化）。

拿MobileNet的一個(gè)版本舉例，譬如MobileNet_v1_1.0_224，需要大約5.59億次乘積累加（MAC）計(jì)算和50,176像素（224x224）的輸入圖像尺寸。保守一點(diǎn)，假設(shè)GPU上的10次MAC要耗費(fèi)100皮焦耳，則559次MMAC將耗費(fèi)大約0.001焦耳。與之對比的是，通過LPTE將圖像上傳到云端需要花費(fèi)約0.02焦耳（假設(shè)每個(gè)像素8位且圖像未壓縮）。換句話說，與處理圖像相比，傳輸所需的能量增加了一個(gè)能量級，而在云端，神經(jīng)網(wǎng)絡(luò)模型上的推理仍必須執(zhí)行（在更加昂貴的設(shè)備上執(zhí)行）。

對社會(huì)的好處

對于許多客戶而言，機(jī)器學(xué)習(xí)是新領(lǐng)域。經(jīng)常有人問我們“機(jī)器學(xué)習(xí)適用于我的應(yīng)用嗎”？當(dāng)然，我們的回答是“看情況而定”。有一些基本的前提條件，如物理接口（例如，攝像頭、麥克風(fēng)、傳感器）、收集數(shù)據(jù)和為數(shù)據(jù)加標(biāo)簽的能力（用于模型訓(xùn)練）以及確定機(jī)器學(xué)習(xí)是否真的能為該應(yīng)用帶來價(jià)值（即刺激產(chǎn)品銷量，帶來金錢價(jià)值）。在這些前提條件均滿足的情況下，我們認(rèn)為或多或少的機(jī)器學(xué)習(xí)能夠被應(yīng)用于非常廣泛且多樣的領(lǐng)域種，其中最有趣的是有益于社會(huì)或能夠提升用戶體驗(yàn)的應(yīng)用。

特別是隨著人們對氣候的關(guān)注加深，機(jī)器學(xué)習(xí)有價(jià)值的應(yīng)用領(lǐng)域之一，是在農(nóng)業(yè)中使用機(jī)器學(xué)習(xí)來監(jiān)控和節(jié)約用水量、開展農(nóng)藥的針對性噴灑、將無人機(jī)應(yīng)用于作物分析中，這些應(yīng)用都是為了提高生產(chǎn)力，最大限度減少全球食品生產(chǎn)帶來的影響。機(jī)器學(xué)習(xí)還可用于提高應(yīng)用的工業(yè)生產(chǎn)力，如通過目視檢查對食品質(zhì)量進(jìn)行分類、預(yù)測性維護(hù)與異常檢查以及加強(qiáng)設(shè)備操作員的安全。

另一個(gè)非常熱門的應(yīng)用領(lǐng)域是使用機(jī)器學(xué)習(xí)來確保安全訪問，這對于家用門禁系統(tǒng)、商用安全系統(tǒng)，如對安全區(qū)域的訪問以及攔截或允許用戶接觸重型機(jī)械操作這一系列應(yīng)用都具有非常重要的意義。在這些情況下為了加強(qiáng)安全訪問，門鎖或用戶識別型的產(chǎn)品會(huì)同時(shí)驗(yàn)證兩個(gè)參數(shù)來判斷是否允許訪問，即同時(shí)應(yīng)用人臉和語音識別或其他生物識別方法。通過使用活體檢測，可進(jìn)一步增強(qiáng)人臉識別，以防止欺騙攻擊。

公共安全已成為當(dāng)代備受關(guān)注的一個(gè)問題，而機(jī)器學(xué)習(xí)將成為其很好的解決方案。例如，基于機(jī)器學(xué)習(xí)可以開發(fā)這樣的應(yīng)用程序，讓機(jī)場、地鐵站臺或其他公共場所的安保攝像頭來確定古怪的行為模式或檢測是否有人遺落包裹或行李。如果出現(xiàn)以上情況，則系統(tǒng)可以做出恰當(dāng)?shù)捻憫?yīng)，例如，將這一情況甚至具體發(fā)生的地點(diǎn)通知有關(guān)部門。另外，基于攝像頭利用機(jī)器學(xué)習(xí)，還可以計(jì)算城市交通系統(tǒng)中十字路口的車輛數(shù)、監(jiān)控車流和調(diào)整紅綠燈時(shí)間——這不僅為駕駛員提供了便利，還能夠幫助提高駕駛效率。

在邊緣設(shè)備中實(shí)施機(jī)器學(xué)習(xí)是算法和處理解決方案領(lǐng)域巨大進(jìn)步的結(jié)果。然而，直到ImageNet大規(guī)模視覺識別挑戰(zhàn)賽在2010年拉開帷幕，機(jī)器學(xué)習(xí)的時(shí)代才真正開始發(fā)展。這一挑戰(zhàn)賽一直以來的目標(biāo)是預(yù)測包含1000個(gè)可能的對象類別之一的照片的內(nèi)容。之后，AlexNet誕生，現(xiàn)在看來AlexNet有點(diǎn)過時(shí)了，但仍用于評測（由于其準(zhǔn)確度較低，現(xiàn)在已通常不用于實(shí)際應(yīng)用）。AlexNet的發(fā)展帶來了新型的分類模型拓?fù)洌鏥GG、ResNet和Inception。

正如我在前面提到的，MobileNet是最近出現(xiàn)的新技術(shù)之一，由于其較小的尺寸與合理的準(zhǔn)確度而倍受青睞。此外，通過使用遷移學(xué)習(xí)來針對特定對象類進(jìn)行微調(diào)，可提高這些模型的準(zhǔn)確度。

隨著算法發(fā)展以及支持它們的訓(xùn)練框架和推理引擎的巨大進(jìn)步，處理能力得到提升。雖然機(jī)器學(xué)習(xí)加速器正逐漸成為常態(tài)，嵌入式系統(tǒng)開發(fā)人員仍努力在傳統(tǒng)設(shè)備中部署機(jī)器學(xué)習(xí)，從低成本MCU到包含多個(gè)CPU內(nèi)核、GPU與DSP的高度集成應(yīng)用處理器，覆蓋范圍十分廣泛。

現(xiàn)如今我們可以基于一個(gè)2美元的MCU實(shí)現(xiàn)一套人臉識別解決方案，該解決方案可在略大于200毫秒的時(shí)間內(nèi)執(zhí)行推理，且準(zhǔn)確度高達(dá)95%，這是多么令人驚訝。

如果進(jìn)一步提高處理器性能以及內(nèi)存容量，就能夠增強(qiáng)邊緣設(shè)備處理更復(fù)雜應(yīng)用（如上所述）的能力，想象一下，如果邊緣設(shè)備的機(jī)器學(xué)習(xí)性能增加幾個(gè)數(shù)量級，您可以做些什么？

推動(dòng)邊緣計(jì)算發(fā)展

我們相信，我們的行業(yè)距離實(shí)現(xiàn)機(jī)器學(xué)習(xí)的所有潛力還有很長的路要走。就此而言，工業(yè)、消費(fèi)電子、物聯(lián)網(wǎng)和汽車應(yīng)用的大多數(shù)系統(tǒng)開發(fā)人員仍不理解機(jī)器學(xué)習(xí)目前能夠如何增強(qiáng)其產(chǎn)品。但是，機(jī)器學(xué)習(xí)不只是一時(shí)的潮流，我們已經(jīng)證明了其對社會(huì)和工業(yè)大有裨益。

展望未來，我們將看到越來越多的處理器集成機(jī)器學(xué)習(xí)加速。我們還將看到開源工具和庫的大幅增加，以支持機(jī)器學(xué)習(xí)發(fā)展。通過機(jī)器學(xué)習(xí)技術(shù)在邊緣設(shè)備的積極部署，將會(huì)給數(shù)據(jù)分析和集體知識分配帶來巨大的改革，而我們正是這一改革的見證者。

*本文內(nèi)容轉(zhuǎn)載自New Electronics，原文標(biāo)題為“Edge Computing from Concept to Reality”。