在本地進行人工智能計算的四個優(yōu)點

為什么人們需要更低功耗的人工智能？麻省理工學(xué)院（MIT）副教授Vivienne Sze此前在接受采訪時表示，人工智能應(yīng)用正在向智能手機、微型機器人、互聯(lián)網(wǎng)連接設(shè)備和其他功率和處理能力有限的設(shè)備轉(zhuǎn)移，意味著數(shù)據(jù)處理不再需要在云端、倉庫服務(wù)器機架上進行，從云上卸載計算使我們能夠擴大人工智能的影響范圍，通過減少與遠(yuǎn)程服務(wù)器通信造成的延遲來加快響應(yīng)時間。

為什么人們需要更低功耗的人工智能？麻省理工學(xué)院（MIT）副教授Vivienne Sze此前在接受采訪時表示，人工智能應(yīng)用正在向智能手機、微型機器人、互聯(lián)網(wǎng)連接設(shè)備和其他功率和處理能力有限的設(shè)備轉(zhuǎn)移，意味著數(shù)據(jù)處理不再需要在云端、倉庫服務(wù)器機架上進行，從云上卸載計算使我們能夠擴大人工智能的影響范圍，通過減少與遠(yuǎn)程服務(wù)器通信造成的延遲來加快響應(yīng)時間。

現(xiàn)在，人工智能的本地化部署有了一個專屬名稱——邊緣智能，也可叫做邊緣人工智能。隨著5G、人工智能和網(wǎng)絡(luò)安全三大領(lǐng)域相互滲透，智慧工廠和自動駕駛兩大典型的物聯(lián)網(wǎng)應(yīng)用引發(fā)數(shù)據(jù)爆發(fā)式增長，傳統(tǒng)云端處理、邊端執(zhí)行的模式已經(jīng)出現(xiàn)明顯的瓶頸，終端硬件搭配AI模型和軟件算法已經(jīng)是大勢所趨，成為人工智能發(fā)展的下一個關(guān)鍵階段。

本文我們將重點討論傳統(tǒng)人工智能面臨的挑戰(zhàn)，以及邊緣智能會帶來哪些好處。同時，也會為大家推薦貿(mào)澤電子上在售的，適用于部署邊緣智能的元器件，推動產(chǎn)業(yè)大升級。

邊緣智能的四大典型優(yōu)勢

自上世紀(jì)50年代人工智能概念被提出以后，產(chǎn)業(yè)發(fā)展至今經(jīng)歷了數(shù)次的高潮和寒冬。雖然有低谷，但人類對人工智能技術(shù)的探索從沒有停止過。2006年至今，我們經(jīng)歷了人工智能產(chǎn)業(yè)新一輪發(fā)展大潮，在此過程中，“算力+算法+數(shù)據(jù)”正式被定義為人工智能產(chǎn)業(yè)的三駕馬車，云計算平臺作為算力提供源，大幅提升了人工智能算法模型的體量。

根據(jù)前瞻產(chǎn)業(yè)研究院的統(tǒng)計數(shù)據(jù)，從2016年到2020年全球人工智能產(chǎn)業(yè)市場規(guī)模實現(xiàn)了數(shù)倍的增長，從2016年的593億美元快速增長到了2020年的2,335億美元。市場的高速增長不僅給企業(yè)帶來巨大的投資回報，同時也賦予社會發(fā)展肉眼可見的便利性。

圖1：全球人工智能市場規(guī)模（圖源：前瞻產(chǎn)業(yè)研究院）

然而，在電信業(yè)務(wù)、政府、安防、金融四大傳統(tǒng)人工智能應(yīng)用領(lǐng)域取得突破之后，全球人工智能發(fā)展遇到了新的阻力，發(fā)生了巨大的變化。根據(jù)市場分析機構(gòu)IDC的預(yù)測，未來人工智能發(fā)展不再僅僅是云端集中式，會更加注重落地和實踐，趨向廣泛化、縱向化，打通人工智能技術(shù)和廣泛行業(yè)的最后一公里。

在這種大趨勢下，傳統(tǒng)人工智能應(yīng)用框架出現(xiàn)了明顯的技術(shù)瓶頸，包括數(shù)據(jù)瓶頸、泛化瓶頸、能耗瓶頸、預(yù)義鴻溝瓶頸、可解釋性瓶頸和可靠性瓶頸等。在這么多瓶頸背后，一個相同的原因是此前的人工智能應(yīng)用框架里，所有應(yīng)用都是以云計算為依托，數(shù)據(jù)都必須返回到云端，給處理效率、信息安全、部署成本帶來了極大的挑戰(zhàn)。

圖2：傳統(tǒng)人工智能應(yīng)用框架（圖源：前瞻產(chǎn)業(yè)研究院）

隨著人工智能落地到越來越多的細(xì)分場景里，完全依賴云計算的人工智能越來越不適應(yīng)，業(yè)界提出的解決方案便是邊緣智能。當(dāng)然，邊緣智能和傳統(tǒng)的云端智能絕不是替代關(guān)系，而是更好的補充。通過下方邊緣計算產(chǎn)業(yè)聯(lián)盟（ECC）發(fā)布的邊緣計算參考架構(gòu)能夠看出，邊緣智能和云端智能并不割裂，只是應(yīng)用程序和邊緣端緊密結(jié)合。

圖3：邊緣計算參考架構(gòu)（圖源：邊緣計算產(chǎn)業(yè)聯(lián)盟（ECC））

從系統(tǒng)框架來看，邊緣智能方案大致可以分為基礎(chǔ)資源層、虛擬化層、邊緣虛擬服務(wù)層，實際上就是云端智能的下沉，一般而言，具體的業(yè)務(wù)切分由規(guī)則引擎來負(fù)責(zé)。如下圖4所示，當(dāng)計算資源遷移到邊緣端之后，邊緣智能方案將獨立擁有操作系統(tǒng)以及相關(guān)的硬件資源，這也就是為什么我們上面提到，邊緣智能的核心要義是應(yīng)用程序和邊緣端深度融合。

圖4：基于規(guī)則引擎的邊緣智能方案（圖源：論文《一種基于規(guī)則引擎的邊緣計算技術(shù)研究及實施方案》）

計算和任務(wù)處理直接在邊緣端進行，這讓邊緣智能方案具備四大突出的技術(shù)優(yōu)勢。

實時性好

首先是實時數(shù)據(jù)處理、提高響應(yīng)速度。相較于傳統(tǒng)海量數(shù)據(jù)無差別上云而言，邊緣智能由于更靠近用戶終端裝置，可以加快數(shù)據(jù)的處理與傳送速度，減少延遲。這種實時性對自動駕駛、工業(yè)機器人等應(yīng)用有重要價值。

帶寬需求小

其次是減少互聯(lián)網(wǎng)帶寬依賴。根據(jù)IDC的統(tǒng)計數(shù)據(jù)，2021年，全球創(chuàng)造了82.5ZB的數(shù)據(jù)，未來五年全球數(shù)據(jù)規(guī)模還將以21.2%的年復(fù)合增長率快速發(fā)展，到2026年達(dá)到216ZB。如果這些數(shù)據(jù)全部送到云數(shù)據(jù)中心去處理，那么將會對網(wǎng)絡(luò)帶寬造成巨大的傳輸壓力。而邊緣智能以卸載的方式將大部分邊緣端產(chǎn)生的巨量數(shù)據(jù)及時處理，幫助減輕網(wǎng)絡(luò)帶寬的壓力。

功耗低

第三是降低系統(tǒng)功耗。根據(jù)工信部數(shù)據(jù)，2021年中國數(shù)據(jù)中心耗電量2,166億千瓦時，占社會用電量比例達(dá)2.6%，相當(dāng)于1.3個上海市的總社會用電量。通過云邊結(jié)合的方式，數(shù)據(jù)中心可以更加專注在AI大模型的訓(xùn)練和運轉(zhuǎn)，邊緣智能方案極為強調(diào)能耗比，將有助于降低整體功耗。

安全性好

最后，邊緣智能能夠更好地保護用戶的數(shù)據(jù)隱私和數(shù)據(jù)安全。邊緣智能方案在終端就可以對數(shù)據(jù)進行清洗、預(yù)處理、聚合、篩選等操作，數(shù)據(jù)不用完全返回云端再做處理，或者最終傳輸?shù)皆贫说臄?shù)據(jù)為脫敏數(shù)據(jù)，降低了隱私、機密數(shù)據(jù)泄露的風(fēng)險，提升了數(shù)據(jù)的安全性。

憑借上述這些突出的技術(shù)優(yōu)勢，邊緣智能在智能駕駛、智慧工廠、智慧能源和智能家居等領(lǐng)域應(yīng)用廣泛，提升了人工智能的應(yīng)用深度和廣度，豐富了“AI+”的實際應(yīng)用。當(dāng)然，想要打造高效穩(wěn)定的邊緣智能方案，離不開電子元器件的支持。作為全球知名先的電子元器件分銷平臺，貿(mào)澤電子銷售的電子元器件遍及各種邊緣智能解決方案，助力打造低碳智能的數(shù)字新世界。下面，我們就來為大家推薦幾款具有代表性、可用于邊緣智能的元器件產(chǎn)品。

Microchip機器學(xué)習(xí)整體解決方案

上述內(nèi)容已經(jīng)提到，邊緣智能是云端智能的下沉，也就是說將人工智能的模型置于邊緣端。目前，云端配合最理想的方式是：將機器學(xué)習(xí)的訓(xùn)練模型放置在云端，通過云端大算力的優(yōu)勢提升訓(xùn)練的效率；將機器學(xué)習(xí)的推理、決策和執(zhí)行模型放置在邊緣，需要的計算和存儲資源相對較小，保障了部署的靈活性，并降低系統(tǒng)反應(yīng)的時間。

因此，我們通過Microchip機器學(xué)習(xí)整體解決方案能夠看到，在邊緣一側(cè)，元器件會涉及到更善于終端推理的FPGA，更利于系統(tǒng)集成和部署的MCU/MPU，以及其他幫助工程師打造邊緣機器學(xué)習(xí)方案的模擬器件和安全器件。目前，Microchip這份完整的機器學(xué)習(xí)方案已經(jīng)在貿(mào)澤電子全面上線，接下來我們就來系統(tǒng)地看一下這份方案，以及方案里面的具體器件。

圖5：Microchip機器學(xué)習(xí)整體解決方案（圖源：Microchip）

綜合而言，Microchip機器學(xué)習(xí)整體解決方案是一個包括軟件和硬件工具套件、參考設(shè)計以及硅平臺的系統(tǒng)方案，非常適合用于需要具有高級性能的簡單易用的應(yīng)用。也就是說，無論你是AI和機器學(xué)習(xí)方面的新手，還是尋求高性能、經(jīng)驗豐富的工程師大牛，都能夠在Microchip機器學(xué)習(xí)整體解決方案里找到適合自己的軟硬件組合。

在硅器件方面，Microchip廣泛的硅器件產(chǎn)品組合包括MCU、MPU和FPGA。為幫助工程師使用這些器件，Microchip準(zhǔn)備了全面豐富的軟件工具包，允許工程師朋友使用流行的ML框架，包括TensorFlow、Keras、Caffe和ONNX涵蓋的許多其他框架，以及TinyML和TensorFlow Lite中的框架。這些豐富的開發(fā)套件組合起來，構(gòu)成了Microchip硅器件背后的開發(fā)生態(tài)系統(tǒng)。

比如，在使用Microchip的MCU或MPU器件時，MPLAB開發(fā)生態(tài)系統(tǒng)將與Microchip的開發(fā)板以及機器學(xué)習(xí)設(shè)計合作伙伴提供的軟件套件和解決方案無縫集成，提供MPLAB X集成開發(fā)環(huán)境（IDE）、MPLAB XC C編譯器、MPLAB Data Visualizer等開發(fā)工具，顯著提升開發(fā)者的開發(fā)效率。

在使用Microchip的FPGA器件時，該公司先進的VectorBlox加速器軟件開發(fā)套件（SDK）可以讓開發(fā)者輕松編程高能效神經(jīng)網(wǎng)絡(luò)。VectorBlox加速器SDK還附帶了基于PolarFire視頻套件構(gòu)建智能AI相機平臺的說明，讓開發(fā)者可以更加方便地評估不同的卷積神經(jīng)網(wǎng)絡(luò)（CNN）。

此外，圍繞豐富的硅器件，Microchip還提供了豐富的評估套件，包括帶有TDK InvenSense 6軸MEMS運動傳感器的SAM D21機器學(xué)習(xí)評估套件和帶Bosch IMU的SAM D21機器學(xué)習(xí)評估套件。

通過全面的軟硬件組合，以及Microchip經(jīng)過驗證的參考設(shè)計和經(jīng)驗豐富的合作伙伴網(wǎng)絡(luò)，可以幫助廣大機器學(xué)習(xí)開發(fā)者降低風(fēng)險、縮短上市時間、降低功耗和應(yīng)用成本。開發(fā)者可以借助這些資源設(shè)計各種應(yīng)用程序，用于數(shù)據(jù)中心、自動駕駛汽車、安全和監(jiān)控、電子圍欄、增強和虛擬現(xiàn)實耳機頭顯、無人機、機器人、衛(wèi)星圖像和通訊中心等領(lǐng)域。

上面我們對Microchip機器學(xué)習(xí)解決方案進行了全面介紹，接下來我們通過一款具體的方案，看一下Microchip方案在機器學(xué)習(xí)方面的出色性能。在此，我們?yōu)榇蠹艺归_介紹上面提到的帶有TDK InvenSense 6軸MEMS運動傳感器的SAM D21機器學(xué)習(xí)評估套件，貿(mào)澤電子上該評估套件的物料號為EV18H79A，大家可以通過搜索此物料號，在貿(mào)澤電子平臺快速找到這款評估套件，并且通過該評估套件的詳情頁就可以看到我們上述提到的Microchip機器學(xué)習(xí)整體解決方案。

圖6：EV18H79A（圖源：貿(mào)澤電子）

EV18H79A SAMD21機器學(xué)習(xí)評估套件基于Arm? Cortex?-M0+的32位MCU打造，帶有板載調(diào)試器（nEDBG）、ATECC608A CryptoAuthentication安全元件IC和完全認(rèn)證的ATWINC1510 Wi-Fi網(wǎng)絡(luò)控制器。作為一款面向機器學(xué)習(xí)應(yīng)用的多功能傳感器開發(fā)工具，EV18H79A上集成了Microchip MCP9808高精度溫度傳感器、光傳感器以及帶有TDK InvenSense ICM-42688-P、高精度6軸MEMS的附加板，幫助開發(fā)者收集數(shù)據(jù)以訓(xùn)練和創(chuàng)建機器學(xué)習(xí)模型。

此外，為了讓開發(fā)者更快上手EV18H79A SAMD21機器學(xué)習(xí)評估套件，Microchip還提供了用戶指南和項目示例，進一步幫助大家縮短開發(fā)周期。

可用于AIoT應(yīng)用的ESP-EYE開發(fā)板

我們都知道，人工智能和物聯(lián)網(wǎng)融合而成的AIoT是邊緣智能典型的應(yīng)用場景，當(dāng)然也可以說，邊緣智能是AIoT落地的重要推動技術(shù)。那么，接下來我們?yōu)榇蠹彝扑]一款來自制造商Espressif Systems（樂鑫科技）、可用于AIoT場景的ESP-EYE開發(fā)板。

圖7：ESP-EYE（圖源：貿(mào)澤電子）

ESP-EYE是專注于AIoT智能物聯(lián)網(wǎng)領(lǐng)域的圖像識別與語音處理開發(fā)板，板載ESP32系列芯片，集成200萬像素攝像頭、數(shù)字麥克風(fēng)，擁有8MB PSRAM和4MB閃存的豐富存儲，支持Wi-Fi圖像傳輸與MicroUSB調(diào)試與供電?；谝陨县S富的配置和功能，開發(fā)者可以基于ESP-EYE實現(xiàn)語音喚醒、人臉檢測、人臉識別等交互功能，可廣泛應(yīng)用于智能物聯(lián)網(wǎng)領(lǐng)域的應(yīng)用開發(fā)。

同時，為了幫助開發(fā)者提升開發(fā)效率，Espressif Systems為ESP-EYE準(zhǔn)備了全面的用戶指南，讓大家可在Linux、MacOS、Windows操作系統(tǒng)中完成軟件燒寫，并實現(xiàn)上述AIoT相關(guān)功能，可協(xié)助用戶開發(fā)高度集成的AI解決方案。

邊緣智能未來發(fā)展趨勢

作為傳統(tǒng)云端智能的重要補充和延伸，邊緣智能具有無窮的魅力，是未來人工智能領(lǐng)域發(fā)展的重要方向，相關(guān)廠商也將以芯片和軟件技術(shù)為抓手，積極推動邊緣智能的發(fā)展。

面向未來，邊緣智能將呈現(xiàn)四大明顯的發(fā)展趨勢。首先是核心芯片集成度更高、算力更強，整體方案更加智能；其次是系統(tǒng)架構(gòu)更加靈活，更容易開發(fā)和部署；第三是邊緣智能方案的能效比將不斷提升，使得更多的AI負(fù)載將卸載到邊緣端；最后是邊緣智能的生態(tài)將更加成熟，圍繞核心硬件將會有更加豐富的配套工具和開發(fā)環(huán)境。

而在邊緣智能技術(shù)不斷提升的過程中，電子元器件始終都將是整個方案最核心的部分之一，貿(mào)澤電子將持續(xù)為行業(yè)帶來前沿的元器件產(chǎn)品，助力實現(xiàn)更好的邊緣智能方案。