傳感器端也能實(shí)現(xiàn)AI推理　

作者 王瑩

　　網(wǎng)絡(luò)邊緣計(jì)算革命蓄勢(shì)待發(fā)，不過(guò)，只有具備AI系統(tǒng)專長(zhǎng)的開(kāi)發(fā)人員方可駕輕就熟。隨著用戶尋求更高級(jí)別的智能，對(duì)于靠近IoT(物聯(lián)網(wǎng))數(shù)據(jù)源的低功耗推理的需求將與日俱增。這些傳感器端，尤其是超低功耗的傳感器端如何實(shí)現(xiàn)人工智能?

　　近日，萊迪思半導(dǎo)體公司推出了超低功耗 Lattice SensAI。公司亞太區(qū)資深事業(yè)發(fā)展經(jīng)理陳英仁先生稱其低功耗FPGA將與MCU(微控制器)競(jìng)爭(zhēng)，主攻低功耗、對(duì)計(jì)算精度要求不是很高、低成本、小尺寸的嵌入式AI市場(chǎng)。

哪些場(chǎng)景需要傳感器“AI推理”?

　　如果說(shuō)控制是rule driven(規(guī)則驅(qū)動(dòng))，那么AI是data driven(數(shù)據(jù)驅(qū)動(dòng))的。眾所周知，AI主要做培訓(xùn)和推理。云端做培訓(xùn)較多，萊迪思定位的傳感器端AI只做推理，“這些毫瓦級(jí)功耗FPGA將為機(jī)器學(xué)習(xí)推理在大眾市場(chǎng)物聯(lián)網(wǎng)應(yīng)用中實(shí)現(xiàn)快速部署創(chuàng)造機(jī)遇?！?/p>

圖1  sensAI的核心是倒數(shù)第二行的“IP核”和第三行的“軟件工具”

　　就像做壽司的師傅的手指運(yùn)動(dòng)，許多手指動(dòng)作無(wú)需傳到大腦，是有經(jīng)驗(yàn)的習(xí)慣性動(dòng)作。同樣，有些推理也無(wú)需傳到云端或用復(fù)雜的計(jì)算芯片，例如人在室內(nèi)靜止不動(dòng)，智能照明系統(tǒng)有可能沒(méi)有發(fā)現(xiàn)人而自動(dòng)關(guān)閉，如果有低功耗的人臉檢測(cè)就不會(huì)發(fā)生這種事了。智能門鎖通常用紅外感測(cè)，人走近密碼小門打開(kāi)，但狗或動(dòng)物走近，也會(huì)打開(kāi)，人臉檢測(cè)能感測(cè)到人走近，密碼小門才會(huì)打開(kāi)。超市可以用人臉檢測(cè)統(tǒng)計(jì)人流，或識(shí)別性別以推送個(gè)性化廣告等。再有，智能音箱通常是聯(lián)網(wǎng)的，需要云端處理，有時(shí)為了隱私安全，也希望一些音樂(lè)存在音箱里，在線下就能控制和聽(tīng)音樂(lè)。有時(shí)近似的聲音聽(tīng)不了，例如音箱知道“你好”，有時(shí)你叫“李浩”，音箱也會(huì)有所反應(yīng)，因此就要給音箱一些小智慧。工廠中的馬達(dá)聲音有異常，上傳到云端來(lái)不及，傳感器端就可立即做出應(yīng)急反應(yīng)。

　　具體地，如何教給音箱識(shí)別“你好”和“李浩”?就像訓(xùn)練小孩一樣，可以說(shuō)：“李浩，你好。”或：“李浩不是你好”。只要有足夠多的樣本去描述要檢測(cè)的目標(biāo)，AI音箱就可以學(xué)會(huì)，變成一個(gè)算法。

sensAI是什么?

　　Lattice sensAI是一種結(jié)合模塊化硬件套件、神經(jīng)網(wǎng)絡(luò)IP核、軟件工具、參考設(shè)計(jì)和定制化設(shè)計(jì)服務(wù)的完整技術(shù)集合，旨在促進(jìn)機(jī)器學(xué)習(xí)推理的大眾市場(chǎng) IoT應(yīng)用。如圖1，sensAI的核心主要是倒數(shù)第二的“IP核”和第三行的“軟件工具”。

　　Lattice sensAI提供經(jīng)優(yōu)化的解決方案，具有超低功耗(低于 1 mW~1 W)、封裝尺寸小(5.5~100 mm2)、接口靈活(諸如MIPI? CSI-2、LVDS、GigE 等)和批量?jī)r(jià)格低(約 1~10 美元)等優(yōu)勢(shì)，可加速實(shí)現(xiàn)更接近數(shù)據(jù)源的網(wǎng)絡(luò)邊緣計(jì)算。

圖2   sensAI的市場(chǎng)定位

　　從圖2可見(jiàn)，Lattice sensAI的主要競(jìng)爭(zhēng)者是MCU。與MCU相比，Lattice sensAI的優(yōu)勢(shì)是靈活支持各類傳統(tǒng)接口，且功耗極低，只有1 mW~1 W。

　　適用于解決網(wǎng)絡(luò)邊緣的計(jì)算問(wèn)題，Lattice sensAI優(yōu)勢(shì)包括：1.模塊化硬件平臺(tái)—— 基于 ECP5?器件的視頻接口平臺(tái)(VIP)，包括嵌入式視覺(jué)開(kāi)發(fā)套件和基于 iCE40 UltraPlus?器件的移動(dòng)開(kāi)發(fā)平臺(tái)(MDP);2.IP核——卷積神經(jīng)網(wǎng)絡(luò)(CNN)加速器和二值神經(jīng)網(wǎng)絡(luò)(BNN)加速器;3.軟件工具——從 Caffe/TensorFlow到 FPGA的神經(jīng)網(wǎng)絡(luò)編譯器工具、Lattice RadiantTM 設(shè)計(jì)軟件和 Lattice Diamond設(shè)計(jì)軟件;4.參考設(shè)計(jì)——人臉檢測(cè)、關(guān)鍵詞檢測(cè)、對(duì)象計(jì)數(shù)、面部跟蹤和速度標(biāo)志牌檢測(cè);5.設(shè)計(jì)服務(wù)。