想做AI芯片？這家“中國擁有的外國公司”出了新的神經(jīng)網(wǎng)絡(luò)加速器內(nèi)核

   近日，Imagination Tecnhologies在京舉辦了“Imagination人工智能（AI）研討會”，會上宣布推出PowerVR Series2Nx神經(jīng)網(wǎng)絡(luò)加速器（NNA）內(nèi)核。會上，主管PowerVR視覺和人工智能業(yè)務(wù)的副總裁Russell James與中國區(qū)區(qū)域市場和業(yè)務(wù)拓展總監(jiān)柯川先生，介紹了AI及芯片的發(fā)展?fàn)顩r，及Imagination新產(chǎn)品、公司的中資背景。

      AI已處于快速發(fā)展階段

　　AI分為四個階段，如下圖。

　　1.基礎(chǔ)研究階段。每當(dāng)一個新技術(shù)來臨時，一些大學(xué)院所機(jī)構(gòu)和大公司(例如英特爾、谷歌等有基礎(chǔ)研究部門)會進(jìn)行反復(fù)研究論證，找到產(chǎn)業(yè)可能性。

　　2.應(yīng)用研究階段，公司企業(yè)嘗試讓新技術(shù)通過原型機(jī)認(rèn)證，以極大地解決生產(chǎn)生活中的痛點(diǎn)。

　　3.產(chǎn)業(yè)快速發(fā)展階段。此時機(jī)會多，新公司、大公司多，整個產(chǎn)業(yè)迅速發(fā)展。

　　4.最后會出現(xiàn)一個相對成熟的市場，形成一些壟斷企業(yè)/寡頭，大浪淘沙，小魚和慢魚被淘汰。

　　目前AI產(chǎn)業(yè)處于快速導(dǎo)入階段，這也是公司資本和個人都在追逐的，前途非常光明。

　　AI發(fā)展最多的是與應(yīng)用的結(jié)合，例如金融、安防、醫(yī)療、教育、客服、視頻/娛樂、零售/電商、建筑、法律、招聘、新聞資訊等，每個行業(yè)都有領(lǐng)先的企業(yè)或獨(dú)角獸(如下圖)。

　　大部分落地應(yīng)用的共同特點(diǎn)是取代一些簡單的人工勞動，例如智能客服(代替人接電話)、人臉識別等。

　　如果要把AI進(jìn)一步做大做強(qiáng)，需要知識圖譜的概念和數(shù)據(jù)結(jié)構(gòu)化，使應(yīng)用算法在行業(yè)里做深、做寬、做大。從弱AI到強(qiáng)AI方面，國內(nèi)外很多大企業(yè)和頂尖院校正在做積累，希望在未來發(fā)揮更大的作用。

　　AI和NN的關(guān)系

　　NN(神經(jīng)網(wǎng)絡(luò))是實(shí)現(xiàn)AI的方式之一，但不是唯一方式。

　　圖：人工智能部分算法

　　NN目前是各行各業(yè)最火最熱的技術(shù)與應(yīng)用之一，這催生了NN從算法到芯片等的行業(yè)的大發(fā)展。

　　邊緣AI的機(jī)會

　　很多人認(rèn)為是英偉達(dá)做的數(shù)據(jù)訓(xùn)練非常成功。但隨著行業(yè)逐步加深，應(yīng)用逐步多，發(fā)現(xiàn)僅僅在服務(wù)器端還不夠的，端側(cè)可以做極大延伸。例如，安防從嵌入式視覺系統(tǒng)到視覺導(dǎo)向的自主系統(tǒng)，即過去紅外攝像頭，保安和監(jiān)控人員要看一二十個小時，現(xiàn)在把人眼看的部分，通過算法和數(shù)據(jù)集中到服務(wù)器端，下一步希望減少服務(wù)器的負(fù)擔(dān)，在端側(cè)——攝像頭去做識別。這樣做的好處，首先是可以減少網(wǎng)絡(luò)帶寬，因?yàn)榫W(wǎng)絡(luò)存儲等成本非常高;其次是性能，端處理回傳會延時;第三是隱私性。

　　另一個案例是無人機(jī)避障。如果通過云端或GPU做，需要10~15 m的緩沖區(qū)，這意味著在10-15 m之內(nèi)無法判斷，對消費(fèi)類還可以，但農(nóng)業(yè)、漁業(yè)、防火救災(zāi)等場景就不夠了，需要精度在1 m之內(nèi)，這就需要端側(cè)的高效處理能力。

　　市面上有各種方案，如下圖。1.CPU盡管什么都可以做，但處理神經(jīng)網(wǎng)絡(luò)效率低，2.DSP最大的問題是有非常少的人員可以基于DSP去做編程，沒有標(biāo)準(zhǔn)化和可覆蓋。3.GPU，英偉達(dá)證明了非常適合處理AI，GPU有標(biāo)準(zhǔn)化的編程方式，但GPU還是功耗較大。是否有功耗非常低又非常靈活?4.固定功能的硬化，一旦硬化后只能做一件事，遠(yuǎn)遠(yuǎn)不夠產(chǎn)業(yè)化。

　　為此，Imagination有“GPU+NNA”方案。

       NNA的性能比對

　　據(jù)Imagination測算，傳統(tǒng)GPU搜1000張圖需要1分鐘;若在端側(cè)處理，若采用Imagination的PowerVR NNA，用2秒就可以解決。同樣花費(fèi)1%功耗，GPU可處理2400張圖片，端處理器PowerVR NNA可以做接近43萬張圖片處理。視頻處理時，GPU做1分20秒的處理，如果用Imagination的端側(cè)處理，可以做接近4個小時。