Imagination談工業(yè)AI的機(jī)遇與挑戰(zhàn)

問：依您看，邊緣AI將給某類工業(yè)應(yīng)用帶來哪些新變化？

答：邊緣AI將在未來幾年發(fā)生巨大變化。邊緣設(shè)備中的神經(jīng)網(wǎng)絡(luò)加速能力以指數(shù)級(jí)的速度向前發(fā)展，意味著完全在設(shè)備上完成處理只是時(shí)間問題。

例如，自動(dòng)化技術(shù)、機(jī)器人和傳感技術(shù)的進(jìn)步都會(huì)體現(xiàn)在我們身邊的各種機(jī)器上，這將意味著工業(yè)安全的真正改善。由人工智能物聯(lián)網(wǎng)（AIoT）驅(qū)動(dòng)的智能機(jī)器可以檢查出當(dāng)機(jī)械臂在其運(yùn)動(dòng)范圍內(nèi)快速擺動(dòng)時(shí)沒有人處于其運(yùn)動(dòng)路徑上，還可以檢查過程和材料中的缺陷，這意味著偏差會(huì)越來越小，質(zhì)量會(huì)進(jìn)一步提高。

自動(dòng)化程度的提高帶來的關(guān)鍵機(jī)會(huì)是可以提高過程智能，從而使設(shè)備不僅可以成為數(shù)據(jù)驅(qū)動(dòng)的設(shè)備，而且具有分享知識(shí)的能力，這一過程稱為聯(lián)合學(xué)習(xí)或遷移學(xué)習(xí)。這將提高生產(chǎn)力、可靠性和質(zhì)量，降低成本，并增加產(chǎn)量。

Imagination Technologies公司 AI資深產(chǎn)品總監(jiān) Andrew Grant

問：其技術(shù)挑戰(zhàn)是什么？

答：上文提及的方案很快就會(huì)在您身邊的機(jī)器上有所體現(xiàn)，目前還有一些技術(shù)挑戰(zhàn)正待解決。例如，現(xiàn)在傳感器數(shù)據(jù)會(huì)被匯總并反饋至云端以進(jìn)行決策，這會(huì)增加延遲，產(chǎn)生連接和數(shù)據(jù)中心方面的成本。然而，我們越來越多地可以在嵌入式邊緣設(shè)備上進(jìn)行神經(jīng)網(wǎng)絡(luò)推理，使邊緣設(shè)備可以有效地做出自我決策，同時(shí)只需將重要信息傳達(dá)給中央控制端。隨著這些設(shè)備的推出，我們將看到顯著的改善，例如減少延遲、降低功耗，以及無需去“呼叫總部”。

在某些情況下，所面臨的挑戰(zhàn)是成本問題，因?yàn)楣I(yè)物聯(lián)網(wǎng)相當(dāng)碎片化，某個(gè)特定的應(yīng)用場景可能僅有小批量的需求，這意味著系統(tǒng)構(gòu)建者和SoC設(shè)計(jì)人員必須設(shè)計(jì)一個(gè)擁有廣泛用途的基本規(guī)范，從而將眾多小批量應(yīng)用匯總成大批量。好消息是，神經(jīng)網(wǎng)絡(luò)加速器的進(jìn)步意味著可以在比針頭或句尾的句號(hào)還小的芯片中添加支持這些應(yīng)用的功能。這也意味著“智能”可以被添加到嵌入式設(shè)備中，使這些設(shè)備可以運(yùn)行各種各樣的神經(jīng)網(wǎng)絡(luò)模型和算法，進(jìn)而憑借足夠的靈活性去應(yīng)對多種應(yīng)用場景。

問：貴公司是如何解決這些難點(diǎn)的？有哪些創(chuàng)新性的解決方案推薦？

答：在Imagination Technologies，我們一直跟隨著客戶的步伐，并希望通過我們的研發(fā)能力來預(yù)見到這些問題。因此，我們可以憑借自己的神經(jīng)網(wǎng)絡(luò)加速器（NNA）為邊緣AI提供全面的計(jì)算解決方案，相比其他方法，NNA可以指數(shù)倍的速度運(yùn)行神經(jīng)網(wǎng)絡(luò)層，同時(shí)具有運(yùn)行自定義層所需的靈活性。有了神經(jīng)網(wǎng)絡(luò)加速功能，意味著網(wǎng)絡(luò)可以在設(shè)備上運(yùn)行，從而支持在邊緣進(jìn)行數(shù)據(jù)驅(qū)動(dòng)的決策。我們還可以提供豐富的IP內(nèi)核設(shè)計(jì)和各種性能配置，以滿足市場上所有領(lǐng)域的需求，我們支持非常小的尺寸，也支持非常強(qiáng)大的功能和卓越的性能，同時(shí)可以做到硅成本最低，這是因?yàn)镮magination的一整套技術(shù)源于長久以來在智能手機(jī)等移動(dòng)設(shè)備上的設(shè)計(jì)積累，在這些設(shè)備中，Imagination提供的高效的性能、低功耗（對于電池供電或通過能量采集供電的設(shè)備尤其重要）和小的硅面積等特性意味著可以降低成本同時(shí)提高效用。