支持廣泛神經(jīng)網(wǎng)絡(luò)架構(gòu)的VIP8000處理器

作者/芯原視覺(jué)圖像產(chǎn)品開(kāi)發(fā)副總裁 林尙宏

機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)處理技術(shù)承載著嵌入式處理器下一個(gè)主要的市場(chǎng)機(jī)會(huì)。國(guó)際數(shù)據(jù)公司(IDC)預(yù)測(cè)，全球在人工智能和機(jī)器學(xué)習(xí)方面的支出將從2016年的80億美元增長(zhǎng)到2020年的470億美元。AI爆發(fā)式增長(zhǎng)的背后有三個(gè)主要的驅(qū)動(dòng)力：算法的快速演進(jìn)、強(qiáng)大的技術(shù)平臺(tái)以及大數(shù)據(jù)。AI日益無(wú)處不在，這就要求消費(fèi)電子、汽車(chē)電子、工業(yè)4.0等終端產(chǎn)品具備實(shí)時(shí)神經(jīng)網(wǎng)絡(luò)推理、可靈活升級(jí)至最新最優(yōu)算法，以及從持續(xù)學(xué)習(xí)中收集有用信息的能力。

芯原是一家芯片設(shè)計(jì)平臺(tái)及服務(wù)（Silicon Platform as a Service，SiPaaS?）提供商，為包含移動(dòng)互聯(lián)設(shè)備、數(shù)據(jù)中心、物聯(lián)網(wǎng)(IoT)、汽車(chē)、工業(yè)和醫(yī)療設(shè)備在內(nèi)的廣泛終端市場(chǎng)提供全面的系統(tǒng)級(jí)芯片(SoC)和系統(tǒng)級(jí)封裝(SiP)解決方案。芯原的機(jī)器學(xué)習(xí)和人工智能技術(shù)已經(jīng)全面布局智慧設(shè)備的未來(lái)發(fā)展?；赟iPaaS服務(wù)理念，芯原助力客戶在設(shè)計(jì)和研發(fā)階段領(lǐng)先一步，從而專(zhuān)注于差異化等核心競(jìng)爭(zhēng)優(yōu)勢(shì)。芯原一站式端到端的解決方案則能夠在短時(shí)間內(nèi)打造出從定義到測(cè)試封裝完成的半導(dǎo)體產(chǎn)品。寬泛靈活的SiPaaS解決方案為客戶帶去高效經(jīng)濟(jì)的半導(dǎo)體產(chǎn)品替代解決方案。

芯原還提供廣泛且多樣的處理器IP，如GPU、DSP、顯示控制IP、ISP、視頻CODEC，以及神經(jīng)網(wǎng)絡(luò)處理器IP等。其中，VIP8000神經(jīng)網(wǎng)絡(luò)處理器達(dá)到了業(yè)界最高的推理性能和能效水平，是目前市面上最為可擴(kuò)展的神經(jīng)網(wǎng)絡(luò)處理平臺(tái)。該神經(jīng)網(wǎng)絡(luò)引擎運(yùn)算速度范圍可從0.5到72萬(wàn)億次運(yùn)行/秒(TeraOPS) ，在16nm工藝制程下功率效率可達(dá)10萬(wàn)億次運(yùn)行/瓦。隨著最新的分級(jí)壓縮、適配的平鋪/緩存、裁剪、獲取跳過(guò)以及圖像融合技術(shù)的引用，VIP8000為與其相關(guān)的處理器架構(gòu)進(jìn)一步降低了內(nèi)存帶寬需求。新一代神經(jīng)網(wǎng)絡(luò)引擎IP的推出，使得芯原成為這類(lèi)應(yīng)用市場(chǎng)發(fā)展的重要推力。從永不斷電的電池驅(qū)動(dòng)類(lèi)IoT客戶端到AI服務(wù)器集群，性能領(lǐng)先業(yè)界的VIP8000處理器將持續(xù)擴(kuò)大其應(yīng)用空間。

VIP8000不僅優(yōu)于所有傳統(tǒng)的DSP、GPU，以及CPU混合系統(tǒng)，還通過(guò)了業(yè)界驗(yàn)證，于1年半以前便授權(quán)給用戶使用。2017年，10家主要的ASIC設(shè)計(jì)廠商在通過(guò)評(píng)估各類(lèi)IP和SoC解決方案、并進(jìn)行嚴(yán)格的性能篩選后，最終選擇了采用VIP產(chǎn)品。芯原已將此類(lèi)IP成功授權(quán)給ADAS、自動(dòng)駕駛、安全監(jiān)控、家庭娛樂(lè)和服務(wù)器專(zhuān)用ASIC等廠商。

VIP8000支持寬泛的神經(jīng)網(wǎng)絡(luò)架構(gòu)，如TensorFlow、Caffe、AndroidNN、AmazonMachine Learning、ONNX、NNEF、AlexNet、VGG16、GoogLeNet、Yolo、Faster R-CNN、MobileNet、SqueezeNet、ResNet、RNN和LSTM等，此外，還提供大量軟件和硬件解決方案以幫助開(kāi)發(fā)者創(chuàng)建高性能神經(jīng)網(wǎng)絡(luò)模型和基于機(jī)器學(xué)習(xí)的應(yīng)用。由于與Vivante GPU架構(gòu)相同，VIP8000繼承了其OpenCL可編程性，硬件直接存儲(chǔ)器存取和時(shí)序安排，以及多環(huán)境并行處理的長(zhǎng)處。

對(duì)于終端設(shè)備來(lái)說(shuō)，有些AI應(yīng)用并不是孤立的應(yīng)用，而是可以同時(shí)增強(qiáng)現(xiàn)有的許多不同應(yīng)用。作為芯原Vivante IP產(chǎn)品系列的一部分，VIP8000處理器可以在兼顧芯片尺寸和功耗的情況下，輕松地與其他芯原處理器IP相集成。例如，基于共同的架構(gòu)，VIP8000神經(jīng)網(wǎng)絡(luò)引擎可以和任何Vivante GPU直接集成以面向AR/VR等應(yīng)用；還可以與芯原的ZSP音頻DSP集成以面向智能音箱的應(yīng)用；或是與ISP Nano集成實(shí)現(xiàn)低延遲機(jī)器視覺(jué)攝像頭的設(shè)計(jì)；又或是與Hantro視屏編碼相結(jié)合以實(shí)現(xiàn)更好的視頻內(nèi)容壓縮。

AI已經(jīng)無(wú)處不在?；谡趯?zhuān)利申請(qǐng)中的神經(jīng)網(wǎng)絡(luò)壓縮技術(shù)，VIP8000系列產(chǎn)品可幫助設(shè)計(jì)者快速交付采用AI技術(shù)的嵌入式產(chǎn)品，我們已經(jīng)和從嵌入式產(chǎn)品到服務(wù)器應(yīng)用的各個(gè)領(lǐng)先廠商展開(kāi)了深度合作。應(yīng)用和算法都在快速演進(jìn)，芯原的AI技術(shù)與公司其他廣泛的IP組合將為客戶帶去突破性的解決方案，以加速AI技術(shù)實(shí)現(xiàn)其產(chǎn)業(yè)價(jià)值。