超越CPU與GPU之爭，英特爾研發(fā)神經(jīng)元AI處理器

　　剛剛，黃仁勛在北京跑步上臺(tái)演講，莊嚴(yán)宣布：CPU的時(shí)代結(jié)束了。

　　好巧，英特爾說：不單CPU不行了，GPU也不行了。

　　這位CPU霸主表示，隨著高度動(dòng)態(tài)和非結(jié)構(gòu)既然數(shù)據(jù)的相關(guān)需求逐漸增加，未來計(jì)算的需求將超越經(jīng)典的CPU和GPU體系結(jié)構(gòu)。

　　那怎么辦?

　　英特爾這么說，肯定有辦法。英特爾實(shí)驗(yàn)室今天宣布，正在研發(fā)出代號(hào)“Loihi”的自學(xué)習(xí)神經(jīng)元芯片，模仿了大腦的功能，能從環(huán)境反饋中直接學(xué)習(xí)。

　　所謂自學(xué)習(xí)、模仿大腦，意思是Loihi內(nèi)部由128個(gè)計(jì)算核心組成，每個(gè)核心有1024個(gè)“神經(jīng)元”，總計(jì)超過13萬個(gè)神經(jīng)元和1.3億個(gè)突觸鏈接，和大腦的神經(jīng)元一樣，它們可以調(diào)整相互之間的聯(lián)系，以適應(yīng)新的任務(wù)。

　　從神經(jīng)元數(shù)量上講，Loihi比龍蝦的大腦還要復(fù)雜一點(diǎn)。不過與人腦相比還相去甚遠(yuǎn)，人腦由超過800億個(gè)神經(jīng)元組成。

　　Loihi不需要通過傳統(tǒng)的方式進(jìn)行訓(xùn)練，而且會(huì)隨著時(shí)間的增加變得越來越智能，而且功耗極低，這款處理器使用異步脈沖方式進(jìn)行計(jì)算。

　　“大腦內(nèi)部的溝通沒有想象中的頻繁”，英特爾實(shí)驗(yàn)室資深首席工程師兼首席科學(xué)家Narayan Srinivasa表示：“這款芯片只有脈沖出現(xiàn)時(shí)才消耗能量”。

　　下面是英特爾對(duì)Loihi芯片的詳細(xì)說明。

　　Loihi簡介

　　Loihi芯片包含模擬大腦基本機(jī)制的數(shù)字電路，使機(jī)器學(xué)習(xí)更快、更高效，同時(shí)降低對(duì)計(jì)算資源的需求。

　　神經(jīng)形態(tài)芯片模型的靈感來自于神經(jīng)元通信和學(xué)習(xí)的方式，利用了可根據(jù)時(shí)間調(diào)節(jié)的脈沖和塑料觸突?；谀Ｊ胶完P(guān)聯(lián)，這將幫助計(jì)算機(jī)實(shí)現(xiàn)自組織，做出決策。

　　Loihi芯片提供了非常靈活的片上學(xué)習(xí)能力，將訓(xùn)練和推理整合至同一塊芯片上。這幫助機(jī)器實(shí)現(xiàn)自動(dòng)化，實(shí)時(shí)調(diào)整，而無需等待來自云計(jì)算平臺(tái)的下一次信息更新。

　　研究人員已證明，與其他典型的脈沖神經(jīng)網(wǎng)絡(luò)相比，在解決MNIST數(shù)字識(shí)別問題時(shí)，以實(shí)現(xiàn)一定準(zhǔn)確率所需要的總操作數(shù)來看，Loihi芯片學(xué)習(xí)速度提高了100萬倍。

　　與卷積神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)相比，Loihi芯片在同樣的任務(wù)中需要更少的資源。

　　在優(yōu)化汽車和工業(yè)應(yīng)用，以及個(gè)人機(jī)器人方面，這款測試芯片的自學(xué)能力帶來了巨大潛力，例如識(shí)別汽車或自行車的運(yùn)動(dòng)。在非結(jié)構(gòu)化環(huán)境中，這些應(yīng)用可以受益于自動(dòng)化操作和持續(xù)學(xué)習(xí)。

　　此外，與通常用于訓(xùn)練人工智能系統(tǒng)的芯片相比，Loihi芯片的能效提升了1000倍。

　　參數(shù)

　　全異步神經(jīng)形態(tài)多核心網(wǎng)絡(luò)，支持多種稀疏、分層和循環(huán)神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)。每個(gè)神經(jīng)元可以與成千上萬個(gè)其他神經(jīng)元通信。

　　每個(gè)神經(jīng)形態(tài)核心都包含一個(gè)學(xué)習(xí)引擎，在操作中可以通過編程去適配網(wǎng)絡(luò)參數(shù)，支持監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)和其他學(xué)習(xí)范式。

　　芯片的制造采用了英特爾14納米工藝。

　　總共提供了13萬個(gè)神經(jīng)元和1.3億個(gè)觸突。

　　對(duì)于多種算法的開發(fā)和測試，實(shí)現(xiàn)了極高的算法效率。這些算法包括路徑規(guī)劃、約束滿足、稀疏編碼、字典學(xué)習(xí)，以及動(dòng)態(tài)模式學(xué)習(xí)和適配。

　　下一步

　　英特爾表示，在計(jì)算機(jī)和算法創(chuàng)新的推動(dòng)下，人工智能的變革性力量預(yù)計(jì)將給社會(huì)帶來重大影響。這家芯片巨頭正通過多種產(chǎn)品，解決從網(wǎng)絡(luò)邊緣到數(shù)據(jù)中心和云計(jì)算平臺(tái)，人工智能計(jì)算任務(wù)的獨(dú)特需求。

　　隨著人工智能計(jì)算任務(wù)越來越多多樣化，越來越復(fù)雜，研究者將關(guān)注當(dāng)前主流計(jì)算架構(gòu)的局限性，提出新的顛覆性方法。展望未來，英特爾認(rèn)為，神經(jīng)形態(tài)計(jì)算帶來了一種方式，以類似大腦的結(jié)構(gòu)提供超大規(guī)模的計(jì)算性能。

　　但英特爾不是第一家使用神經(jīng)科學(xué)指導(dǎo)芯片設(shè)計(jì)的公司。

　　IBM已經(jīng)構(gòu)建了兩代神經(jīng)形態(tài)處理器，稱為TrueNorth，這個(gè)芯片同樣基于脈沖神經(jīng)元模式。TrueNorth芯片包括4096個(gè)核心和540萬個(gè)晶體管，功耗70毫瓦，模擬了一百萬個(gè)神經(jīng)元和2.56億個(gè)突觸，這個(gè)數(shù)字在Loihi之上。

　　TrueNorth相當(dāng)于一個(gè)蜜蜂的大腦。

　　不過與英特爾的芯片不同，TrueNorth芯片無法基于輸入數(shù)據(jù)進(jìn)行學(xué)習(xí)。IBM的研究得到了DARPA的資助，并且與兩家實(shí)驗(yàn)室合作，但目前也沒有商業(yè)可用性的進(jìn)展。

　　不少AI專家對(duì)神經(jīng)元芯片心存疑慮。IBM在2014年發(fā)表TrueNorth的第一篇論文時(shí)，Yann LeCun就曾指出，這類芯片很難運(yùn)行卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像識(shí)別計(jì)算。Srinivasa也證實(shí)Loihi在某些深度學(xué)習(xí)模型上表現(xiàn)不佳。

　　無論英特爾神經(jīng)元芯片最終結(jié)果如何，這都顯示出英特爾已經(jīng)意識(shí)到CPU不是唯一。隨著AI的重要性日益增加，英特爾正不斷擁抱其他芯片。2015年，英特爾億167億美元收購FPGA廠商Altera。去年，英特爾4億美元收購AI芯片商N(yùn)ervana。

　　至于Loihi，2018年上半年，英特爾將與部分大學(xué)和研究機(jī)構(gòu)分享Loihi測試芯片。不過，這款芯片有可能三五年內(nèi)，都是實(shí)驗(yàn)性的產(chǎn)品。