新聞中心

EEPW首頁 > 模擬技術(shù) > 業(yè)界動(dòng)態(tài) > 想和人腦一樣智能? IBM 的芯片級(jí)模仿才是關(guān)鍵

想和人腦一樣智能? IBM 的芯片級(jí)模仿才是關(guān)鍵

作者: 時(shí)間:2016-10-11 來源:雷鋒網(wǎng) 收藏

  深度學(xué)習(xí)軟件毫無疑問推動(dòng)了人工智能的浪潮?,F(xiàn)在,許多公司和研究人員都在花大力氣在軟硬件上對人腦進(jìn)行模擬。

本文引用地址:http://butianyuan.cn/article/201610/311172.htm

  在硬件方面主要是通過對大型神經(jīng)網(wǎng)絡(luò)進(jìn)行仿真。如Google的深度學(xué)習(xí)系統(tǒng)GoogleBrain,微軟的Adam等。但是這些網(wǎng)絡(luò)需要大量傳統(tǒng)計(jì)算機(jī)的集群。比方說GoogleBrain就采用了1000臺(tái)各帶16核處理器的計(jì)算機(jī),這種架構(gòu)盡管展現(xiàn)出了相當(dāng)?shù)哪芰?,但是能耗依然巨大?/p>

  而則是從著手進(jìn)行模仿。:它設(shè)計(jì)了一種叫TrueNorth的仿人腦電腦,并把它當(dāng)做深度學(xué)習(xí)的硬件平臺(tái)。目前,公司正在對該的性能進(jìn)行研究測試。

  深度學(xué)習(xí)之所以能力強(qiáng)大,關(guān)鍵在于其中的一項(xiàng)算法——卷積神經(jīng)網(wǎng)絡(luò)(convolutionalneuralnetworks)。它包含了大量的節(jié)點(diǎn)層(layersofnodes),也稱神經(jīng)元(neurons)。像這樣的神經(jīng)網(wǎng)絡(luò)可以通過深度結(jié)構(gòu)過濾大量的信息,進(jìn)而實(shí)現(xiàn)自動(dòng)識(shí)別人臉或理解不同語言的功能。

  不久前的一項(xiàng)研究顯示,在能支持多種神經(jīng)網(wǎng)絡(luò)的仿人腦硬件上,卷積神經(jīng)網(wǎng)絡(luò)算法同樣有用。

  7月9日,把自己的一項(xiàng)研究成果刊登在了ProceedingsoftheNationalAcademyofSciences上。該項(xiàng)研究由U.S.DefenseAdvancedResearchProjectsAgency(DARPA)資助,數(shù)額近100萬美元。這項(xiàng)支持是該機(jī)構(gòu)皮質(zhì)處理器項(xiàng)目(CorticalProcessorprogram)的一部分,旨在促進(jìn)能識(shí)別復(fù)雜情況和適應(yīng)環(huán)境變化的仿人腦人工智能的研究。

  DharmendraModha是IBM研究中心Almaden仿人腦計(jì)算項(xiàng)目首席科學(xué)家。他表示:

  這個(gè)研究具有里程碑式的意義,而且證實(shí)了一個(gè)顯而易見的概念:仿人腦計(jì)算的運(yùn)行效率會(huì)隨著深度學(xué)習(xí)效率的提升而提升,而這又為新一代芯片和算法提高工作效率和正確率鋪平了道路。

  2011年,IBM第一次對外具體公布TrueNorth和其芯片原型,而以卷積神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)發(fā)展起來的深度學(xué)習(xí)革命卻開始于2012年。由此可看出,剛開始并不是專門為了應(yīng)用深度學(xué)習(xí)而設(shè)計(jì)TrueNorth,反而有了TrueNorth才促進(jìn)了脈沖神經(jīng)網(wǎng)絡(luò)去模仿真實(shí)生物大腦中的神經(jīng)元連接構(gòu)造。

  脈沖神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元并不是在每一次迭代傳播中都被激活(而在典型的多層感知機(jī)網(wǎng)絡(luò)中卻是),而是在它的膜電位達(dá)到某一個(gè)特定值后才被激活。這有效減少了圖形認(rèn)知或語言處理的運(yùn)行速度。

  但深度學(xué)習(xí)專家卻覺得,同樣是用在機(jī)器學(xué)習(xí)上,至少和卷積神經(jīng)網(wǎng)絡(luò)相比,脈沖神經(jīng)網(wǎng)絡(luò)的效率并不夠高。

  YannLeCun是Facebook人工智能研究院理事、深度學(xué)習(xí)領(lǐng)域的先驅(qū)。他曾批評過IBM的TrueNorth芯片,把它稱之為草包族科學(xué)。他說,IBM只是復(fù)制了機(jī)器的表象,卻沒有深入理解及其背后的原理。

  有反對的聲音,但也有支持的聲音。ZacharyChaseLipton是加州大學(xué)(位于圣地亞哥)人工智能團(tuán)隊(duì)深度學(xué)習(xí)研究員。他說,

  TrueNorth可以促進(jìn)實(shí)現(xiàn)神經(jīng)形態(tài)計(jì)算,要知道,深層次模仿和理解生物大腦正是神經(jīng)形態(tài)計(jì)算的功勞。

  通過對比不同學(xué)者們的觀點(diǎn)可以發(fā)現(xiàn),深度學(xué)習(xí)研究人員通常更關(guān)心的是如何使實(shí)踐結(jié)果應(yīng)用到以人工智能為技術(shù)支撐的服務(wù)和產(chǎn)品上。

  還拿那個(gè)老套的鳥和飛機(jī)的比喻做例子。你可能覺得卷積神經(jīng)科學(xué)研究鳥更多;而脈沖神經(jīng)科學(xué)則更多關(guān)注空氣動(dòng)力學(xué),生物學(xué)可有可無。

  專有計(jì)算機(jī)硬件對機(jī)器學(xué)習(xí)的好處越來越明顯。因此,神經(jīng)形態(tài)芯片并沒有讓人覺得很興奮的原因主要是,在深度學(xué)習(xí)中脈沖神經(jīng)網(wǎng)絡(luò)并沒有那么流行。

  因此,為了使TrueNorth芯片能更好的應(yīng)用機(jī)器學(xué)習(xí),IBM必須研究出一種新的算法來幫助卷積神經(jīng)網(wǎng)絡(luò)在神經(jīng)形態(tài)計(jì)算機(jī)硬件上運(yùn)行的更好。

  在研究測試中,TrueNorth可以給圖片數(shù)據(jù)分類,每秒速度1200-2600幀,能耗25-275毫瓦。處理器還能夠識(shí)別圖片模式,這些圖片是50-100個(gè)攝像頭以每秒24幀的速度拍攝的。

  TrueNorth剛開始進(jìn)行深度學(xué)習(xí)測試就獲得這樣的結(jié)果,給人的印象好像還挺深刻。但是,大家還是謹(jǐn)慎為好,Lipton說,畢竟視覺數(shù)據(jù)集在處理32×32素的圖像時(shí),還存在有少量問題。

  不過這可影響不到Modha。他依舊懷著熱切的心情繼續(xù)著TrueNorth深度學(xué)習(xí)測試。他和他的同事希望芯片測試能在無限制的深度學(xué)習(xí)環(huán)境下進(jìn)行。這需要他們在訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí)逐步引進(jìn)硬件限制,而不是從一開始就對其完全限制。

  Modha還指出,TrueNorth的其中一個(gè)優(yōu)勢是它的普適性,其他很多深度學(xué)習(xí)硬件都只能在卷積神經(jīng)網(wǎng)絡(luò)上運(yùn)行,但TrueNorth可以接受多種類型的人工智能網(wǎng)絡(luò)。

  “TrueNorth不僅可運(yùn)行卷積神經(jīng)網(wǎng)絡(luò)(雖然設(shè)計(jì)者一開始無意于此),支持多種包括反饋、橫向以及前饋的連接模式,還能應(yīng)用多種其他的算法。”

  像這樣的類生物芯片只有比其他深度學(xué)習(xí)硬件應(yīng)用更出眾才能流行起來,Lipton說。同時(shí),他還建議到,IBM可以利用它的硬件公司,和Google、Intel一起為設(shè)計(jì)深度學(xué)習(xí)專用芯片而奮斗。

  “我想,未來肯定會(huì)一些神經(jīng)形態(tài)芯片制造商,他們會(huì)通過自己的硬件公司來加速芯片的發(fā)展以使整個(gè)行業(yè)更集中于實(shí)踐性深度學(xué)習(xí)的應(yīng)用,而不是純粹的生物模仿。”



關(guān)鍵詞: IBM 芯片

評論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉