博客專欄

EEPW首頁 > 博客 > 全球首臺(tái)!仿人腦超算「深南」即將面世,突破摩爾定律,能耗降低幾個(gè)數(shù)量級(jí)

全球首臺(tái)!仿人腦超算「深南」即將面世,突破摩爾定律,能耗降低幾個(gè)數(shù)量級(jí)

發(fā)布人:傳感器技術(shù) 時(shí)間:2024-01-03 來源:工程師 發(fā)布文章
 

編輯:潤(rùn)【導(dǎo)讀】澳大利亞和德國高校的科研人員合作,開發(fā)出全球首臺(tái)仿人腦規(guī)模超算,能執(zhí)行每秒228萬億次突觸操作,未來將為人工智能應(yīng)用提供人腦規(guī)模的計(jì)算能力!

人腦作為地球上最為高效的計(jì)算設(shè)備,可以僅僅用20w的功率,1.3公斤的質(zhì)量,就能完成每秒100萬億次的運(yùn)算量。

而現(xiàn)在人類最大的超級(jí)計(jì)算機(jī)Hewlett Packard Enterprise Frontier,也能以完成和人腦計(jì)算量相似的計(jì)算,但是占地680平米,運(yùn)行功率達(dá)到2270萬瓦。

這兩個(gè)數(shù)字之間的巨大能耗差異,凸顯出了人腦作為計(jì)算設(shè)備構(gòu)架上的先進(jìn)性。而最近,澳大利亞的科學(xué)家宣布,他們開發(fā)了一臺(tái)完全模仿人腦的超級(jí)計(jì)算機(jī)——DeepSouth,將在明年4月份上線。

這將是世界上第一臺(tái)能夠在人腦規(guī)模模擬神經(jīng)元(數(shù)十億)和突觸(數(shù)萬億)網(wǎng)絡(luò)的超級(jí)計(jì)算機(jī),可以模擬每秒228萬億次突觸操作。

西悉尼大學(xué)的ICNS團(tuán)隊(duì)與來自悉尼大學(xué)、墨爾本大學(xué)和德國亞琛大學(xué)的神經(jīng)形態(tài)領(lǐng)域的合作伙伴合作開發(fā)了這臺(tái)超算。

這臺(tái)超級(jí)計(jì)算機(jī)被命名為DeepSouth,是為了向IBM的TrueNorth系統(tǒng)和Deep Blue致敬。

西悉尼大學(xué)ICNS主任André van Schaik教授稱:

由于我們無法大規(guī)模模擬類腦網(wǎng)絡(luò),我們對(duì)大腦如何使用神經(jīng)元進(jìn)行計(jì)算的理解的進(jìn)展受到阻礙。使用圖形處理單元 (GPU) 和多核中央處理單元 (CPU) 在標(biāo)準(zhǔn)計(jì)算機(jī)上模擬脈沖神經(jīng)網(wǎng)絡(luò)(Spiking Neural Networks)速度太慢且耗電。我們的系統(tǒng)將改變這一點(diǎn)。


這個(gè)平臺(tái)將增進(jìn)我們對(duì)大腦的理解,并在傳感、生物醫(yī)學(xué)、機(jī)器人、太空和大規(guī)模人工智能應(yīng)用等不同領(lǐng)域開發(fā)大腦規(guī)模的計(jì)算應(yīng)用。

根據(jù)ICNS的說法,這個(gè)超算主要的收益在這幾個(gè)地方:

-極低功率完成超快速、大規(guī)模并行處理:大腦能夠以20瓦的功率處理相當(dāng)于每秒10^18次的運(yùn)算。

DeepSouth使用模擬大腦工作方式的神經(jīng)形態(tài)工程,可以快速處理大量數(shù)據(jù),使用的電量少得多,同時(shí)比其他超級(jí)計(jì)算機(jī)小得多。

-可擴(kuò)展性:系統(tǒng)允許添加更多硬件來創(chuàng)建更大的系統(tǒng),或者縮小規(guī)模以實(shí)現(xiàn)更小的便攜式或更經(jīng)濟(jì)高效的應(yīng)用程序。

-可重新配置:利用現(xiàn)場(chǎng)可編程門陣列 (Leveraging Field Programmable Gate Arrays,F(xiàn)PGA) 促進(jìn)硬件重新編程,從而能夠添加新的神經(jīng)元模型、連接方案和學(xué)習(xí)規(guī)則,從而克服使用定制設(shè)計(jì)硬件的其他神經(jīng)形態(tài)計(jì)算系統(tǒng)中出現(xiàn)的限制。

DeepSouth將通過前端進(jìn)行遠(yuǎn)程訪問,該前端允許使用流行的編程語言Python描述神經(jīng)模型和設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)。前端的開發(fā)使研究人員無需詳細(xì)了解硬件配置即可使用該平臺(tái)。

-商業(yè)可用性:利用商用硬件可確保硬件的持續(xù)改進(jìn),獨(dú)立于設(shè)計(jì)超級(jí)計(jì)算機(jī)的團(tuán)隊(duì),克服使用定制設(shè)計(jì)硬件的其他神經(jīng)形態(tài)計(jì)算系統(tǒng)中出現(xiàn)的限制。

定制芯片需要大量時(shí)間來設(shè)計(jì)和制造,每個(gè)芯片的成本高達(dá)數(shù)千萬美元。使用商業(yè)現(xiàn)成的可配置硬件意味著該原型可以很容易在世界各地的數(shù)據(jù)中心復(fù)制。

-人工智能:通過模仿大腦,將能夠創(chuàng)建比當(dāng)前模型更有效的方式來執(zhí)行人工智能流程。

晶體管的極限而要理解這個(gè)「仿真人腦」和現(xiàn)在通用計(jì)算機(jī)的差別,還是要從現(xiàn)代計(jì)算機(jī)的構(gòu)架入手。1945年6月30日,數(shù)學(xué)家和物理學(xué)家約翰·馮·諾依曼描述了一種新機(jī)器的設(shè)計(jì)——電子離散變量自動(dòng)計(jì)算機(jī) (Edvac)。這有效地定義了我們所知的現(xiàn)代電子計(jì)算機(jī)。智能手機(jī)、筆記本電腦以及世界上最強(qiáng)大的超級(jí)計(jì)算機(jī)都一直沿用馮·諾依曼在大約80年前引入的相同基本結(jié)構(gòu)。它們都具有不同的處理和內(nèi)存單元,其中數(shù)據(jù)和指令存儲(chǔ)在內(nèi)存中并由處理器計(jì)算。幾十年來,微芯片上的晶體管數(shù)量大約每?jī)赡暝黾右槐?,這一現(xiàn)象被稱為摩爾定律。這使我們能夠擁有更小、更便宜的計(jì)算機(jī)。然而,晶體管尺寸現(xiàn)在已接近原子尺度。在如此微小的尺寸下,計(jì)算過程中產(chǎn)生過多的熱量是一個(gè)很嚴(yán)重的問題。這種被稱為量子隧道效應(yīng)的現(xiàn)象,會(huì)干擾晶體管的功能。這使得摩爾定律代表的晶體管小型化之路越來越難以走下去。為了克服這個(gè)問題,科學(xué)家們正在探索新的計(jì)算方法,從都隱藏在頭腦中的強(qiáng)大計(jì)算機(jī)——人腦開始。大腦并不按照約翰·馮·諾依曼的計(jì)算機(jī)模型工作。它沒有單獨(dú)的計(jì)算和存儲(chǔ)區(qū)域。相反,它們的工作原理是連接數(shù)十億個(gè)以電脈沖形式傳遞信息的神經(jīng)細(xì)胞。信息可以通過稱為突觸的連接點(diǎn)從一個(gè)神經(jīng)元傳遞到下一個(gè)神經(jīng)元。大腦中神經(jīng)元和突觸的組織是靈活的、可擴(kuò)展的和高效的。因此,與計(jì)算機(jī)不同的是,在大腦中,記憶和計(jì)算是由相同的神經(jīng)元和突觸控制的。自20世紀(jì)80年代末以來,科學(xué)家們一直在研究這個(gè)模型,意圖將其導(dǎo)入計(jì)算中。

模仿生命

神經(jīng)形態(tài)計(jì)算機(jī)基于簡(jiǎn)單的基本處理器(其作用類似于大腦的神經(jīng)元和突觸)的復(fù)雜網(wǎng)絡(luò)。這樣設(shè)計(jì)最主要優(yōu)點(diǎn)是機(jī)器本質(zhì)上是并行的。這意味著,與神經(jīng)元和突觸一樣,計(jì)算機(jī)中的幾乎所有處理器都可以同時(shí)運(yùn)行,串聯(lián)通信。此外,由于單個(gè)神經(jīng)元和突觸執(zhí)行的計(jì)算與傳統(tǒng)計(jì)算機(jī)相比非常簡(jiǎn)單,因此能耗要小幾個(gè)數(shù)量級(jí)。盡管神經(jīng)元有時(shí)被認(rèn)為是處理單元,突觸被認(rèn)為是記憶單元,但它們有助于處理和存儲(chǔ)。換句話說,數(shù)據(jù)已經(jīng)位于計(jì)算需要的地方,沒有分別用處理器和存儲(chǔ)器分開。這總體上加快了大腦的計(jì)算速度,因?yàn)閮?nèi)存和處理器之間沒有分離,這在經(jīng)典(馮·諾依曼)機(jī)器中會(huì)導(dǎo)致速度減慢。但它也避免了執(zhí)行從主存儲(chǔ)器組件訪問數(shù)據(jù)的特定任務(wù)的需要,就像傳統(tǒng)計(jì)算系統(tǒng)中發(fā)生的那樣,并且消耗大量的能量。這些原則是DeepSouth的主要靈感。但這不是目前唯一活躍的神經(jīng)形態(tài)系統(tǒng)。值得一提的是由歐盟倡議資助的人腦項(xiàng)目(HBP)。HBP于2013年至2023年運(yùn)行,并催生了BrainScaleS,這是一臺(tái)位于德國海德堡的機(jī)器,用于模擬神經(jīng)元和突觸的工作方式。由于神經(jīng)形態(tài)計(jì)算機(jī)被設(shè)計(jì)用來模仿真實(shí)的大腦,因此它們可能是一個(gè)轉(zhuǎn)折點(diǎn)的開始。它們提供可持續(xù)且經(jīng)濟(jì)實(shí)惠的計(jì)算能力,并允許研究人員評(píng)估神經(jīng)系統(tǒng)模型,是一系列應(yīng)用的理想平臺(tái)。它們有潛力促進(jìn)人類對(duì)大腦的理解,并為人工智能提供新的方法。

來源:新智元


*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。



關(guān)鍵詞: 人腦超算

技術(shù)專區(qū)

關(guān)閉