Imec與格芯宣布在AI芯片領(lǐng)域取得突破，將深度神經(jīng)網(wǎng)絡(luò)計算用于物聯(lián)網(wǎng)邊緣設(shè)備

全球領(lǐng)先的納米電子和數(shù)字技術(shù)研究及創(chuàng)新中心Imec聯(lián)合先進(jìn)的特殊工藝半導(dǎo)體晶圓代工廠格芯^?(GLOBALFOUNDRIES^?),于近日宣布一款新型人工智能芯片。這款新型芯片基于采用格芯22FDX^?解決方案的Imec模擬內(nèi)存內(nèi)計算(AiMC)架構(gòu),經(jīng)過優(yōu)化可在模擬域的內(nèi)存計算硬件上執(zhí)行深度神經(jīng)網(wǎng)絡(luò)計算。該加速器可以實現(xiàn)高達(dá)2,900 TOPS/W的創(chuàng)紀(jì)錄能效,是低功耗設(shè)備邊緣推理的關(guān)鍵要素。這項新技術(shù)在隱私、安全和延遲方面的優(yōu)勢將會對各種邊緣設(shè)備的人工智能應(yīng)用產(chǎn)生影響,包括從智能揚聲器至自動駕駛汽車等應(yīng)用。

自早期的數(shù)字計算時代以來,處理器就已經(jīng)與存儲器分離開來。使用大量數(shù)據(jù)進(jìn)行的運算同樣需要大量從存儲器檢索的數(shù)據(jù)元素。這種限制(稱為馮諾依曼瓶頸)可能會掩蓋實際的計算時間,尤其是在依賴于大型向量矩陣乘法運算的神經(jīng)網(wǎng)絡(luò)中。這些計算利用精密的數(shù)字計算機(jī)進(jìn)行,并且需要消耗大量的能量。但是,如果使用精度較低的模擬技術(shù)進(jìn)行向量矩陣乘法運算,神經(jīng)網(wǎng)絡(luò)也能獲得準(zhǔn)確的結(jié)果。

為應(yīng)對這個挑戰(zhàn),Imec及其工業(yè)聯(lián)盟機(jī)器學(xué)習(xí)計劃的行業(yè)合作伙伴(包括格芯)開發(fā)了一個新架構(gòu)。該架構(gòu)通過在SRAM單元中進(jìn)行模擬計算,消除了馮諾依曼瓶頸問題。由此而來的模擬推理加速器(AnIA)構(gòu)建于格芯22FDX半導(dǎo)體平臺上,能效表現(xiàn)出色。表征測試表明,能效最高可達(dá)2,900 TOPS/W。如今可以在這款高能效加速器上本地執(zhí)行微型傳感器和低功率邊緣設(shè)備中的模式識別(通常由數(shù)據(jù)中心的機(jī)器學(xué)習(xí)提供支持)。

Imec機(jī)器學(xué)習(xí)計劃總監(jiān)Diederik Verkest表示:“AnIA的成功試產(chǎn)標(biāo)志著模擬內(nèi)存內(nèi)計算(AiMC)的驗證又向前邁出了重要一步。此次參考實現(xiàn)不僅表明模擬內(nèi)存內(nèi)計算是切實可行的,而且還可實現(xiàn)數(shù)字加速器10至100倍的能效。在Imec的機(jī)器學(xué)習(xí)計劃中,我們對現(xiàn)有的以及新興的內(nèi)存設(shè)備進(jìn)行優(yōu)化調(diào)整,使它們適合模擬內(nèi)存內(nèi)計算。這些令人滿意的結(jié)果鼓舞著我們進(jìn)一步開發(fā)這項技術(shù),朝著10,000 TOPS/W的目標(biāo)邁進(jìn)?！?/p>

格芯計算和有線基礎(chǔ)架構(gòu)產(chǎn)品管理副總裁Hiren Majmudar表示:“格芯一直與Imec保持著密切合作伙伴關(guān)系,以便利用我們的低功耗、高性能22FDX平臺實現(xiàn)新型AnIA芯片。此款測試芯片是向業(yè)界展示22FDX如何顯著降低能耗密集型人工智能和機(jī)器學(xué)習(xí)應(yīng)用功耗的關(guān)鍵一步。”

展望未來,格芯將在22FDX平臺上實現(xiàn)AiMC功能,以便在AI市場領(lǐng)域提供差異化解決方案。格芯的22FDX采用22nm FD-SOI技術(shù),在極低功耗下提供出色的性能,并能夠以0.5 V超低電壓和1皮安/微米(pA/um)的電流工作,實現(xiàn)超低待機(jī)泄漏。具有全新AiMC功能的22FDX正在格芯位于德國德累斯頓Fab 1的先進(jìn)300mm生產(chǎn)線上進(jìn)行開發(fā)。