Microchip與韓國(guó)智能硬件公司IHWK合作開(kāi)發(fā)模擬計(jì)算平臺(tái),加速邊緣AI/ML推理

為了適應(yīng)網(wǎng)絡(luò)邊緣人工智能（AI）計(jì)算及相關(guān)推理算法的快速發(fā)展，韓國(guó)智能硬件公司（IHWK）正在為神經(jīng)技術(shù)設(shè)備和現(xiàn)場(chǎng)可編程神經(jīng)形態(tài)設(shè)備開(kāi)發(fā)神經(jīng)形態(tài)計(jì)算平臺(tái)。Microchip Technology Inc.（美國(guó)微芯科技公司）通過(guò)子公司冠捷半導(dǎo)體（SST）參與協(xié)助開(kāi)發(fā)，為該平臺(tái)SuperFlash^? memBrain?神經(jīng)形態(tài)存儲(chǔ)器解決方案提供評(píng)估系統(tǒng)。該解決方案基于Microchip經(jīng)行業(yè)驗(yàn)證的非易失性存儲(chǔ)器（NVM）SuperFlash技術(shù)并加以優(yōu)化，可通過(guò)模擬內(nèi)存計(jì)算方法為神經(jīng)網(wǎng)絡(luò)執(zhí)行矢量矩陣乘法（VMM）。

memBrain技術(shù)評(píng)估工具包旨在讓IHWK展示其神經(jīng)形態(tài)計(jì)算平臺(tái)在邊緣運(yùn)行推理算法的絕對(duì)能效。最終目標(biāo)是為生成式人工智能模型、自動(dòng)駕駛汽車、醫(yī)療診斷、語(yǔ)音處理、安全/監(jiān)控和商用無(wú)人機(jī)等應(yīng)用創(chuàng)建超低功耗模擬處理單元（APU）。

由于目前用于邊緣推理的神經(jīng)網(wǎng)絡(luò)模型可能需要5000萬(wàn)或更多突觸（權(quán)重）進(jìn)行處理，因此純數(shù)字解決方案需要足夠帶寬來(lái)使用片外DRAM，這對(duì)神經(jīng)網(wǎng)絡(luò)計(jì)算造成了瓶頸，降低了整體計(jì)算能力。相比之下，memBrain解決方案在超低功耗亞閾值模式下將突觸權(quán)重存儲(chǔ)在片上浮動(dòng)?xùn)胖?，并使用相同存?chǔ)單元進(jìn)行計(jì)算，從而顯著提高了能效和降低了系統(tǒng)延遲。與傳統(tǒng)數(shù)字DSP和基于SRAM/DRAM的方法相比，該方案可將每次推理決策的功耗降低到原來(lái)的1/20到1/10，并能顯著降低總體物料清單。

為了開(kāi)發(fā)APU，IHWK 還與位于大田的韓國(guó)科學(xué)技術(shù)院（KAIST）合作進(jìn)行設(shè)備開(kāi)發(fā)，并與位于首爾的延世大學(xué)（Yonsei University）合作提供設(shè)備設(shè)計(jì)協(xié)助。最終的 APU 預(yù)計(jì)將優(yōu)化推理的系統(tǒng)級(jí)算法，并在每瓦 20-80 TeraOPS 之間運(yùn)行，實(shí)現(xiàn)了為電池供電設(shè)備設(shè)計(jì)的內(nèi)存計(jì)算解決方案的最佳性能。

Microchip技術(shù)許可業(yè)務(wù)部門(mén)SST副總裁Mark Reiten表示：“通過(guò)使用成熟的NVM而非替代性片外內(nèi)存解決方案來(lái)執(zhí)行神經(jīng)網(wǎng)絡(luò)計(jì)算和存儲(chǔ)權(quán)重，Microchip的memBrain內(nèi)存計(jì)算技術(shù)有望消除在網(wǎng)絡(luò)邊緣執(zhí)行人工智能處理所面臨的大規(guī)模數(shù)據(jù)通信瓶頸。與韓國(guó)領(lǐng)先的研發(fā)公司IHWK、相關(guān)高校和早期用戶開(kāi)展合作，進(jìn)一步證明了Microchip神經(jīng)處理技術(shù)的先進(jìn)性，也將推動(dòng)Microchip在人工智能領(lǐng)域的發(fā)展?！?/p>

IHWK 分公司經(jīng)理Sanghoon Yoon 表示：“韓國(guó)是人工智能半導(dǎo)體發(fā)展的重要熱點(diǎn)地區(qū)。我們的非易失性存儲(chǔ)器和新興存儲(chǔ)器專家已經(jīng)證實(shí)，Microchip基于成熟非易失性存儲(chǔ)器技術(shù)的memBrain產(chǎn)品是創(chuàng)建內(nèi)存計(jì)算系統(tǒng)的最佳選擇?！?/p>

將神經(jīng)模型永久存儲(chǔ)在memBrain解決方案的處理元件中，還可支持用于實(shí)時(shí)神經(jīng)網(wǎng)絡(luò)處理的即時(shí)開(kāi)啟功能。IHWK正尋求利用SuperFlash存儲(chǔ)器浮動(dòng)?xùn)艈卧姆且资?，支持低功耗邊緣?jì)算設(shè)備使用高級(jí)ML模型，建立機(jī)器學(xué)習(xí)推理的新基準(zhǔn)。