RISC-V如何推動(dòng)邊緣機(jī)器學(xué)習(xí)的發(fā)展

圖源：ipopba/Stock.adobe.com

當(dāng)你入了機(jī)器學(xué)習(xí)(ML)領(lǐng)域的門之后，很快就會(huì)發(fā)現(xiàn)，云端的數(shù)據(jù)存儲(chǔ)和處理成本竟然如此之高。為此，許多企業(yè)都上了內(nèi)部部署基礎(chǔ)設(shè)施的車，試圖通過(guò)這些設(shè)施來(lái)承載其ML工作負(fù)載，從而限制上述成本?？杉幢闳绱耍@些內(nèi)部的數(shù)據(jù)中心還是會(huì)帶來(lái)諸如功耗增加等代價(jià)，尤其是在規(guī)模較大的情況下。而功耗增加，就意味著電費(fèi)支出更高，還會(huì)給設(shè)備散熱制造麻煩，對(duì)可持續(xù)發(fā)展也會(huì)構(gòu)成不利影響。

在云服務(wù)和內(nèi)部部署場(chǎng)景中，這些開(kāi)銷與輸入到中心樞紐的數(shù)據(jù)量直接相關(guān)。而解決的辦法，就是在數(shù)據(jù)到達(dá)樞紐之前，盡可能過(guò)濾掉其中多余的部分，這就需要借助邊緣計(jì)算系統(tǒng)，在盡可能接近數(shù)據(jù)采集來(lái)源的地方分析輸入數(shù)據(jù)。

當(dāng)然，這些邊緣計(jì)算系統(tǒng)能夠?qū)崿F(xiàn)這種改變的前提，在于它們自身必須具備高能效，而新一代的RISC-V處理器恰在此時(shí)悄然面世。這些處理器能夠?qū)崿F(xiàn)三倍于其他指令集架構(gòu)(ISA)設(shè)備的單位性能能效。

邊緣ML中的RISC-V：指令更少，功耗更低

ML與邊緣計(jì)算的融合，使智能設(shè)備獲得了自主決策和實(shí)時(shí)適應(yīng)的能力。對(duì)這類數(shù)據(jù)處理層次的需求與RISC-V處理器技術(shù)的進(jìn)步不謀而合，后者已經(jīng)應(yīng)用到了以下聯(lián)網(wǎng)邊緣應(yīng)用中：

●   可穿戴設(shè)備：配備RISC-V處理器的健身追蹤器可在設(shè)備上執(zhí)行活動(dòng)識(shí)別和健康監(jiān)測(cè)，實(shí)時(shí)向用戶提供個(gè)性化的建議和反饋。

●   智能樓宇：RISC-V處理器已經(jīng)運(yùn)用到樓宇自動(dòng)化設(shè)備中，這些設(shè)備可以實(shí)時(shí)執(zhí)行物體檢測(cè)、異常識(shí)別、智能自動(dòng)化和安全防護(hù)。

●   機(jī)器人：配備RISC-V處理器的工業(yè)機(jī)器人可以實(shí)時(shí)處理圖像和檢測(cè)物體，從而適應(yīng)不斷變化的環(huán)境，并自主執(zhí)行復(fù)雜任務(wù)。

RISC-V將在轉(zhuǎn)變各種應(yīng)用場(chǎng)景的過(guò)程中持續(xù)發(fā)揮關(guān)鍵作用，這部分源于它具有開(kāi)放、標(biāo)準(zhǔn)化的ISA以及高計(jì)算效率，可簡(jiǎn)化復(fù)雜AI算法在邊緣設(shè)備上的實(shí)現(xiàn)。這種效率源自RISC-V架構(gòu)最基本的構(gòu)件：指令集。

RISC-V以簡(jiǎn)化的ISA為基礎(chǔ)，具有一套基本的整數(shù)指令（RV32I或RV64I），同時(shí)處理器架構(gòu)師可以添加可選擴(kuò)展，以適應(yīng)各種使用場(chǎng)景。其中，有兩個(gè)關(guān)鍵性的擴(kuò)展顯著提高了RISC-V處理器的ML運(yùn)算能力：

●   向量擴(kuò)展 (V)：該擴(kuò)展提供了向量運(yùn)算支持，這對(duì)高效矩陣乘法和許多ML算法中的基本運(yùn)算而言是至關(guān)重要的。向量擴(kuò)展可以讓處理器在多個(gè)數(shù)據(jù)元素上同時(shí)執(zhí)行多種運(yùn)算，從而顯著提高性能。

●   壓縮擴(kuò)展 (C)：該擴(kuò)展引入了壓縮指令，編碼所需的位數(shù)更少，因此代碼量更小、內(nèi)存占用更低。這對(duì)內(nèi)存資源有限的邊緣設(shè)備尤為重要。

結(jié)合這些擴(kuò)展，RISC-V處理器可在執(zhí)行ML工作負(fù)載時(shí)實(shí)現(xiàn)高性能和高效率。RISC-V處理器IP公司SiFive正是借助向量擴(kuò)展和其他微體系結(jié)構(gòu)創(chuàng)新，實(shí)現(xiàn)了比競(jìng)品高30%至40%的能效。^[1]

實(shí)際上，有研究表明，RISC-V設(shè)備在CPI方面往往優(yōu)于大多數(shù)現(xiàn)有指令集架構(gòu)，這里的CPI是指執(zhí)行一條指令所需的平均時(shí)鐘周期數(shù)。^[2]這些測(cè)試表明，RISC-V設(shè)備有能力在保持熱效率的同時(shí)，在更長(zhǎng)的時(shí)間內(nèi)執(zhí)行復(fù)雜的ML任務(wù)。

RISC-V生態(tài)系統(tǒng)和邊緣ML工具

RISC-V的模塊化ISA尤其適合開(kāi)發(fā)緊湊型高能效處理器。它的指令集更加直接，有助于優(yōu)化設(shè)計(jì)、縮短芯片設(shè)計(jì)和驗(yàn)證時(shí)間、降低成本，當(dāng)然還能降低功耗。

要在終端系統(tǒng)中實(shí)現(xiàn)所有這些優(yōu)勢(shì)，最終還是要靠開(kāi)發(fā)人員。RISC-V技術(shù)為何能在邊緣計(jì)算環(huán)境中得到快速應(yīng)用？基于開(kāi)放標(biāo)準(zhǔn)的處理器硬件，以及圍繞它而產(chǎn)生并且共同成長(zhǎng)的軟件和工具生態(tài)系統(tǒng)，可謂功不可沒(méi)。

LLVM和GCC等流行的編譯器現(xiàn)在都支持RISC-V，可確保生成的代碼針對(duì)目標(biāo)處理器進(jìn)行優(yōu)化，包括對(duì)ISA擴(kuò)展的利用。與此同時(shí)，TensorFlow和PyTorch等流行的ML框架也正在向RISC-V移植，一眾嵌入式軟件企業(yè)也貢獻(xiàn)出了自己的ML庫(kù)、框架和中間件。

例如，Antmicro和Google Research合作為基于RISC-V的邊緣ML應(yīng)用開(kāi)發(fā)了快速原型設(shè)計(jì)和投產(chǎn)前 (pre-silicon) 開(kāi)發(fā)解決方案，該解決方案由Renode仿真框架和Kenning裸機(jī)運(yùn)行時(shí)組成（圖1）。這種聯(lián)合解決方案可以讓ML模型運(yùn)行在模擬的RISC-V硬件上，幫助開(kāi)發(fā)人員加快工程開(kāi)發(fā)周期。最終，在投入昂貴的芯片制造工序之前，就可以對(duì)整個(gè)技術(shù)棧進(jìn)行評(píng)估和優(yōu)化。

圖1 Antmicro與Google Research合作推出的RISC-V仿真框架。它為加速M(fèi)L開(kāi)發(fā)提供了硬件/軟件協(xié)同設(shè)計(jì)流程 （圖源：作者）

當(dāng)然，RISC-V和ML開(kāi)發(fā)工具都還有有改進(jìn)空間。在這些生態(tài)系統(tǒng)共同發(fā)展的過(guò)程中，仍有一些挑戰(zhàn)需要克服，包括以下方面：

●   成熟度：與更加成熟的架構(gòu)相比，RISC-V生態(tài)系統(tǒng)相對(duì)較新，因而經(jīng)驗(yàn)豐富的開(kāi)發(fā)人員并不多，可供使用的工具和庫(kù)也不夠全面。

●   標(biāo)準(zhǔn)化：盡管有RISC-V International組織為供應(yīng)商之間的合作和創(chuàng)新奠定基礎(chǔ)，但在開(kāi)放的生態(tài)系統(tǒng)中，產(chǎn)品的實(shí)現(xiàn)方式一定是多種多樣的，這可能會(huì)帶來(lái)架構(gòu)碎片化和兼容性問(wèn)題。持續(xù)的標(biāo)準(zhǔn)化工作對(duì)于維持平穩(wěn)統(tǒng)一的開(kāi)發(fā)流程至關(guān)重要。

●   硬件可及性：針對(duì)ML任務(wù)優(yōu)化的商用RISC-V處理器市場(chǎng)仍然很有限。不過(guò)，隨著需求的增加，硬件格局也將隨之發(fā)展和擴(kuò)大。

要應(yīng)對(duì)這些挑戰(zhàn)，就需要業(yè)界領(lǐng)導(dǎo)者、研究機(jī)構(gòu)和開(kāi)源社區(qū)開(kāi)展合作與投資。我們沒(méi)有任何理由認(rèn)為業(yè)界或開(kāi)源和開(kāi)放標(biāo)準(zhǔn)社區(qū)會(huì)停止向RISC-V生態(tài)系統(tǒng)加以投入，也就沒(méi)有理由認(rèn)為RISC-V技術(shù)會(huì)停止在高能效邊緣應(yīng)用領(lǐng)域的發(fā)展。

RISC-V塑造邊緣ML的未來(lái)

從實(shí)現(xiàn)的角度而言，精簡(jiǎn)指令集計(jì)算機(jī) (RISC) 和復(fù)雜指令集計(jì)算機(jī) (CISC) 之間的爭(zhēng)論在很大程度上已經(jīng)過(guò)時(shí)?，F(xiàn)在，CPU的效率和性能主要取決于它的微架構(gòu)，而架構(gòu)又是通過(guò)其ISA和用于制造物理芯片的制程節(jié)點(diǎn)來(lái)實(shí)現(xiàn)的。

隨著RISC-V和邊緣ML市場(chǎng)的發(fā)展，我們將持續(xù)見(jiàn)證硬件創(chuàng)新和更加專業(yè)化的RISC-V處理器。這些處理器可能會(huì)包含專用的加速器、優(yōu)化的內(nèi)存架構(gòu)和其他各種功能，以提高執(zhí)行ML工作負(fù)載的整體性能和效率。

這些新增功能將繼續(xù)拓寬采用RISC-V的邊緣設(shè)備的應(yīng)用領(lǐng)域，為其在從智能家居和醫(yī)療保健設(shè)備到工業(yè)自動(dòng)化系統(tǒng)和自動(dòng)駕駛汽車等各個(gè)領(lǐng)域的部署鋪平道路。憑借如此廣泛的應(yīng)用范圍，基于RISC-V的處理器技術(shù)將持續(xù)作為智能、互聯(lián)邊緣ML系統(tǒng)的基本構(gòu)件——這一趨勢(shì)已在多個(gè)領(lǐng)域的實(shí)際應(yīng)用中占據(jù)主導(dǎo)地位。

隨著RISC-V生態(tài)系統(tǒng)不斷成熟、開(kāi)發(fā)人員對(duì)該架構(gòu)日益熟悉，更多的創(chuàng)新應(yīng)用將不斷涌現(xiàn)，實(shí)現(xiàn)更加出色的ML應(yīng)用。未來(lái)將是智能、互聯(lián)和高效創(chuàng)新的時(shí)代。

參考資料

[1] SiFive website, n.d., accessed February 16, 2024, https://www.sifive.com/.

[2] Wajid Ali. "Exploring Instruction Set Architectural Variations: x86, ARM, and RISC-V in Compute-Intensive Applications," Engineering: Open Access 1, no. 3, (2023):157–162.

作者簡(jiǎn)介

Brandon是一位有超過(guò)十年經(jīng)驗(yàn)的深度技術(shù)記者、講述者和技術(shù)作家，從軟件初創(chuàng)公司到半導(dǎo)體巨頭都是他曾經(jīng)報(bào)道過(guò)的對(duì)象。他關(guān)注的領(lǐng)域包括嵌入式處理器、硬件、軟件和工具，因?yàn)樗鼈兌寂c電子系統(tǒng)集成、物聯(lián)網(wǎng)/工業(yè)4.0部署和邊緣人工智能等用例有關(guān)。他還是一名出色的播客、視頻博主、活動(dòng)主持人和會(huì)議發(fā)言人，并曾在多家電子工程貿(mào)易出版物中擔(dān)任主編和技術(shù)編輯。Brandon在不出席B2B技術(shù)受眾的大型活動(dòng)時(shí)，會(huì)通過(guò)電視指導(dǎo)菲尼克斯地區(qū)的體育特許經(jīng)營(yíng)公司。