使用萊迪思FPGA加速低功耗AI應(yīng)用的創(chuàng)新

ABI公司的研究表明，截至2024年，具備設(shè)備端AI推理能力的設(shè)備比例預(yù)計(jì)將達(dá)到60%。印證了過去幾年里AI的快速創(chuàng)新，這就要求在從云端向網(wǎng)絡(luò)邊緣轉(zhuǎn)變的過程中，工程師需要開發(fā)更加靈活的設(shè)計(jì)模型。這一趨勢(shì)的驅(qū)動(dòng)力包括對(duì)超低延遲、安全性能的需求以及帶寬限制和隱私保護(hù)等。

萊迪思FPGA和軟件解決方案能夠幫助設(shè)計(jì)人員使用現(xiàn)有的芯片加速實(shí)現(xiàn)面向未來的模型。本文將探索萊迪思FPGA和軟件解決方案在計(jì)算機(jī)視覺和網(wǎng)絡(luò)邊緣AI設(shè)計(jì)中的一些應(yīng)用示例。

為何FPGA是網(wǎng)絡(luò)邊緣計(jì)算和AI應(yīng)用的最佳選擇

FPGA本身具有靈活性和適應(yīng)性，是網(wǎng)絡(luò)邊緣計(jì)算和AI應(yīng)用的理想之選。

FPGA是一種并行計(jì)算引擎，能夠以較低的時(shí)鐘頻率運(yùn)行，因此功耗較低。此外整個(gè)架構(gòu)還擁有靈活的資源，包括DSP、存儲(chǔ)器、分散且互連的可編程邏輯單元，與那些AI專用的新型ASIC有諸多相似之處。然而，與ASIC和其他處理器不同的是，FPGA的靈活性能夠持續(xù)優(yōu)化系統(tǒng)內(nèi)現(xiàn)有的用例，并且還能引入全新的用例，而無需使用新的硬件。

當(dāng)萊迪思將FPGA與ASIC的設(shè)計(jì)周期進(jìn)行比較時(shí)，可以看到系統(tǒng)設(shè)計(jì)人員可以使用FPGA進(jìn)行多次迭代，快速引入新應(yīng)用并推向市場(chǎng)。而使用ASIC的系統(tǒng)設(shè)計(jì)人員必須等待下次迭代才能達(dá)到相同的性能水平，這不僅會(huì)推遲上市時(shí)間，并且在系統(tǒng)需要適應(yīng)能力時(shí)整體效率更低。

在今年的嵌入式視覺峰會(huì)上，萊迪思展示了一個(gè)基于CertusPro?-NX器件的演示，該演示可以并行運(yùn)行多個(gè)AI引擎和并發(fā)線程，降低了系統(tǒng)的整體延遲，并在完整的系統(tǒng)實(shí)施中可以實(shí)現(xiàn)更高的FPS。

幫助系統(tǒng)設(shè)計(jì)人員加速開發(fā)AI應(yīng)用

在演講的后半部分，萊迪思簡要介紹了其如何利用其各種軟件解決方案（包括萊迪思sensAI? 解決方案集合）幫助系統(tǒng)設(shè)計(jì)人員（通常是軟件開發(fā)人員，而非FPGA專家）進(jìn)行開發(fā)。萊迪思sensAI包括了一系列工具、硬件、加速IP、軟件工具、參考設(shè)計(jì)和演示、定制設(shè)計(jì)服務(wù)、以及為特定終端市場(chǎng)的AI應(yīng)用構(gòu)建的端到端解決方案。

sensAI中包括了萊迪思的sensAI Studio設(shè)計(jì)軟件，系統(tǒng)設(shè)計(jì)人員可以在數(shù)小時(shí)內(nèi)完成用例驗(yàn)證，無需花費(fèi)幾天或幾周。他們可以使用sensAI Studio導(dǎo)入軟件模型庫中已有的模型或者他們自己的模型，然后進(jìn)行遷移學(xué)習(xí)，評(píng)估模型的訓(xùn)練情況，采集和標(biāo)記數(shù)據(jù)，配置和測(cè)試模型，然后為開發(fā)板上特定的器件進(jìn)行編譯。

在最后的問答部分談到了萊迪思的一位農(nóng)業(yè)客戶如何使用sensAI Studio構(gòu)建了一個(gè)檢測(cè)田間漿果的AI系統(tǒng)。這個(gè)例子表明，對(duì)于那些希望構(gòu)建各類AI應(yīng)用，但又缺乏相關(guān)經(jīng)驗(yàn)的系統(tǒng)設(shè)計(jì)人員，sensAI Studio這樣的工具真的十分重要。

實(shí)現(xiàn)下一代智能PC體驗(yàn)

如今PC用戶對(duì)感知力更強(qiáng)的智能設(shè)備越來越感興趣，同時(shí)他們還需要強(qiáng)大的安全性來保護(hù)隱私。此外，他們還想要體驗(yàn)更加出色的協(xié)作功能，例如優(yōu)秀的電話會(huì)議音頻和視頻體驗(yàn)。筆記本電腦的系統(tǒng)設(shè)計(jì)人員在為市場(chǎng)引入不同形態(tài)的產(chǎn)品時(shí)面臨著各種挑戰(zhàn)，這也帶來了系統(tǒng)方面的挑戰(zhàn)；如何將所有這些數(shù)據(jù)從攝像頭傳輸?shù)较到y(tǒng)的其他部分？

萊迪思基于AI的解決方案可以幫助系統(tǒng)設(shè)計(jì)人員解決這方面的問題，幫助他們開發(fā)全新的功能，包括存在檢測(cè)、旁觀者檢測(cè)和視頻通話的人臉取景。萊迪思的解決方案還能實(shí)現(xiàn)注意力跟蹤功能，用戶在使用電腦時(shí)注意力離開屏幕的時(shí)間達(dá)到45%，可獲得高達(dá)28%的額外電池使用時(shí)長。