使用萊迪思FPGA加速低功耗AI應用的創(chuàng)新

ABI公司的研究表明，截至2024年，具備設備端AI推理能力的設備比例預計將達到60%。印證了過去幾年里AI的快速創(chuàng)新，這就要求在從云端向網絡邊緣轉變的過程中，工程師需要開發(fā)更加靈活的設計模型。這一趨勢的驅動力包括對超低延遲、安全性能的需求以及帶寬限制和隱私保護等。

萊迪思FPGA和軟件解決方案能夠幫助設計人員使用現有的芯片加速實現面向未來的模型。本文將探索萊迪思FPGA和軟件解決方案在計算機視覺和網絡邊緣AI設計中的一些應用示例。

為何FPGA是網絡邊緣計算和AI應用的最佳選擇

FPGA本身具有靈活性和適應性，是網絡邊緣計算和AI應用的理想之選。

FPGA是一種并行計算引擎，能夠以較低的時鐘頻率運行，因此功耗較低。此外整個架構還擁有靈活的資源，包括DSP、存儲器、分散且互連的可編程邏輯單元，與那些AI專用的新型ASIC有諸多相似之處。然而，與ASIC和其他處理器不同的是，FPGA的靈活性能夠持續(xù)優(yōu)化系統(tǒng)內現有的用例，并且還能引入全新的用例，而無需使用新的硬件。

當萊迪思將FPGA與ASIC的設計周期進行比較時，可以看到系統(tǒng)設計人員可以使用FPGA進行多次迭代，快速引入新應用并推向市場。而使用ASIC的系統(tǒng)設計人員必須等待下次迭代才能達到相同的性能水平，這不僅會推遲上市時間，并且在系統(tǒng)需要適應能力時整體效率更低。

在今年的嵌入式視覺峰會上，萊迪思展示了一個基于CertusPro?-NX器件的演示，該演示可以并行運行多個AI引擎和并發(fā)線程，降低了系統(tǒng)的整體延遲，并在完整的系統(tǒng)實施中可以實現更高的FPS。

幫助系統(tǒng)設計人員加速開發(fā)AI應用

在演講的后半部分，萊迪思簡要介紹了其如何利用其各種軟件解決方案（包括萊迪思sensAI? 解決方案集合）幫助系統(tǒng)設計人員（通常是軟件開發(fā)人員，而非FPGA專家）進行開發(fā)。萊迪思sensAI包括了一系列工具、硬件、加速IP、軟件工具、參考設計和演示、定制設計服務、以及為特定終端市場的AI應用構建的端到端解決方案。

sensAI中包括了萊迪思的sensAI Studio設計軟件，系統(tǒng)設計人員可以在數小時內完成用例驗證，無需花費幾天或幾周。他們可以使用sensAI Studio導入軟件模型庫中已有的模型或者他們自己的模型，然后進行遷移學習，評估模型的訓練情況，采集和標記數據，配置和測試模型，然后為開發(fā)板上特定的器件進行編譯。

在最后的問答部分談到了萊迪思的一位農業(yè)客戶如何使用sensAI Studio構建了一個檢測田間漿果的AI系統(tǒng)。這個例子表明，對于那些希望構建各類AI應用，但又缺乏相關經驗的系統(tǒng)設計人員，sensAI Studio這樣的工具真的十分重要。

實現下一代智能PC體驗

如今PC用戶對感知力更強的智能設備越來越感興趣，同時他們還需要強大的安全性來保護隱私。此外，他們還想要體驗更加出色的協作功能，例如優(yōu)秀的電話會議音頻和視頻體驗。筆記本電腦的系統(tǒng)設計人員在為市場引入不同形態(tài)的產品時面臨著各種挑戰(zhàn)，這也帶來了系統(tǒng)方面的挑戰(zhàn)；如何將所有這些數據從攝像頭傳輸到系統(tǒng)的其他部分？

萊迪思基于AI的解決方案可以幫助系統(tǒng)設計人員解決這方面的問題，幫助他們開發(fā)全新的功能，包括存在檢測、旁觀者檢測和視頻通話的人臉取景。萊迪思的解決方案還能實現注意力跟蹤功能，用戶在使用電腦時注意力離開屏幕的時間達到45%，可獲得高達28%的額外電池使用時長。