網(wǎng)絡邊緣計算加速機器學習及推理

作者/Dirk Seidel 萊迪思高級市場營銷經(jīng)理

隨著制造商采用工業(yè)4.0技術框架模型，基于機器學習的視覺系統(tǒng)對工業(yè)市場越來越有吸引力。在當今這個時代，制造商通過整合高級機器人、機器學習、機器視覺和工業(yè)物聯(lián)網(wǎng)（IIoT）來提高組織和生產(chǎn)績效。在“智能工廠”這個概念的推動下，工業(yè)4.0將引入信息物理系統(tǒng)（CPS）來監(jiān)控智能工廠的物理進程并做出分散化的決策。這種模式將通過納入諸如大數(shù)據(jù)和分析、IT和物聯(lián)網(wǎng)融合、機器人技術的最新進展以及數(shù)字供應鏈的發(fā)展等概念，推動行業(yè)數(shù)字化轉(zhuǎn)型。最后，通過網(wǎng)絡進行人機交互，這些物理系統(tǒng)將成為工業(yè)物聯(lián)網(wǎng)（IIoT）的一部分。

網(wǎng)絡邊緣計算，即在網(wǎng)絡邊緣進行“機器學習推理”的能力（智能城市、智能工廠、智能汽車等），可最大限度地減少決策和分析的延遲，相比通過網(wǎng)絡將所有數(shù)據(jù)發(fā)送到數(shù)據(jù)中心進行分析，亦可減少網(wǎng)絡擁塞，增強用戶隱私（因為數(shù)據(jù)停留在本地設備上），并可在無網(wǎng)絡連接的情況下進行“推理”。盡管機器學習技術已存在幾十年，得益于計算能力的發(fā)展和成本降低，以及獲得可用于“訓練”的海量數(shù)據(jù)（如數(shù)字圖像、視頻、音頻等），近年來它才開始表現(xiàn)出比傳統(tǒng)算法更好的結(jié)果，使我們能夠構建更復雜，更深層次的卷積神經(jīng)網(wǎng)絡（CNN）。

由于其并行處理架構，萊迪思FPGA非常適合網(wǎng)絡邊緣“推理”應用，能夠以最低1瓦的功耗實現(xiàn)最高的每秒運算（OPS）（與CPU和GPU相比）。使用FPGA提供的并行處理架構可顯著加速CNN處理。此外，由于我們還處于機器學習發(fā)展的早期階段，所以每天都有不斷改良的CNN架構正在研究和發(fā)布。因此，在全新的CNN架構和技術確定前，靈活和可編程的硬件架構（諸如FPGA所提供的架構）可助力實現(xiàn)輕松升級。

對于那些希望快速開發(fā)的設計人員來說，萊迪思為嵌入式視覺解決方案提供了一個易于使用的快速原型開發(fā)平臺。嵌入式視覺開發(fā)套件是一個包含三塊開發(fā)板的模塊化平臺，包括CrossLink VIP輸入橋接板、ECP5 VIP處理器板和HDMI VIP輸出橋接板。

·CrossLink VIP輸入橋接板具有2個MIPI CSI-2接口，可連接至2個Sony IMX HD攝像頭傳感器。

·ECP5 VIP處理器板配有ECP5 FPGA，專門優(yōu)化用于支持預處理和后處理。處理器板還通過NanoVestor連接器和與HelionVision合作的高清圖像信號處理（ISP）IP支持外部圖像傳感器視頻輸入。

·基于Sil1136 IC，HDMI VIP輸出板可連接標準的HDMI顯示器。

三塊開發(fā)板組成的套件可為機器人、無人機、ADAS、智能監(jiān)控和AV / VR系統(tǒng)等應用提供所需的設計靈活性和低功耗。