沈緒榜院士談嵌入式系統(tǒng)的挑戰(zhàn)與新機(jī)遇

　　作者/沈緒榜 中國(guó)航天科技集團(tuán)公司九院七七一研究所研究員、博士生導(dǎo)師、中國(guó)科學(xué)院院士

　　編者按： 不久前， 在第十六屆中國(guó)計(jì)算機(jī)學(xué)會(huì)(CCF) 全國(guó)嵌入式系統(tǒng)大會(huì)上， 沈緒榜院士介紹了嵌入式系統(tǒng)發(fā)展的新趨勢(shì)、 新挑戰(zhàn)和新機(jī)遇。

　　嵌入式系統(tǒng)發(fā)展的新趨勢(shì)

　　最近幾年， 物聯(lián)網(wǎng)、 信息物理系統(tǒng)CPS(Cyber-Physical System)、 VR/AR技術(shù)、 人工智能技術(shù)、 自動(dòng)駕駛技術(shù)以及區(qū)塊鏈技術(shù)等新興技術(shù)的出現(xiàn)和發(fā)展， 嵌入式系統(tǒng)設(shè)計(jì)呈現(xiàn)新的發(fā)展趨勢(shì)。

　　針對(duì)高性能低成本低功耗的嵌入式系統(tǒng)的硬件設(shè)計(jì)，要從算法優(yōu)化、體系結(jié)構(gòu)、軟硬件協(xié)同等幾個(gè)方面統(tǒng)籌考慮。——沈緒榜

　　第一， 功能需求越來(lái)越多。 自動(dòng)駕駛技術(shù)要求能夠針對(duì)語(yǔ)音、 NLP、 圖像、 視頻等數(shù)據(jù)進(jìn)行處理;要求能夠支持paddle等多個(gè)深度學(xué)習(xí)框架， 靈活支持訓(xùn)練和預(yù)測(cè); 還要求對(duì)雷達(dá)、 攝像頭等傳感器的多路數(shù)據(jù)進(jìn)行快速地處理。

　　第二， 低功耗、 低延遲、 低成本、 高可靠性是該領(lǐng)域需求趨勢(shì)。 物聯(lián)網(wǎng)、 信息物理系統(tǒng)、 自動(dòng)駕駛技術(shù)都要利用神經(jīng)網(wǎng)絡(luò)算法對(duì)其數(shù)據(jù)進(jìn)行快速地的處理， 算力大、 低延時(shí)是基本要求。 由于復(fù)雜的外部環(huán)境， 可移動(dòng)設(shè)備、 可穿戴設(shè)備和自動(dòng)駕駛等對(duì)功耗和可靠性也有很高的要求。

　　第三， 嵌入式系統(tǒng)的優(yōu)化越來(lái)越依賴(lài)專(zhuān)用算法優(yōu)化、硬件體系結(jié)構(gòu)的優(yōu)化以及軟硬件協(xié)同的優(yōu)化。 嵌入式系統(tǒng)是硬件、 中間層、 操作系統(tǒng)和上層應(yīng)用軟件的集合體。 從專(zhuān)用算法、 硬件體系結(jié)構(gòu)和軟硬件協(xié)同三個(gè)角度考慮， 才能夠統(tǒng)籌全局， 有利于設(shè)計(jì)出低功耗、 低延遲、低成本、 高可靠性的嵌入式系統(tǒng)。

　　嵌入式系統(tǒng)面臨的新挑戰(zhàn)

　　第一，專(zhuān)用算法上，像很多新興算法，可能會(huì)因?yàn)槟Ｐ蛷?fù)雜度太高或者其他原因，不能直接用于實(shí)現(xiàn)。比如自動(dòng)駕駛領(lǐng)域的算法層面，目前還沒(méi)有一家公司可以保證自家的算法完全可以投產(chǎn)商用。

　　第二，系統(tǒng)架構(gòu)上，傳統(tǒng)的嵌入式系統(tǒng)，處理器之間采用分布式設(shè)計(jì)，相互之間通過(guò)片外的高速通信總線等方式進(jìn)行信息交換，不僅硬件設(shè)計(jì)難度較高，而且處理器軟件系統(tǒng)之間的協(xié)同性與穩(wěn)定性一直是困擾研發(fā)工程師的難題之一。

　　第三，算法與架構(gòu)協(xié)調(diào)上，特殊的專(zhuān)用算法與通用處理器架構(gòu)之間的協(xié)同不充分，既不能發(fā)揮處理器的計(jì)算能力，又不能達(dá)到該應(yīng)用領(lǐng)域的算力和功耗的要求。

　　第四，系統(tǒng)軟件上，對(duì)于異構(gòu)處理器，雖然OpenCL標(biāo)準(zhǔn)和“AllProgrammable”平臺(tái)都提供了統(tǒng)一的編譯環(huán)境，滿足了用軟件設(shè)計(jì)語(yǔ)言實(shí)現(xiàn)CPU、GPU、DSP、FPGA等的編譯要求，但不可避免地帶來(lái)了編譯器和編譯方法的復(fù)雜性、編譯效率低、存取開(kāi)銷(xiāo)和時(shí)間開(kāi)銷(xiāo)大等眾多軟件開(kāi)發(fā)問(wèn)題。

　　第五，網(wǎng)絡(luò)帶寬上，傳輸速度跟不上大數(shù)據(jù)云端分析的需求。根據(jù)國(guó)際電信聯(lián)盟電信標(biāo)準(zhǔn)分局(ITU-T)的研究報(bào)告，到2018年，世界上三分之一的人口將擁有智能手機(jī)或者可穿戴設(shè)備，到2020年，這些設(shè)備將生成43萬(wàn)億GB的數(shù)據(jù)。而機(jī)器學(xué)習(xí)的訓(xùn)練環(huán)節(jié)目前只能在云端實(shí)現(xiàn)。GPU、FPGA、ASIC(例如GoogleTPU1.0/2.0)等都已應(yīng)用于云端訓(xùn)練環(huán)境。處理這些數(shù)據(jù)需要進(jìn)一步擴(kuò)展數(shù)據(jù)中心，這再次引起了人們對(duì)網(wǎng)絡(luò)流量壓力的廣泛關(guān)注。IDC也發(fā)布了相關(guān)預(yù)測(cè)，到2018年，50%的物聯(lián)網(wǎng)網(wǎng)絡(luò)將面臨網(wǎng)絡(luò)帶寬的限制。

　　嵌入式系統(tǒng)的新機(jī)遇

　　第一，專(zhuān)用算法的優(yōu)化上有兩類(lèi)：一方面，復(fù)雜算法模型和協(xié)議不斷地被優(yōu)化，比如區(qū)塊鏈底層協(xié)議、簽名機(jī)制和共識(shí)機(jī)制的不斷優(yōu)化，吞吐率也在不斷提高，功耗逐漸降低;另一方面，針對(duì)海量數(shù)據(jù)的分析與儲(chǔ)存對(duì)網(wǎng)絡(luò)帶寬提出了巨大的挑戰(zhàn)，邊緣計(jì)算可以利用適合數(shù)據(jù)管理任務(wù)的空閑計(jì)算資源，在邊緣節(jié)點(diǎn)處過(guò)濾或者分析以減少網(wǎng)絡(luò)等待時(shí)間。

　　第二，硬件體系結(jié)構(gòu)上有兩種類(lèi)型。第一種是對(duì)于能效、功耗和散熱要求都比較高的領(lǐng)域，其數(shù)據(jù)處理單元往往經(jīng)過(guò)如下演進(jìn)過(guò)程：CPU構(gòu)建初始模型，多核異構(gòu)(CPU+GPU+FPGA+DSP)處理單元搭建硬件加速引擎，定制AISC專(zhuān)用處理單元三個(gè)階段。比如比特幣礦機(jī)芯片、AI深度學(xué)習(xí)處理系統(tǒng)、自動(dòng)駕駛處理系統(tǒng)等，對(duì)算力、功耗有極高的要求，但由于通用芯片效能顯然無(wú)法滿足功耗、散熱等問(wèn)題，其體系結(jié)構(gòu)只能經(jīng)過(guò)異構(gòu)處理階段，最終已經(jīng)或者將要走向AISC硬件加速階段。第二種是對(duì)功耗要求不是那么高的領(lǐng)域，多核異構(gòu)技術(shù)確實(shí)是一種不錯(cuò)的方案，可以兼有不同體系結(jié)構(gòu)各自的優(yōu)點(diǎn)。在云端模型訓(xùn)練中，NVIDIA的GPU占主導(dǎo)地位，多GPU并行架構(gòu)是云端訓(xùn)練常用的基礎(chǔ)架構(gòu)方案。在云端識(shí)別中，基于功耗與運(yùn)算速度的考量，單獨(dú)基于GPU的方式并非最優(yōu)方案，利用CPU、GPU、FPGA、ASIC各自的優(yōu)勢(shì)，采用異構(gòu)計(jì)算(CPU+GPU+FPGA/ASIC)是目前主流方案。在高速數(shù)據(jù)采集與處理行業(yè)解決方案中，利用ARM+DSP+FPGA多核異構(gòu)技術(shù)的特點(diǎn)，有效地應(yīng)對(duì)了人工智能領(lǐng)域所提出的技術(shù)要求，如大規(guī)模并行數(shù)據(jù)處理。

　　第三，算法與硬件的協(xié)同設(shè)計(jì)上，在修改機(jī)器學(xué)習(xí)算法以使它們對(duì)硬件更友好的同時(shí)還維持準(zhǔn)確度方面，研究界在減少計(jì)算量、數(shù)據(jù)傳輸和存儲(chǔ)要求方面不斷地有新的進(jìn)展。通過(guò)在這些方面的研究，使得硬件的處理速度更快，硬件資源更少，功耗更低。　　

       結(jié)論

　　基于以上嵌入式系統(tǒng)新挑戰(zhàn)和新機(jī)遇的考慮， 針對(duì)高性能低成本低功耗的嵌入式系統(tǒng)的硬件設(shè)計(jì)， 要從算法優(yōu)化、 體系結(jié)構(gòu)、 軟硬件協(xié)同等幾個(gè)方面統(tǒng)籌考慮。這些方面統(tǒng)籌考慮為設(shè)計(jì)出更高性能、 更低功耗的嵌入式系統(tǒng)硬件提供了新思路。

本文來(lái)源于中國(guó)科技期刊《電子產(chǎn)品世界》2019年第2期第1頁(yè)，歡迎您寫(xiě)論文時(shí)引用，并注明出處