邊緣人工智能來(lái)真的了

1956年，當(dāng)斯坦福大學(xué)的麥卡錫提出“人工智能”時(shí)，他一定沒(méi)有想到這個(gè)概念會(huì)在幾十年后的中國(guó)如火如荼。人工智能不僅僅在引發(fā)新的產(chǎn)業(yè)革命方面被寄予厚望，更是融入到了每個(gè)人的日常生活中，并且正在觸發(fā)社會(huì)變革。事實(shí)上，2020年4月，國(guó)家發(fā)改委在確定新基建的3個(gè)方面時(shí)，在信息基礎(chǔ)設(shè)施、融合基礎(chǔ)設(shè)施中均提及人工智能，也只不過(guò)是把正在發(fā)生的變革明確地告知大眾。

伴隨算力、數(shù)據(jù)、互聯(lián)網(wǎng)的發(fā)展，人工智能正處于從量變到質(zhì)變的節(jié)點(diǎn)，尤其邊緣端呈現(xiàn)出爆發(fā)式的發(fā)展。Gartner預(yù)測(cè)，到2025年，至少會(huì)有75%的數(shù)據(jù)處理將會(huì)在云端或者數(shù)據(jù)中心之外的地方進(jìn)行。人工智能大潮對(duì)于半導(dǎo)體企業(yè)是機(jī)遇也是挑戰(zhàn)。和云端不同，邊緣側(cè)對(duì)芯片的最主要需求依然回到了性能、成本和功耗這3個(gè)芯片永恒的話題，而且必須同時(shí)具備，產(chǎn)品才能勝出。此外由于邊緣人工智能產(chǎn)品的開(kāi)發(fā)周期較短，迭代窗口快速，因此友好的開(kāi)發(fā)環(huán)境也很關(guān)鍵。

德州儀器（TI）中國(guó)區(qū)嵌入式產(chǎn)品系統(tǒng)與應(yīng)用總監(jiān)Howard Jiang

什么樣的邊緣人工智能系統(tǒng)才是成功的？“精準(zhǔn)感知，快速?zèng)Q策，人機(jī)協(xié)作，高效節(jié)能，安全可靠”，這是德州儀器（TI）中國(guó)區(qū)嵌入式產(chǎn)品系統(tǒng)與應(yīng)用總監(jiān)Howard Jiang給出的答案。眾所周知，感知、決策及執(zhí)行是邊緣人工智能的3個(gè)環(huán)節(jié)，而且隨著邊緣人工智能的發(fā)展，對(duì)于嵌入式的感知和決策技術(shù)的要求相比非人工智能更嚴(yán)苛、更差異化。

感知——邊緣人工智能的數(shù)據(jù)來(lái)源

數(shù)據(jù)是邊緣人工智能的根本，而感知?jiǎng)t是數(shù)據(jù)的來(lái)源。正如一個(gè)人不止需要眼睛來(lái)感覺(jué)世界，包括耳朵等都是感知自然世界的重要器官，機(jī)器同樣需要耳聰目明，各種傳感器隨著技術(shù)發(fā)展應(yīng)運(yùn)而生。TI推出的單芯片毫米波雷達(dá)，在許多應(yīng)用場(chǎng)合可以規(guī)避傳統(tǒng)攝像頭的弊端，同時(shí)支持系統(tǒng)的多項(xiàng)數(shù)據(jù)融合，使得機(jī)器可以更好地獲取數(shù)據(jù)，實(shí)現(xiàn)對(duì)目標(biāo)的精準(zhǔn)感知。

利用毫米波雷達(dá)的收發(fā)，能夠以極高的精度測(cè)量其視野范圍內(nèi)物體以及障礙物的距離和其相對(duì)速度。與基于視覺(jué)和激光雷達(dá)的傳感器相比，毫米波傳感器的一個(gè)重要優(yōu)勢(shì)是不容易受雨、塵、煙、霧或霜等環(huán)境條件影響。此外，毫米波傳感器可在完全黑暗中或在陽(yáng)光直射下工作。這些傳感器可直接安裝在無(wú)外透鏡、通風(fēng)口或傳感器表面的塑料外殼后，非常堅(jiān)固耐用，能滿足防護(hù)等級(jí)(IP) 69K 標(biāo)準(zhǔn)。

TI的單芯片毫米波雷達(dá)通過(guò)CMOS制成工藝技術(shù)，實(shí)現(xiàn)了傳統(tǒng)雷達(dá)所不具備的高性價(jià)比優(yōu)勢(shì)，同時(shí)結(jié)合了ASIC后端處理，可以直接降低BOM成本，減少產(chǎn)品尺寸，并且減少了對(duì)于處理器的依賴?；赥I毫米波雷達(dá)設(shè)計(jì)的產(chǎn)品體積是微型激光雷達(dá)測(cè)距儀的三分之一，重量是其一半。

更重要的是，除了自動(dòng)駕駛領(lǐng)域，毫米波雷達(dá)還可以應(yīng)用于更廣闊的工業(yè)及智能家居、智能樓宇、醫(yī)療等領(lǐng)域。比如通過(guò)毫米波雷達(dá)與空調(diào)的結(jié)合，可以實(shí)現(xiàn)風(fēng)隨人動(dòng)、目標(biāo)人體的姿態(tài)感知、自動(dòng)開(kāi)關(guān)等多項(xiàng)智能功能。而在其他應(yīng)用中，如針對(duì)機(jī)械臂操作員的安全監(jiān)測(cè)、物流機(jī)器人/無(wú)人機(jī)避障檢測(cè)、老人跌倒等監(jiān)測(cè)，毫米波雷達(dá)都擁有以往圖像傳感器所不具備的準(zhǔn)確、快速感知等優(yōu)勢(shì)， 同時(shí)滿足許多應(yīng)用場(chǎng)合的數(shù)據(jù)脫敏要求（可以安裝在臥室、衛(wèi)生間等場(chǎng)合）。

除了毫米波雷達(dá)之外，TI還提供了溫度傳感器、DLP?技術(shù)、 ToF等廣泛的產(chǎn)品，從而進(jìn)一步豐富了機(jī)器與人的交互途徑。

決策——邊緣人工智能的大腦

邊緣人工智能設(shè)備需要一個(gè)聰明的“大腦”來(lái)進(jìn)行數(shù)據(jù)處理和決策。集成式 SoC 通常是邊緣人工智能中一個(gè)不錯(cuò)的選擇，因?yàn)槌巳菁{能夠執(zhí)行深度學(xué)習(xí)推理的各種處理元件外，SoC還集成許多用于整個(gè)嵌入式應(yīng)用的必要組件。一些集成式SoC 包括顯示、圖形、視頻加速和工業(yè)聯(lián)網(wǎng)功能，使單芯片解決方案的功能不僅限于運(yùn)行ML/AI。

TI的Jacinto? 7系列處理器正是這樣一款高度集成的SoC，芯片內(nèi)部包括高性能計(jì)算、深度學(xué)習(xí)引擎、用于信號(hào)和圖像處理的專用加速器，符合功能安全ASIL-D/SIL-3標(biāo)準(zhǔn)。除了高級(jí)駕駛輔助系統(tǒng)(ADAS)之外，處理器還可以應(yīng)用于機(jī)器人、機(jī)器視覺(jué)、雷達(dá)等領(lǐng)域。

集成的專用加速器包括“C7x”新一代DSP內(nèi)核，將 TI 行業(yè)領(lǐng)先的 DSP 和 EVE 內(nèi)核結(jié)合到一起，并添加了矢量浮點(diǎn)計(jì)算功能，并支持向后兼容代碼。隨著邊緣人工智能的興起，DSP由于其基于哈佛架構(gòu)，可以顯著提升矩陣運(yùn)算效率，非常適合神經(jīng)網(wǎng)絡(luò)計(jì)算加速。同時(shí)，新增的“MMA”深度學(xué)習(xí)加速器可在典型工作條件下，以低功率達(dá)到8 TOPS的計(jì)算性能。

通用內(nèi)核則包括了多核Arm Cortex-A72、Cortex-R5F以及8XE GE8430 GPU等。

Jacinto 7系列的多核異構(gòu)處理器架構(gòu)設(shè)計(jì)，可以最大限度地針對(duì)任務(wù)進(jìn)行選擇與優(yōu)化，從而實(shí)現(xiàn)更好的性能提升及成本控制。另外，TI還將成熟的算法進(jìn)行硬件化，加之半導(dǎo)體制程的演進(jìn)，從而實(shí)現(xiàn)最佳的性價(jià)比和功耗比。比如TI的ISP，可以基于芯片內(nèi)嵌的硬件加速單元自動(dòng)實(shí)現(xiàn)寬動(dòng)態(tài)調(diào)整、圖像金字塔縮放、立體深度視覺(jué)以及密集光流算法加速等等。

Jacinto 7 系列處理器提供了涉及硬件和軟件的全面安全解決方案，這是汽車和工業(yè)市場(chǎng)的重要關(guān)注點(diǎn)。Jacinto 7 系列處理器使用經(jīng)獨(dú)立功能安全評(píng)估機(jī)構(gòu)（如 TüV SüD）認(rèn)證的硬件開(kāi)發(fā)流程，針對(duì) ASIL-D 功能進(jìn)行了系統(tǒng)設(shè)計(jì)。而針對(duì)如今ADAS數(shù)據(jù)融合所帶來(lái)高帶寬多端口的新挑戰(zhàn)，Jacinto 7系列也集成了CSI-2等多路端口，可以保證同多路傳感器互聯(lián)并支持高帶寬數(shù)據(jù)需求。Jacinto 7系列同時(shí)集成了PCIe集線器和千兆以太網(wǎng)交換機(jī)，可以用于域控制器，從而實(shí)現(xiàn)更高水平的集成度。

為了方便用戶進(jìn)行開(kāi)發(fā)，TI推出了TI-Edge-AI-Cloud，針對(duì) Jacinto 處理器上 AI 推理的云工具評(píng)估并支持許多業(yè)界通用與流行的深度學(xué)習(xí)框架（包括 TensorFlow Lite、ONNX Runtime、OpenGL ES等），幫助輕松編譯和部署模型并加速推理。

除了視覺(jué)識(shí)別所常用的CNN之外，諸如預(yù)測(cè)性維護(hù)等邊緣人工智能場(chǎng)景需要的RNN，Jacinto 7處理器同樣也提供相應(yīng)的支持。此外，TI的工業(yè)應(yīng)用處理器Sitara^TM系列，集成了Arm Cortex-A系列內(nèi)核，同樣也可以通過(guò)Arm NN實(shí)現(xiàn)相對(duì)低算力要求的邊緣人工智能應(yīng)用，諸如工業(yè)應(yīng)用中的預(yù)測(cè)性維護(hù)等。

從天馬行空到快速落地

除了感知和決策，在執(zhí)行環(huán)節(jié)，TI也有很多處理器、馬達(dá)驅(qū)動(dòng)，還有各種模擬器件，這表明 TI 可以通過(guò)廣泛的產(chǎn)品組合為實(shí)現(xiàn)邊緣 AI 所需的關(guān)鍵方面提供支持。技術(shù)服務(wù)于人，作為一家擁有90年歷史的半導(dǎo)體公司，TI的秘訣即在于不斷研究社會(huì)生活的變化，洞察并滿足人們的需求，因之而不斷改變自己。

在TI進(jìn)入中國(guó)的這35年中，曾助力中國(guó)客戶一次次實(shí)現(xiàn)創(chuàng)新。在人工智能領(lǐng)域，Howard看到中國(guó)的發(fā)展在某些地方已經(jīng)走在前面。比如4D成像雷達(dá)領(lǐng)域，國(guó)外還處在實(shí)驗(yàn)室概念驗(yàn)證階段，而國(guó)內(nèi)車廠已提出量產(chǎn)的具體時(shí)間點(diǎn)。同時(shí)在智能工業(yè)、機(jī)器人、智能家居、醫(yī)療影像分析等市場(chǎng)中，中國(guó)客戶也都在積極地進(jìn)行導(dǎo)入。有時(shí)Howard也會(huì)用中國(guó)客戶采用的創(chuàng)新來(lái)激勵(lì)他的美國(guó)同事們。

TI在做產(chǎn)品定義的時(shí)候，會(huì)和一些客戶進(jìn)行深度合作，使創(chuàng)新的需求體現(xiàn)在產(chǎn)品架構(gòu)上，這其中不僅僅是滿足現(xiàn)有的使用，更重要的是共同預(yù)見(jiàn)未來(lái)的需求。中國(guó)客戶豐富的想像力，也使得來(lái)自中國(guó)的需求可以很快反映到TI下一代產(chǎn)品開(kāi)發(fā)中，并且面向全球的創(chuàng)新產(chǎn)業(yè)。

三十五年前，TI進(jìn)入中國(guó)，在工業(yè)、消費(fèi)、通信以及汽車等諸多市場(chǎng)中，同中國(guó)本土合作伙伴從零開(kāi)始，共同創(chuàng)新。而今，隨著以人工智能及邊緣人工智能為代表的新基建項(xiàng)目開(kāi)始擴(kuò)展，TI同合作伙伴攜手，再次踏入全新領(lǐng)域，通過(guò)品類齊全的模擬和嵌入式處理系列產(chǎn)品、強(qiáng)大的本地制造及研發(fā)能力、遍布全國(guó)的產(chǎn)品分銷及銷售網(wǎng)絡(luò)，以解決邊緣人工智能帶來(lái)的新挑戰(zhàn)，滿足中國(guó)客戶產(chǎn)品設(shè)計(jì)的新要求。在TI，有著一批像Howard一樣的杰出工程師，懷著“芯向中國(guó)，科創(chuàng)世界”的愿景，努力通過(guò)半導(dǎo)體技術(shù)，讓世界變得更加美好。

就在不久前，美的集團(tuán)廚房和熱水器事業(yè)部同TI共同建立了“感知與交互聯(lián)合實(shí)驗(yàn)室”，旨在幫助美的運(yùn)用TI的毫米波雷達(dá)技術(shù)以及廣泛的模擬和嵌入式處理產(chǎn)品，加速美的廚熱家電應(yīng)用的開(kāi)發(fā)。Howard 希望 TI 能夠幫助支持更多像美的這樣的公司將想法變?yōu)楝F(xiàn)實(shí)。