人工智能后的下一個風口——邊緣AI賦能更安全高效的智慧世界

AI是研究使計算機來模擬人的某些思維過程和智能行為（如學習、推理、思考、規(guī)劃等）的學科，主要包括計算機實現(xiàn)智能的原理、制造類似于人腦智能的計算機，使計算機能實現(xiàn)更高層次的應用。

AI將是未來世界發(fā)展的核心，隨著科技的進步及人類生活需求的提高，AI在計算機領域得到了前所未有的重視。并在機器人、經(jīng)濟政治決策、控制系統(tǒng)及仿真系統(tǒng)中得到應用。它可以通過邊緣投入到生產(chǎn)中，依靠零信任保障安全，并最終從量子技術處獲取源源不斷的動力，實現(xiàn)擴展到全球系統(tǒng)所需的性能和效率。

而在AI發(fā)展的同時，也在不斷產(chǎn)生新的分支并不斷地進行進化，AI進化的下一步即可稱之為邊緣AI，其發(fā)源于邊緣計算，在降低系統(tǒng)的處理負載的同時解決數(shù)據(jù)傳輸?shù)难舆t問題。這樣的處理是在傳感器附近或設備產(chǎn)生數(shù)據(jù)的位置進行的，因此稱之為邊緣，其特點是規(guī)模小且更容易為大眾所使用。邊緣計算的發(fā)展意味著邊緣AI正變得越來越重要。

傳統(tǒng)云AI與邊緣AI既有相同之處，又有很大差別。

傳統(tǒng)云AI需要在云端處理和存儲數(shù)據(jù)。這種工作方式的優(yōu)勢是軟件工程師在設計和構建云AI系統(tǒng)時提供了更大的靈活性和自由度。但云AI的運行必須要依賴互聯(lián)網(wǎng)連接，在工作效率及安全性方面存在很大問題。而邊緣AI的主要特點是它在本地處理和存儲數(shù)據(jù)，因此無需依賴互聯(lián)網(wǎng)連接。這使得邊緣AI能夠?qū)崟r生成數(shù)據(jù)并獨立作出決策。隨著邊緣AI設備實現(xiàn)更高的計算能力，邊緣AI的應用可能會逐漸超過云AI。

而比較直觀的差距應該是在應用領域，云AI更多被應用于大數(shù)據(jù)分析、語音識別、自動駕駛等領域。而邊緣AI則主要應用于智能家居、智能工廠、智能城市等IoT領域。邊緣AI通過在設備本地進行智能決策，能夠提升物聯(lián)網(wǎng)系統(tǒng)的效率和安全性

舉個例子，工廠的機器人和自動駕駛汽車都需要以最小的延遲高速處理數(shù)據(jù)。為了實現(xiàn)這些目標，邊緣計算可以在云上靠深度學習生成數(shù)據(jù)，而在數(shù)據(jù)原點——即設備本身（邊緣）執(zhí)行模型的推斷和預測，是能夠提高工廠智能化程度的AI模型核心。從幫助醫(yī)院里的放射科醫(yī)生診斷病癥，到在高速路上駕駛汽車，再到幫助我們?yōu)橹参锸诜?，邊?AI 為我們創(chuàng)造了前所未有的可能性。

近年來，邊緣AI與常規(guī)云AI的對比說法不一，作為常規(guī)AI的進化物，它們執(zhí)行不同任務時的效率及運行速度都不相同。所以并不能通過某些簡單任務去進行對比。但邊緣AI的優(yōu)勢還是有很多。

比如其因為能讓處理能力更接近邊緣，所以應用所需的互聯(lián)網(wǎng)帶寬變得更少，進而顯著降低網(wǎng)絡成本?；谠频腁I系統(tǒng)使用大量數(shù)據(jù)進行操作，需要大帶寬才能正常運行。因此，對于嚴重依賴AI進行日常運作的組織而言，與數(shù)據(jù)和帶寬使用相關的成本通常很高。邊緣AI將數(shù)據(jù)處理保持在設備本地，帶寬使用不會像使用傳統(tǒng)云AI的設備那么高。因此，可以控制帶寬成本。更重要的是邊緣AI用戶也能更快地獲得結果，因為他們的網(wǎng)絡和設備的網(wǎng)絡流量很低。

并且終端設備擁有更多自主權和強大性能。邊緣AI的主要特征之一是它為所有端點設備提供了更高的獨立性，由于邊緣AI的工作特點就是在本地而不需要在云端分析數(shù)據(jù)，此類設備無需連接到中央服務器即可運行，因此不會因長距離通信而延遲并且能夠?qū)崟r響應用戶的需求，所以速度和效率始終很高。

相對于由標準AI驅(qū)動的設備相比，支持邊緣AI的設備顯示出更高的響應能力和性能水平，由于在本低就能處理數(shù)據(jù)，邊緣AI憑借去中心化和離線能力而變得更加強大，所以提高了應用的可用性和可靠性。

最主要的，也是人們最關注的就是數(shù)據(jù)隱私和安全，傳統(tǒng)AI通過云計算網(wǎng)絡中的各種通信渠道傳輸數(shù)據(jù)有一部分可能性會造成數(shù)據(jù)丟失。主要原因是兩個或多個數(shù)據(jù)點之間有傳輸距離。所以傳統(tǒng)云計算及AI解決方案需要竭盡全力確保其數(shù)據(jù)得到有效保護。而邊緣 AI將這些數(shù)據(jù)保存在本地，只將分析和洞察上傳到云端，這進一步加強了隱私。即便為了學習需上傳一些數(shù)據(jù)，也可以對數(shù)據(jù)進行匿名處理以保護用戶身份。通過保護隱私，邊緣 AI 能夠簡化數(shù)據(jù)合規(guī)性方面的挑戰(zhàn)，并且用戶還可以設置限制誰可以訪問存儲在其個人設備中的數(shù)據(jù)。因此，邊緣AI是用戶數(shù)據(jù)處理的更安全選擇。

邊緣AI工作時間越長，應用就更準確，因為工作時產(chǎn)生了大量的數(shù)據(jù)，當邊緣 AI 應用遇到它無法準確處理的數(shù)據(jù)時，它通常會將該數(shù)據(jù)上傳，然后使用該數(shù)據(jù)重新訓練并從中學習，因此會越來越準確。

邊緣AI開發(fā)，如何駛上快車道？

邊緣AI持續(xù)升溫智慧聯(lián)網(wǎng)趨勢成形

邊緣AI應用

邊緣AI可以提供增強用戶體驗的附加功能（如智能手機、智能電視、個人電腦/平板電腦），也可以提供對技術本質(zhì)至關重要的功能（如自動駕駛汽車、工業(yè)機器人等，如果沒有AI，它們根本無法以所需要的方式工作）。

AI（實現(xiàn)自動化和免提訪問）和Wi-Fi連接是實現(xiàn)物聯(lián)網(wǎng)的兩項關鍵技術，在物聯(lián)網(wǎng)中，智能電器可以直接通信，因此，智能家居是AI（主要包括消費電子產(chǎn)品）的一個重要增長渠道。除此之外，智能電視、智慧鏡面、虛擬現(xiàn)實（VR）設備、傳感器、廚房設備、清潔用具以及安全系統(tǒng)都可以通過應用AI和Wi-Fi進入互聯(lián)狀態(tài)，通過具有AI功能的智能家居設備可以進行免提訪問和語音命令。在預測期內(nèi)，將AI引入家庭所提供的機會，將在一定程度上反映消費電子垂直領域的增長，預計到2034年，該行業(yè)將成為邊緣AI芯片營收最高的行業(yè)。

邊緣應用AI芯片價值鏈

邊緣AI正在推動工業(yè)、汽車、醫(yī)療、金融、能源等行業(yè)開發(fā)出新的業(yè)務成果。各大廠商也在圍繞邊緣AI領域進行研究。AI處理器針對不同的應用有不同的等級，邊緣AI芯片的性能要求已能夠與中高端智能手機AP（應用處理器）相媲美，目前邊緣計算市場上參與者眾多，不同陣營廠商正以不同的路線共同推動邊 緣計算快速發(fā)展。以英特爾、AMD 等為代表的芯片廠商積極推出 CPU、GPU、 FPGA、DPU、IPU 等邊緣算力芯片；亞馬遜、微軟等云服務廠商將云計算能力向 設備和用戶側(cè)延伸，擴充云數(shù)據(jù)中心的外延，將云原生的統(tǒng)一編程模式通過邊緣網(wǎng) 關的能力應用到設備構成的邊緣云，主打云邊協(xié)同一體化；以移動、電信、聯(lián)通為 代表的 5G 運營商將 IT 能力同基礎網(wǎng)絡承載與業(yè)務運營融合，提供基站的邊緣計算服務及 5G 網(wǎng)絡接入管理。。

2024年~2034年邊緣AI芯片營收預測

預計到2034年，消費電子、工業(yè)和汽車垂直領域?qū)⒊蔀檫吘堿I芯片的主要營收來源

五家大廠邊緣AI芯片解決方案

英特爾持續(xù)創(chuàng)新邊緣AI技術，攜手生態(tài)伙伴推進城市數(shù)智化轉(zhuǎn)型

德州儀器推出全新視覺處理器系列，在智能攝像頭應用中實現(xiàn)可擴展的邊緣AI性能

TI推出全新處理器推動邊緣AI普及并使其功耗減半

Microchip與韓國智能硬件公司IHWK合作開發(fā)模擬計算平臺,加速邊緣AI/ML推理

同時, 今年初英飛凌宣布收購初創(chuàng)公司Imagimob，后者是一家邊緣設備機器學習解決方案提供商，專注于邊緣AI市場。通過此次收購，英飛凌將顯著補強其AI產(chǎn)品。并在8月宣布與Edge Impulse合作，為PSoC? 63低功耗藍牙 ?微控制器（MCU）擴展基于微型機器學習的AI開發(fā)工具。

英飛凌攜手Edge Impulse擴展邊緣AI能力,為藍牙客戶帶來更多基于機器學習模型的平臺選擇

英飛凌為NVIDIA Jetson邊緣AI平臺提供AIROC? Wi-Fi/藍牙?解決方案

ST意法半導體也加入了邊緣AI的競爭戰(zhàn)場，今年意法半導體（ST）于年中推出了邊緣AI加速微處理器——第二代STM32 MPU。該處理器提高了工業(yè)和物聯(lián)網(wǎng)邊緣應用的性能和安全性，預計將于2024上半年批量生產(chǎn)，并后期又推出了X-CUBE-AWS-H5擴展包，讓物聯(lián)網(wǎng)設備能夠無縫、安全地接入AWS云。在這個軟件擴展包中有一套為專門終端設備STM32H5系列高性能微控制器設計的軟件庫和應用代碼示例。。

半導體執(zhí)行副總裁Ricardo De Sa Earp表示：“新的微處理器進一步加大了公司在應用處理器方面的投資，將64位內(nèi)核與邊緣AI加速、高級多媒體功能、圖形處理和數(shù)字連接相結合?！?/p>

意法半導體發(fā)布安全軟件,保護STM32邊緣AI設備連接AWS IoT Core的安全

邊緣AI開發(fā)的挑戰(zhàn)及ST的解決方案

意法半導體推出第二代工業(yè)4.0級邊緣AI微處理器意法半導體推出NanoEdge AI免費部署服務,打破邊緣AI應用障礙

萊迪思于今年也推出了結合低功耗、低延遲FPGA與英偉達Orin平臺的集成解決方案,將傳感器高效橋接至AI應用。

萊迪思與英偉達合作加速推進網(wǎng)絡邊緣AI

萊迪思FPGA助力聯(lián)想新一代網(wǎng)絡邊緣AI體驗

大模型廠商也在加速布局移動/邊緣端的相關應用。今年舉辦的谷歌I/O大會上，谷歌宣布其PaLM2大模型的最輕量化版本Gecko可在移動端運行，開拓了AI模型在邊緣側(cè)推理的場景。對此有消息機構表示，在邊緣側(cè)推理的輕量化大語言模型有望帶動邊緣AI計算成長，加速邊緣硬件市場更新迭代。除大模型外，龍頭廠商也紛紛布局輕量級模型，當前 Meta、谷歌、高通等公 司已開始發(fā)力邊緣 AI。谷歌和 Meta 分別于今年 5 月 11 日和 7 月 19 日發(fā)布了 各自最新的大語言模型版本 PaLM 2 和 Llama 2，較以往版本實現(xiàn)測試數(shù)據(jù)、性 能等全面優(yōu)化，輕量化版本均能應用于邊緣端，其中最新發(fā)布的 Meta 大模型 Llama 2 更是開放開源免費使用，有望推動邊緣 AI 迎來“安卓時刻”。此前，芯片 龍頭廠商高通也首次成功實現(xiàn) Stable Diffusion 模型在手機端應用生成 AI 圖像， 并于 5 月 30 日宣布高通正在轉(zhuǎn)型為邊緣計算公司，全面下注邊緣 AI。

國內(nèi)邊緣AI市場

在AI的助力下，邊緣側(cè)終端和芯片迭代有望加速。目前國內(nèi)布局邊緣AI芯片的廠商主要包括寒武紀、華為海思、瑞芯微、研華科技、凌華科技等。

瑞芯微推出RK3588 AIoT芯片，計算采用Quad A76 + Quad A55、Arm G610 MP4及6Tops NPU，感知采用48MISP,HDR/3DNR、多攝像頭輸入及多MIC陣列，支持安卓及Linux系統(tǒng)?？蓱糜谄桨濉⒅荒茏?、AR/VR及網(wǎng)絡視頻錄像機等領域。

凌華科技發(fā)布采用NVIDIA Jetson Orin模塊的下一代邊緣AI平臺，全球領先的邊緣計算和AI解決方案提供商——凌華科技，日前宣布推出DLAP-211-Orin系列和DLAP-411-Orin工業(yè)級邊緣AI平臺。通過搭載Orin 模塊，全新的 DLAP 平臺性能得到了大幅提升，成為一款緊湊的、經(jīng)過SWaP 優(yōu)化的、強大的工業(yè)級解決方案，AI 推理性能與前幾代產(chǎn)品相比，提高了 8 倍，達到了 275 TOPS。 這些先進的系統(tǒng)旨在提供卓越的性能和耐用性，重新定義了智慧城市、零售、安全、工廠和制造等各個領域的AI應用基準。

凌華科技發(fā)布采用NVIDIA Jetson Orin模塊的下一代邊緣AI平臺

凌華科技發(fā)布IMB-M47 ATX主板,滿足高性能工業(yè)邊緣應用的需求凌華科技推出下一代IPC革新邊緣側(cè)行業(yè)應用，提供可擴展設計和定制功能模塊

基于NVIDIA Jetson? Orin的凌華科技ROScube-X RQX-59系列，重新定義 AI 性能

邊緣計算可以在任何產(chǎn)生數(shù)據(jù)的地方使用，從自動化工廠車間和倉庫的工廠，自助結賬的零售商店，到具有車隊管理的交通，以及具有停車管理和智能建筑的智慧城市。AI和5G技術的推出，使邊緣計算更加靈活、智能和互聯(lián)。研華科技一直致力于提供Edge+邊緣智能解決方案，聚焦行業(yè)重點，側(cè)重在軟件、AI、無線連接和云集成，為AIoT多場景應用提供支持，且能夠提供全備軟硬件和更具行業(yè)經(jīng)驗的深度整合服務。并且，研華科技一直與英偉達、英特爾、AMD、ARM等頭部半導體廠商深度合作，在云端和邊緣側(cè)能夠提供自研的AI模型、訓練、算法以及開發(fā)包。

揭秘研華科技Jelina物聯(lián)網(wǎng)管理平臺，迎接邊緣智能新機遇

研華AIR-030邊緣AI推理系統(tǒng)，專為機器人應用多設備連接AI運行設計

研華&Hailo聯(lián)合推出可擴展、高能效邊緣AI解決方案

研華推出支持雙NVIDIA GPU的高性能邊緣AI系統(tǒng)AIR-500D

布局Edge AI,研華以邊緣運算創(chuàng)新與產(chǎn)業(yè)驅(qū)動應對全球新興行業(yè)挑戰(zhàn)

8月28日，在“第三屆滴水湖中國RISC-V產(chǎn)業(yè)論壇”上，國內(nèi)知名AI技術廠商云天勵飛介紹了其新一代邊緣大算力AP級邊緣SoC芯片Edge10V，目前已經(jīng)接近量產(chǎn)狀態(tài)。

作為國內(nèi)首批AI技術廠商，成立于2014年的云天勵飛最初是主攻AI算法，通過攝像頭、端云協(xié)同的架構來做海量圖片的分析與處理，因此算法的泛化能力相對較弱，所以對于設備的調(diào)試要求就比較高，需要到各地去幫助客戶調(diào)試，這在當時耗費了云天勵飛很大的一部分精力。這也促使了云天勵飛開始來做自研芯片，將自己的AI算法芯片化。

從2015年至今，云天勵飛已經(jīng)完成了三代指令集架構，4代神經(jīng)網(wǎng)絡處理器架構的研發(fā)。2022年，云天勵飛自研的新一代邊緣AI SoC芯片——Edge10V流片成功，今年開始在做產(chǎn)品化相關的工作，目前已經(jīng)接近準量產(chǎn)狀態(tài)。

當下，傳統(tǒng)硬件疲態(tài)漸顯，智能機/PC均進入存量市場，智能音箱及耳機也增速放緩。但通過邊緣AI的賦能，相信將改變電子產(chǎn)業(yè)的增長曲線，未來所有硬件都有重估值潛力。